機械も心を持っている？(3/2)

まず「心」という言葉の問題ですが、およそ機械との関係で論じられる時には、「意思や感情」などの総体という意味で使われているのがほとんどではないでしょうか。ＡＩ関連で出版されている書籍での「心」は、英語では通常“mind” であって、“spirit”や“heart”、“soul”について論じたものではありません。ここから伺えるように、日本語の「心」という言葉の持つ広いニュアンスのうち、現実には「意思や感情」という意味に限定的に使われているわけです。
つまり「機械と心の関係」を巡る多くの議論の焦点は、ふつう合目的的かつ合理的に作られたものである機械が、自分の意思や感情という一見不合理なものを持てるようになるのかどうか、という点にあるのではないでしょうか。ここが不明確のままだと話が拡散しすぎてしまい、何の議論をしたいのかわからなくなってしまうと思います。（以下、この意味で「心」と書かせてもらいます）

もうひとつ、「機能主義」について。
ものごとについて機能的定義、構造的定義ということが言われます。椅子を例にたとえると、「イスとはその上に座れるものだ」という使われ方に着目するのが機能的定義、「足と背があって尻を置く平らなところがあるもの」という、部分間の実体的な関係性をみるのが構造的定義です。
機械について機能主義の立場が必ずしも「機械に心があると考える」わけではないと思いますが、「心」というものの働きを要素に分解して、パターン認識、計画代数、再帰的管理手続き…という個々の機能群の集合体だとみれば、程度の問題はあるにせよ、個々の機能が実現し得るならその総体である「心」も創造し得るということになるわけで、正確には「原理的には機械は心を持ち得る」というのがその主張でしょう。
（しかし実際にはこのように明快に二分できるものではありませんし、物事の認識にはその双方が必要だ、という現実的な立場をとる人が多いのではないでしょうか）

いずれにしても、「機械も心を持ちうる」という立場の代表的論客として、古くはブライテンベルク（「模型は心を持ちうるか」、哲学書房）がおり、現代ではマーヴィン・ミンスキーが挙げられるのだと思います。
ミンスキーはかつて人間の「心」を「肉でできたコンピュータ」と譬えたことがあります。つまり彼の立場では、「心」は既知の物理法則に則って作動する機械だ、ということになります。

「心」というのは原理的に沢山のプロセス（彼の呼ぶところの「エージェント」）から成り、各々のエージェントは思考を全く必要としない単純なことしかできないが、エージェントたちがレベルやフレームといった構造を通じて十分に複雑な形で社会を構成することで知能や感情を達成している、というのが彼の主張です（ミンスキー「心の社会」、産業図書）。
言ってみれば、「心」の実体は「とるに足りない動作をする無感覚なループと系列」から成る、というわけですから、「心」は現実に機械によって実現され得る、とみているわけです。

程度の違いはありますが、ダグラス・ホフスタッターもこの立場に近いでしょう。彼は、個人的な意見と断りながら「十分に複雑な知能プログラムを持つ機械は必然的に感情を持つようになる」という意味のことを書いています。もちろんこの感情や意思は、プログラムの中に明示的に書かれている必要はないものです（ホフスタッター「ゲーデル、エッシャー、バッハ」、白揚社）。
また彼は、テューリング・テストに合格するようなプログラムが創造されたとしたら、たとえそこに「心」が存在しなくとも、私達はそこに「心」を認めるだろう、とも述べています。

ただこの二人の間には結構な温度差もあります。「女の子が持っていた風船を風にさらわれて泣いた」というような文章を見た時、果たしてプログラムはそれを本当に理解できるのかどうか、という問題です。
ミンスキーなら可能だと答えるでしょうが、ホフスタッターなら、プログラムがそれを知的に理解するということまでは認めても、果たしてそれを“真の意味で”理解していると言えるのかどうか、という点については時期尚早だとして恐らく結論を保留するでしょう。

この二人の違い、「人間主義的論点」により一層の重きを置いて、「泣けないコンピュータには結局心がない」とするような立場が、ひとまず機能主義論点に対する反論となっているのではないかと思います。
この反論では、「理解」とは外形的な機能標準を満たすだけでは不充分で、もっと違うレベルを持つのが人間の「心」なのだ、とするわけです。
ここには確かに深い問題があると思いますが、実際にはＡＩ方面の人達はあまりこの問題をとりあげるのを好みません。この立場は科学的立場を貫くことが難しく、容易に「人間の心は根本的に神秘的な理由によってプログラム不可能だ」という結論に走る危険性があるからです。背景には、人間をその精神性ゆえに高貴とし、その働きの本質は不可知であると考えたい欲求を持つ人が特に西洋には多い現実があるのでしょう。

もうひとつ、機械と人間の持つ「身体」の相違に着目して、結果的に生まれる「心」に相違があるとする見解があります。心身の相関に重きを置く立場で、社会との接点であり思考を枠づけする「身体」が違えばおのずと「心」のあり様も異なるはずだ、というもので、機能主義派の持つ楽観的態度を消極的にではありますが、批判しています。従来の認知科学の前提を批判して認知を「身体としてある行為」とみるＦ．ヴァレラ（「身体化された心」工作舎）などにその一端があります。

そしてもうひとつ、機能主義に対する論陣が割と少数派であるなかで、異彩を放つものとして、ロジャー・ペンローズのそれが挙げられるようです。
私自身もペンローズの著作は十分に理解できませんので、詳細はうまくお伝えできませんが、彼の立場は、「心」の概念を現在われわれが物理的・論理的にうまく記述できないのは、基本的な物理法則をわれわれがまだ理解できないでいるからだ、というものです。したがって、現在のコンピュータ理論上にあるＡＩ研究では、人間の「心」は絶対に理解できないし創造できない、としてミンスキーやホフスタッターらの方向性を批判しています。
ペンローズいわく、「心」の働きには量子力学を超える深いレベルの法則（量子重力論）が不可欠であり、究極の統一理論であるその未知の法則が人間の思考や意識の働きを実現化させているのだ、というものです（詳しくはペンローズ「皇帝の新しい心」みすず書房、を参照なさって下さい）。

投稿日時 - 2002-07-09 19:02:26