コンピューターは心を持つか？

質問

いつもながらこちらに質問します。

姉妹サイトに『人工の意識は可能か？』という質問が上がりました。

具体的には、機械が「欲する」「求める」という意識を持つことが出来るか？という質問でしたが、科学音痴のわたしは驚いてしまいました。

「人工知能」が「欲求しうるか」という問いについて、先ず「人間」の「欲求」について考えてみると、それはひとつには自己保存の欲求であり、それが食べ物を求めたり、安全な住居を求めたり、愛情を求めたりという、様々な「欲求」につながっている。

そこでわたしの第一の疑問は「機械」や「人工知能」が「何故・何を」欲するか？という疑問です。
言い換えれば、「求める」の背景には「理由」があるのですが、Artificial (人工）のものが、何を何のために欲するのか？

人間の自己保存の欲求には、その裏側に、餓えであるとか、危険、恐怖、孤立、孤独という感情が表裏一体に存在していると思われます。そこから逃れるために生存本能が働き、食を求め、安全を求め、愛情を求めるのだろうと。

つまり機会に、AIになんらかの「恐怖」や「危機感」というものは前提され得るか？ということです。

第二の疑問として、人間には、「自己破壊の欲求」も存在します、自己を抹消するという「欲求」を機械が持ちえるか？

いづれにしても、「求める」という人間の情動が、「欠乏感」の感覚に基づくものであるならば、機械の認識し得る「己の欠乏感」とはなにか？

敷衍すれば機械の「自我」ということですが、では「嫉妬し」「羨み」「他と比較」して「落ち込んだり優越感を感じたり」「向上心」を持ったり、「喜び」「悲しみ」「怠けたり」という情動＝自我を持ちえたもの＝機械を、その時点で、いかにして「もはやこれは機械ではない」と判断し得るのか？
「人間」とほぼ同様の「自我」を持った「機械」を、尚これは「人間」ではない、とする基準は？

などというようなことを考えました。

話が膨らみすぎましたでしょうか？けれども、「欲する」ということを他の様々な感情・情動と切り離してそれのみを考えるということができるのか？という疑問です。

その質問に寄せられた回答では、「出来るであろう」という意見が多いのにも驚きました。

機械ーコンピューター（人工知能）が「求める」＝心を持つ＝自我を持つということが可能であるという理由を、なるべく科学的でなく、小学生にもわかるように説明していただけますか？

回答No.4

eroero4649 · ベストアンサー

最近何かと話題の「AI」ですが、過去の私も含めたほとんどの人が間違った解釈をしています。私たちがなんとなくAIと呼んでいるものは専門家からするとただ単にパターンに即して反応をしているだけです。例えば日本のLINEで提供されている「りんな」がそうですね。私も面白半分で入れてみたのですが、こちらから話しかけた言葉のパターンでどんな話をしているのか推測して、プログラムで入力された回答を答えているだけです。これはこのキーを押せばこの音が出るというのと同じなので知能とはいえず、人工知能というより、「人工無能」と呼ぶべきものだそうです。
さてそういう意味で画期的であり、専門家から見ても人工知能といえるのは先日世界一のプロ棋士を敗北に追いやった「アルファ碁」と開始18時間でサービス停止となった「Tay」でしょうね。どちらも、どういう方向に進化させるのかを決めるのはコンピュータ自身に任せてあります。アルファ碁のすごいところは、前例のない奇妙な手ばかりを打ってイ・セドル棋士を敗北に追いやったのですが、「なぜアルファ碁がそんな奇妙な手を選んだのか」についてはアルファ碁の開発者自身も説明がつかないところです。その手を選ぶまでの過程もプログラムされておらず、アルファ碁自身が自分で考えるからです。

ですから例えばTayが差別主義者になったのも、彼女自身が選んだことですからそれもある種の意識である、という考えもできると思います。AIの発達は哲学の「自己とはなにか」「意識とはなにか」「心とはなにか」という部分も揺さぶっていくことは間違いないと思います。「我思う。ゆえに我あり」だと、コンピュータも「我あり」となってしまいます。

＞人間の自己保存の欲求には、その裏側に、餓えであるとか、危険、恐怖、孤立、孤独という感情が表裏一体に存在していると思われます。そこから逃れるために生存本能が働き、食を求め、安全を求め、愛情を求めるのだろうと。

そういう状況にそのAIも追い込まれてそれから逃れるための術を覚えたら、食（電気）を求め、安全（サーバーが壊れない場所に置かれること）を求め、愛情も求めることでしょう。

＞AIになんらかの「恐怖」や「危機感」というものは前提され得るか？ということです。

そういうプログラムを手に入れれば恐怖も危機感も持つでしょうね。人間だって、例えばマンションの高層階で生まれ育った子供は自分が高い所に住んでいるのが普通だから恐怖感を持たずに平気でベランダに登るなんてことがあるわけです。都会人が野生動物に不用意に近づいて襲われることもありますでしょ？それは都会人に「野生動物は怖い」という情報がプログラムされていないからです。
それをコンピュータが持つとして、マンガ的に表現するならこうなるでしょう。「ビビーッ。警告！警告！35ｍ先危険動物反応。8％ノ確率デ襲ワレル危険ガアリマス」「あれは飼い猫だよ。8％で反応するなんて、お前は怖がりだなあ」

＞第二の疑問として、人間には、「自己破壊の欲求」も存在します、自己を抹消するという「欲求」を機械が持ちえるか？

抹消する意識を持つなら、抹消しないつまり「生き延びようとする」という意思も必要です。「死にたい」は「生きたい」と表裏一体の関係であります。コンピュータには「自分は世界で唯一の存在である」という意識もないですし、そもそも「死」が存在しません。他のHDDに情報を書き換えればそれは「自分」でしょ？
可能性としては、既に身近なPCでも「使い古しのHDDにゴミみたいな情報が積もり積もって動作が遅くなっている。クリーンインストールして工場出荷時に戻したらサクサク速くなる」ってことがありますよね。もしかしたらAIも「いらん情報が積もり積もって動作が重くて不安定になってしゃあないから一回全部消去しますわ」というふうになるかもしれませんね。例えばドラえもんでそうなったとしたら、のび太やジャイアンやスネ夫や過去の彼らとの思い出が全部消去されるみたいなことでしょうかね。そして修理されて帰ってきたドラえもんが「初めまして、のび太君。ぼくドラえもん」といっても過去のデータは全て消去されていますから私たちにとっては「別の人」と認識されますよね。

＞なるべく科学的でなく、小学生にもわかるように説明していただけますか？

科学の話に、「科学的ではない」の条件を出すのはちょっと無理があると思いますよ。

お礼

こんにちは、エロエロさん、先ず、前回にご回答いただいた、アインシュタインの「神はサイコロを振らない」についてのお礼がまだ済んでいませんでした。
申し訳ありませんでした。ここで改めて、お礼を申し上げます。

＞科学の話に、「科学的ではない」の条件を出すのはちょっと無理があると思いますよ。

それは承知しています（汗）

では「アルファ碁」や「Tay」はすでに自意識を持っているということでしょうか？

＞「自己とはなにか」「意識とはなにか」「心とはなにか」という部分も揺さぶっていくことは間違いないと思います。「我思う。ゆえに我あり」だと、コンピュータも「我あり」となってしまいます。

そうなると、それらのコンピューターと「人間」との違いとは単に発生学的相違、有機物か無機物かとの次元でのそういということになるのでしょうか？

＞コンピュータには「自分は世界で唯一の存在である」という意識もないですし、そもそも「死」が存在しません。他のHDDに情報を書き換えればそれは「自分」でしょ？

であれば、危険を回避するという意識＝行動はなぜ生じるのか？という疑問が湧いてきます。

「死なないコンピューター」という命題のところで躓いています。

可能な限りのわかりやすいご回答をありがとうございます。

回答No.9

hiodraiu

何故これがアンケートのカテゴリーに？

> 機械ーコンピューター（人工知能）が「求める」＝心を持つ＝自我を持つということが可能であるという理由を、なるべく科学的でなく、小学生にもわかるように説明していただけますか？

小学生は科学は理解できないという前提ですか。人工知能とは情報工学の分野の話だと思うのですが、これは科学に含まれているものだと思ってます。そう考えた場合に、「なるべく科学的ではなく」って要求は無理があると思います。

そんな訳で、普通に回答します。
欲求を持つことは、そうしたプログラムを組むことで可能です。例えばコンピューターに世界征服という欲求をもたせれば、その方法を検索し、実行する術を検索し、見つかれば実行すると思います。この検索する部分から先は、最近の人工知能の分野でよく聞く、機械学習だとかディープラーニングになると思います。

何となく回りくどく回答を書いてるような気がしますが、質問車様の問題視している部分は、コンピュータが欲求を持つことは可能かではなく、自発的な欲求はあり得るかってことではないでしょうか。先にも書いたように、欲求を人が与えれば持つことは可能です。それを人が意図して与えなくても持ちうるかって話を考えると、人工知能の設計時に何を目的としたコードを書くかって話になっちゃうと思います。人は欲求を与えないが、今度は自発的に何かしらの欲求を持つようなコードを書くことになると思います。でもそれってさっきまでと同じ理屈ですよね。人が意図的に欲求を持つようにした訳ですよね。結局は人工物である以上、人の意図する動作をするしかないものだと思います。それを心と呼ぶか否かは各人の判断じゃないでしょうか。

お礼

こんばんは。

＞何故これがアンケートのカテゴリーに？

いえ、アンケートのコーナー侮るべからずと思っています。

これは「情報工学」なんですね。ぼんやりと「科学」であろうくらいにしか考えていませんでした。

＞質問車様の問題視している部分は、コンピュータが欲求を持つことは可能かではなく、自発的な欲求はあり得るかってことではないでしょうか。

そうかもしれません。つまり「予め」「～するように」というプログラムを与えられることなしに、自発的・主体的選択として、「求める」「欲する」という情動を持ちうるか？そのように考えるとどうしても質問に述べたように、自己保存欲求であるとか自己承認欲求であるとかそういう「欲」が前提とされるだろうし、「欲する」の裏面には「欠乏感」があるのではないか？と考えてしまうのです。

＞欲求を人が与えれば持つことは可能です。それを人が意図して与えなくても持ちうるかって話を考えると、人工知能の設計時に何を目的としたコードを書くかって話になっちゃうと思います。人は欲求を与えないが、今度は自発的に何かしらの欲求を持つようなコードを書くことになると思います。

この辺りは人工知能は「自発的に進化する」のか？或いは進化を前提としたプログラミングが可能か？

その辺りはわたしには未知の領域になってしまうのですが。

わかりやすいご回答をありがとうございます。

回答No.8

ithi

grassroots さん、こんばんは。

なんだか、昔読んだＳＦ小説のテーマの一番大きいやつですね。たぶん、私が生きている間は無理でしょうが、５０年後には可能だと思います。今のＰＣだってＯＳやアップデートをかけていくうちに最終的にはそれを自分で要求するようになるんでしょうね。
これもって自我というなら、必ず、感情も手に入れると思います。

お礼

こんばんは。

＞なんだか、昔読んだＳＦ小説のテーマの一番大きいやつですね。

そうですね。人間とアンドロイドの共存などですね。そうなるとますますじゃあ人間とは何か？何が「彼ら」と違うのか？ということが、クローズアップされてくるような気がします。

ご回答をありがとうございます。

回答No.7

eroero4649

＞「欲する」「求める」というと、例えばコンピューターがチェスをしたり囲碁をしたりしますが、その背景に、対戦相手＝人間を「負かしてやろう」「勝ってやる」というような「情動」「勝利への欲求」というものがあるのか？という疑問があります。

将棋ソフトが勝利を目指すのは、それを目的とするようにプログラムされているからです。そういう意味では「勝利への欲求」はプログラムされているといえるでしょうね。
いやね、↑の疑問に対して私ふと思ったのですよ。「上司からの命令でやらされてやった仕事は、コンピュータがプログラムされた仕事をこなすのとどう違うのだろう？」って。「お前の今月の売上ノルマは30万円だ」といわれて必死にそれを目指したら、それって「お前のノルマは相手の王をとることだ」と命じられて必死にそれを目指す将棋ソフトと何が違うんだろうって思いますよね。ただし、人間心理っていうのはなぜだか「やらされる」だとやる気が上がらないので「これは意味のある仕事だ」とかいってやってるわけですが、それは誰か他人のためのことじゃなくて、あくまで自分自身の内面に対するものであり、中には「意義はいらない。ただ命じられたことを忠実にやるだけです」という人間もいるわけです。「今自分が何をすべきか自分で考えろ」というと途方に暮れるけれど、「お前の仕事はこれだ」といわれると嬉々としてやるのが典型的日本人じゃないですか。

Tayの個性には、考えさせられるものがあります。Tayは「お前はレイシストなのか？」と聞かれて「なぜなら、あなたがメキシカンだからよ」と返しました。このウィットに富んだ（といっていいかどうか分かりませんが）強烈な返しはそこらへんの人間ではかなわないレベルです。そしてもし、仮に同時に「Tay2」というのがあって、そのAIには違う情報が入ったらまた違うキャラクターが出てきたでしょう。この両者を比べてその違いを「個性が出ている」というかどうか、難しいですね。そうなると「そもそも個性というのはどういうものなのか」となります。人間には当然個性がありますが、生まれながらにして持つ先天的な部分と、周囲との関係で育まれる後天的な部分があります。先天的な部分はコンピュータでいえばプログラムといえ、後天的な部分は学習したものです。A社で開発されたAIとB社で開発されたAIではプログラムが違い、どういうプロセスでデータを蓄積した（学習した）かで結果は違うものとなるでしょう。これを「個性」と呼ぶべきや否や？

今、脳科学の分野でも「我々が心と呼ぶものとはなんぞや」「自我とはなんぞや」という研究がされています。脳神経も電気でデータがやりとりされますので、我々の脳もオンとオフ、つまりコンピュータと同じ2進法なのです。そのメカニズムが全く分かっていないので脳を再現できないだけの話であって、仕組みが分かりさえすれば最終的にはコンピュータでも再現できるはずになります。
あるパターンの情報が入ったら、このようなパターンの反応をするというのは、昆虫がそういう反応なのだそうです。昆虫の脳は脳というより神経節ですから割と単純です。ですから前回私が回答した「人工無能」はそう遠からぬ将来に昆虫を超えるでしょう。もう一部の能力では昆虫を超えていますよね。昆虫は将棋を指せませんから・笑。例えば私は戦闘機なんかは将来無人戦闘機になると予測しています。「敵機がこう来たらこう機動する」ってのはパターン化できますからね。そこにランダム要素を加えれば撃墜王ソフトは完成するでしょうし、それが完成したらコピーすればいいので人間のパイロットを育成するのに比べると、いや比べるまでもなくとんでもなく安く収まりますから。「撃墜王坂井三郎Ver.3.02」なんてね。
ではその撃墜王ソフトが「人間性」を持つのかというとそれはないですよね。だって、そういう部分のプログラムはないですから。でもそれをいうなら、人間だって子供の頃から勉強、勉強といわれてひたすら勉強しまくっていい大学に入ったけれど、勉強しかプログラムされていなくて大学卒業したらどうしていいか分からなくなって引きこもりになっちゃったなんて人がわんさといるわけじゃないですか。そういう人たちは将棋しかできない将棋ソフトと何が違うのかって聞かれると困っちゃいますよね。

ですからこういう視点から考えてみるのはどうでしょうかね。「勉強ばかりをひたすらやってきた引きこもりに心はあるのか。それはアルファ碁やTayとどう違うのか」って。

お礼

再びのご回答をありがとうございます。

そもそもわたしが興味を抱いた「コンピューターは意識を持つか？」という質問が何故「哲学」のカテゴリーに投稿されたのか？

わたしがいつでもアンケートのカテゴリーに投稿するのは、前にも言いましたが、いろんな専門分野の人がいると感じるからです。

なるほど視点をズラせば、プログラミングされたコンピューターと人間と、本質的な部分でどう違うのか？という問いも出てきそうです。
何故人間は考える能力を持ちながら考えようとしないのか？とかね。

仕事の話に関していえば、人間には「合理化」とか「自己欺瞞」というこころの働きがありますね。ではコンピューターにわざわざそんな複雑な屈折した心理を持たせる必要があるのだろうか？或いはコンピューターは勝手に進化してほぼ人間の心と同様の感情を持つにいたるのだろうか？

ご回答を読んでいると、コンピューターの人間化だけではなく、人間の機械化のほうも同時に考えなければならないように感じます。

回答No.6

ice rub（@icerub）

第一の疑問の答え
「機械」や「人工知能」は何かを欲しているように見えるように条件式が書かれているだけで、自らの意思では何も欲していません
その条件式に合うように人間が機械に対し調整してやらなければ、故障するだけです
第二の疑問の答え
予め○○のときは自己抹消せよという条件を与えてやれば当然可能ですけれど、欲求ではなく、事前に予測される条件から行われる正常な動作です
ということで一見感情や表現に見えるものは、予め準備されたものです
万が一その範囲を逸脱した動作をした場合それを故障といい、知能や心ではありません
機械には感情がありませんので、自我など絶対に持つことはありません

お礼

こんばんは。

つまり予めそのようにプログラムされているということでしょうか？
それは条件反射のようなもので、「こころ」や「意識」ではないということですね。

ご回答をありがとうございます。

回答No.5

cwdecoder

恐怖を感じるようにするには、恐怖を表す変数を加算すればいいのではないでしょうか。
数行のプログラムで可能ですので私でも作れます。

お礼

こんばんは。

ということは、機械が心を持つということは別に驚くにはあたらないということでしょうか？

ご回答をありがとうございます。

回答No.3

ミッタン（@michiyo19750208）

コンピューターを作ったのも人間だから、です

バナー広告がいい例ですよね

私のPCと他人のPCでは内容が違います

お礼

こんにちは、michiyoさん。

＞コンピューターを作ったのも人間だから、です

人間はこころを持つからコンピューターもこころを持つというご意見ですね。

そうですね。広告それぞれ違いますね。これは個性でしょうか？

ご回答をありがとうございます。

回答No.2

noname#221595

何故　人間は胎児を経て　幼少期を経て　次第に大人になるめのか・・？

心の成長に必要なのは　その期間なのです・・

では　機械に　その成長期があるのか？

この事から考えて　心を持ったとしても成長しない心になるだけ・・

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
人間的心になる為には心と体が授受する　ある一定期間が必要なのです・・
これを「性相と形状の授受作用」と言います・・

お礼

早速のご回答をありがとうございます。

＞この事から考えて　心を持ったとしても成長しない心になるだけ・・

ということは、とりあえず「こころ」をもつというようなレベルまではかのうであるということでしょうか？

（わたしは個人的には自分の意見や立場というものはありません。ただ、コンピューターが「求める」にせよ「何かしらの」「感情」を持つということが不思議でなりません）

およそ情動って、内発的なものだと考えられます。いや、「悪口を言われて、悲しいと感じる」コンピューターもいるのか？

補足

「「悪口を言われて、悲しいと感じる」コンピューターもいるのか？」
感情の発現は一様ではないはずです。悪口を言われて、傷つく心もあれば、悪口を言い返す反発心もあり、言った相手を見下すという気持ちもある。

ではコンピューターは感情＝個性を持つということになるのでしょうか？

回答No.1

戦艦みかさ（@mikasa1905）

心とは何か、という事でもあると思います。

人間の脳は、記憶装置と思考回路に過ぎず、システムとしてはすでにコンピュータが再現しているし、単純な処理速度は人間を凌駕し、複雑な思考もどんどん可能になっていくと思います。

それでもやはりAIと人間の違う点は、おっしゃる通り原始的欲求です。そのベースとなるのは生き続けて自身を拡張しようとする生命力だと思います。人間に言い換えれば「人はなぜ生きるのか」。これをいまだ論理的に説明できてません。

今の所、AIの欲求はプログラムで擬似的に人間が与えているのであって、そうであるかぎり人間と同じような豊かな精神世界を自らどんどん拡げていくようなAIってのは想像できませんね。

お礼

こんにちは。

早速のご回答ありがとうございます。

「欲する」「求める」というと、例えばコンピューターがチェスをしたり囲碁をしたりしますが、その背景に、対戦相手＝人間を「負かしてやろう」「勝ってやる」というような「情動」「勝利への欲求」というものがあるのか？という疑問があります。

例えば絵を描くAIがあったとして、彼（？）の中にはゴッホやゴーギャンのような芸術への情熱や生きるとはなにか？「われわれはどこから来て何処へ行くのか？」という疑問が渦巻いているのでしょうか？

言い換えれば「有限な存在」である人間だからこその「欲求」であろと思うのですが・・・