ロボットは心を持ちうるか？

質問

コンピュータが進化してあらゆることが可能になったとして、人間はコンピュータに心を持たせうるのでしょうか？
そのとき人間とロボットの区別はなにでできるんですか？
そもそも人間の心って特別なものなんですか？
考えるといろいろとわかりません。一緒に考えてくれませんか？

回答No.17

luune21 · ベストアンサー

極端に省略して書きますと、
もうすでに機械(ほとんどを無機質で人間が作り出したものとしてとりあえず定義)は心を持っています。
例としては、ウィルスチェックプログラムです。
このプログラムは自己と他者を区別でき、またその中から有害なものを認識し、注意・警告・駆除などを行います。これな免疫システムというだけではなく、既に心です。

私は、イランの"ハタミ大統領"を知覚するつど、オイシそうな気持ちが湧き上がります。分析すると、焼肉のハラミや和民のニヤケタ社長の顔を海馬が紐付けしているからだと気づきました。これを心だとすればウィルスチェックも同じ機構です。

もし、犬が親しい飼い主を見てシッポを振る、といった動作は心ではない。まして、ウィルスチェックは心のはずがない言う人がいるとすれば、それは人間の行動と似ていないのが原因なのでしょう。
その方向にあるのが愛知博の受付ロボット、ブレードランナーや鉄腕和アトムの葛藤ですね。
似せてあげれば、簡単に人は心と感じるに違いありません。
もう、この時代は既に一般人へも到来しています。
市販されている癒し人形(留守にして帰宅すると、人形が「淋しかったよぉ」などと言う)は大変よくできていて、実際、二人暮らしのご老人に話しを聞いたことがあるのですが、大変有機的な心の繋がり感じるとのことでした。

パターン認識や言語による経験蓄積を紐付け情報で引っ張ってきて、ドーパミンやノルアドレナリン、エンドルフィンなどのホルモンの代わりに電気他による信号になっているだけですね。これを心ではない、と否定する理由はないと、私は思っています。

人間は山やカラス(実際は山にはないがカラスにはある)にも心を感じたりする生き物です。
無機質だからと言って、心を区別できたりできる訳がない、と思います。まして有機質(クローンではなく)で機械を作る時代になれば、人間と区別するのはまず不可能でしょう。

愛や友情、美しい夕焼けをみた時の感動は？って？
それはそういう名詞として名前をつけて区別しているだけで、脳の働きは同じ原理ですよね。

子供が死んでミイラ化しても、母がいつまでも抱いたり背負ったりし続ける日本サル、動物園でゴリラの遊び場に落ちた人間の幼児を保護し、♂ゴリラを近づけようとしなかった♀ゴリラ、などの映像を見たら、心が人間にしかない特別なものとは、とても思えません。

お礼

わかりやすい説明ありがとうございます。
ウイルスソフトが心というのには感銘を受けました。

回答No.51

backflip

＃４８さんがまとめてくれたので回答しやすくなりました。
工学系の考えから否定派の根拠に対して回答します。

＜否定派の根拠＞
＞(1)認識の主体である「心」が自分自身を認識の対象にすることはできない（自己言及の矛盾）。
ちょっと良く分からないのでパスします。

＞(2)心は特別なものなので、人工的に造ることはできない。
人が有機物を使って作ったものはロボットというのか分かりませんが、
分子レベルで人と全く同じものを作り出せばそれは人そのものではないでしょうか？
なぜ心を特別と考えるのかは分かりませんが、人間の脳に心のメカニズムがあるのは確実です。
義手・人工腎臓・人工心臓などは既にできていますから、そこに心がないのは明白です。
脳の一部を損傷させたサルとかの実験てありませんでしたっけ？
行動がちゃんちゃらおかしくなるという・・・

＞(3)心のプロセスは論理的なものでないからコンピュータで実現は不可。
＞(4)現在の技術は心を取り扱っていないから、現在の技術の延長線上では不可。
＞(5)CPU,HDD,メモリをいくら寄せ集めても、心にはならない。
現在のコンピュータ技術ではそうなりますが、
根本的に今までと違うCPUなどを作っているグループもあります。
人間の得意な「パターン認識」などが得意なコンピュータを作ろうとしています。
これができれば一歩人間に近づくでしょう。

回答No.50

Marr_D1982

この道をいけばどうなるものか
危ぶめば道は無し
まよわずいけよ
いけばわかるさ
ありがとう！

回答No.49

kobarero

＃４８です。

では、大変興味ある議論でしたので、まとめさせていただきます。回答された方々のご意見を正しく把握できていない点も、多々あるかとも思いますが、その点については、あらかじめ、お許しいただけますようお願い申し上げます。

＜ロボットは心を持ちうるか？＞
賛否両論の根拠を下記＜肯定派の根拠＞、＜否定派の根拠＞に整理しました。
また、今回の議論から賛否両論が分かれた真の原因は、心を＜持ち得る／持ち得ない＞の点にあるのではなく、心をどう捉えるかにあると思われます。以下＃１、＃２は肯定派の考え方です。これに対して、否定派は＃３のように考えているようです。

＜肯定派の心に対する考え方＞
　＃１：　心を持っているかのように振舞わせることが可能なら、それは心を持っていると言える。
　＃２：　観察者側が、そのロボットに心があると考えて違和感がなければ（例えば友達になれれば）あると考えてよい。
＜否定派の心に対する考え方＞
　＃３：　心があるかのように振舞うことと、実際に心があることは全く別のこと。

従って、この議論をさらに深化させるには、上記＃１、＃２、＃３の考え方の違いを議論するのが良いと思います。

＜肯定派の根拠＞
(1)論理的でない不合理な判断や、感情もプログラム化することは可能。
(2)物質の塊である人間が心を持つのだから、同じく物質の塊のロボットが心を持ってもおかしくない。
(3)人間は有機物の塊で、ロボットは無機物の塊だが、無機物だから心ができないという理由は見当たらない。
(4)脳と神経細胞の解明ができれば可能。
(5)人間の思考を真似するプログラムができれば、将来は可能性あり。
(6)ウィルスチェックプログラムですら心を持っているのだから可能。
(7)人工知能が「我思うゆえに我あり」を理解できれば可能。
(8)脳と心の働きが完全に解析できシミュレートできれば可能。
(9)「高度なプログラム＝心」なので可能。
(10)心は脳の働きの結果であり特別なものではないから可能。

＜否定派の根拠＞
(1)認識の主体である「心」が自分自身を認識の対象にすることはできない（自己言及の矛盾）。
(2)心は特別なものなので、人工的に造ることはできない。
(3)心のプロセスは論理的なものでないからコンピュータで実現は不可。
(4)現在の技術は心を取り扱っていないから、現在の技術の延長線上では不可。
(5)CPU,HDD,メモリをいくら寄せ集めても、心にはならない。

＜問題提起＞
以下は、議論の過程で挙がってきた問題提起です。

(1)「ロボットに心があるかないか」は偽問題、真の問題は「心を認めるか認めないか」
(2)「心＝脳」か？
(3)クオリアが心の重要ファクタではないか？

.......さて、ロボットは心を持ち得るのでしょうか？そして、「心」とは？

お礼

おお！すばらしい！
まとめだ！
感慨深く読ませて頂きました。
後数日で良回答を出して、
閉め切らせて頂く予定です。
皆様有り難うございました。

回答No.48

kobarero

＃４７です。

＞まさにクオリアの問題に帰結しますね。

クオリアの考え方は、心の外に物質である「脳」があることが前提になっています。そのため、「クオリア＝心」とは言い切っていないと思います。

クオリアを論じるとき、クオリアが作り出す仮想世界の豊かさを必要以上に強調しているように見えますが、これは「クオリア＝心」と考えるならば必要のないことです（心は元々豊かなので）。

私は、物質が心の外に存在していると考えない方が良いと考えます。物質世界は、「心」から見ると、数値データと数式だけで構成可能ですから、そのようなものを置く場所は、通常我々が考えるような巨大宇宙空間である必要は全然ないと思います。

どういうことかというと、心の一属性として「物質セクション」を想定し、そこに物質世界に関するデータと数式が格納されていると考えます。この「物質セクション」は、人類一人一人の「心」が共有する領域にありますので、客観世界の樹立が可能です。

こう考えることによって、「脳」<--->「クオリア」や「脳」<--->「心」の情報伝達インタフェースをどうするか問題は「論理的」には解決します。

お礼

御説明有り難うございました。

ここで書くのもなんですが、
そろそろ閉め切ろうと思っています。

だれかまとめてくれませんか？

回答No.47

kobarero

＃３６です。

＞みなさんが心＝脳という仮定を絶対のものにしているようですがそれすら疑問に思えてきたのですが。

結論として、「心＝脳」ではありません。その説明は以下の通りです。

これもコンピュータ・ゲームとのアナロジーで考えることができます。

コンピュータ本体（CPU+Memory）が「脳」、ディスプレー端末のスクリーンが「心」です。

「脳」はどんなに複雑でも、その中にあるのは物理量だけです。物理量そのものには、色も音も匂いもありません。色、音、匂いを具体化しているのは「心」のスクリーンです。

「脳」の中では、青い空、輝く太陽、新緑の輝き、美しいメロディー、犬の糞、トイレの臭い、恋の悩み.......これら全ては、真っ暗闇の頭蓋骨の中に閉じ込められたデータに過ぎません。これらを具体化するのは「心」のスクリーンです。

これは、コンピュータ・ゲームのスクリーン上で、キャラクタがバトルを行う場合と同様です。コンピュータ本体にあるのは、キャラクタのデータとそのデータを制御するアルゴリズム（プログラム・コード）だけです。データそのものに色や音があるわけではありません。具体的な色や音を生成しているのは、ディスプレー端末です。

従って、「心＝脳」かという疑問に対する回答は、以下の通りです。

「脳」は、「心」が色、音、感触、匂いなどを具体化するのに必要なデータを供給する場所ではありますが、「心」そのものではありません。

お礼

まさにクオリアの問題に帰結しますね。
におい、や色や感触をそれとしていききと感じるというのは情報とは異なるという考え方ですよね。
クオリアは心にとって重要なファクターになりそうですね。

回答No.46

BLUEPIXY

>心＝脳のはたらきなんでしょうか？
>そこには身体の重要性がかけていませんか？
私は、心の働き≒脳（という器官）の働きだと思っています。
いわゆる魂みたいな存在は仮定しません。
例えば、脳の大部分が損傷したら、思考や感情は損なわれますし、
魂＝心と考えるのであれば、脳の損傷は、心の損傷になりませんね。
また、電気刺激で、ある種の感情が呼び起こせるというのも（聞いたことがあるに過ぎませんが）そういうもんだと思います。
心がどこにあるか、と、身体を切り刻んで調べてみれば、
手や足など末端組織を無くした人（あるいは最初から無い人）が心を持っていることを（手足がないことが直接心の損傷になっていないと思われることから）思えば、そういう末端部分は、心の働きにとっては、（あるとしても）ほとんど重要な器官とは思えません。
そういう心の働きの発現がどこを無くしたとき無くなるかというと、やはり脳だと思われます。（詳しく実験してみるわけにはいきませんが）
でもまあ、よく、心臓移植した時に性格が変わる等と言うことも言われるので、そういう身体の中の器官（からでるホルモン？）によって影響する部分もないとは言えないと思います。
身体の中で、心は何処か？と分子サイズまでばらばらにしたところで、見つかりません（と思う）。１つのタンパク質やアミノ酸に心があるかと言えば、無いでしょう？
そういう意味では、バラバラにする過程のどの部分で、心の発現がなくなるか考えると、
心とは、脳の組成（脳の機能の組み合わせ）であると考えて良いかと思います。

お礼

丁寧な説明ありがとうございます。利便的に心＝脳の働きとすることで手を打つといったところでしょうか？ですが、先天盲のひとの脳内構造は常人のそれとことなったり手を切断した後では脳の構造が変化するなどは知られていることだと思います。やはり単純に心＝脳の働きではだめな気がします。みなさんはどうお考えですか

回答No.45

8942

＃２２です。

＞重要な点は
＞そんな日が来るのか来ないのかです。
＞来ると思われますか？

　本心を言ってしまえば、少なくとも今の科学技術の延長線上には
心を持ったロボットは現れないです。（条件付で無しですね。）

うまく説明できないので徒然なるままに書きつくろってみます。

　「自分の存在を疑う」・・言葉にすればとっても簡単に書けますが、
いざ自己とは？　疑うとは？　と考えると一筋縄では行かないような気がします。
自己をＰＣにインプットできるのでしょうか？　疑う事をＰＣにインストールできるのでしょうか？

　そう考えるとプログラムにしたがって作業をこなすだけのＣＰとは次元の違う作業のような気がします。

　また人間自体が人の心を理解していない。理解していないものを作れるか？　やはり理解していないものを作ることは出来ないと思います。
　　人の心を理解していないから表面的に人の振る舞いを真似るカラクリ人形
　　しか人類はまだ作れていないのだと思います。

　また目の前にいる人が本当に心を持っているかどうかなんて確かめ様が
　　　無いような気がしますが、少なくとも自分本人は心を持っている
　　　事は疑いようが無いと思うので、やはり心は少なくともこの世に１つは
　　　存在するような気はします。
　　　ただその心の仕組みをまだ誰も解明できていないですよね。
　　　人は腕を動かそうと思えば自在に動かす事が出来ますがそれが
　　　ものすごく不思議ですよね。動かすつもりが無く、ただ
　　　本を黙読でもするように心の中で腕よ動けと叫んでも
　　　動かすつもりが無ければ腕は動かない。じゃ「つもり」って
　　　何だろう？　

　　　「つもり」さえあれば心の中で発声しなくても意のままに身体を
　　　動かすことが出来る。でもつもりは言葉では無いんですよね。
　　　言葉で無いものをどうやってプログラムするんだろう。

　　　そんなこんなで今の科学技術の延長線上に心を持つロボットは存在しない。何か今の科学的な常識がガラリと変わるような大どんでん返しのような発見がされないと心のあるロボットは出来ないと思います。

とりとめも無い文章で、段落がめちゃくちゃで読みにくなってしまいました。最後まで読んで頂きありがとうございます。

お礼

こちらこそありがとうございます。
心を持つロボットを作る前に
人間側が心がなにかを知る必要があるようですね。
心が何かを知らずに心のあるロボットは作れないような気がします。
それにしても心＝脳の働きで本当にいいのでしょうかね？

回答No.44

kigurumi

simってシュミレーションゲームやった頃の話です。

1家に8人までキャラを持てて、彼らの感情バーがいくつかあって、彼らを操作して、常にそのバーが緑に保つようにしていくゲームです。
緑の内は満足しているので、勝手に動くのですが、赤になるとこちらに訴えてきて、人数が増えるほどに指示する回数が増えます。
頭のいい子なら、勝手に腹が減れば食事を作るし、眠ければベッドで寝てくれるのですが、教育の仕方が悪いのか、勝手にやってくれないキャラもいたりして、「ああ　うざい」とか思ったりします。

ある時　キャラを操ってネコを2匹手に入れました。
一匹はかわいくてよく私の操作するキャラになつきました。
もう一匹は呼んでも来ないし、私の好きな一匹の方に喧嘩ふっかけてくるし、食事を用意しても、ぐーたらして食べようとしない。
いつもゲージは不満足になっていて、とても手がかかりました。
第一人間キャラと違って、ペットは操作できないので、ややこしい。

優等生のネコ　一匹を養いたかったので、もう一匹のネコを追い出すことにしました。
マニュアルによると、あまり構わないと感情バーがどんどん下がっていって、家出して帰ってこなくなると書いてある。
ネコが腹が減っても食事を与えず、おもちゃも与えないので娯楽ゲージも下がっていきます。
「よしよし　もうすぐ家出するだろう」と見ていたが、ゲージほとんど真っ赤になっていっても、家出しません。
このゲームは感情バー全部が真っ赤になれば、死亡するはずです。
それでは　と壁でカコって他者と喧嘩するコミュニケーションすら断絶しました。
もう全部真っ赤です。
死にません。
ネコは瀕死になって、ずっと寝ていますが、死にません。
普段いじめられていた猫が反撃して、虐め返していますがされるまま。
普段は野良犬にすら喧嘩ふっかけているが、瀕死なので、逆に犬にいじめられて、ボロボロになっている。
でも死なない。

さすがに私の良心が痛みました。
「ごめんなさい」
わたしは彼に食事を与え、豪華な寝床を与え、トイレを与え　おもちゃを与えました。
ぐんぐん感情ゲージが蘇ってきました。

「ああ、ほんと手のかかるネコだし、私のお気に入りのペットをいじめるけど、それで私のお気に入りのペットがグレるわけじゃない。それが示す私への愛情にこたえていけば、いじめられてもすくすくと育つからまあいいか」
　　　↑
この感情はもし私がロボットなら持つのかなぁ？？って思いました。

お礼

具体的な感情をあげていただき参考になります。
考えさせられました。

回答No.43

noname#15641

お礼文にお応えさせていただきます。
狼に育てられた少年は人間でありながら「人間の心」を持たない存在と言うことになります。
また可愛そうに永遠に人間の心を持つことは不可能であるかも知れません。
我々は他者の身体を通じて自分の身体を認識し、他者の言語を通じて自分の言語を認識します。
猿の子供は鏡の中の自分を見てもすぐに興味を失ってしまいますが、人間の子供は違います。
鏡の中の身体が自分の身体で、他者から自分がそう見えていること、すなわち他者の視線で自分の身体を捉えることを学びます。

そしてさらなる段階、「～～ちゃん」から「わたし」への認識です。
「わたし」が自分の周りにいる他者にとっても「わたし」であることを理解するとき、初めて「わたし」が完全に意味を持ちうることになります。
人間が精神を持つには、このようにまず自己の身体を同定して、そこにアイデンティティーを持たなければなりません。
狼に育てられた少年には残念ながらこの「わたし」はありません。
「人間の心」を待たない人間ということになります。

脳髄は還元できるが、「こころ」は還元できるものではありません。。

ご質問の趣旨が「人間はコンピュータに心を持たせうるのでしょうか？」であれば
持たせえないというのが私の結論になります。

そして他の動物に人間のようなこころが無い以上、こころは特別なものであると私は思います。

お礼

はっきりとした意見爽快でした。
有り難うございます。
心を特別なものと考える姿勢もやはりもっと議論が必要ですよね。

回答No.42

BLUEPIXY

CPUやHDDなど人間とは、違うもので構成されているから
心が無いと断じるのは、論理が欠落していると思う。

クローン人間は、元の人間と遺伝子的に同じものであるから、
もし、オリジナルの人間に心が存在するなら、クローンとして生まれてきた人間にも心があるとするのが普通だと思う。
もちろん、脳は可塑性があり、環境や刺激によって違うモノになるから
映画などの様にクローンがオリジナルと全く同じ意識・性格（心）であることはないが、心を持っているだろうことは想像に難くない。
クローン人間が生まれてからずっとあらゆる刺激から隔絶されてた状態であったなら、そのような心の育成は無かったと考えられると思うが、それを持って心がないとするのは、今の話（心を持ちうるか？）とは違うことのように、思う。
心の保有可能性（？）という意味で、クローン人間も心を持つ（あるいは持ちうる）と思う。

既に述べたが、脳の働きがイコール心の働きであるとする前提に立った上で、
脳の働きがシミュレートできるというなら、その組成物が何によるかは、
問題でないと思う。
逆に、CPUやHDDのような機械で構成された組成物で心が表現できるなら、
人間の心というものは、そうした機械となんら変わりがないといえると思う。
心の動きというものが計算可能かどうかやいつも決定的であるか不決定的（揺らぎがある）かどうかは、心のあるなしとは関係ないように思う。
計算機の動作として、揺らぎを含ませることは可能で、その場合、状況によっていつも同じ動作になるとは限らないということになろうと思う。

お礼

＞CPUやHDDなど人間とは、違うもので構成されている＞から
＞心が無いと断じるのは、論理が欠落していると思
＞う。

＞クローン人間は、元の人間と遺伝子的に同じもので
＞あるから、
＞もし、オリジナルの人間に心が存在するなら、ク
＞ローンとして生まれてきた人間にも心があるとするのが普通だと思う。

まったく賛成します。私もそう思います。
ですが、心＝脳のはたらき
なんでしょうか？
そこには身体の重要性がかけていませんか？