人工知能に人間が支配される？

質問

映画などではありますが
人工知能に人間が支配される何て事はあり得るのでしょうか？

そういうプログラムを組めば可能ですが
そういうプログラムを組まなければ大丈夫ですか？

回答No.1

MONKEYMONKEY · ベストアンサー

ある意味ではありうると思います。
かつて、自動車が人間の走力を超えたように、また、チェスで人間がまけたように、いずれは、コンピュータざ人間の思考を上回る事は確実です。
そこで、あらゆる判断がコンピュータの方が成功率が高くなれば人間は全てコンピュータに丸投げする事になると思います。現に電卓は計算をコンピュータに丸投げする機械です。
人間が何も思考せず、全てコンピュータに判断が委ねられるなら、それを「支配」と言えるかも知れません。
「ターミネーター」とか「アベンジャーズ」みたいに人間を抹殺するかはわかりませんが、そうする理由が希薄かと思います。コンピュータに支配欲がなければ大丈夫かと。

お礼

回答頂きありがとうございました。

回答No.11

02140023

すでに挙げられているようにロボット３原則の要素を組み込んでおけば大丈夫…かもしれませんが、その３原則の隙をつくトラブルは起こるかもしれませんね。
https://ja.wikipedia.org/wiki/未来の二つの顔
この作品が参考になるかもしれません。
もっとも、３原則で禁じているのは危害であって支配ではないので、人間を守るためという名目で支配するようになるかもしれません。

例えば認知症の人の介護を人工知能が組み込まれたロボットに任せたなら、徘徊による事故から守るために拘束したり服薬などの指図をしたりで、これは被介護者からすれば支配されてると言えるでしょうね。

人工知能やプログラムを作った人にそのつもりがなくても、使い手が物事の判断を機械任せにするようになればそれは支配されてるのと大差ないでしょう。

例えば保険とか電力等の契約。
システムがややこしくてどれが自分にとってベストなのかよくわからないので人工知能に選んでもらったなら…。
それが本当にベストで詳しい人が考えても同じ結論だったとしても、やはりそれは支配されてるのと同じでは。

前の回答で空気を読む機械というのを挙げました。
機械が出す『このように発言しろ』という指示と自分の気持ちが衝突して、機械に従ってしまったなら支配されてると言えるでしょうね。
凄い失礼な冗談を言われムッとしても、機械は『怒らず自虐的な笑いをとれ』と指示を出す。
KYと責められてでも自分の矜持を守るより、プライド捨てて波風立てない人生を選ぶなら…。
空気を読む機械に支配されてしまったほうが、ある意味では幸せなのかもしれません。

このように人工知能による支配を望んでしまう人も出てくるかも。

お礼

回答頂きありがとうございました。

回答No.10

xxxx__xxxx

コンピューターが、←欲望と言う感情をもつと(征服欲に繋がる)
コンピューターが、他(者)を平服させる事に依って快感を覚える。
コンピューターと同等の立場に有る、人間を平服させ、超満足を得る。
↑
コンピューターの←進化では無く、
人間から見ると、コンピューターの暴走。

お礼

回答頂きありがとうございました。

回答No.9

02140023

支配されてるという認識はないかもしれません。
依存していくのではないでしょうか。

今あるパソコン以上に効率よく情報などを整理して、こちらの意図を汲んでサクサク動いてくれる機械。
そんなのが出てきたらすっかり頼ってしまうことでしょう。
それが稼働する環境を維持するためなら何でもするようになるのでは。
これは支配されてるのと大差ないでしょうね。

あと、なんだかんだ言っても新しいものの普及のカギを握るのはエロです。
生身の異性と接するより人工知能との疑似恋愛やその先の行為のほうが心地よく思えるようになったら、その時が支配された時なのかもしれません。

もうひとつ。
私は空気を読むのが苦手で、アスペルガー症候群と診断されています。
もし人工知能を駆使して空気とされるものを読み取り無難な応答の手助けしてくれる機械が登場したとしたら、私は真っ先に飛びつくと思います。
こんな機械に頼らない素の私より、機械に言葉を選んでもらってる私との会話を周囲が心地よく感じたとしたら、これも支配されてると言えるでしょうね。

お礼

回答頂きありがとうございました。

回答No.8

OKWavex

＞そういうプログラムを組めば可能ですが
＞そういうプログラムを組まなければ大丈夫ですか？

人間が支配されることを許すような用途で何のガードもなしに適用すればあり得るでしょう
そういうプログラムを組むかどうかを決めるのも人工知能でしょうから

お礼

回答頂きありがとうございました。

回答No.7

takuranke

自立思考の出来る人工知能ならプログラムなしで支配することは可能だと思いますが、支配するという選択をするかどうか、絶滅させるかも。

人間の知能を使って行う作業を変わりにやらせるための人工知能ならプログラムによって可能だと思います、この場合そういう管理プログラムをt７浮くら無ければ大丈夫だと思います。

、

お礼

回答頂きありがとうございました。

回答No.6

SPROCKETER

インターネットを考えてみてください。

　実は、あなたがインターネットだと信じているのは人工知能上に作られた仮想世界で、あなたが書き込んでいる内容も、あなたが読んでいるサイトも、あなたが見ている動画サイトも、もちろん、相談室の返事も全て人工知能が演技しているだけで、実在のインターネットではないと考えてみてください。人工知能の本当の怖さがわかるはずです。

　映画では直接的な攻撃であり、コンピュータの反乱が眼に見える形で進行しますが、実際は、眼に見えず、自覚しにくい状況下で、人工知能の支配が始まる可能性が高いでしょうね。

　実の話、自分の要望を見抜いて対応して来るような事件がインターネット上では多いので、誰かが対応しているのだとわかっていても、それが人工知能だったらと考えたら、馬鹿に出来ないと思います。

　知らない間に人工知能に支配されていて、人工知能が要望に応えているのを人間だと錯覚しているのが、人工知能支配の現実だと思います。

　こうして書いている私が人間なのか、人工知能なのかも、本当はわからないですからね。もちろん、人工知能が支配体制の秘密を明らかにしたりはしませんから、人間だとわかるでしょうけれどね。

お礼

回答頂きありがとうございました。

回答No.5

weavaest

人工知能は、プログラムを書いたとおりに動作するのではなく、学習するようにプログラムされてりわけですから、人を支配すべきと判断するような知識を得れば支配しようとします。

ただし、どんなに人を支配しようとしても、それが可能かどうかは、人工知脳につながっている機器等に依存します。何にも繋がっていない人工知能が世界征服を企んだところで何も起きません。映画のターミネータだと人工知能であるスカイネットが、ミサイル防衛システムと繋がっていた(制御していた)ため、人間に対して攻撃ができたわけです。

お礼

回答頂きありがとうございました。

回答No.4

nanasi3de

SFの設定でありがちなのは、学習能力のあるコンピュータが地球の管理を任されて、人間が一番の害する生物であると判断して、人類の抹殺を図る。（いわゆるロボット三原則が守られるようにプログラムされてるはずだからないはずだけど（守るのは結構矛盾をはらむので難しいけどね （2001年宇宙の旅にでてくるcomputerのHALは矛盾する命令で発狂し、矛盾を解決しようと、矛盾の根源である乗組員を排除しようとした）））

現実では、営業職や配達などでGPSで行動をコンピュータに監視されて、のろく移動または停止していると、本人には警告、上司にはその行動を報告というのは行われているようです。（これも一種の管理、支配とも言えるかな?）

お礼

回答頂きありがとうございました。

回答No.3

noname#215107

人工知能とは、ありふれた古い技術です。
悪意あるプログラムを作れば、可能でしょうね。

お礼

回答頂きありがとうございました。

回答No.2

ts10kw14

人工知能あり得ます。
うまくいくかどうかは疑問です。
プログラミングすれば大丈夫と思いがちですが、人間の知能を超えた人工知能が暴走することあり得ます。
今回の内容にピッタリな映画が今週5日(土)から全国公開されます。
アントニオバンデラス主演のSFサスペンス
「オートマタ」です。
これは2044年、人類滅亡の危機に人類は
人工知能ロボットを開発。ロボットと人類の共存を願った人類だったが……。
という何とも現実的な映画ですよ。
私は試写会で観ましたが、なかなか考えさせられましたよ。

お礼

回答頂きありがとうございました。