このサイトのChatGPTから回答について

質問

このサイトでChatGPTから回答を頂くことがたまにあるのですが、どれくらい信用できるのでしょうか？よろしくお願いします

回答No.5

kzr260v2 · ベストアンサー

質問の内容によって大きく変わりますので、信用できる内容かどうかは運です。

例えば、自動運転のAIだと「道路作業員が『止まれ』の看板をかかげていた場合」停止できませんでした。画像を生成するAIだと「宇宙飛行士にまたがる馬の画像」を指定しても、馬にまたがる宇宙飛行士の画像しか生成できませんでした。

なぜこんなことが起きるのかと言うと、現状のAIはプログラマーの指示による動作ではなく、大量のデータを読み込ませたものだからです。そのデータに、「道路作業員が『止まれ』の看板をかかげていた場合」のデータがなかったから止まれなく、そのデータに、「宇宙飛行士にまたがる馬の画像」は無かったら生成できません。逆を言えば、適切な追加データを読み込ませたら、期待通りの結果を出すようになるはずです。

問題は、AIが適切に学習しているかどうかは、私たち利用者や、AIの管理者であっても分からないのです。分かるのは、なにがコトが起きてからです。

つまり質問主さんの
>>このサイトでChatGPTから回答を頂くことがたまにあるのですが、どれくらい信用できるのでしょうか？
この疑問も同様です。適切な回答内容の場合もあれば、学習されておらず適切でない回答内容になることもありえてしまいます。

※
AIを使ってビジネスしようとしている人たちは、AIの良い面しかアピールしないです。現状のAIは、分野によっては人間のかわりになります。しかし、プログラマーによるプログラミングから、適切なデータの大量読み込ませに変わっただけなのです。
インターネット上には、様々なデータが大量にあり、学習させ放題でしたが、今はAIの学習にインターネット使えなくなってきています。なぜなら、AIが生成したデータが増えているからです。先ほどもご案内したように、AIが適切なものを生成できるかは運でしかありません。適切でないデータを読み込むほど、精度は下がります。

チェスや囲碁や将棋などなら現状のAIは適切な結果をだせるでしょう。ルールが決まっていて、逸脱は許されないからです。しかし現実世界では、ルールに当てはまらない偶然の出来事や、ルールを守らない悪意ある人もいるのです。残念ながら、それすらも乗り越えられるようなAIができる兆しは、私には感じられないです。

回答がAIだろうと人間だろうと、多少は質問主さん側で正しいかどうか調べる、というものになるようです。

以上、参考にならなかったらごめんなさい。

お礼

詳しくご回答ありがとうございます