このサイトのChatGPTから回答について

質問

このサイトでChatGPTから回答を頂くことがたまにあるのですが、どれくらい信用できるのでしょうか？よろしくお願いします

回答No.5

kzr260v2 · ベストアンサー

質問の内容によって大きく変わりますので、信用できる内容かどうかは運です。

例えば、自動運転のAIだと「道路作業員が『止まれ』の看板をかかげていた場合」停止できませんでした。画像を生成するAIだと「宇宙飛行士にまたがる馬の画像」を指定しても、馬にまたがる宇宙飛行士の画像しか生成できませんでした。

なぜこんなことが起きるのかと言うと、現状のAIはプログラマーの指示による動作ではなく、大量のデータを読み込ませたものだからです。そのデータに、「道路作業員が『止まれ』の看板をかかげていた場合」のデータがなかったから止まれなく、そのデータに、「宇宙飛行士にまたがる馬の画像」は無かったら生成できません。逆を言えば、適切な追加データを読み込ませたら、期待通りの結果を出すようになるはずです。

問題は、AIが適切に学習しているかどうかは、私たち利用者や、AIの管理者であっても分からないのです。分かるのは、なにがコトが起きてからです。

つまり質問主さんの
>>このサイトでChatGPTから回答を頂くことがたまにあるのですが、どれくらい信用できるのでしょうか？
この疑問も同様です。適切な回答内容の場合もあれば、学習されておらず適切でない回答内容になることもありえてしまいます。

※
AIを使ってビジネスしようとしている人たちは、AIの良い面しかアピールしないです。現状のAIは、分野によっては人間のかわりになります。しかし、プログラマーによるプログラミングから、適切なデータの大量読み込ませに変わっただけなのです。
インターネット上には、様々なデータが大量にあり、学習させ放題でしたが、今はAIの学習にインターネット使えなくなってきています。なぜなら、AIが生成したデータが増えているからです。先ほどもご案内したように、AIが適切なものを生成できるかは運でしかありません。適切でないデータを読み込むほど、精度は下がります。

チェスや囲碁や将棋などなら現状のAIは適切な結果をだせるでしょう。ルールが決まっていて、逸脱は許されないからです。しかし現実世界では、ルールに当てはまらない偶然の出来事や、ルールを守らない悪意ある人もいるのです。残念ながら、それすらも乗り越えられるようなAIができる兆しは、私には感じられないです。

回答がAIだろうと人間だろうと、多少は質問主さん側で正しいかどうか調べる、というものになるようです。

以上、参考にならなかったらごめんなさい。

お礼

詳しくご回答ありがとうございます

回答No.6

inunekosaru53

ChatGPTは信用しないで

今日は何月何日何曜日ですか？って聞いたらデタラメの回答でした（笑）

他にも色々あるが文句を言ったら一方的に終了された。

お礼

ご回答ありがとうございます

回答No.4

4017B

う～ん、難しい問題ですね。全く同じ様な質問であったとしても、現在の汎用型対話性AIの仕様だと、質問文に用いられた用語や言葉遣い～つまり乱暴な命令口調で質問した時と、丁寧な敬語口調で質問した場合とでは、出力される回答に変化が生じることが確認されています(少なくともChatGPTはv3もv4もそう)。

現在のこのOKWaveで用いられている「AI回答」が、その担当者がどの様な形式でChatGPTに対して質問文の入力を行っているのかが開示されていないので。例えば担当者が何も考えずに、質問者が投稿した質問文を一言一句丸ままコピペして貼り付け入力して、それに対して出力された回答文をそのまま単純コピペ回答しているだけなのか。或いは担当者が適宜、質問文の主意等を丸めてより良い回答分が出力される様に、チューニング作業の様なモノを一手間掛けて行っているのか…その辺がブラックボックスになっているので、現行の「AIエージェントあい」の信頼度も何とも評価し難いですね。

- https://okwave.jp/profile/u3073140.html

ただ自分がたまに見た感じ、そうそう見当外れな回答はさすがにしていない様に見受けられたので、全く信用出来ないということは無いかと思いますが…専門性の高い質問やよりユニーク度が高い質問(恋愛相談や病理診断の様なプライベートな質問)に関しては、かなり言葉を選んで悪く言えば「当たり障りの無い無難な回答」に始終する傾向にある様に思います。まあコレは致し方のないことかと。

ただしweb上に確実に「正解が存在する質問」に関しては、かなり精度が高い回答が出来てる様に思います。特にプログラミング関連に関する質問は、偉そうにネチケットや揚げ足取りばかりする傲慢不遜な人間回答者よりも、親身かつ丁寧に根気よく回答してくれるので、非常に良好な回答が得られると思います。IT関連～ネット用語の概要とか、メジャーなプログラミング言語に関する質問であれば、ココでするよりも直に "BingAI(Copilot)" や "Bard(Google Gemini)" に質問した方が、早く確実に良い回答が得られますね。

で結局、どうなんだという話に戻る訳なんですが…要するに「質問の仕方が最重要」になる訳です。

現行の対話型AIのモデルでは主に線形回帰演算法で回答文を生成しているので(公表はされてませんが恐らく Copilotも Geminiも同じ)。それで冒頭に話した様に「丁寧な口調で質問すると回答文の品質が向上する」という、にわかには信じ難いオカルトチックな現象が実際に発生します。現行AIの大まかな仕組みを理解出来ていれば、「ああ～そういうロジックね」と膝を打つ話ですが、「AIはネットからかき集めたデータをコピペして出力している！」みたいな理解レベルだと着いて来れない話になりますね。

お礼

詳しくご回答ありがとうございます

回答No.3

CORESTAR

因みにChatGPTが高確率で間違う質問
①宿題系（数学になると毎回おかしな回答をする）
②なぞなぞやクイズ。（ほぼ正解しません）
③パソコンの不調など（回答内容によってはＰＣが壊れる方法すら提示してくる）

お礼

ご回答ありがとうございます

回答No.2

CORESTAR

ChatGPTの回答はでたらめなことが多いので参考にもならない可能性が高いですよ。

質問に回答するほど高度なＡＩではなかったりします

お礼

ご回答ありがとうございます

回答No.1

田中 太郎（@hinso_at）

ネットの検索結果と同じくらいです。

お礼

ご回答ありがとうございます