チャットGPTの信頼性について

質問

• チャットGPTの信頼性について疑問を持つ声があります。
• 友人がチャットGPTに関してロシア民謡の理由を尋ねたところ、不正確な回答が返ってきました。
• 古い情報や間違った情報があるため、チャットGPTの回答を鵜呑みにすることには注意が必要です。

回答No.6

eroero4649 · ベストアンサー

いろいろ使っていますが、使い手の能力を反映するなと感じます。偏差値60の質問をしたら偏差値60の答えが返ってきて、偏差値40の質問をすると偏差値40の答えが返ってくる感じです。バカとハサミは使いようと答えた人がいますがまさにその通りで、ハサミを箸として使おうとした人がいて「これって箸に使えないじゃん」という人がいたら、ハサミを箸として使うやつがバカだということになりますよね。
得意な分野と不得意な分野があります。使ってみて実感するのは、マーケティングみたいなのは上手に使うとかなり使えるのではないだろうかと思います。「5時間でツアーを考えて」というのも上手な使い方のひとつだろうと思います。
一方で「この彼とは脈はあるでしょうか？」みたいな質問は不得意だと思います。

だから今、「プロンプトエンジニア」という職種が注目を集めています。「AIに上手な質問をする技術者」です。上手に質問するにはコツがありますからね。場合によってはコードをいじってどういう答えをするかの傾向をプログラムする場合もあります。
使いこなすには技術が求められます。でもそれは、どんな道具でもそうでしょう？

ChatGPTが「愚かな多数決」なら、Wikipediaもそうだと思います。Wikipediaも「大勢の人たちによって編集される」ものです。それこそ今のChatGPTに対する世間の反応は、Wikipediaが出てきたときの世間の反応と同じだなと思いますね。あの頃も、特に技術系の人たちから「Wikipediaは間違いばかりで信用できない」と声があがっていました。
質問者さんはWikipediaをどう思いますか。それよりも広辞苑を信用しますか？それはそれで間違いではないですが、広辞苑のどこを探しても「プロンプトエンジニアリング」って言葉は出てきません。だって今年くらいに生まれた言葉だから。Wikipediaには「プロンプトエンジニアリング」の項目があります。

ChatGPTの今のところの最大の欠点は「何を根拠にそのような回答をしたのかが分からない」ことにあります。間違った回答をしたならしたでなんでそうなったのかを知る方法がないのです。
しかしそれに対しては「Perplexity」というやつがありましてね。こっちは回答の参考資料が出てくるのです。ですので私は間違ってはいけない調べもの、主に仕事に関する調べものは「Perplexity」を使っています。

まあここは保守的な人が多いので、新しいものはとりあえず片っ端から否定する傾向はありますね。

補足

なるほど。なるほど。よくわかりました。ありがとうございました。