(コメント欄の)AIの判断基準

質問

最近、コメント等の良し悪しをAIが判断するというサイトがありますが

例えば、「お前死ねよ」という発言を
書き手が読み手に対して言ったのはではなく

単に「こんな発言したんじゃないの？」という風な意味合いで書いた場合も
「不適切発言」として処理されてしまう可能性が高いのでしょうか？

そもそも文として書くことがダメという感じなのでしょうか。

回答No.2

eroero4649

＞単に「こんな発言したんじゃないの？」という風な意味合いで書いた場合も
＞「不適切発言」として処理されてしまう可能性が高いのでしょうか？

でしょうね。ここの回答も、何かが引っかかると「この回答は運営で確認中で回答者本人しか見られません」とロックされる場合があります。不適切な回答だとそのまま削除されて、適切と判断されると手動でロック解除されるようです。
私の回答もたまにロックされることがあって、私としては普通に書いたつもりなんですけど、何かが引っかかると自動的にロックされるのでしょうね。こっちはめっちゃ気分悪いですけどね・笑。

当面のやり方としてはとにかくキーワードなどで引っかかったら全部ロックして、人が直接確認して最終的にジャッジするということになるのではないかなと思います。
X（Twitter）のあの「アカウント停止祭り」も、精査したわけではなく、AIで引っかかったやつは片っ端からアカウント停止でしたからね。それで自治体の災害情報をお知らせするアカウントが停止されたなんてこともありましたね。

回答No.1

121CCagent

文字列や特定の言葉が入っている時点で不適切って判断される可能性は高いかも。