AIの見る幻覚。"hallucination"。
最近､巷でも話題になることがあるようですが､娘の勤務する会社でも一部の若い方の報告書に違和感があり､根拠を追ったところ､実在しない論文に基づいた内容だった事が何件も発覚しました。一見､権威ある大学の論文に見えたので深く確認しなかったそうですが､内容の一部に違和感を抱いた上司が大学図書館に確認したところ､存在しない書籍番号が割り振られていたことで発覚しました。現在､一時的に使用を禁じているようですが､結論に至る途中のどこか一部でAIを経由して出された内容が混入していると信頼が失われる要因になるので､各機関への問い合わせを頻繫にせざるを得ない状態だそうです。
著名で高性能なAI程､内容が正しく見えてしまうので､現状は別の､昔ながらのルートでも確実な結論を検証しなおしているそうです。
皆様も､盲信なさらぬようお気を付けください。
2026/05/22 07:31
共有する
3件のコメント
(新着順)
ミュートしたユーザーの投稿です。
投稿を表示私が、初めてAIを使った時「AI同士の三目並べは引き分け」と質問しました。
私とAIの問答は、今も続いているけど、たぶんですよ答えは有るようで、ないのかもしれません。
ハルシネーション：
生成AIが事実とは異なる情報や架空のデータを、もっともらしい嘘として出力する現象
とありました。
人が結果を急ぐが故なのでしょうか、「幻覚」を見るほど追い詰められる時代なのでしょうか。
ミュートしたユーザーの投稿です。
投稿を表示ハルシネーションの話が出るといつも
「いや、人間だって言い訳するのに話創作するやん」🤖
と、心の中でツッコミ入れてます🙊
今のAIだと出てくる情報量の多さでなかなか見切れなくなっていますが、仕事で使うならAI使って減らせた分の時間を少し使って裏取り作業をしましょうと外野からの勝手な助言を残しておきます👩🏫
こっそりと仕込まれるハルシネーションは困り物ですが、AIの頭が良くなり過ぎて昔みたいな全方位ツッコミOKなモノを出してこなくなったのが少し寂しかったりします😢
ミュートしたユーザーの投稿です。
投稿を表示おはようございます。
便利になった AI さんのようですが、注意が必要ですね。
我が家の AI はまったくアテにならなくて、必ず３回は同じ質問をして、さらに「ホントか〜？」 「またウソだろー」と語りかけると、だんだん回答が変化してきたりするコトがあります。
そのたびに、
＞AI『今後は一度で正答を導き出せるように精進します』
＞私「約束やぞ」
と言うてます。