ハルシネーションとは？ AIが「もっともらしい嘘」をつく理由と、私たちができる対策

はじめに

突然ですが、「ハルシネーション（Hallucination）」という言葉を耳にしたことはありますか？直訳すると「幻覚」という意味ですが、最近の生成AIの文脈では、ちょっと違った（でも困った）意味で使われています。

本日は、AIを使うなら絶対に知っておきたいこの現象について、少し柔らかく解説してみたいと思います。

ハルシネーションとは？

一言で言えば、「AIが、事実ではないことを、さも事実のように自信満々に語る現象」のことです。

例えば、「架空の歴史上の人物」について質問したとします。するとAIが、「〇〇氏は1800年代に活躍した偉人で、××という功績を残し……」と、実在しない人物の経歴をスラスラと回答してくることがあります。これがハルシネーションです。嘘をつこうとしているわけではなく、AI自身も「幻覚」を見ているかのように、誤った情報を生成してしまうのです。

なぜ、そんなことが起きるのか？

「AIは頭が良いはずなのに、なぜ？」と思いますよね。実は、LLM（大規模言語モデル）の仕組みに原因があります。

彼らは辞書のように「正しい事実」を暗記しているわけではありません。膨大なデータの中から、「この単語の次には、確率的にこの単語が来そうだ」という予測を繰り返して文章を紡いでいるだけなのです。

だからこそ、確率の計算がうまくいけば素晴らしい回答が出ますが、一度道筋がズレると、嘘の情報を「もっともらしい文章」で繋ぎ合わせてしまうのです。

まるで「すれ違いコント」？

これ、人間のお笑いコントに似ているな、と私は思います。「会話のボタンを掛け違えたまま、お互いに勘違いして話が進んでいき、とんでもない結末になる」……アンジャッシュさんのコントのような状況です。

お笑いなら「おいおい！」と笑って済みますが、これがビジネスの契約書や、子供の学習で起きたらどうでしょうか？「笑い事」では済みませんよね。

原因は「AI側」だけじゃない？

AIの不具合だと言われがちですが、実は「使う人間側（プロンプト）」に問題があるケースも非常に多いのです。

指示が曖昧で、AIに推測させてしまった。
参照すべきデータを与えず、丸投げしてしまった。

AIという相棒に、「適当にやっといて」と曖昧な指示を出せば、彼らも「たぶんこうかな？」と適当（確率的）に答えを出してきます。これは上司（私たち）の責任でもあります。

私たちができる「3つの対策」

では、この「もっともらしい嘘」を防ぐにはどうすればよいのでしょうか？

「文脈」と「制約」を与える 「〇〇について教えて」ではなく、「あなたはプロの歴史家です。事実に基づかない場合は『わかりません』と答えてください」と役割とルールを明確にします。
参照元（ソース）を提示する 「この資料（テキスト）を読んで、その内容に基づいて答えて」と、カンニングペーパーを渡してあげるのが一番確実です。（これをRAGと言ったりします）
必ず「裏取り」をする 最後はやっぱり人間です。AIの回答を鵜呑みにせず、「本当かな？」と疑ってファクトチェックをする。この「人の目（Human-in-the-loop）」こそが最後の砦です。