【深掘り解説】AIは「あばれ馬」である。〜「もっともらしい嘘（ハルシネーション）」を乗りこなす技術〜

はじめに

以前書いたブログ記事『ハルシネーションとは？AIがつく「もっともらしい嘘」』が、ありがたいことに多くの方に読まれています。

「AIが嘘をつくのは分かった。でも、仕事で使うにはどうすればいいの？」今日はそんな疑問にお答えすべく、先週金曜日公開した「AI＝じゃじゃ馬」という概念について、少し深掘りして解説します。

多くの人がAI導入で失敗する理由は、AIを「電卓」のようなものだと思っているからです。電卓は「1+1」を押せば、100回中100回「2」と答えます。

しかし、生成AI（ChatGPTやGemini）は違います。彼らは、膨大な言葉の海から「次にくる確率が高い言葉」を予測して繋げているだけです。つまり、毎回サイコロを振って喋っているようなものなのです。

放っておけば、平気で道を外れるし、知らない道でも自信満々で進んでいきます。これが「ハルシネーション（幻覚）」の正体であり、私がAIを「あばれ馬」と呼ぶ理由です。AIよりも競馬にご興味がおありの方でもわかるように解説します。(笑)

では、このじゃじゃ馬をビジネスで乗りこなすにはどうすればいいか？「もっと正確に答えて」と念じるだけでは止まりません。論理的な「手綱（仕様）」が必要です。

私が開発の現場（厩舎）で行っている「調教」の基本は、以下の3ステップです。

「何でも聞いてね」という広い牧場に放つと、馬は走り回ります。「あなたはベテランの経理担当です」「回答はこの資料の範囲内だけにしてください」と、走るコースをガチガチに狭めます。

自由に作文させると、AIはポエムを書き始めます。「JSON形式で出力して」「表形式で、項目はAとBだけで」と、出口の形を固定します。これだけで、ハルシネーションの確率はグッと下がります。

それでもAIはたまに躓きます。その時、「使えない」と捨てるのではなく、「あ、今の指示が悪かったな」とプロンプト（指示書）を微調整できる「騎手（人間）」の存在が不可欠です。

AIの導入は、優秀だけどちょっとおっちょこちょいな「新人」を雇うのに似ています。 100点満点を求めると疲弊しますが、「80点でいいから、爆速で下書きを作ってくれる相棒」だと思えば、これほど頼もしい存在はありません。

「うちのAI、最近言うこと聞かなくて…」そんなお悩みをお持ちの方は、ぜひ一度ご相談ください。そのあばれ馬、私がビシッと調教いたします。実物の競走馬の調教は致しかねますので、ご容赦ください。(笑)