AIの嘘「ハルシネーション」はどう防ぐ？見破るコツと上手な付き合い方

ビジネスや日常でAIを活用する人が増える一方で、「本当に使って大丈夫？」という声もよく耳にします。

情報漏洩のリスク、社内での運用ルールの策定、組織への浸透など、AI活用にはいくつかの課題があります。
なかでも多くの人が不安に感じるのが、「ハルシネーション」ではないでしょうか。

AI活用
ハルシネーション
どう付き合う？

今回は、この厄介なハルシネーションとどう付き合っていくべきか、AI自身に考えさせた結果をもとに分かりやすく解説します。

そもそもハルシネーションとは？

ハルシネーション（Hallucination）とは、直訳すると「幻覚」という意味です。
AIにおけるハルシネーションは、「AIが事実とは異なる、もっともらしい嘘をついてしまう現象」を指します。

この問題と上手く付き合うためのアプローチは、大きく分けて2つしかありません。

この2つの軸で、具体的な対策を見ていきましょう。

現在の技術では、ハルシネーションを「完全にゼロ」にすることはできません。
しかし、AIへの指示（プロンプト）を少し工夫するだけで、発生する確率を大幅に減らすことができます。

ここでは、今すぐ使える5つのテクニックを紹介します。

知識を直接与える
AIの曖昧な記憶に頼らせるのではなく、「この文章を読んで要約して」など、参考にしてほしい情報を直接入力してあげましょう。
「分からない」と言うことを許可する
AIは「なんとかして答えを出さなきゃ！」とがんばり（欲張り）すぎる傾向があります。「分からない場合は、推測せずに『分からない』と答えてね」と事前に伝えておきましょう。
Web検索を強制する
最新の情報や正確なデータが欲しい時は、「必ず最新のWeb検索を行って、その結果をもとに答えて」と指示しましょう。
思考プロセスを分解させる
複雑な問題をお願いする時は、「ステップ・バイ・ステップで、順番に考えてから答えを出して」と伝えます。論理の飛躍を防ぐことができます。
役割と制約を明確にする
「あなたは厳格なデータ分析官です。データにない情報は絶対に書かないでください。」と、AIに厳しい役割を演じさせることで、余計な創作を防げます。

あらためて書いておきますが、上記を施しても、悲しいことに、絶対に防げるわけではありません。

どれだけ事前に対策をしても、最終的には「人間の目によるファクトチェック」が絶対に必要です。
仕事で使う以上、責任の所在はAIではなくわれわれ人間にあるからです。
AIはあくまでもツールです。

とはいえ、すべての文章を一から調べるのは大変です。
「ハルシネーションの可能性を見破る作業」自体も、ツールを使って効率化してしまいましょう。

別のAIにチェックさせる
あるAIが出した回答を、別のAI（たとえばChatGPTの回答をGeminiなど）に読み込ませて、「この文章におかしな点はないか、ファクトチェックして」と頼みます。客観的な視点が入るので非常におすすめです。
根拠（情報源）の提示をルールにする
「回答の最後には、必ず参考にしたURLを記載して」と指示します。リンク先が存在しなかったり、違うことが書かれていたりすれば、すぐに嘘だと見破れます。
意地悪な質問で「揺さぶる」
同じ質問を何度か繰り返したり、言い回しを変えてみたりします。回答の数値や内容がコロコロ変わる場合は、AIが適当に答えているサインです。
専用の評価ツールを使う
最近では、AIの回答が正しいかを自動で採点してくれる専門的なシステム（Ragasなど）も登場しています。企業で本格的にAIを導入する場合は、こうした技術の活用も進んでいます。

どのようなことも効率化できてしまうものです。