なぜAIは『幻覚』を見るのか？『ハルシネーション』の語源と認知科学から紐解くメカニズム
ChatGPTをはじめとする生成AIと対話していると、時折AIが「もっともらしい嘘」をつくことがあります。存在しない本や論文のタイトルを自信満々に紹介したり、歴史的事実を勝手に創作したりする現象です。この現象は、コンピュータ科学においてハルシネーション（幻覚）と呼ばれます。
出典: なぜ、金属とシリコンでできた厳密な論理機械であるAIが、人間のように「幻覚」を見てしまうのでしょうか。今回は、その言葉の歴史的な由来（語源）を辿りながら、認知科学的な観点からAIの「幻覚エラー」が生じるメカニズムについて紐解きます。
「ハルシネーション」という言葉の語源とAIへの適用
「ハルシネーション（Hallucination）」という言葉の語源は、ラテン語の「alucinari（心ここにあらず、さまよう、うわ言を言う）」に遡ります。これが英語の「hallucinate（幻覚を見せる）」となり、医学や心理学において「客観的な外的刺激がないにもかかわらず、そこにあるかのような知覚（幻聴や幻視）を得る状態」を指すようになりました。
この言葉がコンピュータ科学、特に自然言語処理（NLP）の分野で使われ始めたのは、2010年代の機械翻訳モデルの研究あたりからです。翻訳モデルが原文に全くない内容の文（しかし文法的には非常に自然な文）を唐突に出力する現象を、研究者たちが比喩的に「幻覚（ハルシネーション）」と表現したのがきっかけです。
現代のLLM（大規模言語モデル）の普及に伴い、この比喩は「もっともらしい嘘をつく現象」の総称として、専門家から一般のユーザーにまで広く使われる言葉として定着しました。
なぜAIは「幻覚」を見るのか？ 統計の仕組みが生む罠
AIのハルシネーションは、プログラムの単なる「バグ（不具合）」ではなく、現在の生成AIの動作原理そのものに深く根ざしています。
言語モデルは、ある単語の次に来る確率が最も高い単語を予測して文をつなげる「統計的な予測機械」です。本質的には、言語学者Emily M. Bender氏らが指摘するような確率的オウムに近い動作をしています。モデルが目指しているのは「事実として正しいか」ではなく、「文法的に、そして文脈的に、もっともらしい自然な日本語（または他の言語）を出力できているか」です。
そのため、十分なデータがないトピック（例：ニッチな歴史上の人物や、ローカルな観光地など）について質問されたとき、AIは「分からない」と答える代わりに、過去に学習した膨大な文章パターンの類似性から、いかにも真実らしく聞こえる文脈の続きを「確率的に合成」してしまいます。これがハルシネーションの本質的なメカニズムです。
人間の脳の「錯覚」との類似点：パレイドリア現象
興味深いことに、AIのハルシネーションは、人間の脳が持つ「パレイドリア（Pareidolia）」や「アポフェニア（Apophenia）」という認知バイアスと非常に良く似ています。
人間の脳は、雲の形が動物に見えたり、コンセントの穴が人の顔に見えたりするように、ランダムな情報の中に一定のパターンを自動的に見出してしまう性質があります。これは、生存確率を上げるために脳が常に文脈やパターンを予測・補完しているために起こる機能であり、いわば「脳の高度な機能がもたらすバグ」です。
AIのハルシネーションも、与えられた入力の「隙間」を埋めるために、学習したパターンを強力に適用して「意味を捏造」してしまう点で、人間の認知機能のエラーと酷似しています。AIは嘘をつく意図を持って嘘をついているのではなく、次の言葉を滑らかに繋ぐプロセスの結果として、偶然嘘の文脈を生み出しているに過ぎないのです。
まとめ：ハルシネーションを理解し、AIと共生する
AIのハルシネーションは、モデルの性能向上やRAG（外部検索による知識補強）によって大幅に軽減されつつありますが、統計的アプローチである現在のアーキテクチャである限り、その確率を完全にゼロにすることは不可能とされています。
AIがもたらす「もっともらしい出力」の背後には、常に統計的なパターン合成があるという性質を理解することが重要です。出力結果を無条件に信じ込むのではなく、一次情報と照らし合わせる「ファクトチェック」の習慣を持つことこそが、AIという強力な道具と正しく付き合うための第一歩となるでしょう。
お役立ち情報
- Emily M. Bender - Department of Linguistics: AIの限界や「確率的オウム」論で有名なワシントン大学のEmily M. Bender教授の公式ウェブサイト（英語）。彼女の論文や研究活動が紹介されています。
- 国民生活センター: 日本の国民生活センター公式サイト。生成AIの利用に伴うハルシネーション（幻覚）問題や、ファクトチェックに関する消費者向けの注意喚起情報を掲載したレポートがあります。