Przejdź do treści
promptowy.com / AI用語集 / ハルシネーション(幻覚)
安全性と品質

ハルシネーション(幻覚)

生成AIが事実に基づかない誤った情報や架空の出来事を、あたかも正しい事実であるかのように自信満々に出力してしまう現象のこと。

ハルシネーション(幻覚)とは、生成AIや大規模言語モデル(LLM)が、事実と異なる情報や実在しない架空のデータを、もっともらしい文脈で出力してしまう現象を指します。AIが故意に嘘をついているのではなく、確率的に自然な文章を組み立てた結果として誤りが混入します。

ビジネス文書の作成や情報検索に生成AIを活用する機会が増えるなか、このハルシネーションを見落とすと、誤った情報の公開やトラブルにつながるリスクがあります。

日常業務で起きるハルシネーションの具体例

ハルシネーションは、文体や専門用語が極めて自然であるため、一見しただけでは見破りにくい特徴があります。たとえば、金沢市で伝統的な和菓子を製造する老舗企業が、自社のホームページ用テキストの作成をAIに依頼した場面を考えてみましょう。

AIに「創業当時の歴史を魅力的にまとめてほしい」と指示すると、社歴の概要に加えて、実在しない江戸時代の茶人の名前や、受賞したことのない架空の品評会の賞名が、流暢な敬語とともに差し挟まれることがあります。文章全体のトーンが格式高く整っているため、担当者が事実確認を怠ると、架空の由緒をそのまま公式文書として掲載してしまう事態を招きます。

なぜAIはもっともらしい嘘をつくのか

AIがハルシネーションを起こす最大の理由は、モデルの仕組みにあります。言語モデルは「事実の正しさ」を理解して答えているのではなく、「文脈上、次に来る確率が最も高い言葉」をつなぎ合わせて文章を生成しています。

また、学習時に「わからないと答える」ことよりも「質問に対して具体的な回答を提示する」ことが評価されやすい傾向がある場合、AIは手元の知識が不足していても、前後の整合性を保つために空白を自動的に埋めようとします。前提が間違っている質問を入力した場合に、その誤りを指摘せず、前提に乗っかったまま架空の解説を作り上げてしまうのもこのためです。

実務で誤情報を見抜くための確認手順

業務で生成AIの回答を利用する際は、見た目の流暢さに惑わされず、以下の手順で事実関係を精査することが不可欠です。

  1. 検証可能な要素を抜き出す: 会社名、設立年、人名、所在地、法令名、数値など、客観的に真偽を判定できる固有名詞や数字を箇条書きでリストアップします。
  2. 公的な原典と照合する: 官公庁のウェブサイト、企業の公式IR資料、業界団体の一次資料を直接開き、該当する記述が本当に存在するか確認します。AIが提示したURL自体が実在しない場合もあるため、必ず手動でブラウザ検索を行います。
  3. 数値計算を検算する: AIが示した売上合計や比率の計算は、表計算ソフトや電卓を使って必ず再計算します。文章中の数値が正しくても、合計値や割合の算出でハルシネーションが生じることが多いためです。
  4. 同じAIに「本当ですか?」と再質問しない: 同じAIに対して「これは事実ですか?」と尋ねても、直前の回答を肯定するようにさらなる作り話を重ねる危険があります。確認は必ず外部の独立した情報源で行います。

プロンプトでハルシネーションを抑えるコツ

ハルシネーションをゼロにすることは困難ですが、プロンプトの工夫によって発生頻度を大幅に減らすことができます。

最も効果的なのは、回答の根拠となる社内規程や製品マニュアルなどの参照テキストをプロンプト内に直接貼り付けた上で、「提供された資料のみに基づいて回答してください。資料に明記されていない内容については推測せず、『記載なし』と回答してください」と制約を課すことです。AIに自由に知識を補完させず、参照先を限定することで、正確性を保ちやすくなります。

よくある質問

ハルシネーションと単純な計算ミスの違いは何ですか?

計算ミスは数値処理の誤りですが、ハルシネーションは存在しない論文名、架空の人物、存在しない法律の条文など、事実ではない情報をもっともらしく作り上げてしまう言語生成上の現象全般を指します。

ChatGPTに「本当ですか?」と聞き返すのは有効な対策になりますか?

有効ではありません。モデルは直前の文脈を引き継ぐため、自身の誤りを正当化する別の架空の理由を重ねて回答してしまう傾向があります。ファクトチェックは必ず公式な一次情報源を参照して人間が行う必要があります。

社内マニュアルをAIに読み込ませればハルシネーションは完全に消えますか?

完全には消えません。検索拡張生成(RAG)などで社内文書を参照させても、文書の読み取りミスや無関係な記述の混同によって誤回答が生じる可能性があるため、最終確認のステップは必須です。

← AI用語集一覧

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›