ハルシネーションとは、AIが事実に基づかない内容を、あたかも正しい事実であるかのように生成してしまう現象のことです。
例えば、生成AIに存在しない法律名や統計データについて尋ねると、実在するかのような詳細な回答がもっともらしく返ってくることがあります。これは単純な誤字や計算ミスとは異なり、内容自体が自然で説得力を持つ形で誤って生成される点に特徴があります。そのため、専門知識がない読み手ほど、誤りだと気づきにくい傾向があります。
ハルシネーションはAIの技術的な仕組み上、完全になくすことが難しいとされています（経済産業省の関連資料：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html）。そのため、生成AIの回答を業務で利用する際は、内容をそのまま採用せず、事実確認を行うことが基本になります。ここでの事実確認の具体的な方法や社内での対策の立て方については、本記事では扱いません。詳しくは「生成AI業務利用の注意点｜情報漏えいと誤情報リスクを分けて対策する」で解説していますので、対策まで知りたい方はそちらをご確認ください。