ハルシネーション（Hallucination）

ハルシネーションとは、事実でない内容をもっともらしく生成してしまう現象のことです。生成 AI を業務で使ううえで最大の障害になります。

実在しない判例を引用して提出してしまった、といった実際の事故が報告されています。断定的な書きぶりで出てくるため、知識のない分野ほど見抜けません。

完全には防げないという前提に立ち、根拠を示させる、外部の情報を参照させる、人が確認するという多重の備えが要ります。