透明性

透明性とは、生成 AI がどう作られ、なぜその出力に至ったのかが分かりにくいという問題のことです。

何を学習データに使ったか、どんな調整をしたかを公開していないモデルも多く、外から検証できません。出力の理由も内部の重みからは読み取れません。

利用する側は中身を確かめられないまま結果を受け取ることになります。説明が求められる用途では制約となります。