説明可能性

説明可能性とは、AI がなぜその判断に至ったのかを、人が理解できる形で示せる性質のことです。

どの特徴が結論を左右したのか、画像のどこに注目したのかを提示できれば、利用者は結果を吟味できます。誤りの原因を突き止める手がかりにもなります。

一般に精度の高いモデルほど説明が難しくなる傾向があり、両立をどう図るかが実務上の課題になります。