説明可能 AI（XAI）

説明可能 AI（XAI）とは、AI がなぜその結論に至ったのかを、人が理解できる形で示せるようにする取り組みのことです。

ディープラーニングは精度が高い反面、判断の理由が分からないブラックボックスになりがちです。医療や融資審査のように説明責任が求められる場面では、理由を示せないと使えません。

Grad-CAM や SHAP といった手法があり、AI を安心して使うための重要な研究分野となっています。