LIME

LIME とは、機械学習モデルの「個別の予測」について、その理由を局所的に近似して説明する手法です。

「このサンプルだけ」に注目し、その近辺で予測の振る舞いを単純なモデル（線形モデルなど）で近似することで、どの特徴が判断に効いたかを示します。

ブラックボックスなモデルでも個別判断の理由を可視化できるため、XAI の代表的な手法として広く使われています。