敵対的な攻撃（Adversarial attacks）

敵対的な攻撃とは、入力データに人間には気づけないほど小さな細工を加えて、AI に誤った判断をさせる攻撃です。

画像にわずかなノイズを重ねるだけで、まったく別の動物と判定させられることが知られています。標識にシールを貼って自動運転車に誤認させる例も報告されています。

人の目には正常に見えるため気づきにくく、安全に関わる用途では特に警戒が必要な脅威です。