データ窃取

データ窃取とは、学習に使ったデータなどを不正に盗み出すことです。

保管されているデータを直接盗む場合のほか、モデルへの問い合わせを繰り返して学習データの内容を推測するという手口もあります。個人情報が含まれていれば深刻な漏えいになります。

モデルが学習データを覚え込みすぎないようにする、応答から情報が漏れないよう制限するといった対策が求められます。