悪用

悪用とは、生成 AI が悪意を持って使われる危険のことです。

本人そっくりの声や映像で家族を装う詐欺、精巧な偽の文面による攻撃、偽情報の大量生成などが挙げられます。専門知識がなくても実行できてしまう点が問題を深くしています。

提供側が危険な依頼を拒む仕組みを備えるとともに、利用する側も手口を知って備えることが求められます。