悪用へのセキュリティ対策

悪用へのセキュリティ対策とは、AI が悪意を持って使われることを防ぐための対策のことです。

危険な用途の依頼には応じないよう応答を制限する、生成物であることが分かる印を付ける、不審な使われ方を監視する、といった手段が採られます。

技術だけでは防ぎきれないため、利用規約による禁止や、悪用が判明した際に利用を停止する運用と組み合わせて備えます。