予期しない振る舞いへの対処

予期しない振る舞いへの対処とは、AI が想定していなかった挙動を示した場合に備え、対応できるようにしておくことです。

学習していない状況に出会ったとき、AI は自信を持って誤った答えを返すことがあります。あらかじめ検知の仕組みを置き、人が引き取れる経路を用意しておきます。

止める手段を確保しておくこと、そして誰が判断するのかを決めておくことが、運用設計の要点になります。