人間の関与

人間の関与とは、影響の大きい判断について、AI に任せきりにせず人が関わるようにすることです。

採用、融資、医療のように人の権利や生命に関わる場面では、AI の出力を参考情報として扱い、最終的な判断は人が下す形が求められます。

ただし形式的に人を置くだけでは不十分で、AI の判断を覆せる権限と、覆すために必要な情報が与えられていることが重要になります。