アルゴリズムバイアス

アルゴリズムバイアスとは、アルゴリズムが生み出してしまう不公平な偏りのことです。

過去の採用実績を学習した AI が特定の性別を不利に扱った例が知られています。学習データに含まれる過去の偏りを、AI がそのまま学んで再生産してしまうためです。

アルゴリズム自体に悪意はなくても結果として差別が生じます。データの構成と出力の両面から点検する必要があります。