データセットの偏りによる注意

データセットの偏りによる注意とは、偏ったデータで学習した AI が不公平な判断をしてしまう危険への注意喚起です。

過去の採用実績を学習させたところ、特定の性別を不利に扱うようになった事例が知られています。過去の偏りをそのまま学び、再生産してしまうためです。

技術的な精度が高くても社会的に許容されない結果になり得るため、データの構成を意識して点検する必要があります。