公平性

公平性とは、生成 AI の出力に差別や不当な偏りが生じないかという問題のことです。

学習データに含まれる社会的な偏りをモデルが学び、特定の職業を特定の性別と結びつけるといった形で表れます。作り手に悪意がなくても起こります。

出力を検査して偏りを測る、調整の工程で是正する、多様な視点で点検するといった対策が必要になります。