破壊的忘却

破壊的忘却とは、モデルが新しいタスクを学習すると、以前に覚えていた内容を急激に失ってしまう現象のことです。

犬猫の分類を学んだモデルに車種の分類を追加学習させると、重みが上書きされて犬猫の判別ができなくなる、といった形で現れます。

人間のように学び続ける AI を作るうえでの障害で、過去のデータを混ぜて学習させるなどの対策が研究されています。