プルーニング

プルーニングとは、重要度の低い結合や重みを取り除いてモデルを軽くする手法です。剪定という意味の言葉が由来です。

学習済みモデルには、値がほぼ 0 で結果にほとんど影響しない重みが多く含まれています。これらを削っても精度はさほど落ちません。

削ったあとに再学習させて精度を戻すのが一般的で、大幅にパラメータを減らせる場合もあります。