モデル圧縮

モデル圧縮とは、精度をできるだけ保ちながら、モデルのサイズや計算量を減らす技術の総称です。

プルーニングで不要な結合を削る、量子化で数値の精度を落とす、蒸留で小さなモデルに知識を移す、といった手法が含まれます。

端末上での動作や応答速度の改善、電力消費の削減につながるため、実用化の段階で欠かせない工程になります。