L1正則化

L1 正則化とは、重みの絶対値の合計に応じた罰則を誤差関数へ加える方法です。

この罰則には不要な重みをちょうどゼロに追い込む性質があり、結果として「使う特徴量を自動で選ぶ」働きをします。

特徴量が多く、そのうち一部だけが効いているような場面で有効です。これを回帰に使ったものがラッソ回帰です。