誤差関数

誤差関数とは、モデルの予測が正解からどれだけずれているかを 1 つの数値で表す関数のことです。損失関数とも呼ばれます。

学習とは、この値ができるだけ小さくなるように重みを調整していく作業にほかなりません。何を「ずれ」とみなすかがここで決まります。

回帰なら平均二乗誤差、分類なら交差エントロピーというように、解きたい問題に合わせて選ぶことが大切です。