シグモイド関数

シグモイド関数とは、どんな入力も 0 から 1 のあいだになめらかに押し込める活性化関数です。

出力を確率のように読めるため、二値分類の出力層でよく使われます。なめらかな S 字を描くカーブが特徴です。

一方で入力が大きくても小さくても傾きがほぼゼロになるため、層を重ねると勾配消失問題を起こしやすく、中間層では ReLU 関数に置き換えられていきました。