ハイパーパラメータ

ハイパーパラメータとは、学習を始める前に人間が決めておく設定値のことです。データから自動で決まる「重み」とは区別されます。

学習率、バッチサイズ、エポック数、層の数やノード数などが代表例です。料理でいえば火加減や加熱時間にあたる部分です。

値の選び方で性能が大きく変わるため、グリッドサーチやランダムサーチを使って良い組み合わせを探す作業が欠かせません。