ホーム / ディープラーニングの概要 / 最適化手法 / ミニバッチ学習
179
ミニバッチ学習
ディープラーニングの概要最適化手法
ミニバッチ学習とは、訓練データを数十〜数百件の小さなかたまり(ミニバッチ)に分け、そのかたまりごとに重みを更新していく方式です。
たとえば 1 万件のデータをバッチサイズ 100 で学習すると、1 エポックあたり 100 回の更新が行われます。バッチ学習の安定性とオンライン学習の速さのいいとこ取りになります。
メモリに収まりやすく GPU の並列計算とも相性がよいため、現在のディープラーニングではこの方式が標準的に使われています。