イテレーション

イテレーションとは、重みを 1 回更新する処理を数える単位のことです。ミニバッチを 1 つ使って学習を 1 回進めると 1 イテレーションとなります。

たとえば訓練データが 1000 件でミニバッチのサイズが 100 なら、全データを 1 周するのに 10 イテレーションかかる計算になります。

エポックがデータ全体を何周したかを表すのに対し、イテレーションは更新の回数そのものを表します。混同しやすいので対にして覚えておきましょう。