プラトー

プラトーとは、誤差の地形が平らに近く、勾配がほとんどゼロになって学習が進まなくなってしまう領域のことです。高原を意味する言葉が由来です。

学習の途中で誤差のグラフが横ばいのまま何エポックも動かなくなる状態がこれにあたります。抜け出せれば再び誤差が下がり始めます。

鞍点と並んで学習が停滞する原因になるため、学習率を調整したりモーメンタムを効かせたりして脱出をはかります。