大域最適解

大域最適解とは、考えられるすべての重みの組み合わせの中で、誤差が最も小さくなる本当の最適点のことです。

山や谷が連なる地形にたとえると、いちばん深い谷底にあたります。学習が目指す理想のゴールですが、そこへたどり着いたかどうかを確かめる方法はありません。

実際のディープラーニングでは大域最適解に届かなくても、十分に誤差の小さい局所最適解であれば実用上は問題なく機能することが知られています。