ホーム / ディープラーニングの応用例 / 画像認識 / Skip Connection
301
Skip Connection
ディープラーニングの応用例画像認識
Skip Connection とは、ある層の出力をいくつか先の層へ直接足し込む接続のことです。日本語のスキップ結合とまったく同じものを指します。
信号が近道を通れるようになるため、逆伝播のときも勾配が奥まで届き、深いネットワークでも学習が進みます。
ResNet で有名になった仕組みで、現在は CNN だけでなく Transformer にも標準的に組み込まれています。