ホーム / ディープラーニングの要素技術 / Attention / Seq2Seq

265

Seq2Seq

ディープラーニングの要素技術Attention

Seq2Seq とは、系列を入力として受け取り、別の系列を出力するタイプのモデルの総称です。

機械翻訳、文章要約、対話応答などが代表例で、入力と出力の長さがそろっていなくてもよいのが特徴です。エンコーダとデコーダを組み合わせて実現します。

当初は RNN で作られていましたが、Attention の導入を経て、現在は Transformer がこの役割を担っています。