Source-Target Attention

Source-Target Attention とは、入力側（Source）と出力側（Target）という異なる系列のあいだで注目を計算する Attention です。

翻訳では、出力しようとしている語をクエリに、入力側の各単語をキーとバリューにして、どの単語を見るべきかを決めます。

同じ系列の中で計算する Self-Attention と対になる考え方です。