スキップグラム

スキップグラムとは、真ん中の単語から周りの単語を当てるように学習する、word2vec の方式です。CBOW とはちょうど逆向きの学習になります。

「雨」という語から「今日は」「が降る」といった周辺語を予測させます。1 語から複数を当てるため学習の負荷は大きくなります。

出現回数の少ない単語でも良い表現が得られやすく、精度を重視する場面で選ばれます。