単語埋め込み

単語埋め込みとは、単語を低次元の密なベクトル空間へ対応づける処理のことです。ワードエンベディングとも呼ばれます。

語彙の数だけ次元が必要だったワンホットベクトルを、数百次元の空間に埋め込み直すイメージです。次元が減るうえ、意味の情報も持たせられます。

分散表現を得るための操作を指す言葉で、word2vec や fastText といった手法で実現されます。