ワンホットベクトル

ワンホットベクトルとは、その単語に対応する 1 か所だけが 1 で、残りがすべて 0 になっているベクトルのことです。

語彙が 5 万語あればベクトルの長さも 5 万になり、そのうち 1 つだけが 1 になります。局所表現の代表的な形式です。

どの単語どうしも同じ距離になってしまい意味の近さを表せないうえ、次元が非常に大きくなるという弱点があります。