重み

重みとは、ニューラルネットワークで各入力をどれくらい重視するかを表す数値のことです。

たとえば中古車の価格を予測するとき、走行距離を重視するなら大きな重みを、色をあまり見ないなら小さな重みを割り当てます。この値を少しずつ調整していくことが「学習」そのものです。

大規模なモデルでは重みの数が数十億にもなります。人が決めるハイパーパラメータとは違い、データから自動的に決まる点が大きな違いです。