サンプリング手法

サンプリング手法とは、次の単語を確率分布からどう選ぶかを決める方法のことです。

最も確率の高い語を常に選ぶと無難ですが単調になり、確率に応じて幅広く選ぶと多様になる代わりに破綻しやすくなります。上位いくつかに絞る、確率の合計が一定になるまでの範囲から選ぶといった方法があります。

出力の多様さを調整する設定は温度と呼ばれ、用途に応じて使い分けます。