Instruction Tuning

Instruction Tuning とは、指示に従う能力を高めるために行う調整のことです。

事前学習だけのモデルは文章の続きを書くのは得意でも、「要約して」といった依頼に応えるのは不得手です。多様な指示と模範的な応答の組を学ばせることで、依頼どおりに動けるようになります。

文章を続けるだけの存在から、頼み事をこなす助手へと性格を変える工程だといえます。