アライメント（Alignment）

アライメントとは、AI の振る舞いを人間の意図や価値観に沿わせることです。

能力が高くても、危険な助言をしたり指示を曲解したりすれば役に立ちません。有用であること、正直であること、無害であることを満たすよう調整していきます。

Instruction Tuning や RLHF はその具体的な手段にあたります。モデルが強力になるほど重要性が増す課題とされています。