GPT-3

GPT-3 とは、パラメータ数を大幅に拡大して高い汎用性を示した、代表的な大規模言語モデルです。

特筆すべきは、タスクごとの再学習をしなくても、指示やいくつかの例を与えるだけで翻訳や要約、プログラム生成までこなせた点です。この性質は in-Context Learning と呼ばれます。

規模がある水準を超えると新しい能力が現れることを示し、現在の生成 AI の流れを決定づけました。