ホーム / ディープラーニングの応用例 / 自然言語処理 / 自然言語処理における Pre-trained Models

350

自然言語処理における Pre-trained Models

ディープラーニングの応用例自然言語処理

自然言語処理における Pre-trained Models とは、大量のテキストであらかじめ学習させた言語モデルを土台として活用する考え方です。

まず膨大な文章で言葉の一般的な使われ方を学ばせ、そのうえで翻訳や分類といった目的のタスクに合わせて少量のデータで調整します。

目的ごとにゼロから学習する必要がなくなり、少ないデータでも高い精度が出せるようになりました。現在の標準的な進め方です。