汎用テキストで学習済みのモデルを、医療文書の分類へ適応する。
用語の意味を正しく整理する。
事前学習と微調整の説明として正しいものはどれか。
事前学習は汎用能力を獲得する工程、微調整は特定タスクやドメインへ追加学習して適応する工程である。
詳細解説
大規模な事前学習で一般的な表現を学び、目的データでパラメータを適応させるのが微調整である。
大規模な事前学習で一般的な表現を学び、目的データでパラメータを適応させるのが微調整である。
問題の要件では、事前学習は広いデータで汎用能力を獲得し、微調整は特定タスクへ追加学習するが解決する範囲と、別の工程が担う範囲を分けて判断する。
プロンプト変更はプロンプトエンジニアリングであり、微調整は追加データで学習する方法である。
プロンプト変更はプロンプトエンジニアリングであり、微調整は追加データで学習する方法である。
問題の要件では、微調整は入力プロンプトを書き換えるだけで、モデルの学習は行わないが解決する範囲と、別の工程が担う範囲を分けて判断する。
事前学習は通常、事前に収集した大規模データでモデルを学習する工程である。
事前学習は通常、事前に収集した大規模データでモデルを学習する工程である。
問題の要件では、事前学習は本番データを毎回直接更新する処理であるが解決する範囲と、別の工程が担う範囲を分けて判断する。
追加学習後も性能、偏り、安全性、回帰を評価する必要がある。
追加学習後も性能、偏り、安全性、回帰を評価する必要がある。
問題の要件では、微調整を行えば評価や安全性の確認は不要になるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01ガイドのDomain 2.2で基盤モデルの学習・適応用語を確認する。期待される結果
事前学習、微調整、プロンプト変更の違いを説明できる。理解のポイント
- 汎用能力
- 追加学習
- 評価継続
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
事前学習
広く大量のデータから、言語や画像などの一般的なパターンを学ぶ工程。
微調整
特定タスク・ドメインのデータでモデルを追加学習し、振る舞いを適応させる方法。