社内規程は頻繁に更新される。
モデルに最新文書を参照させたいが、毎回モデルを再訓練したくない。
要件に最も適した方法はどれか。
頻繁に更新される知識を回答へ反映するには、検索時に最新文書を取得するRAGが適している。微調整は振る舞いや形式の適応など別の目的で使う。
詳細解説
頻繁に更新される知識は、検索時に最新文書を取得するRAGが適している。
頻繁に更新される知識は、検索時に最新文書を取得するRAGが適している。
問題の条件では、文書を検索可能にしてRAGで参照させるが担う対象と、ほかの選択肢が担う対象を分けて考える。
コストと時間が大きく、日常的な文書更新への方法として適切ではない。
コストと時間が大きく、日常的な文書更新への方法として適切ではない。
問題の条件では、更新のたびにモデル全体をゼロから事前学習するが担う対象と、ほかの選択肢が担う対象を分けて考える。
入力の長さ、機密情報、矛盾した文書を考慮せず、安定した参照方法にならない。
入力の長さ、機密情報、矛盾した文書を考慮せず、安定した参照方法にならない。
問題の条件では、規程をモデルの出力へ直接連結し、検証しないが担う対象と、ほかの選択肢が担う対象を分けて考える。
微調整したモデルへ文書更新が自動反映されるわけではなく、再学習が必要になる。
微調整したモデルへ文書更新が自動反映されるわけではなく、再学習が必要になる。
問題の条件では、微調整だけで最新文書を常に自動反映するが担う対象と、ほかの選択肢が担う対象を分けて考える。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock Knowledge BasesとCustom model fine-tuningの公式説明を比較する。期待される結果
知識の鮮度にはRAG、モデルの振る舞いや形式の適応には微調整を検討することを説明できる。理解のポイント
- 知識の鮮度
- RAG
- 微調整
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントの対象サービス・機能の説明と、AIF-C01の対応Taskを確認する。
- サービスの提供範囲と、利用者が設計・設定する範囲を混同しない。
基礎のおさらい
RAG
外部知識を検索して回答時のコンテキストへ加えるため、文書更新をインデックスへ反映しやすい。
微調整
特定タスクの形式や振る舞いをデータで適応させる方法だが、データ準備・訓練・評価・再デプロイが必要になる。