社内規程を参照するチャットボットを作る。
モデルの事前学習だけに依存せず、最新の社内文書に基づく回答を生成したい。
RAGを利用する主な目的はどれか。
RAGは関連文書を検索し、その内容をモデルのコンテキストへ追加して、最新情報や社内情報に基づく回答を支援する。
詳細解説
RAGは外部知識を検索してプロンプトへ追加し、回答を参照情報でグラウンディングする。
RAGは外部知識を検索してプロンプトへ追加し、回答を参照情報でグラウンディングする。
問題の条件では、関連文書を検索してコンテキストとしてモデルへ渡し、回答を根拠に近づけるが担う対象と、ほかの選択肢が担う対象を分けて考える。
RAGは毎回の再訓練ではなく、検索結果を入力コンテキストへ追加する方式である。
RAGは毎回の再訓練ではなく、検索結果を入力コンテキストへ追加する方式である。
問題の条件では、モデルのすべての重みを毎回ゼロから再学習するが担う対象と、ほかの選択肢が担う対象を分けて考える。
機密情報の無制限表示はRAGの目的ではなく、アクセス制御が必要である。
機密情報の無制限表示はRAGの目的ではなく、アクセス制御が必要である。
問題の条件では、暗号鍵を検索結果として利用者へ表示するが担う対象と、ほかの選択肢が担う対象を分けて考える。
RAGは検索結果を生成モデルの回答コンテキストとして利用する。
RAGは検索結果を生成モデルの回答コンテキストとして利用する。
問題の条件では、回答の生成を行わず、単なるファイル一覧だけを返すが担う対象と、ほかの選択肢が担う対象を分けて考える。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock Knowledge Basesの公式ドキュメントで、検索・取得・生成の流れを確認する。期待される結果
RAGが再学習ではなく、検索した情報による回答のグラウンディングを行うことを説明できる。理解のポイント
- 検索
- コンテキスト
- グラウンディング
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントの対象サービス・機能の説明と、AIF-C01の対応Taskを確認する。
- サービスの提供範囲と、利用者が設計・設定する範囲を混同しない。
基礎のおさらい
検索拡張生成
質問に関連する文書を取得し、生成モデルが参照できるコンテキストとして渡す。
限界
検索品質、権限、文書の鮮度、コンテキスト長により回答品質が変わる。