社内規程に関する質問へ、根拠のない条項番号を回答することがある。
回答には参照元と不確実性を示したい。
最初の対策として最も適切なものはどれか。
根拠が必要な回答では、信頼できるデータの検索、出典表示、検証・人手確認を組み合わせてハルシネーションの影響を抑える。
詳細解説
検索拡張と出典表示で、モデルが参照する情報を限定し、利用者が回答を検証できるようにする。
検索拡張と出典表示で、モデルが参照する情報を限定し、利用者が回答を検証できるようにする。
問題の要件では、信頼できる文書を検索して回答のコンテキストに渡し、根拠と不確実性を表示するが解決する範囲と、別の工程が担う範囲を分けて判断する。
ランダム性を高める設定は、事実性が必要な質問の対策にならない。
ランダム性を高める設定は、事実性が必要な質問の対策にならない。
問題の要件では、温度を最大にして創造性を高めるが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤った生成結果をそのまま業務データへ反映すると影響が拡大する。
誤った生成結果をそのまま業務データへ反映すると影響が拡大する。
問題の要件では、モデルの回答を検証せず自動的に規程へ反映するが解決する範囲と、別の工程が担う範囲を分けて判断する。
入力を短くしても、モデルの知識不足や根拠のない生成を完全には防げない。
入力を短くしても、モデルの知識不足や根拠のない生成を完全には防げない。
問題の要件では、質問を短くすれば常に正しい条項番号が生成されるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock Knowledge Bases公式ドキュメントとResponsible AIの説明を確認する。期待される結果
検索拡張、出典、検証をハルシネーション対策として説明できる。理解のポイント
- ハルシネーション
- 検索拡張
- 出典と検証
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ハルシネーション
モデルがもっともらしいが事実でない内容を生成する現象。
根拠付き生成
検索などで取得した資料をコンテキストに渡し、回答の根拠や出典を提示する方式。