2.2標準
社内規程に関する質問へ、根拠のない条項番号を回答することがある。
回答には参照元と不確実性を示したい。
最初の対策として最も適切なものはどれか。
× 不正解
根拠が必要な回答では、信頼できるデータの検索、出典表示、検証・人手確認を組み合わせてハルシネーションの影響を抑える。
詳細解説
誤り温度を最大にして創造性を高める
ランダム性を高める設定は、事実性が必要な質問の対策にならない。
誤り質問を短くすれば常に正しい条項番号が生成される
入力を短くしても、モデルの知識不足や根拠のない生成を完全には防げない。
誤りモデルの回答を検証せず自動的に規程へ反映する
誤った生成結果をそのまま業務データへ反映すると影響が拡大する。
正しい信頼できる文書を検索して回答のコンテキストに渡し、根拠と不確実性を表示する
検索拡張と出典表示で、モデルが参照する情報を限定し、利用者が回答を検証できるようにする。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
Amazon Bedrock Knowledge Bases公式ドキュメントとResponsible AIの説明を確認する。
参考にした公式資料
確認できる内容
検索拡張、出典、検証をハルシネーション対策として説明できる。
理解のポイント
- ハルシネーション
- 検索拡張
- 出典と検証
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ハルシネーション
モデルがもっともらしいが事実でない内容を生成する現象。
根拠付き生成
検索などで取得した資料をコンテキストに渡し、回答の根拠や出典を提示する方式。
問題IDAWS-AIF-032
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告