2.2標準
社内規程について回答するチャットボットを作る。
根拠のない断定を利用者へ返さない。
対策として適切なものを2つ選べ。
× 不正解
ハルシネーション対策は、信頼できる検索根拠・出典・出力検証と、根拠不足時の拒否や人手確認を組み合わせる。
詳細解説
正しい信頼できる文書を検索して出典とともに回答させる
回答の根拠を外部データへ接地し、検証可能性を高める。
回答の根拠を外部データへ接地し、検証可能性を高める。
問題の要件では、信頼できる文書を検索して出典とともに回答させるが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい根拠が見つからない場合は不明と示し、人へ確認する経路を用意する
無理な断定を避け、安全にフォールバックできる。
無理な断定を避け、安全にフォールバックできる。
問題の要件では、根拠が見つからない場合は不明と示し、人へ確認する経路を用意するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り流暢な文章なら事実とみなす
もっともらしさは正確性を保証しない。
もっともらしさは正確性を保証しない。
問題の要件では、流暢な文章なら事実とみなすが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りモデルに推測を事実として書かせる
不確実性を隠すと過信や誤用につながる。
不確実性を隠すと過信や誤用につながる。
問題の要件では、モデルに推測を事実として書かせるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock Knowledge Bases・Guardrails公式資料とAIF-C01 Domain 2.2を確認する。期待される結果
流暢さと事実性を区別し、接地と安全なフォールバックを説明できる。理解のポイント
- 接地
- 出典
- 不明時の対応
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ハルシネーション
モデルがもっともらしいが事実でない内容を生成する現象。
グラウンディング
出力を信頼できる外部データや取得文書へ根拠づけること。
問題IDAWS-AIF-116
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告