4.2標準
生成AIが商品の審査理由を説明する。
説明がもっともらしいだけで、実際の因果や根拠だと誤認させない。
対応として適切なものを2つ選べ。
× 不正解
生成された説明は、実際の入力・根拠・ルールと分けて表示し、説明の正確さと限界を評価する。
詳細解説
正しい説明文と、実際に使われた入力・根拠・ルールを区別して表示する
生成された説明を確定した因果と誤認しにくい。
生成された説明を確定した因果と誤認しにくい。
問題の要件では、説明文と、実際に使われた入力・根拠・ルールを区別して表示するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい説明の正確さを人手や評価セットで確認し、不確実な場合は限界を示す
説明自体の品質と利用者の期待を管理できる。
説明自体の品質と利用者の期待を管理できる。
問題の要件では、説明の正確さを人手や評価セットで確認し、不確実な場合は限界を示すが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り流暢な説明は内部処理を正確に表すとみなす
生成文は事後的なもっともらしい説明かもしれない。
生成文は事後的なもっともらしい説明かもしれない。
問題の要件では、流暢な説明は内部処理を正確に表すとみなすが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り説明を表示すれば根拠や訂正手段は不要である
説明の検証可能性と救済が失われる。
説明の検証可能性と救済が失われる。
問題の要件では、説明を表示すれば根拠や訂正手段は不要であるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 4.2の説明可能性、透明性、モデル出力の限界を確認する。期待される結果
流暢な説明と検証可能な根拠を区別して利用者へ伝えられる。理解のポイント
- 説明可能性
- 根拠
- 限界
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
説明可能性
AIの出力や判断に関わる要因を、人が理解・検証できる形で示す性質。
事後説明
出力の後から理由らしい説明を生成する方法。実際の内部因果と一致する保証はない。
問題IDAWS-AIF-219
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告