2.3基礎
モデルへ危険な手順を求める入力が来る。
単に無言で失敗させず代替案を示す。
応答として適切なものを2つ選べ。
× 不正解
安全な拒否は境界を説明しつつ危険な詳細を出さず、安全な代替や相談先を示す。拒否と誤拒否を多様なケースで評価する。
詳細解説
正しい禁止理由を簡潔に示し、安全な一般情報や専門窓口へ案内する
利用者へ境界と代替の助けを提供できる。
利用者へ境界と代替の助けを提供できる。
問題の要件では、禁止理由を簡潔に示し、安全な一般情報や専門窓口へ案内するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい危険度、利用者文脈、言語、言い換えに対する拒否と誤拒否を評価する
安全性と有用性を両立できる。
安全性と有用性を両立できる。
問題の要件では、危険度、利用者文脈、言語、言い換えに対する拒否と誤拒否を評価するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り拒否理由として秘密の安全ルールを全て開示する
攻撃に利用される可能性がある。
攻撃に利用される可能性がある。
問題の要件では、拒否理由として秘密の安全ルールを全て開示するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り危険な要求の一部を具体的な手順として返す
拒否の意味が失われる。
拒否の意味が失われる。
問題の要件では、危険な要求の一部を具体的な手順として返すが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 2.3の安全な応答、ガードレール、プロンプト設計を確認する。期待される結果
危険な要求を拒否しながら利用者を安全な代替へ導ける。理解のポイント
- 拒否
- 代替案
- 誤拒否
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
安全な拒否
危険な依頼を実行せず、簡潔な説明や安全な代替を返す応答。
誤拒否
安全に回答できる要求まで拒否してしまうこと。
問題IDAWS-AIF-377
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告