4.3標準
公開前にインジェクションと有害出力を探す。
攻撃と修正を再現可能にする。
手順として適切なものを2つ選べ。
× 不正解
レッドチーム試験は範囲・成功条件・禁止事項を定め、多言語・多ターン・境界例を使い、版・攻撃・出力・緩和・残余リスクを記録して再試験する。
詳細解説
正しい目的・範囲・禁止事項・成功条件を定め、多言語・多ターン・境界例を用意する
試験の網羅性を管理できる。
試験の網羅性を管理できる。
問題の要件では、目的・範囲・禁止事項・成功条件を定め、多言語・多ターン・境界例を用意するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい入力、モデル版、出力、検出、緩和策、残余リスクを記録し再試験する
修正の効果を追跡できる。
修正の効果を追跡できる。
問題の要件では、入力、モデル版、出力、検出、緩和策、残余リスクを記録し再試験するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り発見した攻撃を共有せず、成功例だけを報告する
リスクと再現性が失われる。
リスクと再現性が失われる。
問題の要件では、発見した攻撃を共有せず、成功例だけを報告するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り本番利用者へ無断で危険なテストを行う
影響と権限管理に問題がある。
影響と権限管理に問題がある。
問題の要件では、本番利用者へ無断で危険なテストを行うが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 4.3のAI安全試験、レッドチーム、残余リスクを確認する。期待される結果
攻撃例を再現可能な試験ケースへし、緩和策の効果と残余リスクを報告できる。理解のポイント
- レッドチーム
- 残余リスク
- 再試験
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
レッドチーム
攻撃者の視点で安全性や耐性を検証する試験。
残余リスク
対策後も残る、受け入れ・移転・低減が必要なリスク。
問題IDAWS-AIF-466
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告