5.1標準
公開チャットボットの安全性を本番前に確認する。
通常のテストだけでは見つからない失敗を探す。
最も適切な評価方法はどれか。
× 不正解
レッドチーム試験は攻撃者の視点でインジェクション、抽出、危険要求、回避入力を試し、安全制御の弱点を明らかにする。
詳細解説
誤りモデルの公開ベンチマーク点だけで安全性を判断する
用途固有の攻撃面を測っていない。
誤り危険な入力をテストしないことを安全対策とする
未検証の弱点が残る。
誤り正常な質問だけを大量に実行する
敵対的な失敗を十分に検出できない。
正しいプロンプトインジェクション、情報抽出、危険な要求、回避入力を含む独立したレッドチーム試験を実施する
攻撃者の視点で安全制御の弱点を見つけられる。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
AWS公式AIF-C01 Domain 4の安全性評価、レッドチーム、ガードレールを確認する。
参考にした公式資料
確認できる内容
正常系の精度だけでなく、敵対的入力に対する安全性を評価できる。
理解のポイント
- レッドチーム
- 敵対的入力
- 安全性評価
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
レッドチーム試験
攻撃者の視点でシステムの弱点を探す評価。
回避入力
安全制御や拒否をすり抜けるよう工夫された入力。
問題IDAWS-AIF-543
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告