3.4標準
公開チャットボットに禁止トピックと個人情報が入力される可能性がある。
入力と出力の両方を業務方針に照らして制御したい。
運用設計として最も適切なものはどれか。
× 不正解
生成AIの運用では、入力・出力のガードレール、監視、ログの最小化、異常時の人手対応を組み合わせる。
詳細解説
誤りモデルへ安全だと一度指示して終える
プロンプトだけでは、悪意ある入力や予期しない出力を完全には防げない。
正しい入力・出力の検査、拒否ルール、監視、例外時の人手対応を組み合わせる
安全制御は単一のプロンプトではなく、検査、ポリシー、ログ、エスカレーションを重ねる。
誤り検出した個人情報を無条件にログへ保存する
ログ自体の機密性、最小化、保持期間を設計する必要がある。
誤り安全性の指標を測定しない
制御が機能しているかを確認できず、改善できない。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
Amazon Bedrock Guardrails公式ドキュメントとAWS Well-Architectedの安全性設計を確認する。
参考にした公式資料
確認できる内容
安全制御をポリシー・検査・監視・人手対応の多層構成で説明できる。
理解のポイント
- 入力・出力制御
- 監視
- エスカレーション
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ガードレール
モデルの入出力を組織の安全・内容ポリシーに照らして検査・制御する仕組み。
エスカレーション
自動処理を停止し、人や専門担当へ判断を引き継ぐこと。
問題IDAWS-AIF-049
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告