公開チャットボットに、規程外の有害な依頼や機密情報を含む入力が届く。
モデルの入力と出力にフィルタを設け、許可された範囲へ制御する。
Amazon Bedrockでこの要件に対応する機能はどれか。
Amazon Bedrock Guardrailsは、生成AIアプリケーションの入力と出力に対して、コンテンツフィルタ、拒否トピック、機密情報保護などの制御を提供する。
詳細解説
有害コンテンツ、拒否トピック、機密情報などに対する入力・出力の制御を構成できる。
有害コンテンツ、拒否トピック、機密情報などに対する入力・出力の制御を構成できる。
問題の条件では、Amazon Bedrock Guardrailsが担う対象と、ほかの選択肢が担う対象を分けて考える。
Route 53はDNSサービスで、生成AIの入力・出力安全制御を提供しない。
Route 53はDNSサービスで、生成AIの入力・出力安全制御を提供しない。
問題の条件では、Amazon Route 53が担う対象と、ほかの選択肢が担う対象を分けて考える。
保存期間はデータ保持の設定であり、モデルの入出力をリアルタイムに制御しない。
保存期間はデータ保持の設定であり、モデルの入出力をリアルタイムに制御しない。
問題の条件では、Amazon S3 Glacierの保存期間が担う対象と、ほかの選択肢が担う対象を分けて考える。
可視化は監視に役立つが、モデルの入出力を拒否・変換する機能ではない。
可視化は監視に役立つが、モデルの入出力を拒否・変換する機能ではない。
問題の条件では、CloudWatchのダッシュボードだけが担う対象と、ほかの選択肢が担う対象を分けて考える。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock Guardrailsの公式ドキュメントで、入力・出力評価とポリシー設定を確認する。期待される結果
監視と、モデル入出力を実際に制御する機能を区別できる。理解のポイント
- Guardrails
- 入力・出力制御
- 機密情報保護
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントの対象サービス・機能の説明と、AIF-C01の対応Taskを確認する。
- サービスの提供範囲と、利用者が設計・設定する範囲を混同しない。
基礎のおさらい
入力と出力の境界
入力側では悪意ある指示や機密情報、出力側では有害・不適切な内容を検査する。
多層防御
Guardrailsだけに依存せず、IAM、アプリケーション検証、ログ、レビューを組み合わせる。