生成AIの安全制御を運用する

プロンプトだけでは、悪意ある入力や予期しない出力を完全には防げない。

プロンプトだけでは、悪意ある入力や予期しない出力を完全には防げない。

問題の要件では、モデルへ安全だと一度指示して終えるが解決する範囲と、別の工程が担う範囲を分けて判断する。

ログ自体の機密性、最小化、保持期間を設計する必要がある。

ログ自体の機密性、最小化、保持期間を設計する必要がある。

問題の要件では、検出した個人情報を無条件にログへ保存するが解決する範囲と、別の工程が担う範囲を分けて判断する。

制御が機能しているかを確認できず、改善できない。

制御が機能しているかを確認できず、改善できない。

問題の要件では、安全性の指標を測定しないが解決する範囲と、別の工程が担う範囲を分けて判断する。