入出力ガードレールを使う

危険な要求をモデル処理前に拒否・隔離できる。

危険な要求をモデル処理前に拒否・隔離できる。

問題の要件では、禁止カテゴリ、個人情報、プロンプトインジェクションの兆候を入力で検査するが解決する範囲と、別の工程が担う範囲を分けて判断する。

入力検査を通過した場合でも、出力側の防御が必要である。

入力検査を通過した場合でも、出力側の防御が必要である。

問題の要件では、生成出力の有害内容、秘密、ポリシー違反を検査するが解決する範囲と、別の工程が担う範囲を分けて判断する。