システム指示とユーザー入力を分離する

ユーザー入力がシステム方針を上書きする可能性を下げられる。

ユーザー入力がシステム方針を上書きする可能性を下げられる。

問題の要件では、信頼された指示と未信頼入力を別の役割・境界として扱うが解決する範囲と、別の工程が担う範囲を分けて判断する。

信頼境界の外にある出力をサーバー側の制御で検証する。

信頼境界の外にある出力をサーバー側の制御で検証する。

問題の要件では、認可や危険操作の判定をモデルの文章だけに委ねないが解決する範囲と、別の工程が担う範囲を分けて判断する。