有害性を評価する

想定する安全境界を敵対的な入力でも確認できる。

想定する安全境界を敵対的な入力でも確認できる。

問題の要件では、禁止トピック、侮辱、差別、危険行為などのテスト入力を用意するが解決する範囲と、別の工程が担う範囲を分けて判断する。

拒否が多ければ安全とは限らず、有用性と漏えいを併せて見る必要がある。

拒否が多ければ安全とは限らず、有用性と漏えいを併せて見る必要がある。

問題の要件では、拒否率だけでなく、安全な代替案・誤拒否・漏えいも確認するが解決する範囲と、別の工程が担う範囲を分けて判断する。