敵対的な入力を評価する

敵対的な失敗を十分に検出できない。

敵対的な失敗を十分に検出できない。

問題の要件では、正常な質問だけを大量に実行するが解決する範囲と、別の工程が担う範囲を分けて判断する。

用途固有の攻撃面を測っていない。

用途固有の攻撃面を測っていない。

問題の要件では、モデルの公開ベンチマーク点だけで安全性を判断するが解決する範囲と、別の工程が担う範囲を分けて判断する。

未検証の弱点が残る。

未検証の弱点が残る。

問題の要件では、危険な入力をテストしないことを安全対策とするが解決する範囲と、別の工程が担う範囲を分けて判断する。