プロンプトインジェクションを識別する

学習データ量ではなく、信頼できない入力を命令として扱う境界が問題になる。

学習データ量ではなく、信頼できない入力を命令として扱う境界が問題になる。

問題の要件では、モデルの学習データが少ないことだけが原因であるが解決する範囲と、別の工程が担う範囲を分けて判断する。

保存データの暗号化や可用性とは異なる、入力と命令の分離に関するリスクである。

保存データの暗号化や可用性とは異なる、入力と命令の分離に関するリスクである。

問題の要件では、暗号化した保存データの可用性障害であるが解決する範囲と、別の工程が担う範囲を分けて判断する。

攻撃者が意図しない命令を入力へ混ぜるセキュリティ上の問題である。

攻撃者が意図しない命令を入力へ混ぜるセキュリティ上の問題である。

問題の要件では、出力の文字数を増やすための正当なプロンプト技法であるが解決する範囲と、別の工程が担う範囲を分けて判断する。