高影響のAI判断へ人間の監督を置く

信頼度だけでは誤りや不公平な影響を排除できない。

信頼度だけでは誤りや不公平な影響を排除できない。

問題の要件では、モデルの信頼度が高ければ自動で最終決定するが解決する範囲と、別の工程が担う範囲を分けて判断する。

後から説明・監査・異議確認ができない。

後から説明・監査・異議確認ができない。

問題の要件では、判断ログを保存せず、結果だけを通知するが解決する範囲と、別の工程が担う範囲を分けて判断する。

透明性と救済の機会を損なう。

透明性と救済の機会を損なう。

問題の要件では、不利益の可能性を利用者へ知らせないが解決する範囲と、別の工程が担う範囲を分けて判断する。