利用者への影響を考慮する

誤りや不利益へ対応できず、説明責任を果たせない。

誤りや不利益へ対応できず、説明責任を果たせない。

問題の要件では、AIの判断を唯一の根拠にし、問い合わせ窓口をなくすが解決する範囲と、別の工程が担う範囲を分けて判断する。

除外は公平な改善ではなく、不利益を見えなくするだけである。

除外は公平な改善ではなく、不利益を見えなくするだけである。

問題の要件では、性能が低い利用者群を利用対象から黙って除外するが解決する範囲と、別の工程が担う範囲を分けて判断する。

高影響の判断に必要な監督と説明が失われる。

高影響の判断に必要な監督と説明が失われる。

問題の要件では、モデルの出力を人間に見せず自動処理するが解決する範囲と、別の工程が担う範囲を分けて判断する。