即使模型對各群體的錯誤率相同,也不代表它執行的分類任務本身合理。例如,若制度以有缺陷的資料定義「高風險個人」,或把社會問題轉成個人風險分數,均衡的模型表現仍可能維持不正義。

因此,公平審查應先追問是否需要分類、分類是否具有正當目的、誰定義目標、是否存在較少侵害的替代方案,再討論統計指標與模型修正。

思與行

  • 先檢查是否確實需要分類,以及是否有低侵害替代方案。
  • 記錄分類目標由誰設定、誰可能被標記,以及錯誤標記如何撤銷。

參考