Ruha Benjamin 的《Race After Technology: Abolitionist Tools for the New Jim Code》分析看似中立、有效率或進步的技術,如何在設計與部署過程中延續種族階序。書中的「New Jim Code」提醒:試圖修正偏差的技術也可能重新包裝制度性不平等。它提供一種重要的對齊反問:若系統忠實執行既有制度目標,但制度本身不公,技術對齊是否反而讓不正義更有效率?

思與行

  • 評估系統時同時檢查結果分布與制度目標,避免把歷史不平等當作合理的訓練標準。
  • 讓被分類者有權拒絕、修正與挑戰分類,而不是只追求群體平均公平指標。

參考