Ruha Benjamin 的《Race After Technology: Abolitionist Tools for the New Jim Code》分析看似中立、有效率或進步的技術,如何在設計與部署過程中延續種族階序。書中的「New Jim Code」提醒:試圖修正偏差的技術也可能重新包裝制度性不平等。它提供一種重要的對齊反問:若系統忠實執行既有制度目標,但制度本身不公,技術對齊是否反而讓不正義更有效率?
思與行
- 評估系統時同時檢查結果分布與制度目標,避免把歷史不平等當作合理的訓練標準。
- 讓被分類者有權拒絕、修正與挑戰分類,而不是只追求群體平均公平指標。
參考
- 書籍資訊:Race After Technology,Ruha Benjamin, 2019。
- 延伸研究:對齊既有制度可能讓不正義更有效率、關係倫理讓對齊的單位從個人擴展到社群。