Ruha Benjamin 的《Race After Technology: Abolitionist Tools for the New Jim Code》(2019)提出「New Jim Code」概念,分析科技系統如何在看似客觀、有效率或善意的外觀下,重新製造種族階序與社會不平等。作者不是只尋找個別工程師的偏見,而是檢視分類制度、設計選擇、政策環境與社會歷史如何一起形塑技術結果。
這個觀點將 AI 倫理的問題從「模型裡有沒有偏見」擴展為「技術正在協助何種社會秩序」。它鼓勵研究者檢查制度是否本身不公平,而不是只把既有制度的決策自動化。
思與行
- 檢查 AI 系統正在自動化哪個制度決策,並先問該制度的分類邏輯是否正當。
- 邀請受到制度影響的群體參與目標設定,而不只在模型完成後測量偏誤。