Ruha Benjamin 的《Race After Technology》探討科技如何在設計、資料與部署過程中重製既有的種族階序。普林斯頓大學對作者的介紹列出多個例子,包括偏差的犯罪風險評估、種族化資料庫與影像辨識/評分系統,說明看似客觀的技術可能將社會偏見包裝成中立決策。
這個觀點能深化 Harari 對演算法權力的關切:問題不只在於企業是否收集很多資料,也在於資料如何分類人、誰的經驗被當成標準、誰能質疑自動化決策。種族案例不可直接等同於所有地區的差異,但分析方法可用來檢視性別、階級、語言、身心障礙與族群等不同權力關係。
思與行
- 遇到演算法評分或分類系統,追問資料的代表性、錯誤成本、受影響群體是否有申訴權。
- 將「偏見」從個人意圖擴展到制度設計與結果分配。
參考
- 作者與著作介紹:Ruha Benjamin’s Race After Technology(Princeton University,2020-05-15)
- 延伸:演算法公平必須追問制度如何定義問題、數位權力也需要反殖民的資料觀、演算法偏見