Cathy O’Neil 的《Weapons of Math Destruction》討論大規模、不透明且難以申訴的數學模型，如何在教育、就業、信貸與公共治理等領域放大不平等。作者指出，模型常以客觀、量化的外觀取得權威，但其輸入資料、目標函數與錯誤成本可能反映既有偏差，受影響的人卻難以理解或挑戰結果。
本書將「演算法不公平」從技術效能問題延伸至權力與救濟問題。模型準確率不是唯一指標；誰承擔錯誤、錯誤能否被更正、決策是否透明，也決定模型是否值得用於高風險情境。
思與行
- 選一個生活中使用評分或排序的場景，列出受影響者、決策者、可申訴管道與錯誤成本。
- 將演算法公平與 資訊完整性取決於媒體生態而非單純事實查核 的治理思維結合：系統需要外部問責。
參考
- 原書出版資訊：Weapons of Math Destruction（Cathy O’Neil，2016）
- 延伸：演算法公平必須追問制度如何定義問題、演算法偏見、演算法治理