Paul B. de Laat 研究預測演算法與規訓權力的關係,回應一種常見說法:大數據時代已由針對個體身體的規訓,轉向對資料片段與群體風險的治理。作者認為,在不少情境中,預測模型仍會把人分類、比較、評估,並促使機構依據預測分配監督、資源或限制,因此不應太快宣告規訓權力已被風險治理取代。
這項論點提供一個有用的分析起點,但不代表所有演算法都只是舊式全景敞視的數位版。演算法治理還牽涉資料蒐集、模型設計、商業誘因、資料代理變項、錯誤率及不可解釋性,需要具體分析其運作環節。
思與行
- 審查風險評分時,詢問資料來源、標籤由誰定義、錯誤率如何分布、受影響者能否知道理由並要求更正。
- 不要只研究模型準確度,也要研究模型輸出如何改變工作流程、警察巡邏、福利審查或個人自我理解。
參考
- Paul B. de Laat, “The disciplinary power of predictive algorithms: a Foucauldian perspective,” Ethics and Information Technology 21, 2019, pp. 319–329. Open access article。
- 資料化使個體被轉化成可計算的風險輪廓、數位監控需要同時分析規訓與治理術。