Paul B. de Laat 研究預測演算法與規訓權力的關係,回應一種常見說法:大數據時代已由針對個體身體的規訓,轉向對資料片段與群體風險的治理。作者認為,在不少情境中,預測模型仍會把人分類、比較、評估,並促使機構依據預測分配監督、資源或限制,因此不應太快宣告規訓權力已被風險治理取代。

這項論點提供一個有用的分析起點,但不代表所有演算法都只是舊式全景敞視的數位版。演算法治理還牽涉資料蒐集、模型設計、商業誘因、資料代理變項、錯誤率及不可解釋性,需要具體分析其運作環節。

思與行

  • 審查風險評分時,詢問資料來源、標籤由誰定義、錯誤率如何分布、受影響者能否知道理由並要求更正。
  • 不要只研究模型準確度,也要研究模型輸出如何改變工作流程、警察巡邏、福利審查或個人自我理解。

參考