Virginia Eubanks 的《Automating Inequality》(2018)透過美國福利與公共服務案例,分析自動化系統如何將貧困人口分類、監控與排除。書中提醒,技術常以節省成本、辨識詐欺或提高效率為名導入,但若制度把貧困解釋為個人風險,演算法可能讓最需要公共支持的人承受更嚴格的審查與錯誤代價。

這本書提供公共部門 AI 的重要警示:效率提升不等於公共利益提升。政府在導入自動化時,應評估服務可近性、錯誤更正、申訴成本、弱勢群體的數位能力與人工裁量是否被不當削弱。

思與行

  • 盤點福利系統的拒絕、暫停、風險標記與重新審查流程,確認最弱勢者能否有效申訴。
  • 比較 AI 與人工流程的錯誤成本,檢查自動化是否讓服務對象承受更多文件與證明負擔。

參考