有些社會問題需要制度改革、資源投入或人際照顧，而不是增加一個模型。若問題本身缺乏可預測性、訓練資料帶有歷史偏差，或錯誤成本難以補救，AI 可能只是讓原有決策更快、更便宜地擴大。部署前的第一個安全問題應是「是否應該使用 AI」，而不只是「如何把 AI 做得更好」。
思與行
- 在採用前比較人工流程、簡單自動化、流程改善與不部署 AI 的替代方案。
- 要求供應商提出外部效度證據、失效案例與退出計畫。
參考
- 文獻來源：Book_AI_Snake_Oil_Narayanan_Kapoor_2024批判無效 AI 宣稱；On_the_Dangers_of_Stochastic_Parrots_Bender_et_al_2021要求先確認大型模型是否適合該問題。
- 延伸脈絡：AI對齊同時是工程問題與政治哲學問題、對齊既有制度可能讓不正義更有效率。