Bender、Gebru、McMillan-Major 與 Shmitchell 質疑只追求更大語言模型的研究方向,提醒大型語言模型可能複製偏見、放大錯誤關聯,並帶來能源、財務、資料蒐集與勞動成本。論文建議在開發前先評估問題是否適合使用大型語言模型,並投資資料文件化與利害關係人價值評估。這篇文章不是對所有語言模型能力的否定,而是要求把技術表現放回具體社會與物質條件中衡量。
思與行
- 在任何模型卡中補上資料來源、授權、語言代表性、勞動與環境成本。
- 問「不用大型模型能否更好地解決問題」,把不部署也納入選項。
參考
- 原始論文:On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?,Bender et al., FAccT 2021。
- 延伸研究:模型對齊不能取代資料與基礎設施責任、部署前應先確認AI是否是適當的問題解法。