普林斯頓大學訪問 Arvind Narayanan 與 Sayash Kapoor,介紹《AI Snake Oil》的核心主張:AI 產品常被過度宣傳,某些預測型產品缺乏有效證據,社會需要辨別哪些應用確實可行、哪些只是包裝成 AI 的行銷。這種懷疑論有助於把 alignment 從抽象的模型未來風險拉回當下系統的效度、可驗證性與部署適切性。
思與行
- 在採用 AI 前要求明確的問題定義、基準線、外部效度與不使用 AI 的比較方案。
- 追問失敗時誰承擔成本,以及被替代的人工判斷是否仍有申訴路徑。
參考
- 訪談:A conversation with Princeton AI experts Arvind Narayanan and Sayash Kapoor,Princeton University, 2024。
- 延伸閱讀:部署前應先確認AI是否是適當的問題解法、安全與可信任需要可驗證而非宣傳式的證據。