普林斯頓大學訪問 Arvind Narayanan 與 Sayash Kapoor,介紹《AI Snake Oil》的核心主張:AI 產品常被過度宣傳,某些預測型產品缺乏有效證據,社會需要辨別哪些應用確實可行、哪些只是包裝成 AI 的行銷。這種懷疑論有助於把 alignment 從抽象的模型未來風險拉回當下系統的效度、可驗證性與部署適切性。

思與行

  • 在採用 AI 前要求明確的問題定義、基準線、外部效度與不使用 AI 的比較方案。
  • 追問失敗時誰承擔成本,以及被替代的人工判斷是否仍有申訴路徑。

參考