世界經濟論壇於 2026 年訪問 Yoshua Bengio，討論 AI 行為不可預測、潛在風險與安全設計方向。Bengio 說明自己從以能力提升為主的機器學習研究轉向 AI safety 的原因，並提出讓 AI 在設計上更安全、避免隱藏目標的研究願景。這是研究者對前沿風險的立場陳述，不應與已被實證的普遍結論混為一談。
思與行
- 將 Bengio 對自主代理與欺騙風險的主張，與當前可觀察的評估證據分開整理。
- 比較安全設計研究與政策限制、第三方審計、部署責任之間的互補關係。
參考
- 訪談：Yoshua Bengio on why AI can behave unpredictably，World Economic Forum, 2026。
- 研究者自述：Yoshua Bengio – Research。
- 延伸研究：未來風險論述需要區分實證模型與情境推演、安全評估必須同時測量行為與內部機制。