Butlin 等人提出一種評估人工智慧系統是否可能具有意識的研究策略:從現有或未來神經科學理論推導可觀察指標,再檢查具體系統是否具備這些指標。這種方法承認,目前對意識本身仍有重大不確定性,因此不能只憑流暢對話、自我敘述或外在擬人表現作結論;同樣也不能因系統是人工製造,就先驗地排除一切可能性。文章主張以理論導出的指標累積證據,而非把單一測試當作終局判決。
思與行
- 將 AI 評估拆成架構證據、運作機制、行為表現、持續性與可被反證的預測。
- 將「會談論痛苦」與「真的有痛苦經驗」分開;語言輸出本身不是主觀經驗的直接證明。
- 同時防止兩種錯誤:過度歸因可能造成倫理誤判,過低歸因也可能使真實道德風險被忽略。
參考
- Butlin, P. et al. (online 2025-11-10; issue 2026). Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences, 30(6), 488–501. https://doi.org/10.1016/j.tics.2025.10.011
- 延伸概念:機器意識、意識測試、功能主義、意識與智能不能直接畫上等號。
- 本書導讀:Consciousness_science。
概念地圖:動物與人工系統的意識判斷需要分級證據與倫理謹慎。