Butlin 等人提出一種評估人工智慧系統是否可能具有意識的研究策略:從現有或未來神經科學理論推導可觀察指標,再檢查具體系統是否具備這些指標。這種方法承認,目前對意識本身仍有重大不確定性,因此不能只憑流暢對話、自我敘述或外在擬人表現作結論;同樣也不能因系統是人工製造,就先驗地排除一切可能性。文章主張以理論導出的指標累積證據,而非把單一測試當作終局判決。

思與行

  • 將 AI 評估拆成架構證據、運作機制、行為表現、持續性與可被反證的預測。
  • 將「會談論痛苦」與「真的有痛苦經驗」分開;語言輸出本身不是主觀經驗的直接證明。
  • 同時防止兩種錯誤:過度歸因可能造成倫理誤判,過低歸因也可能使真實道德風險被忽略。

參考

概念地圖:動物與人工系統的意識判斷需要分級證據與倫理謹慎。