評估人工系統是否可能有意識,不應以它是否會說「我有感覺」作為主要依據。可以依不同理論整理架構指標,例如是否存在全域資訊廣播、循環處理、整合因果結構、持續的自我監控與感覺—行動耦合,再檢查具體系統實際如何運作。這份清單只能提供證據更新的方式,不能把尚未驗證的理論指標包裝成已確立的檢測工具。
思與行
- 將系統架構、訓練資料、推理時機制與外顯行為分欄整理。
- 對每個指標寫出「若缺少它,理論會如何預測」以及「目前是否能可靠測量」。
- 同時設計防止過度歸因與過低歸因的審查程序。
參考
- 來源:人工系統的意識判斷應從理論指標而非語言表現出發。
- 概念連結:機器意識、全球神經工作空間理論、整合資訊理論、意識測試。
- 本書導讀:Consciousness_science。