Iason Gabriel 強調，AI alignment 同時包含技術問題與規範問題：一方面是如何讓系統遵循規則，另一方面是應該選擇哪些規則。指令、意圖、已表達偏好、理想偏好、利益與價值並不相同；若只選擇其中一項，就可能把局部訊號錯當成完整目標。作者主張，在價值多元的社會中，重要任務不是找出一套宣稱唯一正確的道德原則，而是尋找能獲得公平反思認可的原則。
思與行
- 每次使用「人類價值」一詞，都追問它指的是誰的價值、由誰蒐集、如何處理不同意見。
- 對高影響系統建立公開的價值選擇紀錄，讓受影響者能質疑、申訴與修訂。
參考
- 原始論文：Artificial Intelligence, Values, and Alignment，Gabriel, Minds and Machines, 2020，開放取用。
- 延伸研究：價值對齊必須區分指令偏好利益與價值、價值多元要求可爭議而非假裝一致的治理程序。