Hadfield-Menell、Dragan、Abbeel 與 Russell 提出合作式逆向強化學習（CIRL），把人與機器視為共享人類獎勵函數、但機器尚未知道該函數的合作雙方。相較於只觀察專家行為的逆向強化學習，CIRL 允許人主動教導，也允許機器主動提問與學習。其哲學含意是：有幫助的機器不應假裝已經知道人想要什麼，而應保留不確定性並在互動中校準。
思與行
- 設計 AI 助理時，區分「已知偏好」「推測偏好」與「尚待詢問」，避免把推測包裝成使用者意圖。
- 測試系統是否會在高風險或資訊不足時提問、等待、尋求人類確認，而不是自信地自行補完目標。
參考
- 原始論文：Cooperative Inverse Reinforcement Learning，Hadfield-Menell et al., 2016。
- 延伸研究：人類相容性需要機器對人類偏好保持不確定、價值對齊必須區分指令偏好利益與價值。