Stuart Russell 的《Human Compatible: Artificial Intelligence and the Problem of Control》主張，傳統 AI 將目標視為固定且已知，容易在目標設定錯誤時造成嚴重後果；更安全的系統應承認自己不知道人類完整偏好，並保留接受人類修正的能力。這本書代表技術安全與控制問題的主流論述之一，尤其適合與批判 AI 權力的作品並讀。
思與行
- 將「機器保持不確定」轉化為具體設計要求：可確認、可撤回、可關閉、可修正、可追溯。
- 追問「人類」是誰：個別使用者、開發者、受影響群體還是民主共同體？
參考
- 書籍資訊：Human Compatible，Stuart Russell, 2019。
- 延伸研究：人類相容性需要機器對人類偏好保持不確定、可修正性是AI接受人類監督的制度與技術條件。