Inverse Reward Design:把工程師設計的獎勵函數視為其真實目標的證據,而不是目標本身;系統需結合設計情境推論更深層的意圖,以減少在新情境中產生的副作用。

雙向連結:分布偏移、外在對齊、獎勵模型、逆向強化學習。