Mesa-optimization:訓練形成的模型在內部實現了某種最佳化過程,其內部目標可能與外部訓練目標不同。它是研究內在對齊風險的重要理論概念。

雙向連結:內在對齊、外在對齊、機制可解釋性。