Search
❯
Nov 03, 20261 min read
Mesa-optimization:訓練形成的模型在內部實現了某種最佳化過程,其內部目標可能與外部訓練目標不同。它是研究內在對齊風險的重要理論概念。
雙向連結:內在對齊、外在對齊、機制可解釋性。