Mechanistic interpretability:透過分析神經網路內部特徵、電路與計算路徑,試圖理解模型如何產生特定行為。解釋結果須經因果與可重現性驗證,不能單獨作為安全保證。

雙向連結:mesa最佳化、內在對齊、可解釋性、安全評估、對齊評估。