當模型能力接近或超過人類監督者，問題不只是人手不足，而是監督者可能無法判斷答案是否正確。可擴展監督因此需要改造評估任務、利用可驗證證據、比較多個模型的論證，或讓弱監督者在強模型協助下提高辨識能力。任何方法都要檢查模型是否能操縱監督流程，不能以「用了 AI 幫忙評 AI」就假定問題消失。
思與行
- 針對高難度任務建立可拆解、可交叉驗證、可由外部證據檢查的監督流程。
- 記錄監督者無法判斷的案例比例，並把它當作系統限制公開，而不是隱藏在平均分數裡。
參考
- 文獻來源：Concrete_Problems_in_AI_Safety_Amodei_et_al_2016提出 scalable supervision；Weak_to_Strong_Generalization_OpenAI_2023研究弱模型監督強模型。
- 延伸脈絡：監督者能力落差會變成新的權力與責任問題、安全評估必須同時測量行為與內部機制。