Reinforcement Learning from Human Feedback:以人類回饋訓練偏好或獎勵模型,再用其調整 AI 行為的方法。常見流程並不直接讀取價值,而是最佳化標註者在特定任務中的評價。 雙向連結:人類偏好、人類回饋強化學習、可擴展監督、獎勵模型。