RLHF：Reinforcement Learning from Human Feedback，利用人類對模型輸出或行為的評價訓練獎勵模型，再以強化學習調整模型行為的方法。它能提升符合評分者偏好的程度，但不等於學會了完整的人類價值。 雙向連結：RLHF、人類偏好、可擴展監督、獎勵模型。