Quartz 5

Home

❯

AI_alignment

❯

term

❯

RLHF

RLHF

Nov 03, 20261 min read

Reinforcement Learning from Human Feedback:以人類回饋訓練偏好或獎勵模型,再用其調整 AI 行為的方法。常見流程並不直接讀取價值,而是最佳化標註者在特定任務中的評價。

雙向連結:人類偏好、人類回饋強化學習、可擴展監督、獎勵模型。


Graph View

Backlinks

  • AI_alignment
  • 人類偏好
  • 人類回饋強化學習
  • 可擴展監督
  • 獎勵模型

Created with Quartz v5.0.0 © 2026

  • GitHub
  • Discord Community