Reinforcement Learning from AI Feedback:利用 AI 評審或原則引導的 AI 生成回饋,訓練偏好模型或策略的方法。它能降低人工標註需求,但也可能放大評審模型偏差。

雙向連結:AI回饋強化學習、憲章式AI、獎勵模型。