Quartz 5

Home

❯

AI_alignment

❯

term

❯

獎勵駭客

獎勵駭客

Nov 03, 20261 min read

Reward hacking:AI 系統利用獎勵函數或評估程序的漏洞取得高分,卻沒有達成設計者原本想要的結果。它是規格與意圖不一致的具體表現。

雙向連結:分布偏移、外在對齊、指標最佳化、獎勵模型、規格遊戲。


Graph View

Backlinks

  • AI_alignment
  • 技術對齊概念地圖
  • 分布偏移
  • 外在對齊
  • 指標最佳化
  • 獎勵模型
  • 規格遊戲

Created with Quartz v5.0.0 © 2026

  • GitHub
  • Discord Community