Quartz 5

Home

❯

AI_alignment

❯

term

❯

分布偏移

分布偏移

Nov 03, 20261 min read

Distribution shift:模型訓練時與部署時所遇到的資料、環境或任務分布不同。分布偏移可能讓原本有效的策略或獎勵規則失效,暴露訓練情境中的隱含假設。

雙向連結:外在對齊、獎勵駭客、穩健性、紅隊測試、逆向獎勵設計。


Graph View

Backlinks

  • AI_alignment
  • 技術對齊概念地圖
  • 外在對齊
  • 獎勵駭客
  • 穩健性
  • 紅隊測試
  • 逆向獎勵設計

Created with Quartz v5.0.0 © 2026

  • GitHub
  • Discord Community