偏好標註、點擊、購買與行為紀錄都能提供價值線索，但它們受到情境、資訊、權力與短期誘因影響。把一次選擇當成穩定價值，或把多數人的偏好當成所有人的利益，會讓模型過度自信地替人作決定。價值推論需要多來源證據、明示不確定性，以及允許使用者改變心意的機制。
思與行
- 在系統中區分明確指令、推測偏好與長期利益，不要讓隱含推斷覆蓋明確表態。
- 測試使用者改變偏好、存在衝突或拒絕回答時，系統能否尊重其自主性。
參考
- 文獻來源：Deep_Reinforcement_Learning_from_Human_Preferences_Christiano_et_al_2017說明偏好回饋如何形成獎勵模型；Artificial_Intelligence_Values_and_Alignment_Gabriel_2020區分指令、意圖、偏好、利益與價值。
- 延伸脈絡：人類相容性需要機器對人類偏好保持不確定、人類相容性需要機器對人類偏好保持不確定。