Sajid 等人以可讀方式介紹離散狀態主動推論,並與強化學習比較。強化學習通常以累積獎勵作為目標;主動推論則以預期自由能評估可能政策,除了偏好結果,也納入降低不確定性的資訊價值。這使得探索可從模型本身的資訊結構中產生,而不必完全仰賴外加探索獎勵。不過兩者可在某些條件下產生相似行為,不能將它們描述成絕對互斥的算法家族。
思與行
- 將同一個任務分別用獎勵函數與偏好觀測建模,檢查預測是否不同。
- 尤其關注資訊探索、模型錯誤與稀疏獎勵情境。
參考
- Sajid, N., Ball, P. J., Parr, T., & Friston, K. (2021). Active inference: Demystified and compared. Neural Computation, 33(3), 674–712. UCL repository · DOI
- 延伸:主動推論與強化學習有相似處但優化目標並不相同、探索與利用不是必然互斥的兩種模式