代理式 AI 不只生成文字，還會規劃、使用工具、讀寫記憶、委派任務與與其他代理互動。即使底層模型的單輪回答安全，長期記憶可能累積錯誤偏好，工具權限可能造成不可逆後果，多代理溝通也可能放大錯誤。因此，對齊的測試對象應是完整的代理系統與部署流程，而非模型本身。
思與行
- 把代理能力分級，逐步授予讀取、寫入、執行、付款、發布與委派權限。
- 對每次工具操作記錄理由、依據、授權、可逆性與人工確認點。
代理式 AI 不只生成文字，還會規劃、使用工具、讀寫記憶、委派任務與與其他代理互動。即使底層模型的單輪回答安全，長期記憶可能累積錯誤偏好，工具權限可能造成不可逆後果，多代理溝通也可能放大錯誤。因此，對齊的測試對象應是完整的代理系統與部署流程，而非模型本身。