AI 系統不只根據資料描述使用者,也會透過推薦、生成與評分影響使用者後續注意什麼、相信什麼與如何回應。使用者的回饋再成為系統更新與治理的輸入,形成遞迴的社會技術迴路。治理因此不應只評估模型輸出,也應觀察模型如何改變人類的觀察與行動條件。
思與行
- 記錄 AI 互動如何改變使用者的判斷、探索多樣性與信任校準。
- 保留人工覆核、拒絕與申訴機制,讓使用者有能力修正系統提供的框架。
- 把責任分配到開發、部署、採購與使用機構,避免只要求個別使用者自行承擔。
AI 系統不只根據資料描述使用者,也會透過推薦、生成與評分影響使用者後續注意什麼、相信什麼與如何回應。使用者的回饋再成為系統更新與治理的輸入,形成遞迴的社會技術迴路。治理因此不應只評估模型輸出,也應觀察模型如何改變人類的觀察與行動條件。