演算法管理不會單靠程式碼運作。資料輸入、目標設定、指標選擇、閾值設定、例外處理、現場主管與客服執行，都會影響系統如何管理工作。平台上的「自動決定」通常仍嵌在一系列人類與組織決策之中。
因此，不能把不公平或錯誤結果簡化成「演算法自己決定」。必須追查誰選擇資料、誰設計規則、誰設定獎懲、誰監督模型，以及誰有權推翻結果。
思與行
- 為重要管理決策畫出社會技術流程圖，標示所有人類角色、資料流、規則和責任節點。
- 要求公司公布系統負責單位與具備推翻決策權限的人工覆核者。
演算法管理不會單靠程式碼運作。資料輸入、目標設定、指標選擇、閾值設定、例外處理、現場主管與客服執行，都會影響系統如何管理工作。平台上的「自動決定」通常仍嵌在一系列人類與組織決策之中。
因此，不能把不公平或錯誤結果簡化成「演算法自己決定」。必須追查誰選擇資料、誰設計規則、誰設定獎懲、誰監督模型，以及誰有權推翻結果。