當系統自動安排任務、評價績效或限制帳戶時,組織不能以「系統判定」作為責任終點。必須能辨識負責決策的組織單位、設定規則的人員、監督者與可受理申訴的窗口。否則,錯誤會在技術外包、部門分工與自動流程之間失去責任承擔者。
責任可追溯需要完整紀錄決策所使用的資料、規則版本、人工介入與事後更正,並讓工作者有能力提出異議。
思與行
- 為每類高影響決策建立責任地圖與可查閱紀錄。
- 不能以客服機器人或無權限客服代表代替真正有權改變決策的負責人。
當系統自動安排任務、評價績效或限制帳戶時,組織不能以「系統判定」作為責任終點。必須能辨識負責決策的組織單位、設定規則的人員、監督者與可受理申訴的窗口。否則,錯誤會在技術外包、部門分工與自動流程之間失去責任承擔者。
責任可追溯需要完整紀錄決策所使用的資料、規則版本、人工介入與事後更正,並讓工作者有能力提出異議。