「有人在迴路中」不等於決策真正由人負責。若工作者沒有時間、權限、足夠資訊或不同意模型的制度空間,人工覆核可能退化成替模型背書。真正的人類監督要讓人能理解限制、拒絕建議、暫停系統、提出異議,並在不受懲罰的情況下推翻自動化結果。

高風險與不可逆決策尤其需要明確的責任歸屬。制度應測試覆核者是否能辨識模型錯誤,而非只在流程圖上畫一個「human in the loop」。

思與行

  • 訪談第一線覆核者,確認他們是否有足夠時間、資訊與推翻模型的權限。
  • 設計測試題檢驗覆核者能否發現模型錯誤,而不只是確認流程完成。

參考