在專案開始時就寫下停止條件,例如重大傷害無法降低、錯誤率持續超標、資料來源權利不清、人工覆核失效、供應商無法提供稽核資料,或服務效益低於非 AI 替代方案。
每年安排一次退場演練,測試如何停用模型、匯出或刪除資料、恢復人工服務、通知使用者並追蹤未結案件。
思與行
- 最小可行行動:選定一個具體組織、服務或社群,在四週內完成小規模試辦。
- 成效檢查:記錄參與者是否真正影響決策、風險是否下降、申訴是否可用,以及成本是否被公平分攤。
- 延伸實驗:將試辦結果寫成可重用的流程卡,保留失敗、爭議與需要修正的條件。
參考
- 延伸脈絡:風險治理必須包含停止部署與退出選項
- 延伸脈絡:風險分級治理應依使用情境與可能傷害決定監管強度