AI 風險治理應隨生命週期持續進行,而不是部署前做一次形式檢查。每一階段都需要清楚的責任人、可檢查文件、受影響者參與與可停止條件。
flowchart TD A[問題定義] --> B[用途與替代方案評估] B --> C[資料收集與治理] C --> D[模型開發與測試] D --> E[採購與部署決策] E --> F[使用者通知與人工監督] F --> G[持續監測與事件通報] G --> H[修正、暫停或退場] C --> I[資料集說明書] D --> J[模型卡片與紅隊測試] E --> K[影響評估與契約問責] F --> L[申訴與人工覆核] G --> M[稽核與公開報告]
概念連結:風險評估、影響評估、人類監督、模型卡片、資料集說明書、申訴權、可稽核性。
研究連結:NIST生成式人工智慧風險框架把可信賴特性轉化為組織流程、資料集說明書讓資料來源用途與限制成為可追溯文件、模型卡片要求揭露AI模型的適用情境與群體表現限制、加拿大自動化決策指令把政府透明度影響評估與救濟連在一起。