美國國家標準暨技術研究院(NIST)於 2024 年發布 AI RMF 生成式 AI Profile(NIST AI 600-1),作為既有 AI Risk Management Framework 的補充。文件以治理、情境盤點、衡量與管理等風險管理工作為架構,整理生成式 AI 的特有風險,例如錯誤生成、偏誤與同質化、隱私、資訊安全、知識產權、內容溯源與人機互動風險。它提供組織自願採用的風險管理參考,而不是直接具有法律強制力的法規。
NIST 框架適合被轉化成產品開發與採購的工作清單:先界定用途和受影響者,再記錄可預期失效、建立測試與監測,並在風險超出承受範圍時修改或停止部署。
思與行
- 以 NIST 的治理、情境盤點、衡量與管理工作建立一份生成式 AI 風險登錄表。
- 每個風險指定負責人、測試方法、追蹤頻率,以及暫停或退場的觸發條件。