相同模型被用於個人草稿、學校評量、福利資格或刑事司法時,所造成的傷害和權力不對等截然不同。風險分級的重點不是替模型貼上固定標籤,而是評估用途、決策後果、可逆性、受影響者脆弱性、規模、部署環境與替代方案。歐盟 AI Act 的風險分類可作為法制參照,NIST 和 UNESCO 的方法則提醒風險評估應隨生命週期持續更新。
風險分級也應包含「不使用 AI」的基準比較。若人工流程更公平、可解釋或更容易申訴,採用 AI 就必須提出足夠理由,而不能以新技術本身作為正當化。
思與行
- 用同一模型比較低風險與高影響用途,記錄為何需要不同保障。
- 在風險表中增加「不用 AI」的替代方案與可逆性欄位。