模型公平指標能檢查特定統計差異,但不能單獨決定制度是否正義。特徵選擇、標籤來源、決策門檻、部署情境與申訴能力,都會影響不同群體承擔的實際後果。公平評估必須連結到場域中的資源分配與歷史不平等。

思與行

  • 先問系統要解決什麼社會問題,再選擇合適的公平指標。
  • 評估部署後的錯誤分布、排除效果與群體可申訴性。

參考

UNESCO把AI倫理放進人權社會與環境完整框架、資料正義使資訊倫理看見資料化中的結構性不平等、演算法責任需要可申訴與可補救的制度