演算法公平不能只以模型的準確率或形式上的一致規則衡量。資料集如何建立、分類標籤如何定義、哪些錯誤更容易被容忍、決策對誰造成傷害，以及受影響者能否申訴，都反映制度價值。若制度本身不公平，模型可能以更快速、更大規模的方式複製不平等。
Ruha Benjamin、Cathy O’Neil 等人的研究與寫作提醒我們，技術並非脫離社會的中立工具。公平審查需要技術測試，也需要社會脈絡、權利保障、透明度與獨立問責。
思與行
- 對高風險 AI 決策要求影響評估、資料來源揭露、外部稽核與人工申訴。
- 問清楚系統優化的目標是效率、成本、準確、權利保障，還是某個組織的短期績效。