Safiya Umoja Noble 在 Algorithms of Oppression 中分析商業搜尋引擎如何反映並放大種族與性別偏見。演算法不是脫離社會的純數學程序:資料來源、商業目標、分類方式、排名機制和內容審核都含有價值選擇。當人們把搜尋結果視為中立答案時,既有偏見便可能獲得技術權威。這類批判不是否定演算法的所有用途,而是要求揭露資料與制度的來源、建立問責並讓受影響群體參與治理。

思與行

  • 對搜尋、推薦或自動分類結果進行多樣情境測試,記錄不同語言、族群與性別呈現的差異。
  • 把申訴、外部稽核、透明度和補救流程列為系統要求,而不是發布後才處理。

參考

Philosophy_of_technology