Safiya Umoja Noble 的《Algorithms of Oppression: How Search Engines Reinforce Racism》(2018)分析搜尋引擎結果如何受到商業排序、資料結構與社會偏見影響,呈現看似中立的搜尋工具可能強化對黑人女性等群體的刻板印象。這本書將搜尋結果視為一種資訊權力:誰被看見、以何種描述被呈現、哪些內容被排在前面,都會影響公共知識與社會想像。

對生成式 AI 而言,這個問題從搜尋排序擴展至訓練資料、檢索來源、回答摘要與推薦系統。評估 AI 不應只看它是否提供答案,也要追問它代表誰的知識、引用誰的來源,以及哪些聲音持續缺席。

思與行

  • 以多種語言、地區與群體關鍵詞檢查搜尋或生成式回答的排序與描述差異。
  • 追查引用來源是否多元且可信,並記錄被忽略的在地知識與少數群體聲音。

參考