AI 模型不是從社會之外開始學習。歷史資料中的排除、刻板印象、資源差距和制度偏見,可能透過標籤、代理變項、抽樣與分類目標進入模型。資料女性主義將資料科學重新放回權力與社會不平等脈絡、種族科技論指出自動化可能用中立外觀延續既有種族階序與搜尋引擎排序也會生產知識權威與種族性別刻板印象共同提醒:偏見不只存在於資料,也可能存在於問題定義與制度目標。
修正不能只靠刪除敏感欄位,因為其他變項仍可能代理原有結構。必須同時檢查資料生成方式、分類邏輯、使用制度與資源分配後果。
思與行
- 追查訓練資料中的歷史排除與標籤來源,並記錄無法代表的人群。
- 先審查任務目標與制度分類,再決定是否需要做模型去偏。