如果訓練與驗證資料偏向某些語言、口音、年齡或教育背景,模型可能對未被充分代表的群體產生較高錯誤率。司法場景中的偏差不只是技術問題,還可能影響誰被懷疑、誰需要自證,以及誰的語言被當成異常。

思與行

  • 在部署任何分類器前,按群體與條件報告錯誤率;將模型拒答與人工覆核設計成正式程序

參考

回鏈