AI 醫療工具若以代表性不足的資料訓練,或把既有醫療利用量當作健康需求,可能低估偏遠、低收入、身心障礙及少數族群的需要。評估演算法時,不應只看整體準確率,還要比較不同群體的錯誤率、資料缺漏、可解釋性、申訴管道與實際可用性。資料偏差常是制度偏差的數位延伸。
思與行
- 取得工具的訓練資料說明與群體別驗證結果。
- 讓受影響群體參與風險評估,提供人工覆核與申訴方式。
- 不用單一平均效能宣稱工具公平。
參考
連結: note/社會資源的不平等會透過新舊機制持續轉化為疾病差距、note/沒有群體分層資料就無法看見平均值掩蓋的健康不公平。