解釋模型原理或公布透明報告,本身不會自動讓權力受到制衡。對受到自動化決策影響的人而言,真正有用的透明應讓他知道 AI 是否參與、使用了哪些主要資訊、決策可能出錯的地方、由誰負責,以及如何取得人工覆核或補救。加拿大自動化決策指令把政府透明度影響評估與救濟連在一起提供公共服務制度的參考。

透明資訊應依對象設計:一般使用者需要清楚的通知與申訴入口,監管者需要可稽核紀錄,研究者需要方法與資料文件,受影響群體需要能理解自己權利的資訊。

思與行

  • 用一般使用者視角測試通知是否清楚、申訴入口是否可見。
  • 在內部稽核紀錄中連結每次自動化決策與具名責任單位。

參考