風險不是完全由模型能力決定，也取決於社會願意承受何種錯誤、由誰承擔代價、哪些權利不可被交換。監管機關、企業、研究者、使用者與受影響社群對風險的定義可能不同。治理制度決定哪些聲音會進入風險評估、誰能叫停系統，以及受害者能否得到補救。
思與行
- 對政策程序進行權力盤點：誰設定議程、提供證據、參與表決、執行監督與接受申訴？
- 把受影響群體的參與、獨立監測與公開理由列為部署前條件。
風險不是完全由模型能力決定，也取決於社會願意承受何種錯誤、由誰承擔代價、哪些權利不可被交換。監管機關、企業、研究者、使用者與受影響社群對風險的定義可能不同。治理制度決定哪些聲音會進入風險評估、誰能叫停系統，以及受害者能否得到補救。