紅隊測試是由測試者主動模擬攻擊、濫用或極端情境,找出 AI 系統的安全、穩健性、偏誤與政策失效弱點;測試結果需連結修正和持續監測。 與此概念相互連結的概念包括:可問責性、對抗性穩健性、生成式人工智慧、風險評估。 維基百科 中文:紅隊測試 English: Red teaming