多模態模型可能依賴網路資料中常見的圖文共現，因此在少數文化、非英語文字、特殊專業領域或罕見視覺情境下產生偏誤。單純測試常見圖片和標準問題，難以揭露模型是否看見了真正重要的細節。建立反例集可將評估從「模型說得像不像」轉向「答案是否受到輸入證據支持」。
思與行
- 蒐集相似場景但關鍵物件不同的成對圖片，要求模型指出差異。
- 加入非英語標示、地方物件、低光源、遮擋和多圖比較。
- 記錄模型對不確定性的表達，以及在缺少模態時是否編造。
多模態模型可能依賴網路資料中常見的圖文共現，因此在少數文化、非英語文字、特殊專業領域或罕見視覺情境下產生偏誤。單純測試常見圖片和標準問題，難以揭露模型是否看見了真正重要的細節。建立反例集可將評估從「模型說得像不像」轉向「答案是否受到輸入證據支持」。