「多模態」至少有三個常見研究層次:第一是符號與溝通研究,關心文字、圖像、聲音、手勢、空間如何共同表意;第二是感知研究,關心視覺、聽覺、觸覺等感官如何整合;第三是計算研究,關心文字、影像、聲音、時間序列或醫療資料如何被模型融合。三者可以彼此對話,但概念單位、資料方法與成功標準並不相同。把它們不加區分地混用,會讓「多模態」看似解釋一切,實際上卻失去可檢驗性。
思與行
- 在筆記、研究或提案中,將多模態標註為 semiotic、interaction、sensory 或 computational 等子脈絡。
- 遇到跨領域論文,先問模態是意義資源、感官通道,還是資料型態。