生成式 AI 能產生連貫文字、圖像與影音,但流暢度不代表內容為真、來源可靠或系統理解其意義。系統可能產生幻覺、混淆來源、複製刻板印象或製作深偽內容。使用者應將生成內容視為需要查證的候選材料,尤其在醫療、法律、公共政策與新聞等高影響領域。
產品介面應清楚標示生成內容的性質、限制與來源線索,並設計可回報錯誤及修正的流程。責任不能以「模型只是預測文字」或「使用者自行判斷」完全轉嫁。
思與行
- 針對高影響用途建立引用查證與人工審核步驟。
- 記錄模型常見幻覺類型及使用者回報,並在介面呈現限制。
生成式 AI 能產生連貫文字、圖像與影音,但流暢度不代表內容為真、來源可靠或系統理解其意義。系統可能產生幻覺、混淆來源、複製刻板印象或製作深偽內容。使用者應將生成內容視為需要查證的候選材料,尤其在醫療、法律、公共政策與新聞等高影響領域。
產品介面應清楚標示生成內容的性質、限制與來源線索,並設計可回報錯誤及修正的流程。責任不能以「模型只是預測文字」或「使用者自行判斷」完全轉嫁。