“深度偽造”（Deepfake）技術(shù)以虛假內(nèi)容沖擊數(shù)字社會信任基石，顛覆“眼見為實”認知范式，嚴重威脅著網(wǎng)絡(luò)信息生態(tài)安全。除技術(shù)反制和法律規(guī)制外，探討影響公眾識別深度偽造視頻能力的個體因素，對培養(yǎng)數(shù)字認知韌性、制定治理策略有重要意義。
在此背景下，我校傳媒學院王國燕教授的科技傳播團隊與中國科學技術(shù)大學俞能海教授的深度偽造技術(shù)團隊合作，系統(tǒng)探索了個體認知傾向與視覺素養(yǎng)對深度偽造識別能力的影響。研究成果“Identifying individual differences in deepfake discernment: the effects of cognitive disposition and visual literacy”于4月25日在線發(fā)表于傳播學領(lǐng)域中國科學院一區(qū)TOP期刊《信息、通訊與社會》（Information ,Communication & Society），我校博士研究生金心怡為第一作者，這是我校以第一作者單位和通訊作者署名單位發(fā)表于該刊的首篇論文。
深度偽造檢測工具的運行示意圖（圖片來源：DALL-E借助AI制作）
該研究采用混合方法，量化分析基于對516名參與者的在線調(diào)查，驗證了人口學特征、認知傾向、視覺素養(yǎng)和自我評估知識水平等個體差異因素對深度偽造辨識能力的影響。質(zhì)化分析則用主題分析法，通過開放性問題探究成功識別視頻者的判斷依據(jù)，揭示其認知過程與決策邏輯。研究發(fā)現(xiàn)，參與者判斷視頻真?zhèn)沃饕罁?jù)視頻內(nèi)容邏輯合理性和技術(shù)操縱痕跡。視覺素養(yǎng)與辨別能力緊密相關(guān)，解釋性視覺素養(yǎng)高的人能更敏銳捕捉邏輯漏洞，精準識別偽造視頻，而直覺信念與辨識能力呈負相關(guān)，依賴直覺思維的人易忽略偽造線索，做出錯誤評估。有關(guān)深度偽造技術(shù)的知識雖不能直接提升辨識能力，但對識別技術(shù)處理痕跡有輔助作用。這證實了信息處理雙加工模型在深度偽造識別場景的適用性，批判性評估的動機和能力是判斷視頻真?zhèn)蔚年P(guān)鍵因素。
基于研究結(jié)果，提升公眾視覺素養(yǎng)或是應對深度偽造負面影響的有效策略。一方面，可通過差異化認知訓練、加深對視覺元素和技術(shù)的理解來提升辨別能力。另一方面，可通過提高對深度偽造風險的認識、培養(yǎng)信息決策責任感來增強辨別動機。
該研究深化了對個體評估視覺信息過程及認知和素養(yǎng)差異影響的理解，為制定因人而異的防御模式提供支持，在深度偽造技術(shù)泛濫的當下具有迫切的現(xiàn)實意義。
《信息、通訊與社會》（Information， Communication & Society）是SSCI收錄的國際權(quán)威期刊，2024年中國學者發(fā)表論文共10篇。此前，我校與中國科學技術(shù)大學兩課題組合作的相關(guān)深度偽造控制實驗研究已于2023年9月發(fā)表于新聞傳播學領(lǐng)域中國科學院一區(qū)TOP期刊《新媒體與社會》（New Media & Society）。
國家社科基金重大課題“欺騙性人工智能的信息傳播、社會影響與風險治理研究”由王國燕牽頭，中國科學技術(shù)大學、華南理工大學、科大訊飛等高校和機構(gòu)聯(lián)合攻關(guān)，擬整合多學科力量探索深度偽造視頻、語音詐騙、釣魚軟件、社交機器人水軍等欺騙性人工智能技術(shù)的傳播影響與治理路徑。未來，團隊將持續(xù)追蹤技術(shù)演進帶來的新挑戰(zhàn)，深化研究成果向政策實踐轉(zhuǎn)化，為欺騙性人工智能的風險治理貢獻智慧。
論文鏈接：https://www.tandfonline.com/doi/full/10.1080/1369118X.2025.2496902
