






摘 要:生成式AI驅動下,謠言傳播已從“異態”轉變為“常態”,從“單模態”演變為“多模態、跨模態”,從“合成事實”進化到“偽造輿論”。探討AI謠言的傳播機制和影響因素,對于AI謠言識別和治理具備支撐作用。針對近年來傳播熱度較高的35個AI謠言傳播案例,使用定性比較分析(QCA)對影響其傳播熱度的多層要素進行挖掘。研究發現,目前AI謠言在大眾化傳播上存在三級斷層,前20%的高熱度謠言占據了84.7%的大眾流量;從謠言傳播影響因素來看,內容特性 > 媒介模態 > 受眾參與 > 信源構成 ;從組態路徑來看,草根創作的“強情感”敘事和權威背書的“強沖突”框架構成了AI謠言大眾化傳播的兩種典型模式;在AI謠言識別和治理過程中,多模情緒交織與大眾二次創作構成了破局痛點與難點。
關鍵詞:AI謠言;傳播機制;定性比較分析;演化博弈理論;組態路徑
中圖分類號:G206文獻標識碼:A文章編號:2096-8418(2025)01-0046-11
隨著Deepseek、ChatGPT等媒介技術的發展,人工智能時代的謠言已從“異態”轉變為“常態”,從“單模態”演變為“多模態、跨模態”,從“合成事實”進化到“偽造輿論”。AI技術已經顯著改變信息傳播的景觀,不僅增強了謠言信息的迷惑性,還在認識論和本體論上造成信息割裂,引發了深刻的媒介生態學變革,強化了信息的“無界性”和“多維性”。AI生成謠言內容,不再是單一信息的復制或再現,而伴隨著多重信息的選擇、重組與再創造,使得謠言內容具有更高的逼真度和更復雜的情感色彩。[1]此外,AI技術在處理大規模數據時的高效能和適應性,使得個性化謠言信息的生成和跨圈傳播成為可能,從而在微觀層面重新塑造了公眾的認知結構和社會互動方式。這種技術驅動的信息流變動,不僅挑戰了傳統的信息驗證機制,也對社會公共信任的構建提出了新的要求。[2]在此背景下,探究AI在信息環境中如何同時扮演構建性與破壞性角色,成為亟待解答的關鍵問題。
針對AI謠言的擴散及其對社會秩序的潛在破壞,各國政府已推出系列防范措施與治理政策。我國相繼推出《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等政策規定,并持續性開展“清朗·打擊網絡謠言和虛假信息”專項行動。盡管AI謠言的識別與治理已引起各界重視,但當前AI謠言傳播的影響因子尚缺乏系統性梳理,AI謠言的傳播邏輯也有待深入研究。尤其是在全球化社交媒體環境下,AI謠言的跨境流動和大眾化再造使其識別和治理難度升級。AI謠言為何得以大眾化傳播?有哪些因素促成了AI謠言的“跨圈”傳播?是否存在謠言傳播的關鍵性“阻斷因素”?治理AI謠言應該從哪些層面切入?以上問題有待進一步探討。
在此背景下,本文選取近年來AI謠言傳播典型案例,采用定性比較分析挖掘影響AI謠言傳播的多層要素。一方面,針對AI謠言傳播的影響因子進行梳理,嘗試搭建AI謠言傳播機制的系統性框架;另一方面,從“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與度”6個維度出發,針對AI謠言傳播的多層次因素進行定性比較分析(QCA),由此提煉影響AI謠言傳播的組態路徑,并對其背后的傳播邏輯與運作機制進行探討,以期提高社會對AI謠言的整體認知度和治理能力。
一、文獻回顧
(一)AI謠言概念界定與傳播特性
謠言作為一個學術概念,已有超過半個世紀的研究歷史。由于謠言是一種復雜的社會現象,試圖為其提供一個絕對性的定義仍具挑戰性。有觀點認為謠言是主觀惡意捏造的不真實信息,[3]是缺乏事實根據的虛假消息,[4]甚至認為凡是謠言一定是虛假的、非事實的,如果是真實的就不能稱之為謠言。[5]然而,部分學者開始注意到謠言在社會中的正面功能。例如,將其視為世界上最古老的傳媒,并將它看作是一種反權力,[6]將其理解為一種對抗權力的社會表達。[7]與此同時,有學者指出謠言的虛構與真相只是一個結果判斷,這可能忽視了謠言傳播過程中的關鍵機制。[8]可見,國內外學界對于謠言的定義尚無統一共識。
隨著人工智能技術的發展,AI謠言成為一個新的研究熱點。AI謠言具有幻覺效應和快速迭代的特點,并通過機器學習、深度偽造、社交機器人等技術實現多模態融合傳播。這些謠言通過夸張、對立和引人入勝的內容操控語言,以激發用戶的情感反應,從而促使其分享和討論。[9]AI謠言的自動化特性使其能夠在社交媒體平臺上迅速傳播,并精準定位特定受眾。[10]算法技術下的謠言信息“群體驅動”和“信息繭房”效應使謠言傳播范圍更廣、影響更深遠。[11]此外,AI謠言還對社會、政治和商業構成了重大威脅,如干擾選舉、破壞公眾對官方信息的信任、引發網絡安全問題等。[12]這些特性使AI謠言從單一傳播主體轉變為多主體協同的謠言傳播,并推動了從中心化傳播到分布式發布的演變。因此,研究AI謠言的傳播機制,尤其是在人工智能技術背景下,成為維護國家信息安全的重要課題。
基于上述分析,本文將AI謠言定義為利用人工智能技術生成、傳播或增強的,旨在影響公眾認知、情緒和行為的未經證實的虛假信息。這一定義突破了傳統謠言的認知范疇,強調了AI技術賦予謠言的新特征、新危害和新挑戰。
(二)AI謠言的傳播影響因素
謠言傳播的影響因素在傳播學領域有著豐富的理論基礎。一個經典的公式是“R=I×A”,它指出謠言的產生與傳播依賴于信息的匱乏、不安與憂慮以及危機情境等關鍵條件。這一公式揭示了謠言傳播的內在動力:當任何一個因素為零時,謠言便難以產生和傳播。[13]同樣,另一個公式“謠言=事件的重要性×事件的模糊性”也強調了事件的重要性和不確定性在謠言傳播中的作用。
從內容層面來看,謠言的傳播力與其內容的分布、敘事結構、議題構建以及標題特征密切相關。通過巧妙運用故事元素,結合情感和理性的表達,以及多模態素材的混合使用,謠言在傳播中更具吸引力。[14]此外,敘事策略也會影響謠言傳播的熱度。研究發現,86%的謠言標題采用非人稱敘事,以避免出現明確的人稱,從而增強客觀性。[15]謠言主題、指涉目標、佐證證據、內容主張4個方面在謠言的傳播過程中起著重要作用。特別是在突發性重大公共衛生事件中,有研究發現,謠言主題多集中在病例與防疫措施上,指涉目標的時間、地點和對象較為明確,佐證證據多突出權威性與圖像證據,而內容主張則以分享新知為主,行動建議為輔。[16]社交媒體上的健康謠言表現出鮮明的主題特征、情感特征、形式特征及用戶特征。健康謠言的主題貼近生活,情感表達更為強烈,且形式愈發多樣化。[17]不同學者的研究一致表明,謠言的主題特征與情感特征是影響其傳播效果的重要因素。在傳播媒介層面,當用于虛假信息時,視覺效果可能成為虛假信息的強大傳播者,因為它們通常被認為比單獨的文本線索更可信、更準確。多模式虛假信息被認為比文本虛假信息更具可信度,但僅在虛假信息涉及攻擊難民參與恐怖主義時,這種差異才顯著。[18]關于媒介模態復雜度對謠言傳播的影響,學界仍存在爭議。在謠言傳播過程中,參與者的知識儲備、聲譽及影響力同樣會影響其行為選擇,進而決定謠言的傳播路徑和廣度。[19]
上述研究為理解AI謠言的傳播機制奠定了堅實的理論基礎,并揭示了多種關鍵因素。基于這些理論成果,本文選擇了以下6個變量作為分析AI謠言傳播的條件變量:信源組織性(X1)、謠言主體知名度(X2)、內容情緒調性(X3)、內容需求度(X4)、媒介模態復雜度(X5)以及受眾參與度(X6)。這些變量將為進一步研究AI謠言的傳播路徑提供重要的分析框架。
(三)AI謠言的社會影響與破局關鍵
當下,AI技術的應用改變了信息生成模式,謠言變得“定制化”“精準化”“智能化”。[20]快速生成的謠言信息在越來越擬人化的技術背景下,使得傳統平臺難以連續識別虛假信息,[21]對整體的AI虛假信息治理體系提出了挑戰。[22]AI謠言不僅侵蝕公眾對信息源和機構的信任,導致社會信任度下降,還可能引發社會恐慌,擾亂公共秩序,甚至導致集體行為的極端反應。此外,還可能造成經濟損失,影響市場穩定和商業信心,對政府和公共機構的公信力構成威脅,削弱其在公眾中的威信和管理效能。[23]除此之外,AI謠言還能夠煽動恐怖和暴力活動、挑撥國家與社會矛盾,[24]甚至擾亂公共話語,[25]控制戰爭的敘事。[26]
目前,關于AI謠言的研究大多集中于計算機科學領域的生成式、技術性、算法類研究,而社會科學領域的理論性和管理類研究則相對匱乏。在研究視角方面,AI謠言的研究主要涉及AI謠言的檢測與識別以及數學建模和仿真。相較之下,社會科學在AI謠言領域的探討多采用思辨性質化研究,缺乏實證量化的支撐。目前,對于AI謠言的識別研究主要限于對潛在的錯誤信息進行標記(分類任務),未能充分解決問題。
綜上,既有研究側重于技術性解決方案,往往忽視謠言傳播過程中的社會行為和心理因素,缺乏整合性視角。AI謠言研究的局限性表明,有必要整合計算機科學、社會學、心理學等多學科知識,以更有效應對AI謠言的復雜性和隱蔽性。在此背景下,本研究從更具象的顆粒度分析AI謠言的傳播因素及其組態路徑,探討如何有效識別和治理AI謠言。具體研究問題如下:
研究問題一:目前AI謠言的“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與程度”在傳播影響上是否存在顯著差異?
研究問題二:是否存在某種屬性可構成AI謠言大眾化傳播的必要條件?如果存在,具體包括哪些?
研究問題三:是否存在某些組合條件(組態)可影響AI謠言的傳播熱度?AI謠言大眾化傳播的最常見組態是什么?
二、研究方法
(一)數據獲取
為了避免平臺既有用戶規模、生態特性、用戶圈層對研究結果造成的干擾,本文針對同一平臺上傳播的AI謠言進行分析。目前市場上熱度相對較高的AI謠言主要活躍在網頁端、微信公眾號和微博平臺,其中微博平臺集成了圖文、視頻等多模態交互方式,且除了單純的信息交互和內容輸出,微博平臺的話題使得AI謠言的傳播影響力得以凸顯。
在具體AI謠言樣本選擇上,一方面,通過關鍵詞檢索,對微博平臺上帶有“AI謠言”“AI假新聞”“AI詐騙”“AI虛假信息”等標簽的話題進行樣本初篩,并結合文獻綜述中對于AI謠言的概念界定和核心社會線索,根據人工判斷進行樣本細篩;另一方面,根據網絡公開報道數據對當下傳播熱度較高的AI謠言案例進行補充。為了盡量規避樣本賬號“刷量”等行為的干擾,一方面對樣本話題討論中的粉絲規模、發布活躍度、交互頻率等多類數據進行多維統計,降低了單一指標水分對研究結論帶來的影響;另一方面結合閱讀量、討論量、互動量與原創量等數據對樣本話題影響力進行補充校驗,盡量降低單一平臺數據的系統性偏誤。經多次篩選后,在微博平臺上選取具有代表性和認知度的35條AI謠言案例作為數據來源(見表1)。
在數據獲取方面,本文采集的傳播熱度數據包括微博平臺上樣本話題閱讀、討論、轉發和評論(數據截至2024年7月25日),以及AI謠言樣本相關的互聯網公開資料,進一步基于35條公開AI謠言提取其相關特征用以對應指標的量化判斷。
(二)QCA研究方法
本文采用模糊集定性比較分析(fsQCA,fuzzy set Qualitative Comparative Analysis)對影響AI謠言傳播的組態關系進行研究。QCA方法基于布爾代數的集合論邏輯,聚焦于解決因果研究中的“組態”(Configuration)問題。即相比于單個因素各自對某結果變量的影響,QCA更關注不同因素之間的組合關系所產生的影響作用。相比于清晰集定性比較分析(csQCA,crisp set Qualitative Comparative Analysis)對變量采取的二分法,fsQCA允許變量在“0”到“1”之間進行取值,即評估條件程度可在 “完全隸屬”與“完全不隸屬”之間,更適于本文相關研究變量的測量方式與取值范圍。
具體操作上,QCA步驟一般包括5個環節:其一,樣本案例選擇。QCA對樣本規模要求不高,一般適用于15個以上的樣本案例,且通過多個案例的邏輯條件組合,在一定程度上避免了個案的特殊性對研究結論產生的干擾。其二,條件變量和結果變量確定。即根據前期研究理論和經驗知識確定因果變量,并對其測量方式和賦值方法進行設計。其三,數據校準。即對測量出來的各個變量值進行校準,使其歸一化到0—1之間。其四,通過QCA軟件進行相關分析,包括必要性分析和組態分析,探討影響結果變量的必要條件和組態條件。其五,對研究結果進行穩健性檢驗,觀察子集關系、一致性和覆蓋率的可能變化,以確保研究結果的可信度。
(三)變量設計與賦值
基于QCA構建組態模型需要基于理論或經驗確定合適的條件變量和結果變量,進一步對各條件變量之間的組態關系及其對結果變量的影響作用進行探討。一般而言,小樣本規模(10—40個樣本)應將條件變量限制在7個左右,過多的條件變量會導致研究結果的解釋復雜化。本文基于前期文獻調研和行業觀察,以AI謠言的“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與度”6個維度構建條件變量,并以“內容關注度”作為結果變量進行分析。
在確定因果變量的基礎上,將各項變量拆解成若干可觀測、可測量的指標因子,并基于人工編碼對各指標進行賦值及加權匯總。其中4個一級條件變量賦值采用四分位數賦值法,根據測量值高低依次賦值為0、0.33、0.67、1;二級測量指標按照0、0.5、1進行三分位賦值;結果變量通過統計相關話題內容的閱讀量測量。
此外,權重測算采用客觀賦權CRITIC法。該方法基于評價指標的對比強度和指標之間的沖突性來綜合計算指標權重,同時兼顧了指標的變異性和相關性,所計算出來的權重值越大說明該指標所包含的信息量越大、相對重要性越大。[27]最終確定的各項變量及其測量指標、賦值方法、指標權重如表2所示。
其中,信源組織性表示AI謠言發布賬號的權威性、可靠性和結構化程度。謠言主體知名度指的是謠言所涉及的主體在特定群體中的知名程度。內容情緒調性指的是謠言內容中所包含的情緒色彩和情緒強度,通過謠言內容是否包含顯著的沖突和對立情緒來做判斷。內容需求度指謠言內容對受眾的吸引力和需求程度,根據馬斯洛的需求理論,生理與安全為人類最基本和最強烈的需求,故本文將強需求定義為直接關系到個人安全或利益的硬性需求,[28]而弱需求則為偏娛樂或獵奇的軟性需求。媒介模態復雜度指的是謠言在傳播過程中所使用的媒體形式和模態(圖文影音等)的復雜程度。受眾參與度指的是受眾在謠言傳播過程中所表現出的互動頻度和二次創作程度,具體通過評論、分享、點贊等行為來體現。此外,內容關注度指的是用戶對AI謠言內容的關注和傳播程度。作為本研究的結果變量,內容關注度通過AI謠言在微博平臺上的閱讀量來進行分層測量。
三、數據分析
(一)AI謠言傳播因素的結構性差異
本文對AI謠言的“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與度”6個維度進行數據測量,并將各項得分以中位數0.5作為閾值進行分層,認為大于等于0.5為高評分,反則屬于低評分。數據發現,從各項指標綜合表現來看,“內容需求度”>“媒介模態復雜度”>“內容情緒調性”>“受眾參與度”>“謠言主體知名度”>“信源組織性”。
數據發現,35條AI謠言中有68.57%在“內容需求度”上表現出高得分(見圖1),可見,當前媒介信息消費普遍功利化,涉及個體利益的謠言信息占比更大,也更容易激發受眾非理性信任。從“媒介模態復雜度”來看,接近六成AI謠言獲得了較高分,表明大多數AI謠言在傳播時使用了較為復雜的多模態媒體形式。多模態媒體形式(如文字、圖片、視頻的結合)能夠增強信息的豐富性和吸引力。而從“信源組織性”來看,草根傳播占比較高,意味著多數謠言的傳播源頭并非來自高度組織化的群體或機構,而更多出自個人信源或無明確來源。這種低組織性可能降低了謠言的初始可信度,但并不妨礙其在社交媒體上的傳播。
為了進一步探討AI謠言各條件變量對傳播熱度的影響顯著性,本文采用獨立樣本t檢驗進行分析,結果如表3所示。研究發現“媒介模態復雜度”對傳播熱度的負相關系數為-0.2169,P值為0.05,達到顯著水平0.1。這表明媒介模態復雜度對謠言傳播熱度有顯著影響,盡管方向是負向的。這意味著高復雜度的多模態媒體形式在某些情況下降低謠言的傳播熱度,可能是因為受眾對復雜信息的處理負擔增加,減少了傳播意愿。受眾參與度對傳播熱度的正相關系數為0.1988,P值為0.092,達到顯著水平0.1。這表明受眾的高參與度對謠言傳播熱度有顯著正向影響。受眾的積極互動(如評論、分享、點贊)能夠顯著提高謠言的傳播熱度,增強信息的擴散效果。
其他因素如“信源組織性”“謠言主體知名度”“內容情緒調性”和“內容需求度”對謠言傳播熱度的影響在統計上不顯著,表明AI謠言的傳播效果更依賴于受眾的互動行為和信息呈現的復雜程度,而非信息源的組織性或主體知名度等因素。
此外,對AI謠言的傳播熱度分布進行分析(見圖2),謠言傳播熱度呈現出典型的“長尾分布”特征。少數謠言的閱讀量極高,達到數千萬級別,顯示出強大的傳播效果,而大多數謠言的閱讀量相對較低,迅速下降至數百萬甚至更低。這表明在AI謠言的傳播中,少數具有高吸引力或高關注度的謠言會迅速引起廣泛關注和傳播,成為熱點話題,而多數謠言則只能獲得有限的傳播效果。長尾分布反映出信息在社交網絡中傳播的高度不均衡性,少數謠言能夠極大地吸引受眾注意力,形成爆發性的傳播,而大部分謠言的傳播范圍較為有限。
由此回應了本文的研究問題一:目前AI謠言的“媒介模態復雜度”與“受眾參與度”對傳播熱度的影響存在顯著差異。盡管謠言的信源、內容情緒和需求度等方面的差異對傳播熱度的影響不顯著,但復雜的多模態形式可能降低傳播效果,而高參與度的謠言則能顯著提升傳播熱度。
(二)AI謠言大眾化傳播的必要性條件分析
基于QCA分析框架,對影響AI謠言傳播熱度的關鍵因素進行單變量分析。其中,以“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與度”作為條件變量,“內容關注度”作為結果變量。通過模糊集定性比較分析fsQCA軟件分析各條件變量對結果變量的解釋程度和充分必要性,當變量的一致性指標大于0.8時,該條件變量可視為結果變量的充分條件,而當一致性大于0.9時,可認為該條件變量為結果變量的必要條件。
通過表4分析結果可以發現,對于謠言傳播熱度這一結果變量,“信源組織性”高評分對高熱度的必要性一致性較高(0.8414),覆蓋度為0.5031,表明信源組織性高對高傳播熱度有較強的解釋力,但覆蓋面有限。“內容需求度”高評分對高熱度的一致性較高(0.8297),表明高需求度對高傳播熱度有較強的解釋力。“信源組織性”與“內容需求度”的一致性大于0.8,構成AI謠言傳播熱度的充分條件。
由此回應了本文的研究問題二:目前AI謠言在傳播熱度層面,尚不存在必要性因素。即AI謠言的傳播熱度更可能是多種因素共同作用的結果,而不是單一屬性所能決定的。政策制定者和平臺管理者在應對AI謠言時,應采取多層次、多角度的綜合措施,以有效遏制謠言的擴散。
(三)AI謠言大眾化傳播的組態條件分析
進一步對AI謠言各條件變量構建真值表并進行組態分析,以探討構成AI謠言傳播熱度的最優條件組合。本文針對“信源組織性”“謠言主體知名度”“內容情緒調性”“內容需求度”“媒介模態復雜度”與“受眾參與度”6個一級社會線索作為條件變量進行組態分析,結果如表5所示。
數據發現,覆蓋率最高的中間解為:低信源組織性*低主體知名度*高情緒調性*高內容需求度*低媒介模態復雜度*高受眾參與度(覆蓋度0.1201)。這一中間解表明,當AI謠言同時具有極端的情緒(如憤怒、恐慌)和大眾利益關聯性——即內容涉及個人安全或利益,并且充分調動受眾二次傳播和互動時,其傳播熱度最為顯著。這也反映了AI謠言的“弱勢信息增強模式”,其初始條件并不具備明顯的優勢,但通過充分調動大眾的情緒和參與度,通過社交網絡的自組織機制,使得謠言信息傳播得以增強和放大。這種模式顯示了在網絡環境中,即使是源自不知名主體、結構簡單的信息,也可以通過受眾的集體互動和“長尾效應”實現非線性增長。
此外,高信源組織性*高主體知名度*高情緒調性*低內容需求度*低媒介模態復雜性*低受眾參與度(覆蓋度0.04)也構成了AI謠言傳播的一種組態路徑。這類謠言一般具備組織性、規模性、針對性,雖然單條信息的受眾參與度不高,與大眾直接利益關聯度不強,但往往針對某一特定對象或知名主體進行“蓄謀”性造謠,往往存在資本操縱嫌疑。
由此回應了研究問題三:高傳播熱度的AI謠言普遍需要具備強烈的內容情緒調性、高內容需求度和高受眾參與度。草根發布的“強情感”“高需求”信息和組織性發布的“強沖突”“強針對性”信息為兩種典型模式。
四、研究結論與討論
通過對35個AI謠言傳播案例的定性比較分析,本研究在理論層面揭示了謠言發布主體、主題、內容、模態、受眾等影響因素對其傳播熱度的組態影響。基于5W傳播框架——誰發布、發布什么內容、什么形式發布、面向受眾是誰、傳播效果如何,系統性梳理AI謠言傳播的內在機制。在實踐層面,本研究的發現為AI謠言的預防和控制提供了實證支持,通過對謠言屬性進行多維識別和組態計算,有助于實現前瞻性風險研判和精細化辟謠管理。誠然,AI謠言的傳播機制復雜且多樣,各屬性之間的組態效應與交互作用和對其跨域、跨圈、跨平臺傳播的影響需在未來研究中進一步細化探索。
(一)AI謠言傳播熱度的三級斷層:“二八效應”凸顯
本文發現熱度位于前20%的AI謠言占據了超過八成(84.70%)的輿論聲量。頭部謠言通常具有高度情緒化的內容表達,并借助于AI生成技術的視覺增強效果,放大了其傳播的滲透力和多平臺觸達能力。相比之下,中部謠言和長尾謠言則表現出較為顯著的傳播斷層,前者在一定程度上通過針對特定受眾的定向傳播獲得了較為穩定的關注度,而后者則更多依賴于特定垂直社群的縱向傳播動力。
這種現象也映射了AI技術在謠言制造中的“量產化”趨勢——技術門檻的降低和生成工具的普及使得大量相似度高的謠言能夠在短時間內批量生成并廣泛傳播。尤其是在社交媒體平臺上,算法推薦機制加劇了這些頭部謠言的傳播擴散,進一步強化了“二八效應”的現實表現。與此同時,信息審查和辟謠機制的升級也使得更多謠言在傳播早期被及時遏制,雖然在大眾傳播場域熱度較低。有不少謠言通過特定的社群或私域流量進行圈層化傳播,盡管其影響力相對有限,仍在局部范圍內產生了負面的社會效應。這些謠言通常針對特定人群,以較為隱蔽的方式傳播,難以被快速識別和遏制。它們在特定群體中維持著一定程度的關注度,并通過不斷重復和渲染,逐步深化了錯誤信息對公眾認知的侵蝕。此外,大量“長尾謠言”的存在也進一步復雜了謠言治理的挑戰。雖然其傳播熱度較低,但其程式化的生產方式和規模性的發布模式卻形成了持續性的信息污染。
(二)AI謠言傳播四大要素:內容 > 媒介> 受眾 > 信源
相比于傳統信息傳播中對信源權威性、可信度的強依賴,AI謠言的傳播更多依賴于內容的感染力和媒介視覺呈現效果。技術賦能下,大量非專業的草根信源也能制造出高度真實感的內容,“眼見為實”帶來的認知偏差弱化了受眾對信源的感知能力,進而導致了信息真偽的判斷更加依賴于直觀印象而非理性分析。在這種環境下,謠言的傳播機制表現出明顯的視覺導向性,強調內容的情緒渲染和媒介的感官刺激。
根據認知心理學,人類認知的深度從低級到高級可以劃分為感覺、知覺、表象、概念、判斷、推理六大層次,進一步可以抽象為包括神經、心理層面的“低階認知”和包括語言、思維和文化層級的“高階認知”[29][30]。從這個層面來看,AI謠言對受眾的影響主要集中在低階認知層面,而辟謠的關鍵則在于高階認知的激活。這需要公眾不僅接受信息的直接呈現,而且能夠對信息進行更深層的批判性思考和邏輯分析。在視覺和情緒的強烈刺激下,觸發低階認知的謠言很容易獲得快速傳播,因為這類認知過程更直接、更本能。如何通過人機協同的模式,讓受眾在構建感性認知模式的同時,通過自動化的風險要素識別和提示激活用戶的理性評價機制,是未來AI謠言治理中需重點探索的策略。
(三)AI謠言傳播兩種典型模式:草根創作的“強情感”> 權威背書的“強沖突”
通過QCA組態分析發現,“強情感”和“強沖突”是目前AI謠言大眾化傳播的兩種典型模式,前者更多以流量為導向,通過刺激大眾化情緒、激活二次傳播來實現注意力收割,參與主體多為草根自媒體;而后者更多存在資本操縱和政治內嵌,針對性更強,通常存在組織性操作,部分會通過所謂的“權威聯動”來增強謠言的可信度。“強情感”模式的謠言通常包含戲劇化元素,利用恐懼、憤怒或同情等基本情緒,夸大未經驗證的“事實”或編造符合受眾“固有認知傾向”的內容來激發受眾的共鳴,促進信息的擴散。而“強沖突”模式則依賴于權威背書或似是而非的邏輯來構建信息的沖突性,這一模式在政治、企業競爭或社會議題相關的謠言中尤為常見,其中信息往往涉及政策爭議、社會不公等引發廣泛討論的話題。
(四)AI謠言治理的破局痛點:多模情緒交織與大眾二次創作
從AI謠言的傳播熱度影響因素來看,“媒介模態復雜度”和“受眾參與度”對謠言傳播形成顯著影響。尤其是對于強情緒渲染的謠言內容而言,視覺框架和情緒符號的使用大幅提升了謠言的感染效率,提高了受眾信息接受和二次傳播動機。同時,各類開源技術的應用使大眾參與信息的創作和再創作變得更為容易,這一過程中,原始信息往往經過多次修改、扭曲,甚至完全脫離最初的事實基礎,形成全新的內容實體。這種由下而上的內容生成機制,極大地復雜化了信息真偽的辨別過程,也使得謠言治理工作面臨前所未有的挑戰。在AI增強的信息流轉中,多層級的信息交互被顯著加速,同時謠言的修正與抵制難度也相應增大。多模態信息的綜合運用在刺激受眾情緒反應與促進信息共享方面顯示出其固有的優勢。這種技術環境下的受眾轉變為信息的主動參與者和再創作者,使得謠言在不同群體中衍生出不同“變體”,甚至形成“千人千面”的針對性傳播,每一次信息的重構和分享都有可能使謠言進一步變異,更深地植入受眾群體之中,也使得AI謠言的可持續治理更加任重道遠。
本文仍存在部分問題有待進一步優化與探討。首先,在采樣上考慮到不同平臺的傳播特性差異和數據量級差異,選擇了微博作為AI謠言傳播的取樣平臺,在樣本規模上存在一定局限性,相關分析結論是否適用于其他平臺有待進一步驗證。其次,限于數據可獲取性和標注難度,本文將影響謠言的傳播變量簡化為6大維度,并據此設計量化因子,在一定程度上忽略了AI謠言在視覺層面的可信度、在傳播層面的惡意推廣和資本投入等要素。再次,本文選擇謠言的閱讀量作為結果變量,弱化了AI謠言實際產生的社會影響,相關指標有待進一步豐富。最后,由于AI謠言傳播具備較強的隱蔽性,本文所研究的對象主要是“已被辟謠”的AI謠言,仍有部分未能被明確識別的研究樣本還需挖掘。如何從更深層次去挖掘AI謠言的隱性特征,也成為后續研究需要進一步關注和探討的問題。
參考文獻:
[1]Paschen, J.(2020).Investigating the emotional appeal of fake news using artificial intelligence and human contributions.Journal of Product amp; Brand Management, 29(2): 223-233.
[2]Vaccari, C. amp; Chadwick, A.(2020).Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news.Social Media+ Society, 6(1):1-13.
[3]郭慶光.傳播學教程[M].北京: 中國人民大學出版社, 1999: 96-98.
[4]劉建明.輿論傳播[M].北京: 清華大學出版社, 2001: 291.
[5]江萬秀, 雷才明, 江鳳賢.謠言透視[M].北京: 群眾出版社, 1991: 15.
[6][法]讓諾埃爾·卡普費雷.謠言: 世界最古老的傳媒[M].鄭若麟,譯.上海: 上海人民出版社, 1991: 15-17.
[7]胡泳.謠言作為一種社會抗議[J].傳播與社會學刊, 2009(9):67-94.
[8]李永平.文學人類學視野下的謠言、流言及敘述大傳統[J].思想戰線, 2014(2): 23-29.
[9]Hajli, N., Saeed, U., Tajvidi, M.amp; Shirazi, F.(2022).Social bots and the spread of disinformation in social media: the challenges of artificial intelligence.British Journal of Management, 33(3): 1238-1253.
[10]Xu, J., Xian, L., Liu, Z., Chen, M., Yin, Q.amp; Song, F. The future of combating rumors? Retrieval,discrimination, and generation. Retrieved May 28, 2024, from https://arxiv.org/pdf/2403.20204.
[11]李玉碧, 胡曙光.人工智能時代網絡謠言的嬗變: 基于自媒體造謠朱婷的案例分析[J].中國傳媒科技, 2022 (12): 25-28.
[12]Westerlund, M.(2019).The emergence of deepfake technology: A review.Technology Innovation Management Review, 9(11): 39-49.
[13][美]奧爾波特,等.謠言心理學[M].劉水平,等,譯.沈陽: 遼寧教育出版社, 2003: 3.
[14]喻國明.網絡謠言的文本結構與表達特征——基于騰訊大數據篩選鑒定的6000+謠言文本的分析[J].新聞與寫作, 2018 (2): 53-59.
[15]羅自文, 林燕飛.眼見為虛: 健康類短視頻謠言的敘事特征與社會心理——基于今日頭條謠言數據庫的實證研究[J].中國社會科學院研究生院學報, 2021 (6): 93-103.
[16]彭柳, 陳紅飛.突發性重大公共衛生事件網絡謠言文本特征及治理——以中國互聯網聯合辟謠平臺所辟新冠疫情謠言為例[J].華南師范大學學報(社會科學版), 2021(2): 183-192,208.
[17]朱夢蝶, 付少雄, 鄭德俊, 等.文獻視角下的社交媒體健康謠言研究: 特征、傳播與治理[J].圖書情報知識, 2022(5): 131-143.
[18]Hameleers, M., Powell, T.E., Van Der Meer, T.G.amp; Bos, L.(2020).A picture paints a thousand lies? The effects and mechanisms of multimodal disinformation and rebuttals disseminated via social media.Political Communication, 37(2): 281-301.
[19]丁學君, 劉思奇.基于演化博弈的在線社會網絡謠言傳播行為研究[J].運籌與管理, 2020(11): 11-21.
[20]寧珊, 熊晶, 賀文晨.人工智能背景下的網絡謠言治理研究[J].中國信息安全, 2023 (8): 73-76.
[21]劉超民.生成式人工智能場景下虛假信息風險特殊性透視及應對[J].中國海洋大學學報(社會科學版), 2024 (2): 112-121.
[22]漆晨航.生成式人工智能的虛假信息風險特征及其治理路徑[J].情報理論與實踐, 2024 (3): 112-120.
[23]Liu, S. (2020). Countermeasures of internet rumor management based on artificial intelligence technology. In Stephan,R.(eds.). Journal of Physics: Conference Series. Bristol: IOP Publishing, 1-6.
[24]黃河.網絡謠言的智能化演變及治理[J].人民論壇, 2023 (4): 62-65.
[25]Cao, Y., Li, S., Liu, Y., Yan, Z., Dai, Y., Yu, P. S.amp; Sun, L. A comprehensive survey of ai-generated content (aigc): A history of generative ai from gan to chatgpt. Retrieved May 28, 2024, from https://arxiv.org/pdf/2303.04226.
[26]Oakley, D.P.amp; Rogg, J.(2024).Spreading the “smog of war”: the impact of propaganda, social media, and OSINT on US civil-intelligence relations.Intelligence and National Security, 39(3): 539-553.
[27]王昆, 宋海洲.三種客觀權重賦權法的比較分析[J].技術經濟與管理研究, 2003 (6): 48-49.
[28]胡家祥.馬斯洛需要層次論的多維解讀[J].哲學研究, 2015(8): 104-108.
[29]蔡曙山.認知科學框架下心理學、邏輯學的交叉融合與發展[J].中國社會科學, 2009(2): 26-39.
[30]蔡曙山.論人類認知的五個層級[J].學術界, 2015(12): 9-24.