AI時代網絡謠言傳播問題及對策分析

2024-12-08 00:00:00付陽

新聞研究導刊 2024年19期

摘要：隨著人工智能技術的發展，AI工具被不法分子用于生成網絡謠言。這些工具降低了造謠的成本和門檻，使謠言的批量生產和傳播變得更加容易。互聯網平臺在為用戶提供個性化信息推薦服務的同時，給網絡謠言傳播帶來圈群化、形成“信息繭房”、加劇群體極化和價值異化等負面影響。面對AI時代網絡謠言的傳播，現有治理模式需要升級。文章分析網絡謠言如何在AI時代傳播，以及網絡謠言傳播呈現的新趨勢，認為AI時代網絡謠言傳播門檻降低，且謠言傳播更加復雜化、多元化。文章針對AI時代網絡謠言治理提出多元共治建議，認為完善法律法規、加大對造謠者的處罰力度是治理AI謠言的重要手段。此外，提高公眾的媒介素養和法律意識，以及多方組織和個體共同參與，也是有效應對AI謠言的關鍵。

關鍵詞：AI時代；網絡謠言；信息繭房；傳播；對策

中圖分類號：G206 文獻標志碼：A 文章編號：1674-8883（2024）19-0010-04

一、引言

謠言通常指的是未經證實或缺乏可靠來源，在公眾中傳播并可能引起恐慌、誤解或其他社會影響的言論或報道[1]。網絡謠言則是指通過互聯網渠道傳播的未經證實或缺乏可靠來源的信息，這些信息可能包含誤導性或虛假內容。因此，網絡謠言本質上就是謠言在網絡上的傳播。

網絡信息時代，謠言的傳播對網民更具沖擊力，謠言鋪天蓋地。與一般謠言最大的不同在于，網絡謠言的傳播多以網絡文字和多媒體為載體，傳播媒介變成了網絡平臺。

二、AI時代網絡謠言的新趨勢

（一）傳播技術發展降低謠言的傳播門檻

與大眾傳播時代內容推動謠言發展有所不同，在人工智能背景下，網絡謠言的傳播更多依靠互聯網技術。隨著互聯網技術的進步，依賴大數據推送已成為平臺“靶向”定位客戶的有效手段。平臺通過分析用戶的搜索和瀏覽記錄，精確繪制用戶畫像，針對性地推送各種信息，包括虛假信息和謠言[2]。

同時，“沉默的螺旋”“群體效應”“信息繭房”等現象在人工智能技術迅速發展的背景下困擾著受眾。在相對單一和重復的信息推送中，謠言的可信度提高，使受眾容易陷入其中，并且深信不疑。例如，在“胖貓”事件中，一些網民為了博取流量，編造謠言，累計點贊達數千次，造成了惡劣的社會影響。

在謠言傳播中，圖片、視頻等素材在智能剪輯、AI換臉、后期配音等技術的加持下顯得愈發“真實”，令人難辨真假，憑借強大的視覺沖擊力在互聯網平臺傳播。普通受眾往往難以鑒別這類網絡謠言，這給了謠言制造者可乘之機，其憑借極具煽動性的語言生產與傳播謠言，對社會秩序和個人權益造成巨大威脅。

AI時代，AI技術大幅降低了造謠的成本和門檻。利用AI技術能夠快速高效地生產虛假信息，造謠者能夠以極低的成本批量生產謠言，并迅速傳播到各大網絡平臺[3]。AI軟件可以通過提供關鍵字自動在網絡上抓取相關信息，并結合熱點新聞和隨機音視頻素材進行批量化生產。同時，為實現更大范圍的傳播，AI生成的謠言通常以視頻形式呈現，這種形態契合了網民“有圖有視頻就有真相”的認知心理，使這些謠言一經上網就能迅速傳播。

今日頭條在2018年發布的《3·15今日頭條資訊打假報告》對近3萬名用戶進行了調研。結果顯示，認為網絡謠言現象嚴重的受訪者占比達55.72%，認為網絡謠言對社會造成嚴重危害的受訪者高達70.75%。在今日頭條攔截到的各類謠言中，視頻類謠言占比近一半，謠言發文時間與普通用戶瀏覽信息高峰期重合，集中在21點至22點。今日頭條采用技術與人工審核相結合的方式，以大幅提升抵御謠言的能力。通過技術手段，實現對謠言的精準打擊，并確保權威的辟謠信息能夠準確無誤地推送給曾接觸過謠言的用戶[4]。

（二）謠言傳播渠道復雜化、多元化

第53次《中國互聯網絡發展狀況統計報告》顯示，截至2023年12月，我國手機網民規模達10.91億人，網民使用手機上網的比例為99.9%。同時，即時通信用戶、網絡視頻用戶規模分別為10.6億、10.67億人。人工智能背景下的謠言傳播具備快捷、大眾化、互動性強的特點，提高了用戶的參與度。隨著抖音、快手等互聯網平臺成為網絡謠言的傳播渠道，新媒體傳播平臺的傳播形式更加復雜多樣，傳播內容更加豐富，對網絡謠言治理提出了新的挑戰[5]。

AI能夠面向特定受眾精準傳播謠言，這不僅具有極強的迷惑性，而且傳播范圍更廣[6]。社交媒體平臺的興起也讓生產和傳播謠言變得越來越容易，這些平臺通過算法推薦，進一步提升了謠言的傳播力和影響力。例如，在Twitter上，虛假新聞的傳播速度是真實新聞的6倍，且被轉發概率幾乎高出70%。同時，在新媒體環境下，“網絡水軍”通過社交媒體等平臺發布虛假視頻和圖片操縱公眾輿論，導致“回聲室效應”，即用戶只看到與自己觀點一致的信息，加劇了“信息繭房”的形成，從而促進了謠言的傳播。

三、網絡謠言治理可利用的人工智能資源

（一）互聯網提供完善的網絡謠言數據庫

互聯網時代，可以建立一體化的網絡謠言數據庫，利用人工智能算法程序對發布在網絡上的信息進行篩查分析，迅速識別并攔截謠言，對謠言進行全方位的監控和處理[7]。同時在AI的支持下，利用算法程序對互聯網上傳播的信息進行監控，一經算法程序識別出謠言，便可立即攔截，這樣可以最大限度減少謠言傳播。

（二）“AI謠言粉碎機”對謠言精確進行監控和辟謠

“AI謠言粉碎機”依托大數據平臺建立綜合辟謠機制，通力協作，能夠有效打擊網絡謠言。2019年，阿里巴巴發布的“AI謠言粉碎機”在特定場景中的準確率已經達到81%，利用AI技術有效遏制社交媒體和網絡新聞中謠言的傳播[8]。

面對海量的網絡信息，“AI謠言粉碎機”能夠精準識別信源，對用戶資料進行深度剖析，作為判斷信源是否可靠的重要依據。然后對信息內容進行判斷，與權威信息比對，針對謠言文本特征進行精準辨別，判斷內容的可信程度。同時，能夠深入分析謠言的傳播路徑。謠言在傳播的過程中會產生各種不同的觀點，“AI謠言粉碎機”能夠對所有態度進行權重分析，有效鑒別信息的真實性，快速攔截謠言。

（三）AI在信息公開和澄清謠言方面具有顯著優勢

傳播學者克羅斯提出謠言傳播的公式：謠言的傳播=事件重要性×事件模糊性÷公眾批判能力[9]。由此可知，謠言的傳播影響力與公眾對信息的判斷能力密切相關。AI時代，克羅斯提出的謠言傳播公式仍然適用。提高信息透明度，讓公眾最大限度接收信息，才能有效阻止謠言的傳播。

AI技術能夠在較短的時間內處理和分析大量數據，從而迅速識別和澄清謠言。同時，AI通過深度學習，可以對網絡上復雜的信息進行精準分析和驗證。

利用AI辟謠通常會邀請各領域的專家參與，提升辟謠內容的權威性和準確性。中國互聯網聯合辟謠平臺推出的《澄清謬誤、傳遞真相》系列訪談就涵蓋了健康、醫療、經濟、科技等多個領域，對常見謠言進行分析，幫助公眾提高網絡媒介素養，提升公眾對網絡信息的判斷力，削弱網絡謠言傳播的影響力。

四、AI時代網絡謠言傳播治理途徑

（一）發揮技術在網絡謠言治理中的基礎性作用

在構建媒體平臺時，需在理念與姿態上堅守算法向善的原則，秉持社會主義核心價值觀，并嚴格遵守相關法律法規[10]。同時，要不斷創新發展謠言辨識工具，加大對社交媒體信息的監管力度。網絡平臺開發者扮演著算法推薦創造者的角色，也肩負著對平臺信息的監管職責。目前，今日頭條和抖音等頭部媒體都在通過技術手段加強對網絡謠言的監管。

網絡運營商可以利用技術手段將網絡謠言治理的關口前置，如采用敏感詞篩選、AI信息驗證技術和大數據分析方法等，建立完整的預警及監控系統。通過對潛在不實信息進行細致的檢驗和評估，可以有效遏制網絡不實言論的擴散。

面對網絡上紛繁復雜的謠言，平臺應加強人工審核。面對高熱度的網絡謠言，應運用相關技術迅速定位信息的首發者，并由審核人員向其確認信息的真實性。

（二）發揮政府部門在網絡謠言治理中的主導作用

政府部門應與其他主體合作，打通不同主體之間的壁壘，在治理中形成立體式、聯合式、常態化的高效治理模式。政府部門要充分發揮主導作用。政府部門在治理謠言的過程中要采取多管齊下的綜合管理方法，包括增強防范意識、及時回應、發揮預警職能等[11]。除此之外，政府部門還可以通過部署開展專項行動，依法打擊網絡謠言，凈化網絡環境。

強化政府部門對網絡輿論的引導作用，提高對社交媒體和傳播渠道職業操守的期望，確立一套完善的追蹤源頭機制，實現對在線平臺的持續監管，以及對互聯網上不實信息的即時介入和改正。政府部門還可以通過發布權威信息，利用行政渠道和市場化渠道等多種方式，將信息迅速傳導至其他網絡主流媒體平臺，引導輿論方向。此外，要加大對網絡謠言發布、傳播的懲戒力度。

（三）完善懲治網絡謠言的法律法規

當前，網絡謠言的管控法治化進程持續推進。隨著互聯網不斷發展，互聯網用戶增多，實行網絡實名制在一定程度上維護了網絡環境的和諧，能夠監督自媒體用戶文明上網。相關部門就網絡平臺的監管制定了嚴苛的標準[12]。

在我國，尚不存在專門針對謠言的獨立法律法規。法律在判斷網絡謠言、確定謠言發起者以及適用法律條件方面存在不明確性。現有法律對網絡謠言作出了一些原則性規定，但對造謠、傳謠等違法行為的審判懲治未作詳細規定。因此，要完善懲治網絡謠言的法律法規，加大對造謠者的處罰力度。

（四）激發主流媒體平臺的責任意識

主流媒體平臺應增強責任意識，不能一味追求流量和商業利益而放松對內容的管理[13]。不僅要對自己生產的內容負責，還應承擔起平臺衍生內容的把關人職責。通過減少網絡謠言的傳播，提高媒體平臺的公信力，牢牢掌握話語權。主流媒體肩負著傳播主流意識形態、引領社會輿論的重要任務。要通過正確引導輿論，凝聚受眾共識，凈化網絡環境。平臺要加強自身管理，健全規章制度，完善運營規則，加強內容及資質審核管理，切實履行企業主體責任，嚴格管控涉低俗色情、標題黨、炮制謠言等行為。

（五）發揮網民在網絡平臺的主體作用

賦權公眾扮演關鍵角色，做到謠言止于智者，倡導網民在分享信息時積極肩負起責任，喚起個人參與的熱情，通過多樣化的途徑阻止謠言擴散。網民是構成網絡管理的核心要素，網民提高媒介素養，增強信息辨別能力和法律觀念是遏制網絡虛假信息滋生與傳播的根本。考慮到網絡受眾對簡潔、迅速、新穎的視覺內容的喜愛，推廣活動應利用強烈的視覺效果，創作并傳播能夠揭露網絡謠言和虛假信息的高質量內容。

提升公眾判斷力，形成不信謠、不傳謠的社會共識。美國學者克拉帕在《大眾傳播效果》一書中提出了“受眾選擇理論”。選擇性注意是指受眾在選擇信息時，更傾向于接收刺激性強、重復性高或與自身立場相符的內容[14]。媒體有時會通過使用夸張的標題來對事件進行片面描述，他們利用公眾的好奇心理有意挑起爭議，以此激發人們的情緒，并使他們輕易相信流言蜚語。在傳播過程中，往往那些契合受眾需求和興趣的謠言會被有意識地記住，這對受眾及傳播內容都會產生不利影響[15]。因此，要提高網民媒介素養，增強對網絡信息的辨別能力，以有效減緩網絡謠言的擴散。

五、結語

AI在網絡謠言治理方面具有明顯的先天優勢。AI時代，網絡謠言的治理效率得到了顯著提升。網絡謠言的傳播不僅會誤導公眾和破壞網絡環境，還會對社會秩序和公共安全構成潛在威脅。網絡謠言的治理更是一項系統工程，需要政府、技術提供者、平臺運營者、法律制定者以及每一個網民的共同努力。只有構建一個多方參與、協同治理的網絡環境，才能有效遏制網絡謠言蔓延，保障信息的真實性和網絡空間健康發展。未來，隨著技術的不斷進步和網絡環境的演變，需不斷更新和完善網絡謠言治理策略。在社會各界的共同努力下，構建一個更加理性、健康、有序的網絡信息生態，形成一個多元的網絡謠言治理格局。

參考文獻：

[1] 雷霞.謠言生命力解讀：謠言概念及公式研究綜述[J].新聞記者，2020（11）：85-96.

[2] 閆嘉怡.新媒體時代謠言傳播治理探究[J].西部廣播電視，2021，42（24）：31-33.

[3] 李玉碧，胡曙光.人工智能時代網絡謠言的嬗變：基于自媒體造謠朱婷的案例分析[J].中國傳媒科技，2022（12）：25-28.

[4] 趙磊.社交媒體時代突發事件網絡謠言的傳播機制與治理對策[J].新聞傳播，2024（11）：18-20.

[5] 郭宏剛，楊芳.基于影響力的跨社交網絡謠言擴散模型與抑制方法[J].計算機應用與軟件，2022，39（7）：73-79，153.

[6] 李大勇.大數據時代網絡謠言的合作規制[J].行政法學研究，2021（1）：115-125.

[7] 任松林.信息時代網絡謠言治理與真實性公信力研究[J].中國報業，2024（15）：216-217.

[8] 張先. AI“謠言粉碎機”對網絡謠言傳播及治理的影響探析[J].新聞傳播，2019（13）：48-49.

[9] 任喆，李永鳳.人工智能參與網絡謠言治理的未來圖景[J].青年記者，2018（6）：79-80.

[10] 黃華.工具理性與價值引領共生：算法推薦下網絡謠言傳播問題及治理路徑[J].宜春學院學報，2023，45（11）：10-13，74.

[11] 郭全.互聯網時代的網絡謠言治理研究[J].新聞愛好者，2018（6）：29-32.