互聯網發展新背景下的網絡謠言發展及防控機制研究

仝 鑫,張長琳

(1.中國人民公安大學 信息網絡安全學院，北京 100038;2.河南警察學院，河南 鄭州 450046))

隨著5G、大數據與人工智能等新技術、新業務和新生態的發展，我國的社會經濟形態和人民的生產生活方式不斷發生變革。移動互聯網使世界變得更“小”，大數據使社會服務變得更精確，以機器學習和深度學習為核心的人工智能算法使我們的生活變得更智慧。在這種背景下，各類智能化社交網絡及新媒體平臺逐漸成為人們獲取信息、表達情感和溝通交流的主要途徑。但與此同時，這些新興互聯網技術和社交媒體也成為網絡謠言滋生和迅速傳播的溫床。盡管相關政策法律不斷完善，我國有關部門針對網絡謠言展開了持續有效的治理行動，但仍面臨著諸多挑戰。一方面，謠言的源頭變得更加智能化和多樣化，利用各類人工智能和信息技術手段能夠輕松生成看似真實可信的文本、語音甚至是視頻類型的謠言；另一方面，謠言的傳播更是呈現出高速化、廣泛化和渠道復雜化的特點，微信、微博、短視頻以及各類自媒體平臺等成為謠言傳播的“重災區”，給公共安全和社會長治久安帶來了新的挑戰。

以新型冠狀病毒性肺炎疫情期間的謠言統計數據為例，受封閉式管控的影響，公眾的信息接收和鑒別渠道受限，各類高度不確定的消息加劇了網絡謠言的產生和傳播。根據南都大數據研究院的調研，僅2020年1月20日到3月底，被證偽的謠言就有2498條，日均辟謠67條。而實際傳播的謠言總數還將超過這個數值。并且在這些網絡謠言中，與各地防控措施、國內疫情現狀、預防和治療辦法三個方面相關的謠言合計約占70%[1]，不僅加重了公眾的心理焦慮狀況，同時也對疫情的防控和社會穩定帶來了諸多負面影響。

因此，亟待對互聯網發展新背景下網絡謠言的產生方式、信息載體和傳播途徑進行分析，并探索有針對性的法律和技術防謠措施，這對于維護網絡空間環境和公共安全具有重要意義。

一、網絡謠言的新特征

根據百度百科的定義，網絡謠言是指通過網絡介質(例如微博、國外網站、網絡論壇、社交網站、聊天軟件等)而傳播的沒有事實依據且帶有攻擊性、目的性的話語[2]。然而隨著各類新興信息網絡技術和社交媒體的發展，網絡謠言的形式也不僅限于“話語”，而是有了更豐富的內涵和變化。

(一)多樣化的網絡謠言載體

網絡謠言的載體變得更加智能化和多樣化。幾年前，恐怕很少有人會質疑“耳聽為虛，眼見為實”這句話。但近幾年隨著人工智能技術的不斷發展，尤其是深度偽造(Deepfakes)技術的誕生，讓生成看似高度“可信”的圖片[3]、視頻和語音[4]等多媒體類型的網絡謠言成為可能，也讓我們的耳朵和眼睛變得不再可靠。深度偽造是深度學習(Deep Learning)和偽造(Fake)的合成詞，指利用深度學習技術實現修改或生成音視頻等多媒體文件并達到以假亂真程度的一種技術。近兩年，深度偽造被惡意應用于偽造政府發言人講話和偽造公眾人物煽動輿論的情況時有發生。在2019年，利用深度偽造技術生成的有關美國前總統特朗普和眾議院議長南希·佩洛西以及知名社交軟件Facebook首席執行官馬克·扎克伯格的偽造視頻一度在互聯網上瘋傳，這些視頻中的人無論是相貌，還是聲音都與真人幾乎一致。這些偽造人像甚至會使用豐富的面部表情和肢體語言來配合表達自己的思想，令人難辨真假。相較于傳統基于文字的網絡謠言，這種看得見、聽得見的新型謠言更加令人防不勝防。更令人擔憂的是，隨著該技術的不斷發展和成熟，諸如ZAO、FakeApp等基于深度偽造的應用軟件也逐漸普及，使得不了解背后技術原理的普通人也能輕松生成和傳播這些多媒體謠言。這不僅嚴重侵犯受害者的肖像權、名譽權，更有可能影響到政府公信力與社會的安全穩定，最終可能會導致嚴重的政治風險并直接威脅到國家安全。

(二)智能化的網絡謠言生成技術

新興信息網絡技術使得網絡謠言更容易編寫和更具欺騙性。一直以來，人工撰寫的謠言無論是篇幅、用詞還是行文風格上都與真實新聞存在較大差異，很容易被讀者辨識。近年來，利用基于神經網絡算法的自然語言處理模型生成各類虛假新聞也逐漸成為可能。這些模型不僅使用簡單，而且生成謠言的質量也高于大多數人為編寫的謠言。以著名的自然語言處理模型GPT-2[5]為例，它包含15億的網絡參數并擁有強大的數據儲藏能力，這使得它能更好地理解掌握寫作文風、筆法和意圖。用戶只需要為它提供只言片語或者小段的文字，之后GPT-2就會根據自己的判斷，決定接下來應該如何寫作，最終生成高質量的小說、發言稿和虛假新聞。與其他類似功能的程序相比，GPT-2 表現得更像真人，幾乎不會出現語法錯誤和邏輯不通等瑕疵。這使得謠言的發布者能夠利用這類模型在幾乎不投入精力的情況下生成“高質量”網絡謠言。而GPT-2的發布者也承認該模型有被極端組織惡意應用于謠言傳播等場景的可能，并因此推遲了相關發布時間。此外，還有一些人工智能算法被證明能夠對謠言進行再加工[6]，以實現規避各類主流檢測和審查工具的目的，加大了謠言審查工作的難度。

(三)復雜化的網絡謠言傳播渠道

移動互聯網的普及和各類社交平臺的發展，使得網絡謠言的傳播更具高速化、廣泛化的特點，同時傳播渠道也變得更加多樣化和復雜化。根據我國互聯網絡信息中心發布的第47次《中國互聯網絡發展狀況統計報告》，截至2020年12月，我國手機網民規模已達9.86億，占全國網民總數的比重高達99.7%，即時通信工具、網絡新聞和短視頻用戶規模分別達到了9.81億、7.43億和8.73億[7]。微信、微博、短視頻和頭條新聞等社交和新媒體平臺對人們日常生活的影響越來越大。和電話、報紙、電視等傳統溝通方式和媒體傳播方式相比，這些新興社交媒體不僅具備快捷、大眾化、互動性強的特點，還具有獨特的平等性和隱匿性，打破了之前新聞消息傳播者與受眾之間的角色隔閡，使得每一個用戶都有機會成為新聞的參與者和評論者，極大地促進了公民行使參政議政的權利。但是，正是受到這些社交媒體平臺的虛擬性和隱蔽性特點的影響，導致用戶可以在不負責任的情況下發布信息，進而提升了謠言產生和傳播的概率。同時近兩年流行的抖音、快手等短視頻平臺也成了網絡謠言的傳播渠道，相比微博等文本類型的謠言，這些多媒體謠言不僅形式結構復雜，而且數據量巨大，進一步提升了謠言識別工作的難度。

二、法律層面的謠言治理措施

(一)針對廣義網絡謠言的相關法律

針對網絡謠言具有的欺騙性、傳播性和破壞性等危害，為保護公民的合法權益和社會穩定，肅清網絡環境，我國積極推動在立法層面對于網絡謠言的打擊。散布網絡謠言需要承擔相應的民事、行政或刑事責任。首先，對于散布網絡謠言侵害公民的肖像權、名譽權等民事侵權行為，《民法典》第一千一百九十四條規定了網絡侵權責任。其次，對于散布侮辱誹謗、疫情、警情、險情等擾亂公共秩序的謠言且不構成犯罪的，《治安管理處罰法》規定給予拘留、罰款等行政處罰。此外，我國《刑法》中規定了侮辱罪，誹謗罪，投放虛假危險物質罪，編造、故意傳播虛假恐怖信息罪以及編造、故意傳播虛假信息罪等，對于相關嚴重情況將給予包括有期徒刑、拘役、管制或者剝奪政治權利等在內的處罰。

(二)針對新型網絡謠言的相關法律

由于人工智能等新興信息網絡技術被濫用于捏造和傳播網絡謠言，各國紛紛出臺更具針對性的法律法規以應對挑戰。在世界范圍內，美國已公布了包括《禁止惡意深度偽造法案》《深度偽造責任法案》《德克薩斯州關于制作欺騙性視頻意圖影響選舉結果的刑事犯罪法案》等一系列聯邦或州級別的法案[8]，要求發布者對偽造音視頻標注水印及文本描述，同時禁止相關技術被用于煽動暴力及干擾選舉。歐洲也陸續出臺了《通用數據保護條例》《反虛假信息行為準則》等法案來限制和打擊包括深度偽造在內的新型網絡謠言。此外，新加坡、韓國以及俄羅斯等國也相繼通過了《防止網絡虛假信息和網絡操縱法案》等以補充現有法律法規的不足。

在國內，國家網信辦于2019年發布了《數據安全管理辦法(征求意見稿)》，并在其中規定 “網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明‘合成’字樣；不得以謀取利益或損害他人利益為目的自動合成信息”。后續出臺的《網絡音視頻信息服務管理規定》和《網絡信息內容生態治理規定》也明確禁止網絡信息內容服務使用者和生產者利用深度偽造等人工智能技術發布和宣傳網絡謠言。

三、技術層面的謠言防控手段

“造謠一張嘴，辟謠跑斷腿”。各類新型網絡謠言的出現進一步加重了謠言檢測和辟謠工作的負擔，面對海量的社交媒體數據，依賴人工的傳統謠言防控機制顯得力不從心。因此，依托人工智能和互聯網技術構建智能化、高效化的檢測和辟謠技術成為網絡謠言防控的新途徑。

(一)網絡謠言發現和檢測技術

網絡謠言的發現和檢測是后續辟謠、處置工作的前提。在過去，自動化網絡謠言檢測技術主要是基于內容、關鍵字的方法，盡管這類方法能夠在一定程度上減輕人工檢測的工作量，但依舊存在著靈活性較差、規則庫維護成本高等問題，漏報率和誤報率較高，難以滿足實戰需求。近年來，機器學習及深度學習技術的發展使得更加智能化的網絡謠言檢測技術成為可能。

對于文本類型謠言，其文本長度、主題詞和行文風格等特征與常規文本存在較大差異，一些諸如支持向量機[9]、樸素貝葉斯[10]等傳統機器學習算法和以卷積神經網絡[11]、循環神經網絡[12]以及大規模預訓練語言模型[13]為代表的深度學習模型已經被證明在網絡謠言文本分類任務中具備媲美人工識別準確率的效果，在針對微博謠言檢測數據集上的測試準確率能達到95%以上，并且速度遠超人工檢測方法。考慮到越來越多的用戶使用圖片來發微博，因此一條完整網絡謠言可能包含了文本、圖片等多種類型的數據。一些基于深度學習的多模態謠言檢測方法被相繼提出[14]，不僅能夠同時對多類型的數據進行綜合分析，進一步拓寬了應用場景，而且識別效果優于單一模態的謠言檢測方法，更具有實用價值。

對于偽造音視頻類型的謠言，一系列基于人工智能的解決方案也被證明具備有效性。在清華大學、阿里巴巴和Facebook等國內外的高校及互聯網企業舉辦的深度偽造檢測挑戰賽中，各種基于深度學習的方法百花齊放，并且這些方法能夠精準地檢測到偽造視頻內人物的眼睛、牙齒以及發聲口型等人類感官難以分辨的細節異常，為偽造音視頻謠言的檢測提供了新思路和新技術[15]。同時，不斷擴充的偽造多媒體公開數據集也為訓練相關模型算法提供了必要的數據支撐，使得訓練更加大型化和復雜化的深層神經網絡以不斷提升檢測效果成為可能。

此外，以圖神經網絡為代表的智能化數據分析方法被廣泛應用于針對網絡謠言的用戶特征、發布和轉發流量等方面的研究[16]，對謠言的傳播趨勢分析及溯源工作具有重要意義。

(二)網絡謠言舉報和辟謠機制

在發現謠言后，如何及時辟謠是后續工作的核心。有關部門和互聯網企業采取多種平臺、多種方式對網絡謠言進行圍追堵截。中央網信辦違法和不良信息舉報中心聯合新華網等平臺成立了集謠言舉報、辟謠查詢等功能于一體的中國互聯網聯合辟謠平臺[17]，用權威的聲音來第一時間遏制謠言的發展和傳播。同時，各個社交媒體平臺也積極推動網絡謠言處置工作。針對QQ、微信等謠言傳播渠道，騰訊公司推出了微信辟謠助手，能夠實時查詢和推送辟謠咨詢。新浪同樣成立了“微博辟謠官方賬號”，對網絡謠言進行全天候監控并及時響應，力求將謠言的影響降低到最小。此外，各個政府有關部門也在微信公眾號、新浪微博以及抖音等平臺注冊專門的辟謠官方賬號，不斷拓寬網絡謠言舉報和辟謠渠道，提升謠言處置的工作效率。

四、結語

在互聯網發展新背景下，各類社交平臺和新媒體已經成為公民信息交流的主要平臺。但隨之而來的“信息污染”和“謠言泛濫”問題成為制約社交媒體發展的主要瓶頸之一。與此同時，受各類新興信息網絡技術的影響，網絡謠言的信息載體、產生方式和傳播途徑都發生了深刻地變化，使得網絡謠言能夠在編造成本不斷降低的前提下具有更強的欺騙性和更快的傳播速度，不僅嚴重影響了網絡生態環境，降低了人們所獲取信息的質量，同時還極易引發公眾的恐慌和焦慮，并對社會穩定產生威脅。在這種形勢下，進一步完善網絡謠言相關的法律法規，不斷引入前沿的智能化舉報、識別、溯源和辟謠技術，保證“法律+技術”這張全方位的保護網始終與時俱進，對于打擊網絡謠言，凈化網絡環境，維護公共安全至關重要。