面向社交網絡的謠言檢測方法研究

鐘南江 陳軒弘

摘要：網絡謠言已成為近年來威脅社會穩定的一大重要因素，基于社交網絡傳播的謠言具有變化形式快、擴散速度快和影響層面廣等特點，對公安民警的謠言治理水平提出了新的要求。基于機器學習和深度學習的自動化謠言檢測方法是當前謠言治理的突破點。對中文微博謠言數據集進行了預處理，采用One-hot，TF-IDF，Doc2Vec將文本向量化，基于邏輯回歸、神經網絡算法構建相應模型，在謠言數據集上進行了實驗性能評估與對比分析。結果顯示，基于Doc2Vec和神經網絡的謠言檢測模型在謠言數據集上的準確率最高。

關鍵詞：社交網絡；神經網絡；謠言檢測

中圖分類號：TP391文獻標志碼：A文章編號：1008-1739（2022）13-57-7

0引言

當前，社交網絡中充斥著網絡謠言，尤其是在微博等網絡自媒體較多的社交網絡中，謠言的轉發達到了驚人的數量。目前，對于謠言的發現和檢測大多通過人工搜索、接受舉報等方式，這種方法效率低且具有一定的滯后性，難以對謠言的形成和發展進行有效的預防和封堵。在公安實踐中，謠言治理已成為當前工作的一大痛點、難點，如何及時有效地對謠言進行發現、處理是當下需要關注的一個重要問題。本文通過研究分析自然語言處理的前沿算法，提出高效的謠言檢測模型，可以為公安實戰提供有力支撐。

最常見的方法是將謠言檢測問題歸結為一個二元分類問題。然而在實際情況中，將所有新聞分為2類（真實新聞或謠言）是困難的，因為某些情況下，謠言中也摻雜了部分的真實新聞。為了解決這個問題，一種常見的做法是增加一個額外的分類。增加分類的方法主要有2種：一種是對既不完全真實也不完全虛假的新聞分成一個單獨的類別；另一種是設置2個以上的真實度。后者的分類模式更加接近人類的判斷方式。

現有的謠言檢測方法[1-2]中常用的分類模型是支持向量機（SVM）和樸素貝葉斯模型（NBC）。邏輯回歸（LR）和決策樹、隨機森林算法（RFC）也被使用。這些算法提取了評論中的文本內容、用戶屬性、信息傳播和時間特性的分類特征，進行特征歸一化后使用分類模型進行謠言檢測。

目前，隨著GPU等計算水平的提高，基于深度學習模型[4-9]在自然語言處理任務中表現優異，并逐漸成為NLP的主流方向。在斯坦福著名的機器閱讀理解競賽中，基于深度學習的模型在SQuAD2.0數據集中的表現已經超過人類水平。

本文研究的是對社交網絡中存在的大量中文新聞文本數據進行挖掘和研究，并分析多種自然語言處理模型在謠言檢測任務上的性能，比較模型性能以及模型優缺點。最后選取合適的模型應用于社交網絡中的謠言檢測。

1數據獲取與預處理

目前，中文文本的謠言集中出現在微博和微信兩大互聯網平臺上。其中，微信平臺由于其相對隱私性，謠言的文本數據較難獲取；微博平臺有專門的辟謠賬號，謠言的文本數據獲取難度相對較低。因此，本文采用微博數據進行謠言檢測的訓練數據，數據來自DataFountain數據科學競賽網站中的疫情期間互聯網虛假新聞檢測競賽的訓練數據集（www. datafountain.cn/competitions/422/datasets）。

該數據集中有49 910個樣本，共有9個標簽，分別為：id（新聞id）、content（新聞的文本內容）、picture_lists（新聞圖片id）、comment_2（新聞的至多2條評論）、comment_all（新聞的所有評論）、category（新聞所屬領域）、ncw_ label（是否需要進行真值判斷）、fake_ label（取值為{0，1}，0表示非虛假新聞，1表示虛假新聞）、real_ label（取值為{0，1}，0表示非真實新聞，1表示真實新聞）。使用Python的collections庫中的Counter函數對標簽ncw_ label進行統計，得到{0∶33806，1∶16104}，根據標簽說明，選取ncw_ label取值為0的33 806個數據作為訓練樣本。本文基于謠言文本進行分類建模，因此，選取數據集的content和fake_label標簽作為本文建模分析的數據。再使用Counter函數對標簽fake_ label進行統計，得到{0∶16965，1∶16841}，表明，在33 806個數據中，有16 965個真實新聞，16 841個虛假新聞。

實踐表明，中文文本中的標點對中文語義的理解影響不大，反而會成為數據的噪聲，影響模型的精度。因此，先將中文文本數據中的標點和數字去除，僅留出中文文本。接著，對中文文本進行分詞處理。中文文本的分詞是基于現有的中文語料，對架設的分詞模型進行訓練，從而使分詞模型獲得符合一般中文表達習慣的中文文本切分能力。本文選用pkuseg分詞工具包，該分詞工具包內專門根據微博語料構建了網絡領域模型，分詞效果相比同類工具較好。

2特征工程

目前，絕大部分算法工具無法直接對輸入的中文信息進行處理，只能在數值上進行運算。因此，需要通過一定的方法將中文的文本數據轉換為算法可讀的數值化數據，這個轉換的過程可稱為特征工程，或特征提取。

特征提取的過程也是訓練文本表示的過程，是用一組數值向量來表示一個詞匯、一個句子、一個段落，從而將文本數據轉換為向量化、結構化的數據，以便下游任務使用。文本轉化為數值向量后，可以直接對文本映射的向量空間中的點進行數據挖掘和分析。當前，主流的詞匯向量化表示方法有2種類型：一種是離散化的文本表示；另一種是分布式的文本表示。

2.1基于離散化的文本表示

One-hot編碼是對文本進行編碼最簡單的方法，是一種離散化的詞匯表示方法。One-hot方法首先根據目標文本創建一個大小為的詞典，為文本所含的獨立的詞匯個數，之后將每個詞匯映射成長度為的向量，單詞在詞典的第個位置則將向量的第位標記為1，該向量的其余位置標記為0。

2.2基于分布式的文本表示

由于離散化的文本表示方法無法形成對文本語義的表示，因此引入分布式的文本表示方法。在分布式的文本表示方法中，數值向量是稠密的，一般情況下，詞匯在向量的每個維度上都有非0的取值。

2.2.1 Word2vec

當理解一個陌生詞匯的意思時，通常會通過它周圍的詞語的意思對它的意思進行預測。同樣的，我們也可以通過一個詞來預測其上下文中相關的詞。Word2Vec[10]正是借助這一理念構建的詞向量模型，其模型結構圖如圖1所示。

可以看到，Word2Vec主要由3個模塊構成：詞匯表構建器、上下文環境構建器和參數學習器。詞匯表構建器用于接收原始的文本數據，并根據給定的文本語料構建詞匯表。上下文環境構建器使用詞匯表構建器的輸出結果，以及上下文環境窗口的詞作為輸入，然后產生輸出。參數學習器為一個3層的神經網絡，輸入層神經元的個數和訓練的詞匯表大小一致，隱層神經元的數量就是最后得到的詞向量維度大小，輸出層的神經元數量和輸入層相同。

Word2Vec中有2個算法：連續詞袋（CBOW）算法和跳躍語法（Skip-gram）算法。算法模型如圖2所示。

在CBOW算法中，目標詞的上下文環境由其周邊多個詞來表示，而Skip-gram算法則反過來利用目標詞預測上下文的詞。

2.2.2 Doc2Vec

Doc2Vec[3]由Quoc Le和Thomas Mikolov于2014年提出。他們基于Word2Vec進行了改進，并且使得文檔向量的大小不受文檔詞匯個數的影響，并且在較大的文本數據中，擁有比Word2Vec更好的文本語義捕捉能力。

Doc2Vec的訓練方式與Word2Vec大體相同，但在Doc2Vec中，增加了一個句向量來表示文段的意思，每次訓練時，Doc2Vec都會設置滑動窗口并截取窗口大小數量的詞與句向量共同進行訓練，此時的句向量可以看作一個一直參與訓練的詞向量，因此，每次訓練句向量都能捕獲到訓練詞表達的語義，該向量對文段主旨的表達會越來越準確，并最終作為整個文段的向量表示。

3模型建立

3.1邏輯回歸

3.2神經網絡

神經網絡可以理解為一個能擬合任意函數的黑匣子，每個神經網絡都有輸入層＼輸出層＼隱藏層，每個層之間根據任務的需要，也會設置若干個節點。輸入層和輸出層各有一個，可以理解為函數中的自變量和應變量，而隱藏層可以有多個，類似于函數中的系數，在神經網絡中，隱藏層是不可見的，層與層之間都有特定的鏈接方式。以全連接神經網絡為例，本層的單個神經元接收上一層所有神經元的傳入，輸入維度是上一層的節點個數，同時，神經元的輸入又與下一層的所有神經元相連接。如圖3所示是一個4層的神經網絡結構圖，第1層為輸入層，有12個神經元；第2、3層為隱層，分別有8個和2個神經元；第4層為輸出層，有1個神經元。

本文采用5層的全連接神經網絡進行模型的訓練，其中第1層為輸入層，接收傳入的句向量，句向量維度為64維，第2～4為隱藏層，神經元個數分別為32，16，8；第5層為輸出層，輸出一個一維的結果。

4實驗分析

4.1評價指標

本文將33 806個樣本數據分成訓練數據和測試數據，訓練數據共27 044條，占到總樣本數的80%，測試數據共6 762條，占到總樣本數的百分之20%。在句向量維度上選擇64維的向量作為模型的輸入。模型性能評估采用準確率（Accuracy）、精確度（Precision）、召回率（Recall）和F1 Score作為評價指標。模型在對訓練數據擬合后，對測試數據進行預測，并選取模型輸出值大于0.5的數據作為預測的正例。根據預測結果生成混淆矩陣，混淆矩陣如表1所示。

其中，TP代表將正例預測為正例數；FN代表將正例預測為反例數；FP代表將反例預測為正例數；TN代表將反例預測為反例數。

從實驗結果來看，使用Doc2Vec作為文本表示方法，使用神經網絡作為分類模型在各個指標上都優于其他組合，說明這2種方法組合有更好的謠言識別能力。

4.3模型性能對比

為了對比模型的收斂性和訓練效率，進行了模型性能對比實驗。

One-hot和TF-IDF文本表示方式由于其實現方法類似，因此在模型性能上表現相似。圖4是One-hot+邏輯回歸模型迭代訓練200次的損失和準確率變化圖。圖5是TF-IDF+邏輯回歸模型迭代訓練200次的損失和準確率變化圖。其中，藍色部分為損失值，點表示樣本在訓練集上的損失，線表示樣本在測試集上的損失；紅色部分為精確度，點表示樣本在訓練集上的損失，線表示樣本在測試集上的損失。

從圖4和圖5中可以看出，One-hot和TF-IDF算法處理的樣本數據都在進行邏輯回歸迭代50次后趨于收斂，模型精度保持在80%，訓練效率沒有明顯的區別。

圖6和圖7是使用One-hot和TF-IDF進行文本表示后，使用神經網絡進行謠言檢測的性能圖，可以看到模型識別準確率較邏輯回歸有較大的提升。但其在迭代200次后仍然還未收斂，模型損失函數值（藍色曲線）仍然呈現下降的趨勢，這是由于神經網絡的模型更復雜，參數更多，模型訓練需要花費更多的時間和迭代次數。

圖8和圖9為使用Doc2Vec作為文本表示方法，分別使用邏輯回歸和神經網絡作為分類器，模型準確率和損失值的變化趨勢圖。可以看到，當Doc2Vec通過全連接神經網絡進行訓練時，模型效果提升較大。但是邏輯回歸在模型迭代至200次時測試集準確率已經趨于平緩，而神經網絡在迭代800次時才逐漸趨于平緩，說明邏輯回歸消耗的計算資源更少，模型更加高效。

再將圖4、圖5、圖8進行對比，可以看到，使用Doc2Vec比One-hot和TF-IDF兩種表示方法需要迭代更多的次數模型才會收斂。

通過模型性能比較試驗可以得出以下結論：邏輯回歸模型的收斂速度比神經網絡更快，但準確率比神經網絡低；使用離散型文本表示方法One-hot和TF-IDF比使用分布式文本表示Doc2Vec模型的速度更快，但準確率更低。因此模型的選擇應考慮實際的使用需要，如果對準確率要求不高且計算能力有限時，使用離散化的文本表示與邏輯回歸結合的模型能夠滿足其要求；若算力充足并且對準確率有較高的要求，則建議使用分布式文本表示方法與神經網絡結合的模型進行分類。

4.4神經網絡結構對比

為了選擇合適的模型結構，構造了不同的神經網絡結構，并對它們的識別準確率進行比較。分別構建了3層（64×18×1）、4層（64×32×16×1）、5層（64×32×16×8×1）、6層（64×32×16×8×4×1）、7層（64×40×30×20×10×5×1）的神經網絡，括號中為每一層的神經元數量。選擇Doc2Vec作為文本表示方法，實驗結果如圖10所示，可以看到，5層的神經網絡識別準確率最高。3層～5層，隨著模型層數的增加，識別準確率越來越高。但當模型層數增加到6層之后，模型的準確率有較大幅度的下滑，這是由于模型出現了過擬合。

為了驗證模型的確出現了過擬合，將7層神經網絡的收斂情況通過圖11展示出來，其中紅色虛線為訓練集準確率變化趨勢，紅色實線為測試集準確率變化趨勢，在迭代100次后訓練集準確率仍然在不斷提高，但測試集準確率開始下滑；藍色虛線為訓練集損失，藍色實線為測試集損失，他們之間的變化趨勢有著非常明顯的區別，在訓練迭代25次后測試集損失有明顯的上升，并且出現了較大幅度的波動，但訓練集損失仍然在不斷下降。以上均為過擬合的表現。

因此，在該數據集上，最終選擇5層（64×32×16×8×1）神經網絡作為本文的模型結構。

5結束語

本文從特征提取和模型搭建2個角度分析了謠言文本檢測算法，并對相關算法模型進行了介紹說明，在最后對各個算法模型的組合進行了實驗分析，比較了他們在準確率、精確度、召回率和F1 Score指標的表現。

未來，謠言檢測任務還能夠在以下方面進行提升與改進：樣本數量可以進行擴充，本次實驗僅使用了新浪微博上的文本，下一步還可以加入其他社交網絡的謠言文本和常規語料，以提高模型的泛化能力；模型復雜度還需進一步提升，目前自然語言處理領域已有如Bert，Transformer等更高效的模型，下一步可以將這些模型應用到謠言檢測任務中；樣本類型可以進一步豐富，大量謠言在發布其文本的同時，還會發布一些吸引人眼球的圖片，下一步可以融合自然語言處理和計算機視覺的模型，對謠言文本和圖片進行綜合分析檢測。

參考文獻

[1] KE W，SONG Y，ZHU K Q.False Rumors Detection on Sina Weibo by Propagation Structures[C]// IEEE International Conference on Data Engineering.Seoul：IEEE，2015：651-662.

[2]段大高，蓋新新，韓忠明，等.基于梯度提升決策樹的微博虛假消息檢測[J].計算機應用，2018，38（2）：410-414.

[3] Le Q V， Mikolov T. Distributed Representations of Sentences and Documents[C]//International Conference on Machine Learning.Toronto：JMLR，2014：1188-1196.

[4] JING M，WEI G，MITRA P， et al. Detecting Rumors from Microblogs with Recurrent Neural Networks[C]//25th International Joint Conference on Artificial Intelligence.New York，2016：3818-3824.

[5] MA J， GAO W， WONG K F. Rumor Detection on Twitter with Tree-structured Recursive Neural Networks[C]// 56th Annual Meeting of the Association for Computational Linguistics.Melbourne：ACL，2018：1980-1989.

[6] YU F， LIU Q， WU S， et al. A Convolutional Approach for Misinformation Identification[C]// 26th International Joint Conference on Artificial Intelligence.Melbourne：IJCAI.2017： 3901-3907.

[7] YU F， LIU Q， WU S， et al. Attention-based Convolutional Approach for Misinformation Identification from Massive and Noisy Microblog Posts[J]. Computers&Security，2019， 83： 106-121.

[8]馮茹嘉，張海軍，潘偉民.基于情感分析和Transformer模型的微博謠言檢測[J].計算機與現代化， 2021（10）：1-7.

[9]段大高，王長生，韓忠明，等.基于微博評論的虛假消息檢測模型[J].計算機仿真， 2016，33（1）：386-390.

[10] MIKOLOV T， CHEN K， CORRADO G， et al. Efficient Estimation of Word Representations in Vector Space[J/OL].[2022-03-15]. https：//arxiv.org/abs/1301.3781.