基于深度圖卷積網絡的社交機器人識別方法

毛文清，徐雅斌,3*

(1. 北京信息科技大學網絡文化與數字傳播北京市重點實驗室 北京 朝陽區 100101；2. 北京信息科技大學計算機學院 北京 朝陽區 100101；3. 北京信息科技大學大數據安全技術研究所 北京 朝陽區 100101)

社交機器人是目前活躍于社交網絡上的一種虛擬機器人。它實際上是一種自動化程序，能夠利用社交賬號，運用人工智能等相關技術模仿人類行為在社交網絡中活動。據估計，2019 年Facebook 活躍賬戶中機器人的平均存在率為11%[1]。受政治或經濟利益驅動，社交機器人的數量或比例還在呈現不斷增加的趨勢。Twitter 用戶中進行美國股市趨勢預測的有71%可能是社交機器人[2]；且在2020年的新冠病毒傳播預測中也有同樣的額情況[3]。由此看出，社交機器人正日益成為社交網絡中影響社會輿論的重要工具之一。

研究人員在檢測社交機器人方面做了大量的工作。現有的社交機器人檢測模型可分基于特征的方法和基于圖論的方法兩類。

1) 基于特征的社交機器人檢測方法是目前主流的檢測方法。它通常將機器學習算法應用于待檢測的賬戶，以確定這些賬戶是社交機器人還是人類。文獻[4-6]通過提取簡單的用戶特征，利用貝葉斯模型、K 近鄰模型與C5 決策樹檢測社交機器人。除此之外，研究學者注意到，正常用戶與社交機器人賬號之間在推文中所暗含的情緒因素有很大的不同[7]。文獻[8]通過情感分析和采用其他用戶特征識別新浪微博上的水軍。文獻[9]指出社交機器人可以利用Twitter 情緒來制造適得其反的效果，利用確認偏差制造虛假趨勢或改變公眾意見。目前已有文獻都是進行粗粒度情感劃分工作，如提取博文的情感極性或情感強烈程度作為情感特征，還沒有研究細粒度情感劃分對社交機器人檢測的影響問題。

近年來，深度學習方法應用越來越廣泛。文獻[10]將長短時記憶網絡(long short-time memory,LSTM)首次用于網絡垃圾郵件檢測，檢測準確率達到95.25%。文獻[11]利用卷積神經網絡(convolutional neural networks, CNN)對Twitter 文本進行檢測。文獻[12]利用殘差網絡(residual network, ResNet)、雙向門控循環單元(bidirectional gated recurrent unit, BiGRU)和注意力機制構建了一種新的深度神經網絡模型(residual networkbidirectional gated recurrent unit-attention mechanism,RGA)，實現對社交機器人的檢測。文獻[13]采用深度學習生成模型(variational autoencoder, VAE)自動編碼和解碼樣本特征，通過度量解碼表示與原始特征的差異進行社交機器人檢測。雖然這些基于特征的方法取得了很好的效果，但是由于社交機器人對人類行為的模仿程度越來越高，兩者之間的行為特征差異越來越小，社交機器人能夠較容易地模仿用戶行為。但它在社交網絡結構上的關系難以發生變化，因此使用用戶特征并結合結構關系進行檢測是一個好方法。

2) 基于圖論的檢測方法便是通過描述社交機器人和正常用戶兩者不同的社交關聯結構模式，將社交機器人檢測問題轉化為圖中節點分類問題，然后用圖挖掘算法來區分正常賬戶和社交機器人賬戶。目前，基于圖的深度學習方法已被用于社交機器人檢測，并獲得較好的檢測性能。文獻[14]考慮節點特征和用戶關注關系，首次采用圖卷積神經網絡技術檢測垃圾郵件機器人。文獻[15]提出了一種基于圖注意力網絡的半監督圖嵌入模型，該方法通過捕捉用戶特征和社交網絡中用戶之間的關注關系和轉發關系來識別垃圾郵件機器人。文獻[16]結合了圖卷積網絡(graph convolutional network, GCN)和循環神經網絡(recurrent neural network, RNN)模型，對發布垃圾郵件的惡意機器人進行檢測。

綜上，本文針對社交機器人大多只含有單一情緒的情況，提出了情緒多樣性特征。在常規特征的基礎上，更加強調捕捉社交機器人與正常用戶的情緒差異進行社交機器人的識別。針對GCNII(graph convolutional network via initial residual and identity mapping)模型使用靜態的傳播法則，存在無法自適應的問題，提出一種增加注意力機制的采用博文聚類方法構造初始圖的A-GCNII(attention- graph convolutional network via initial residual and identity mapping)模型，這既可以檢測出博文內容相似的來自同一批次生產的社交機器人，又可以降低數據采集工作量。通過在每個傳播層加入參數化的注意力引導機制，給予與中心節點相同類別的鄰居節點更強的關聯強度，從而有效的提升分類結果。

1 社交機器人特征提取

1.1 元數據特征提取

元數據是描述數據本身及其環境的數據。賬號的元數據可以較為全面地反映一個賬號的特征，是進行社交機器人檢測研究中常用的特征。典型的元數據特征如表1 所示。

表1 元數據特征

1.2 情緒多樣性特征提取

在某一事件中，社交機器人為了實現其目的，必然要清晰表達某種觀點或傳播某種信息，并帶有設定的情感。但跳出該話題與事件，則很少呈現其他的情感表達。即社交機器人的博文往往只含有單一類型的情感。而正常用戶除關注該話題與事件外，還關注生活中方方面面的事物，其博文情感往往呈現多樣性、復雜性的特點。因此，分析賬號情感表達的豐富程度有助于區分正常用戶和社交機器人。

為了衡量該特性，本文提出情緒多樣性特征。首先對博文進行細粒度情緒分類，分為積極、憤怒、悲傷、恐懼、驚奇和無情緒6 類，然后計算賬號的情緒多樣性特征。由于發布的博文大多文本較短、省略嚴重，采用傳統的機器學習算法對博文進行情緒分類，很難準確抽取到句子中與情感表達緊密相關的特征，且以人工標注的單個詞作為特征會忽略單詞所處的上下文語義信息。

2018 年Google 提出的文本預訓練模型BERT(bidirectional encoder representations from transformers)則能夠利用transformer 模型超強的特征抽取能力來學習詞語的雙向編碼表示，融合了上下文信息的詞語編碼能更好地進行情感決策。RoBERTa(a robustly optimized BERT pretraining approach)模型作為“強力優化”版的基于BERT 的預訓練模型，通過訓練時間更久、使用更大批次和使用更多數據等設計獲得了更好的效果。因此，本文采用RoBERTa 模型進行博文情緒分類任務。具體的情緒分類模型架構為取RoBERTa 預訓練模型的最后三層embedding 向量與cls 向量進行拼接，然后傳入linear 層得到預測結果。

情緒多樣性特征提取的流程如下。

1) 用情緒分類模型訓練已標注好的語料對參數進行調優，保存測試集準確率最高的模型作為最終用于預測情緒的模型；

2) 對微博文本進行預處理，包括分詞、去停用詞等；

3) 將預處理后的微博文本輸入到情緒預測模型中，對每條博文分類得到對應的情緒；

4) 統計每個賬號所有博文對應的情緒，計算該賬號出現每種情緒的概率p1、p2、p3、p4、p5、p6；

5) 根據概率值計算情緒種類數特征、辛普森多樣性指數特征(Simpson's diversity index)、香農?維納指數特征(Shannon Wiener index)。辛普森多樣性指數和香農?維納指數都是量化多樣性的指標，可以反映數據集中有多少種不同類型，并且可以同時考慮到這些種類的個體分布之間的系統性關系，例如豐富性，差異性或均勻性。

①情緒種類數特征(sentimentclassnumcount)：賬號發布的所有博文涉及的情緒類別數量，即統計p1、p2、p3、p4、p5、p6 中不為0 的數量。

②辛普森多樣性指數特征：從賬號發布的博文中連續兩次抽樣得到的博文包含同一類情緒的概率：

式中，S為情緒數目；Pi(u)為用戶u包含第i類情緒的概率值。

③香農?維納指數特征：描述賬號情緒類別的紊亂和不確定性，不確定性越高，多樣性也就越高：

式中，S為情緒數目；Pi(u)表示用戶u包含第i類情 緒的概率值。

2 博文聚類

本文通過對大量的社交機器人賬號及正常人類賬號的行為分析發現，由于社交機器人賬號的操縱者一般具有比較明確的目的，且完全模仿人類的語言風格仍存在困難。正常用戶發布的博文大多具有個人特色，表達內容各異，發布極為相似內容的博文的可能性較低。而某一話題下來自同一批次生產的社交機器人則使用同一語言模板，博文內容相似的可能性較高。因此，將同一話題下的相似博文聚為一類有助于發現社交機器人。鑒此，本文采用博文聚類方式進行博文相似圖的構造。

由于single-pass 聚類算法是一種增量聚類算法，每條文本只需要流過算法一次，它可以很好地應用于話題監測與追蹤、在線事件監測等，特別適合如微博帖子信息的流式數據。因此，本文采用single-pass 聚類算法來完成博文聚類的任務。

綜上，首先采用single-pass 算法進行博文聚類，然后利用博文聚類的結果構造完全圖，由此得到博文相似圖，整體流程如下。

1) 將待分類賬號在某一話題下發布的博文保存在txt 文件中，每行對應一條博文；

2) 將txt 文件輸入single-pass 模型中，singlepass 算法讀取txt 文件的第一條博文，建立一個主題，并加入該主題所在的簇；

3) single-pass 算法讀取下一條博文，計算該條博文與當前所有主題的余弦相似度，如果相似度值大于閾值θ，則加入該主題所在的簇；如果相似度值小于閾值θ，則為該條博文新建一個主題，直到遍歷完txt 文件的每一條博文，結束；

4) 所有博文聚類到不同的簇，處于同一個簇的博文互為相似博文，并規定處于同一個簇的賬號之間有邊相連，構造完全圖，由此完成博文相似圖的構造。

3 社交機器人識別

3.1 問題描述

社交網絡中的用戶可以分為正常用戶和社交機器人。假設用戶集為V={v1,v2,···,vn}，類別集為C={Cm,Cb}，Cm為 正 常用戶集，Cb為社交機器人集。社交機器人識別是一個分類問題，具體如下：

式中，F(vi,cj)∈{0,1}為 二元函數，0 表示用戶vi為正常用戶，1 表示用戶vi為社交機器人。

3.2 分類模型

3.2.1 GCNII 模型

文獻[17]提出了一種圖卷積網絡semi-GCN，它是一種經典的GCN 框架，其主要思想是使用切比雪夫一階展開近似譜卷積，使每一個卷積層僅處理一階鄰域信息，然后通過分層傳播規則疊加一個個卷積層，達到多階鄰域信息傳播。

針對GCN 模型因過度平滑而具有的淺層體系結構限制，文獻[18]設計了GCN 模型的擴展模型(GCNII)。它具有初始殘差和恒等映射兩種簡單而有效的技術，可有效地緩解過度平滑的問題。

普通GCN 模型公式為：

GCNII 模型公式為：

與普通GCN 模型相比，GCNII 模型進行了兩個修改：

2) 在權重矩陣W(l)中 添加一個恒等映射In。

關于初始殘差連接，GCNII 將平滑表示P?H(l)與初始表示H(0)連接，使得當模型堆疊了許多層時，每個節點的最終表示也都至少保留來自輸入層的部分 αl輸入。

關于恒等映射，通過在權重W(l)中添加一個單位矩陣In，保證了深度模型至少與淺層模型準確率相同。即假設βl足夠小，模型就會忽略權重矩陣W(l)。

3.2.2 改進的A-GCNII 模型

原始的GCNII 使用的是靜態，無法自適應地傳播法則，無法捕捉中心節點的哪個鄰居節點對于中心節點的分類貢獻更大。文本聚類構造的拓撲結構將發布相似言論內容的賬號彼此連接，但這些賬號的行為特征卻不一定相似，應賦予具有相似行為特征的賬號以更高的關聯強度。

整體A-GCNII 分類模型結構如圖1 所示。AGCNII 分類模型由一層輸入層、若干隱藏層和一層輸出層組成，輸入層以一張圖為輸入，經過第一層全連接層，在正向傳播之前將節點特征X轉為低維初始表示H(0)；然后經過第二層卷積層，對圖中所有節點及其鄰居進行一次卷積操作，并使用卷積結果更新節點；再經過激活函數到達下一層卷積層。重復這一過程，直至到達輸出層。在輸出層，所有節點的特征被轉化為任務相關的標簽，以輔助分類。

圖1 A-GCNII 結構圖

圖中，虛線框為第l 層增加注意力機制后的節點聚合過程。注意力權重是通過一條邊上的兩個節點的特征向量的余弦相似度乘以一個自適應系數β 后得到。每一層聚合層中共用一個β，最后通過softmax 使權重總和為1。

定義傳播矩陣P：若節點i和節點j之間不存在邊，則元素值為0；若節點i和節點j之間存在邊，則元素值為注意力權重值，計算公式為：

計算節點i和節點j在第l 層隱含狀態的余弦距離，是因為它捕捉了節點j到節點i的關聯程度。注意力機制更傾向于選擇那些與中心節點具有相同類別的鄰居節點，并給予更強的關聯強度。

由此，得到A-GCNII 分類模型節點i的更新公式為：

4 社交機器人識別實驗

4.1 數據采集與預處理

數據集由兩部分數據組成：1) 通過爬蟲技術爬取2021 年3 月17 日?2021 年4 月17 日時間內微博平臺上“#新疆棉花#、#我支持新疆棉花#”話題下的所有賬號發布的帶話題博文內容，以及爬取這些賬號ID 對應的用戶信息和歷史博文信息，并通過人工標注方式注明是否為機器人。經過數據預處理后，得到6 976 個有效賬號數據。2) 通過社交機器人樣本數據生成模型生成機器人類型的數據。同樣進行數據預處理，得到6 636個生成賬號數據。因此，本文共采用13 612 個賬號數據作為數據集，正常用戶賬號和社交機器人賬號數量比例為1:1，并將其按6:2:2 劃分為訓練集、驗證集和測試集。

4.2 評價指標

為了更真實地反映整體分類效果，本文使用準確率、精確率、查全率、F1-score 和AUC 值5個常用指標來衡量提出的社交機器人檢測方法的性能。

4.3 參數設置

本文使用PyTorch Geometric(PyG)框架，PyG是面向幾何深度學習的PyTorch 的擴展庫。處理器為Intel? Core TM i7-10875H CPU @ 2.3 GHz，內存為 16 GB，操作系統為Windows10。

A-GCNII 模型是基于PyG 庫的GCNII 模型的進一步改進。模型訓練時，設置層數為8，使用學習率為0.01 的Adam 優化器訓練模型，最多1 000 個epoch。設置dropout 為0.6，隱藏單元數量為16，超參數α 為0.8，β 為0.5，其他參數與PyG 庫中GCNII 模型的初始參數相同。

4.4 實驗

為了分析該方法檢測社交機器人的有效性，設置了以下3 組實驗。實驗中預設的epoch 數為1 000。

實驗1：情緒多樣性特征有效性實驗

采用RoBERTa 模型進行博文情緒分類。首先下載SMP2020 微博情緒分類比賽數據集，將其中的80%作為訓練集，20%作為測試集，將爬取的博文數據作為待分類數據。選用RoBERTa 中文預訓練語言模型作為預訓練模型，得到每條博文對應的情緒類別后，提取情緒多樣性特征，包含情感類別、辛普森多樣性指數、香農?維納指數。

采用A-GCNII 分類模型來測試以下5 種增加特征后的效果，分別為：增加3 個情緒多樣性特征(A)、增加情感類別數特征(B)、增加辛普森多樣性指數特征(C)、增加香農?維納指數特征(D)、無情緒多樣性特征(E)，并使用5 個指標對于分類結果進行評價，分類評價情況如圖2 所示，且A、B、C、D、E的AUC 值分別為：0.99838、0.99647、0.99832、0.99752，0.99685。

圖2 情緒多樣性特征有效性驗證實驗結果

由圖2 可知，在4 個指標上均呈現A>C≥E≥D>B的結果。其中，A的檢測效果最好，此時準確率為98.42%，精確率為97.13%，召回率為99.77%，F1 值為98.44%。由AUC 值結果可知，雖然差異并不明顯，但還是能夠得出，在ROC 曲線下面積指標上呈現A > C ≥ D >E>B 的結果。

由此可以得出結論：增加3 個情緒多樣性特征、辛普森多樣性指數特征或香農?維納指數特征時都可以提升社交機器人的檢測效果，對于預測社交網絡賬號是否屬于社交機器人具有一定的意義。

對比3 種單一情緒多樣性特征，相比于情感類別數特征，利用辛普森多樣性指數特征和香農-維納指數特征衡量情緒的多樣性更有效。這是因為這兩個多樣性指數特征，不僅反映了數據集中包含多少種不同的類別，且考慮了這些種類的個體分布之間的系統性關系，如豐富性、差異性、均勻性。但在群落生態學分析中，辛普森多樣性指數主要針對稀有種的均勻度，而香農?維納指數針對優勢種。即辛普森多樣性指數更關注于社交機器人設定的針對特定話題的某一種情緒之外的其他情緒，這些情緒的數量更少，出現的可能性更小。因此利用辛普森多樣性指數可以更好地凸顯社交機器人賬號與正常用戶賬號中稀有情緒的明顯差異。

實驗2：博文聚類有效性實驗

將本文提出的博文聚類構造拓撲圖的方法與賬號特征聚類拓撲圖方法進行比較。由于本文數據集中包含部分生成數據，因此，博文聚類構造拓撲圖的方法包括nm、n1 兩種具體方式。nm 表示爬取的博文經過博文聚類后聚為n類，m個生成賬號分為m類，總共得到n+m類；n1 表示爬取的博文經過博文聚類后聚為n類，m條生成賬號分為1 類，總共得到n+1 類。

賬號特征聚類方法即對賬號的特征聚類，將具有相似特征值的點聚為一類。本文采用k-means 方法，并取k=25，即表示利用k-means 方法對爬取賬號和生成賬號聚為25 類，它是利用肘方法和輪廓系數法確定的最佳聚類數。采用GCN 和AGCNII 兩種分類模型進行聚類檢測，評價指標結果對比如圖3 所示，且gcn_k25、gcn_n1、gcn_nm的AUC 值分別為：0.50770、0.81016、0.99814；Agcnii_k25、Agcnii_n1、Agcnii_nm 的AUC 值 分別為：0.99811、0.99812、0.99821。從圖3a 和AGCNII 模型的AUC 值可看出，對于A-GCNII 分類模型，在準確率、精確率、F1 值和AUC4 個指標上，本文提出的博文聚類構造方式nm 和n1 均高于k-means 方法。在recall 指標上，Recall(nm)=Recall(n1)=99.85%，Recall(k25)=1，3 種方式都呈現較高的值。其中，構造方式n1 的檢測效果最好，此時準確率為97.83%，精確率為95.97%，召回率為99.85%，F1 值為97.87%，AUC 值為99.81%。

圖3 不同拓撲結構構造方法檢測結果對比圖

從圖3b 和GCN 模型的AUC 值可看出，對于GCN 分類模型，博文聚類構造方式nm 在5 個指標上的檢測效果都較好，構造方式n1 的精確率值較高，達到88.21%，但其他4 個指標值較低，kmeans 方法在5 個指標上的檢測效果較差。綜上可得，相比于k-means 方法，兩種博文聚類構造方法的檢測效果更好。

比較兩種博文聚類構造方法，構造方法nm 在兩個分類模型上的檢測效果都很好；構造方法n1 在A-GCNII 分類模型上分類效果較好，但在GCN 分類模型上分類效果較差。因此，構造方法nm 的檢測效果更穩定。進一步分析發現，由于構造方法nm 表示m個賬號發布的博文互不相同，構造方法n1 表示m個賬號發布的博文相似，顯然構造方法nm 更符合實際情況。

采用構造方法nm 進行博文聚類，內容相似的博文聚到了第2 107 個主題所屬的類別。構造這組與博文對應賬號的拓撲結構如圖4 所示，圖中，三角形表示社交機器人，圓形表示正常用戶，標簽為對應的ID 賬號。可以看出，該組共包括15 個賬號，其中3 個社交機器人發布了4 條相同的博文。由此表明，采用single-pass 聚類構造博文相似圖可以挖掘出社交機器人賬號間的隱秘聯系，證明了構造方法nm 的合理性與有效性。

圖4 博文聚類可視化結果

實驗3：社交機器人識別對比實驗

為了進一步驗證A-GCNII 模型的有效性，本文將近年來文獻中直接和間接相關的模型作為基線模型，包括3 個經典的機器學習方法、3 個深度學習方法和3 個圖神經網絡方法。邏輯回歸LR[19](logistic regression)：用于新浪微博社交機器人的檢測；支持向量機SVM[8](support vector machine)：用于檢測新浪微博的水軍；隨機森林RF[9](random forest)：用于社交機器人檢測；多層感知機MLP[20](multilayer perceptron)：用于檢測互聯網水軍；長短 時 記 憶 網 絡LSTM[10](long short-term memory)：用于檢測網絡垃圾郵件；卷積神經網絡CNN[11](convolution neural network)：用 于 檢 測 社 交 機 器人；圖卷積神經網絡GCN[14](graph convolutional network)：用于檢測垃圾郵件機器人；圖注意網絡GAT[15](graph attention network)：用于垃圾郵件機器人檢測；GCNII(graph convolutional network via initial residual and identity mapping)：本文改進模型的基線方法。

選取所有13 612 個有標簽的節點，按6:4 進行模型訓練和測試，分類評價情況如表2 所示。

表2 分類算法實驗結果對比

由表2 可知，本文提出模型的檢測效果在準確率、精確率、F1 值和AUC 指標上均優于其他方法，在召回率指標上也接近最高值。與其他方法相比，A-GCNII 圖神經網絡模型的各項指標均有明顯提高。對比GCNII 模型，A-GCNII 模型的效果略有提高，這是由于引入了注意力機制，使得中心節點能夠更有針對性地學習具有相似行為特征的節點特征，由此證明了AGCNII 分類模型的有效性。

5 結 束 語

本文設計了一種結合賬號情緒多樣性特征的深度圖卷積網絡，并從賬號表達情感、言論內容以及行為特征三方面對新浪微博社交機器人進行檢測。通過捕捉社交機器人與正常用戶在稀有情緒上的差異來更好地檢測社交機器人。通過采用single-pass聚類構造博文相似圖的方法獲得圖結構信息，為同一話題下的賬號提供拓撲結構，降低數據采集工作量，有效地檢測了來自同一批次生產的發布相似博文內容的社交機器人；最后通過在GCNII 模型的基礎上增加注意力機制，給予與中心節點相同類別的鄰居節點更強的關聯強度，由此提升了社交機器人的檢測結果。本文在新浪微博數據集上進行實驗，分析了不同特征、構圖方式和分類算法對檢測效果的影響。實驗結果表明，本文提出的基于改進的深度圖卷積網絡識別模型在各個指標上均表現良好，推動了基于圖的社交機器人識別的進一步發展。