基于自適應差異化圖卷積的社交網絡新增惡意用戶檢測

吳正昊 曾國蓀

摘 要：社交網絡新增惡意用戶檢測作為一項分類任務，一直面臨著數據樣本不足、惡意用戶標注稀少的問題。在數據有限的情況下，為了能夠精確地檢測出惡意用戶，提出一種基于自適應差異化圖卷積網絡的檢測方法。該方法通過提取社交網絡中的用戶特征和社交關系構建社交網絡圖。構建社交網絡圖后，計算節點與鄰居的相似度，并對鄰居進行優先級排序，利用優先級順序采樣關鍵鄰居。關鍵鄰居的特征通過自適應權重的加權平均方式聚合到節點自身，以此更新節點特征。特征更新后的節點通過特征降維和歸一化計算得到惡意值，利用惡意值判斷用戶的惡意性。實驗表明該方法和其他方法相比，具有更高的惡意用戶查全率和整體查準率，并且能夠快速地完成對新增用戶的檢測，證明了自適應差異化圖卷積網絡能夠有效捕捉到少量樣本的關鍵特征。

關鍵詞：社交網絡；用戶分類；機器學習；圖神經網絡；惡意用戶

中圖分類號：TP183?? 文獻標志碼：A

文章編號：1001-3695（2023）09-041-2820-06

doi：10.19734/j.issn.1001-3695.2022.12.0835

Detection of new malicious users in social networks based on adaptive differential graph convolution

Wu Zhenghao1，2，Zeng Guosun1

（1.Dept. of Computer Science & Technology，Tongji University，Shanghai 201804，China；2.Embedded System & Service Computing Key Laboratory of Ministry of Education，Shanghai 201804，China）

Abstract：As a classification task，the detection of new malicious users in social networks has been facing the lack of datasets and labels of malicious users.With limited data，this paper proposed a method based on adaptive differential graph convolution to detect malicious users accurately.By extracting user features and social relationships in the social network，the method constructed the social network graph.After this，it calculated the similarities between node and its neighbors to prioritize the neighbors，and used the priority order to sample key neighbors.The node used adaptive weighted average to aggregate the features of key neighbors to itself，to update its features.After feature updating，by feature dimension reduction and normalization，the node got its malicious value，for malicious detection.The experiment results show that，compared to other methods，the proposed method achieves higher precision and overall accuracy on detection of new malicious users，with a satisfactory speed.Results also demonstrate that adaptive differential graph convolutional networks can effectively capture the key features of a small number of data samples.

Key words：social network；user classification；machine learning；graph neural network；malicious user

0 引言

社交網絡是當今互聯網重要的組成部分，也是眾多互聯網用戶生活中不可或缺的一部分。隨著社交網絡規模的不斷擴大，海量用戶中也出現了一些抱有惡意目的的用戶。有研究統計，熱門社交網絡平臺Twitter的活躍用戶中有9%～15%是機器賬號［1］，其中大多數是發布廣告、色情內容、欺詐鏈接等有害信息的惡意賬號。Twitter平均每天會新增百萬條以上的垃圾信息，大部分來源于惡意用戶控制的機器賬號［2］。除了散布垃圾信息，惡意用戶還會利用社交網絡實施信息攻擊。2013年，黑客組織敘利亞電子軍攻擊了美聯社的社交網絡賬號并發布白宮受到恐怖襲擊的虛假消息，一度讓美股市場崩盤［3］。2016年美國總統選舉期間，Twitter平臺的惡意賬號散布了約31%的不可靠政治信息［4］。據研究分析，這些賬號發布的政治信息在協助特朗普選舉的過程中起到了重要作用［5］。除此之外，社交網絡惡意用戶還從其他方面威脅著社會穩定。例如，利用虛假信息制造網絡輿論，對社交網絡的個人或群體實施網絡霸凌［6］；在社交網絡實施消費欺詐，用假裝交易退款、低價促銷等手段欺騙用戶財產［7］；在社交網絡傳播虛假新聞，潛移默化地影響大眾對政治、娛樂、社會政策等事物的認知［8］。惡意用戶的存在嚴重增加了正常用戶在使用社交網絡中被欺詐、騷擾、誤導的風險，為了應對惡意用戶對網絡安全、社會穩定、政治滲透等方面帶來的現實威脅，惡意用戶檢測技術的發展變得尤為迫切。

當前主流的惡意用戶檢測方法可大致分為基于人工、基于社交網絡關系圖和基于機器學習三類?；谌斯さ姆椒z測準確度高，但耗時耗力、效率低下［9］。基于社交網絡關系圖的方法檢測效率高，但需要事先了解惡意用戶在社交網絡中的分布特征。由于獲取這方面的信息并不容易，所以此類檢測方法大多對社交網絡的用戶分布進行了人為假設。最簡單的假設之一是Gong等人［10］提出的同質偏好假設，即兩個相連的用戶更可能具有相似的屬性和類別。基于這一假設提出的檢測方法多數采用隨機游走技術，如文獻［11］。另一種常見的假設是由Leskovec等人［12］研究提出的小型社群假設，即整個在線社交網絡由若干個小型社群構成?；谶@種假設，一些研究人員將馬爾可夫網絡和置信度傳播等方法應用于惡意用戶檢測，如BOTection［13］。

然而，無論是同質偏好假設還是小型社群假設，其衍生出的檢測方法的準確性都嚴重依賴于對網絡結構理論假設的正確性，這也是基于社交網絡關系圖方法的通病［14］。為了擺脫先驗知識和理論假設的束縛、提高檢測技術的智能程度和泛化能力，越來越多的研究開始將圖神經網絡應用到惡意用戶檢測中。圖神經網絡作為一種基于圖結構數據的機器學習方法，能夠在缺少先驗知識的條件下，有效地利用社交網絡關系圖的結構特征和用戶節點特征，完成用戶節點分類等任務。

GCN［15］是最早被提出用于節點半監督分類的圖神經網絡之一，它基于圖的拉普拉斯矩陣分解定義圖卷積操作，利用圖卷積更新節點特征并對節點進行分類。GraphSAGE［16］從另一個角度定義圖卷積，它將圖節點的信息卷積分為采樣和聚合兩階段，使節點特征更新方式更加靈活。文獻［17］首先將圖卷積神經網絡引入惡意用戶檢測，提出了基于GCNN的Twitter惡意用戶檢測框架，為圖神經網絡檢測惡意用戶提供了性能參考基準。GAT［18］將注意力機制融入圖卷積過程，以區分不同節點的重要性。文獻［19］將GAT提出的圖注意力機制融入了惡意用戶檢測中，檢測性能相較傳統方法有顯著提升。近兩年也有研究將異質圖神經網絡引入惡意用戶檢測中，如文獻［20］提出的Bot-MGAT。

可見，研究人員已經開始將經典的和改進的圖神經網絡應用于惡意用戶檢測，但仍然面臨一些問題。第一，在社交網絡中，惡意用戶的數量遠小于正常用戶，而被明確標注為惡意用戶的樣本數量更加稀少。在大量正常樣本特征的影響下，經典的圖神經網絡很難學習到惡意用戶的典型特征，導致檢測效果不盡如意。第二，當前的主流方法大多通過增加模型層數、改變網絡架構以及融合多視角信息對經典圖神經網絡進行改進，這些改進能夠在一定程度上提升檢測準確率，但也會導致模型對訓練數據的依賴和復雜度的增加。在訓練數據較少的情況下，模型會因為多視角信息的缺失而性能退化。除此之外，隨著新增用戶加入社交網絡，高復雜度模型的訓練開銷和檢測開銷也會越來越大。面對以上問題，本文旨在針對惡意用戶檢測這一應用場景，構建一種簡潔且能夠盡可能捕捉有限學習數據中重要信息的圖卷積神經網絡，并在此基礎上提出一種新增惡意用戶的檢測方法。

4 實驗與分析

4.1 實驗數據集和運行環境

實驗采用Twitter 1KS-10KN dataset［21］作為數據集對模型進行訓練和驗證。該數據集是本研究領域常用的基準數據集，基本信息如表1所示。

為了更直觀地了解惡意用戶和正常用戶在社交網絡圖中的分布情況，本文將數據集進行了可視化，如圖3所示。

圖中紅色代表惡意用戶，藍色代表正常用戶（見電子版）。在中心聚集的是度數較高的節點，也就是社交網絡中關注者和粉絲數較多的用戶。絕大多數惡意用戶都集中在這一區域，他們廣泛地關注其他用戶，以便將惡意信息傳播給更多人。一部分正常用戶也在這一區域，他們通常是社交網絡中具有一定影響力的意見領袖或現實中的知名人物，因而有較多追隨者。在網絡邊緣聚集并形成圓環節點群的是度數較低、但仍擁有一定的鄰居和粉絲的用戶，他們代表著絕大部分使用社交網絡的普通人：用戶有自己的小范圍社交圈，部分追隨中心區域的高影響力用戶。分布在這一區域的用戶絕大部分是正常用戶，但仍有少量惡意用戶混雜在正常用戶群中，只是影響范圍更小。在中心區域和圓環之間，散布著極少量的孤立用戶，他們在網絡中不存在社交關系，沒有關注的價值。

對實驗數據集的分析進一步說明了惡意用戶檢測中的正負樣本數量不平衡問題：惡意用戶遠少于正常用戶，需要從有限的樣本中盡可能學習到惡意用戶的典型特征。此外，可視化圖顯示出惡意用戶存在多種分布特征，既有聚集性惡意群體，也有分散的惡意個體，要求檢測方法具有更強的魯棒性。

在網絡結構分析后，進一步對用戶資料的屬性特征進行了分析和篩選，忽略了與用戶惡意性明顯不相關的屬性項，選擇了如表2所示的七項用戶屬性作為特征進行實驗。由于各個特征的值數量級差異較大，為了避免量級較小的特征作用被掩蓋，實驗對數據進行了L2標準化處理。

實驗運行于Windows平臺，使用Python語言編程，基于PyTorch和Deep Graph Library平臺搭建檢測模型。實驗平臺主要硬件配置為：CPU i7-10750H、GPU RTX 3060 12 GB。

4.2 評價指標

檢測模型性能對比采用的指標包括準確率、召回率、精確率和F1值。

準確率即模型預測標簽正確的樣本數與總測試樣本數的比例，是最直觀的模型評價指標。但在正樣本遠少于負樣本的情況下，準確率并不能很好地反映模型檢測惡意用戶的能力，因此還需要結合召回率和準確率判斷模型性能。

召回率是指模型檢測出的正確的正樣本數與全部正樣本數的比例，而精確率是指模型檢測正確的正樣本數和所有預測為正的樣本數的比例。召回率反映了模型發現惡意用戶的能力，精確率則反映了模型預測惡意用戶的準確程度。如果召回率高而精確率低，說明模型的誤報率很高；反之說明模型在檢測中過于謹慎，導致檢測能力下降。

F1值是根據召回率和精確率計算出的反映模型綜合性能的指標，F1值越高，說明模型的召回率和精確率都較高，沒有出現指標值兩極分化的情況。因此，在所有評價指標中，F1值的重要性是最高的。

4.3 實驗結果與分析

為了檢驗本文提出的自適應差異化圖卷積模型的性能和效果，選取了多層感知機MLP模型、三種經典圖神經網絡模型，以及2022年最新提出的Bot-MGAT模型［20］作為基準模型對比。將Twitter 1KS-10KN數據集按照節點數6：2：2的比例分為訓練集、驗證集和測試集，分別包含6 600、2 200、2 200個節點。在設置相同訓練參數和訓練批次的情況下，分別訓練各基準模型和本文提出的自適應差異化圖卷積模型，并在測試數據集上驗證對比各模型檢測惡意用戶的效果。

具體的實驗參數為：所有的線性變換W維度均為256，權重組或注意力頭數為4（如果有），LeakyReLU函數的負軸斜率為0.2，特征向量和權重向量的丟棄率均為0.5，初始學習率為0.01，一階鄰居和二階鄰居采樣數均為10，交叉熵損失函數中的超參數γ0=1和γ1=2。在自適應差異化圖卷積網絡中，一階優先采樣鄰居數為7，隨機采樣鄰居數為2，二階優先采樣鄰居和隨機采樣鄰居數均為5，結構緊密度εlow=1，εhigh=2。

實驗結果如表3、4所示。表3展示了不同方法在測試數據集上檢測惡意用戶的各項指標?？梢?，自適應差異化圖卷積網絡在檢測準確率、召回率和F1值都高于其他方法，綜合表現最優。MLP是基于傳統人工神經網絡的機器學習分類方法，它只利用節點的屬性數據進行訓練學習，忽略了網絡中的社交關系。因此，在惡意樣本數較少的情況下，MLP很難學習到惡意用戶的典型特征，從而導致檢測惡意用戶的召回率很低。GCN考慮了網絡的結構特征，由于惡意節點和與惡意節點相關的邊在網絡中占比都很低，單層GCN無法完全提取到惡意用戶的深層次特征，所以檢測效果惡意用戶的能力較差。在增加一層網絡后，GCN檢測惡意用戶的能力有顯著提升，但由于GCN存在固有的結構限制，只能進行直推式學習，無法解決檢測新增節點惡意性的問題。GAT和GraphSAGE都是歸納式模型，能夠利用已有的模型檢測新增節點，但在實驗測試中，兩種方法的召回率都很低，層數的疊加對性能的提升也并不顯著。從兩者網絡結構分析推測，GAT雖然在聚合鄰居信息時考慮了鄰居的重要性，但沒有對鄰居采樣，可能聚合到噪聲信息；GraphSAGE對鄰居進行了采樣，但忽略了不同鄰居的重要性，因此很難學習到惡意用戶的關鍵特征。最新的Bot-MGAT基于社交網絡的多視角信息，在構建檢測模型框架時為不同類型的社交關系分別設置了多層圖注意力網絡，但在只有單類型關系的數據集下，其性能因數據缺失而退化為近似于一般的多層GAT模型。

為了驗證二階段采樣和自適應聚合函數模塊在網絡中起到的作用，實驗在相同的條件下分別去掉這些模塊，用隨機采樣和平均聚合代替，以對比分析各模塊在自適應差異化圖卷積網絡中的作用。

表4分別展示了用隨機采樣替換二階段采樣、用平均聚合替換自適應聚合的自適應差異化圖卷積網絡在測試數據集上檢測惡意用戶的各項指標。顯然，替換網絡的任一模塊后，模型檢測惡意用戶的能力都有所下降。根據性能下降的幅度可以看出，自適應聚合模塊在網絡中起到的作用比二階段采樣模塊更大，因為二階段采樣只是對節點鄰居的初步篩選，只有在自適應聚合模塊的協助下才能更好地幫助發現重要鄰居信息。

在測試模型檢測性能指標過程中，實驗記錄了在本測試環境下的節點平均檢測時間。結果顯示，本文的檢測方法每秒可檢測約100名新增用戶，能基本滿足實時性要求。

5 結束語

社交網絡惡意用戶檢測是網絡安全領域中的重要課題之一。在惡意用戶檢測中，社交網絡用戶不斷新增和惡意用戶樣本標注稀少是要面對的兩個主要難題。在已知學習數據有限的情況下，現有的檢測方法大多趨于兩個極端：過于簡單而無法學習到惡意用戶特征，或過于復雜而無法滿足不斷新增的檢測需求?；谶@一背景，本文提出了自適應差異化圖卷積神經網絡，在圖卷積的采樣和聚合過程中都從不同角度強化了對惡意用戶特征的學習，利用有限的數據最大程度強化模型對惡意用戶的檢測能力。為了能夠迅速檢測不斷新增的社交網絡用戶，本文在自適應差異化圖卷積網絡的基礎上提出了一種檢測新增用戶惡意性的方法。實驗在數據集Twitter 1KS-10KN dataset上對方法的有效性進行了測試和驗證，結果顯示本文方法相較其他基準檢測方法有著更高的準確度和較快的新增用戶檢測速度。

本文構建的自適應差異化圖卷積網絡模型在檢測社交網絡新增節點的惡意性上取得了較好的效果，但仍存在一些局限性和可以改進的地方。例如，在模型構建方面，忽略了用戶的社交文本信息，只處理了單類型社交關系；在模型訓練方面，為了盡可能檢測出更多的惡意用戶而降低了正常樣本的權重，導致了一部分檢測精確率的下降。這些內容將在未來的研究中進一步深入和改進，以便得到效果更好的新增惡意用戶檢測模型。

參考文獻：

［1］Varol O，Ferrara E，Davis C，et al.Online human-bot interactions：detection，estimation，and characterization［C］//Proc of International AAAI Conference on Web and Social Media.Palo Alto，CA：AAAI Press，2017：280-289.

［2］Chu Zi，Gianvecchio S，Wang Haining，et al.Who is tweeting on Twitter：human，bot，or cyborg？［C］//Proc of the 26th Annual Computer Security Applications Conference.New York：ACM Press，2010：21-30.

［3］Foster P.′Bogus′AP Tweet about explosion at the White House wipes billions off US markets［EB/OL］.（2013-04-23）［2022-12-18］.https：//www.telegraph.co.uk/finance/markets/10013768/Bogus-AP-tweet-about-explosion-at-the-White-House-wipes-billions-off-US-markets.html.

［4］Fryling K.Study：Twitter bots played disproportionate role spreading misinformation during 2016 election［EB/OL］.（2018-11-20）［2022-12-18］.https：//news.iu.edu/stories/2018/11/iub/releases/20-twitter-bots-election-misinformation.html.

［5］Bovet A，Makse H A.Influence of fake news in Twitter during the 2016 US presidential election［J］.Nature communications，2019，10（1）：7.

［6］Balakrishnan V，Khan S，Fernandez T，et al.Cyberbullying detection on Twitter using big five and dark triad features［J］.Personality and Individual Differences，2019，141：252-257.

［7］Liu Zhiwei，Dou Yingtong，Yu P S，et al.Alleviating the inconsistency problem of applying graph neural network to fraud detection［C］//Proc of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval.New York：ACM Press，2020：1569-1572.

［8］Pérez E A，Pedrero E L M，Rubio R J，et al.Fake news reaching young people on social networks：distrust challenging media literacy［J］.Publications，2021，9（2）：24.

［9］劉蓉，陳波，于泠，等.惡意社交機器人檢測技術研究［J］.通信學報，2017，38（S2）：197-210.（Liu Rong，Chen Bo，Yu Ling，et al.Overview of detection techniques for malicious social bots［J］.Journal on Communications，2017，38（S2）：197-210.）

［10］Gong N Z，Frank M，Mittal P.Sybilbelief：a semi-supervised learning approach for structure-based sybil detection［J］.IEEE Trans on Information Forensics and Security，2014，9（6）：976-987.

［11］Karpov I，Glazkova E.Detecting automatically managed accounts in online social networks：graph embeddings approach［M］//van der Aalst W M P，Batagelj V，Buzmakov A，et al.Recent Trends in Analysis of Images，Social Networks and Texts.Cham：Springer International Publishing，2021：11-21.

［12］Leskovec J，Lang K J，Dasgupta A，et al.Community structure in large networks：natural cluster sizes and the absence of large well-defined clusters［J］.Internet Mathematics，2009，6（1）：29-123.

［13］Alahmadi B A，Mariconti E，Spolaor R，et al.BOTection：bot detection by building Markov chain models of bots network behavior［C］//Proc of the 15th ACM Asia Conference on Computer and Communications Security.New York：ACM Press，2020：652-664.

［14］仲麗君，楊文忠，袁婷婷，等.社交網絡異常用戶識別技術綜述［J］.計算機工程與應用，2018，54（16）：13-23.（Zhong Lijun，Yang Wenzhong，Yuan Tingting，et al.Survey of abnormal user identification technology in social network［J］.Computer Engineering and Applications，2018，54（16）：13-23.）

［15］Kipf T N，Welling M.Semi-supervised classification with graph convolutional networks［C］//Proc of International Conference on Learning Representations.2017.

［16］Hamilton W L，Ying Z，Leskovec J.Inductive representation learning on large graphs［C］//Proc of the 31st Conference on Neural Information Processing Systems.Red Hook，NY：Curran Associates Inc.，2017：1025-1035.

［17］Alhosseini S A，Tareaf R B，Najafi P，et al.Detect me if you can：spam bot detection using inductive representation learning［C］//Proc of World Wide Web Conference.New York：ACM Press，2019：148-153.

［18］Velicˇkovic＇ P，Cucurull G，Casanova A，et al.Graph attention networks［C］//Proc of International Conference on Learning Representations.2018.

［19］Zhao Chensu，Xin Yang，Li Xuefeng，et al.An attention-based graph neural network for spam bot detection in social networks［J］.Applied Sciences，2020，10（22）：8160.

［20］Alothali E，Salih M，Hayawi K，et al.Bot-MGAT：a transfer learning model based on a multi-view graph attention network to detect social bots［J］.Applied Sciences，2022，12（16）：8117.

［21］Yang Chao，Harkreader R，Zhang Jialong，et al.Analyzing spammers social networks for fun and profit：a case study of cyber criminal ecosystem on Twitter［C］//Proc of the 21st International Conference on World Wide Web.New York：ACM Press，2012：71-80.

收稿日期：2022-12-20；修回日期：2023-02-13? 基金項目：國家自然科學基金資助項目（62072337）；國家重點研發計劃資助項目（2019YFB1704100）

作者簡介：吳正昊（1999-），男，四川德陽人，碩士研究生，主要研究方向為圖神經網絡、信息安全（zhenghaowu1999@foxmail.com）；曾國蓀（1964-），男，江西吉安人，教授，博導，博士，主要研究方向為信息安全、大數據處理和并行分布計算等．