網絡空間惡意信息傳播的主動對抗機理與應用

王樂東 田楠 葉忠

摘? ?要：針對網絡空間惡意信息傳播的管控問題，分析了惡意信息的傳播主體、傳播行為、傳播路徑的技術特征，基于可信計算主動免疫管控技術，運用主體認證授權、行為可信控制、路徑策略配置等機制，構建了惡意信息傳播主動對抗框架模型，并結合不同等級網絡的管控目標，設計了惡意信息區域化對抗管控應用模型，能夠為惡意信息網絡阻斷、隔離、控制等網絡空間治理提供對策支撐。

關鍵詞：可信計算;網絡安全;惡意信息;主動對抗

中圖分類號： TP309.1? ? ? ? ? 文獻標識碼：A

Abstract： Aiming at the problem of management and control of malicious information transmitting in cyberspace， this paper analyzes the technical features of the transmission subject， the transmission behavior and the transmission path of malicious information， and based on the active immune management and control technology of trusted computing， using the mechanisms of user authentication and authorization， behavior trusted control， and path strategy configuration， this paper constructs a framework model of initiative confrontation for malicious information transmission， and combines the management and control objectives of different levels of networks， the application model of regional management and control of malicious information is designed， which can provide countermeasure support for malicious information network management such as blocking， isolating and controlling.

Key words： trusted computing; network security; malicious information; initiative resisting

1 引言

在世界多極化、經濟全球化、文化多樣化、社會信息化的時代背景下，網絡信息傳播的虛擬性、互動性、開放性、匿名性，隨著網絡開放、互連和共享程度的擴大而無限放大，網民對各類問題、現象、事件的評判，基于不同的認知、態度、情感，會即時映射在網絡空間，以表達利益訴求、張揚自我個性、發泄不滿情緒。尤其是在新冠肺炎疫情全球爆發的情景下，各種社會沖突和矛盾不斷出現，在國內外產生了大量涉及危害公共安全、易引發網絡集群行為的惡意信息，并可能快速傳播擴散，對社會穩定造成一定威脅，對政府的形象和公信力造成損害。這樣，開展基于可信計算主動對抗的管控技術研究，有效隔離阻斷惡意信息在網絡空間傳播，具有重要意義。

2 惡意信息傳播管控現狀

互聯網信息具有便捷性、開放性、導向性和易于傳播性的特點，惡意信息網絡傳播技術管控難度較大，常見的不良信息傳播干預方法包括信息過濾、信息屏蔽、信息降解、行政管理等，均為針對惡意信息本身的被動干預方法，針對惡意信息傳播主體、傳播行為、傳播路徑的管控方法具有主動對抗特征。

2.1 信息內容干預手段

當前針對社交網絡信息的管控主要集中在信息內容的管理，包括信息過濾、輿情監控、謠言檢測等。

信息過濾是對網站信息、公共信息、公開申請、網站留言等模塊內容實現提交時的自動過濾處理，對內容中出現的謾罵、誹謗等不良信息進行自動過濾。信息過濾技術起步較早、影響力較大的過濾系統是Information-Lens信息過濾系統，提出認知過濾和社會過濾概念[1]。清華大學自主研制的案例推理過濾系統、電子科技大學的基于Internet的多媒體過濾系統等，在信息內容本身的信息過濾方法上做了大量的研究。

輿情監控是網絡空間主要的信息管控方式，能夠對分析網民網絡話語體系和受眾心理，提高網絡集群行為的預警、研判和處理能力提供支撐。美國國防高級研究計劃署開發研究的話題檢測與跟蹤系統TDT項目，實現了快速發現和歸納數據流中重要信息和內容的功能。我國北大方正研發的智思輿情預警輔助決策支持系統、復旦大學輿情研究實驗室PALAS（帕拉斯）網絡輿情監控系統、中科點擊科技有限公司推出的軍犬網絡輿情監控系統等，在加強網絡輿情監測和風險管控上做了大量研究[2]。

謠言檢測是對網絡信息流中存在的虛假信息進行智能識別的技術手段。美國針對Twitter信息開發了一個名為“Truthy”的謠言檢測系統，其目的是為了追蹤政治謠言。Qazvinian等分析了Twitter中文本內容、網絡等特征，利用貝葉斯分類算法建立分類器，以分析用戶對謠言的信任行為[3]。國內針對謠言檢測的研究相對起步比較晚，主要開展了突發話題背景下、社交網絡環境下的謠言傳播特點分析[4]，結合自然語言處理、機器學習、統計學、數據挖掘，將其抽象成算法模型，初步實現了特定背景下的謠言自動檢測。

2.2 政策管理措施辦法

政府通過行政手段對網絡空間惡意信息進行管控，主要方法為信息保護機制、信用機制、屏蔽機制、正面信息投放機制、辟謠機制等。美國聯邦調查局（FBI）戰略信息與運作中心（SIOC）通過立法的方式，明確了互聯網服務提供商、網絡內容服務商以及內容發布人在內容安全方面的責任。我國在《國家網絡空間安全戰略》中，也明確倡導建設文明誠信的網絡環境，并通過多方的努力打造良好的網絡環境。

信息保護機制規范網絡個人信息的收集、使用程序、信息范圍與邊界，規定信息服務商的系統安全保護措施，規定信息服務商安全等級保護的基本要求，建立出版者信息網絡傳播權保護機制，保護版權所有者、表演者和制作者的權益，完善黑客入侵的防御體系。信用機制是對用戶網絡行為及關系的規范和保證，即約束人們活動和關系的行為規則，可為網絡監管人員對用戶在網絡中產生的社交行為提供參考依據。屏蔽機制指建立信息規則數據庫、信息語料庫、發布者信息庫等，從源頭上阻止屏蔽信息發布。正面信息投放機制是國家政府機構等權威機構，提供正面信息投放的渠道、傳播方式、投放策略等。辟謠機制是國家權威部門、職能部門和新聞機構，建立官方辟謠綠色通道以及廣播機制，充分發揮咨詢服務平臺的作用。

2.3 信息傳播主動管控方法

信息傳播主體認證方法。公安部2016年開始建設可信身份認證平臺重大工程基礎保障平臺，旨在為公安部門以及其他政府、企事業單位廣泛開展“互聯網+政務服務”以及“互聯網+”服務，為網絡實名制實施及社會誠信體系建設提供基礎技術支撐?？尚派矸菡J證平臺提供單點登錄統一認證的授權機制，提供權威、可靠的身份認證服務，提供在線身份認證功能。

信息網絡傳播管控方法。該方法主要包括對用戶操作、信息處理、信息評估的管控。用戶操作管控指建立用戶白名單、允許直接發布信息，建立用戶黑名單、阻止發布信息，并通過人工處理方式進行判讀，建立未知用戶管理機制，對其發布信息進行分類處理。信息處理指用戶過濾、關鍵字過濾、信息分類，對信息發布者進行身份認證，管理員關鍵字審核發布，對文本進行分詞、詞性劃分等預處理。信息評估指對于通過認證的未知用戶所發布信息，管理者設定信息分類標準，對低于該標準值的認為其是垃圾型信息，阻止其發布，對于高于標準值屬于正常型信息，允許正常發布。

3 惡意信息網絡傳播特征分析

惡意信息網絡傳播具有典型的復雜網絡結構特征，其傳播主體、傳播路徑、傳播行為不同于傳統媒體中惡意信息的傳播途徑和方式。

惡意信息網絡傳播主體參與的自主性強、管控難度大。與傳統媒體中惡意信息的傳播途徑和方式不同，虛擬網絡空間是一個完全開放的平臺，提供一個更加自由的公共空間，相對于傳統的報紙、廣播、電視等大眾媒體，在互聯網這個平臺上，網絡用戶可以跨越時間和空間，既可以公開也可以匿名，身份可以真實也可以虛擬，發布狀態可以在線也可以隱身，沒有了傳統媒體的“把關人”限制，不需要任何的審查程序，自主選擇信息承載平臺在網絡上發表，自主選擇發布范圍即時暢通傳遞，觀點表達更為自由開放。網絡惡意信息傳播主體的追溯、審核、限制等管控機制設計相對困難。

惡意信息網絡傳播行為多樣、技術管控困難。惡意信息依托信息承載平臺，惡意信息傳播不受時空限制，可以在瞬間傳遍世界的任何一個角落，決定了網絡惡意信息具有無限的即時性和迅速蔓延的可能性。雖然網絡安全機制為網絡惡意信息傳播行為的監控和分析也提供了技術可能，但因惡意信息傳播行為等復雜多樣，傳播行為不確定性因素大，致使網絡惡意信息傳播行為難以有效控制，必須圍繞惡意信息在不同人群、不同媒介、不同場合、不同時段的傳播行為特征，制定網絡信息傳播信任機制和行為規范，對惡意信息傳播行為進行細粒度管控，阻止惡意信息傳播行為運行，并對惡意信息傳播的應用程序進行有效管控。

惡意信息網絡傳播路徑復雜、傳播范圍廣泛。網絡惡意信息傳播呈非線性散播，信息流動是雙向的，信息傳播是交互的，惡意信息演進是動態的。網絡惡意信息通過不同的網絡節點、并以節點之間的交互關系為路徑進行傳播和擴散，大部分都是在毫無征兆的情況下突然發生的，形成和傳播的速度極快，網民各類觀點、意見經過激烈碰撞和聚合，有時會瞬間點燃網民情緒，大量的情緒匯集就會引發惡意信息網絡群體事件，必須對社交軟件、網絡媒體等傳播路徑進行審計監控，對主要傳輸協議端口進行封控，以實現對惡意信息傳播擴散關鍵路徑的有效管控。

4 惡意信息傳播主動管控框架模型

基于可信計算理論和技術，針對惡意信息傳播主體、惡意信息傳播行為、惡意信息傳播路徑、惡意信息內容等特征，設計惡意信息主動管控框架模型?？尚庞嬎慊舅枷胧切湃捂渹鬟f，一級驗證一級、一級信任一級，把信任關系擴大到整個計算環境和區域網絡環境。

可信計算采用“邊計算、邊監控”的雙體系結構，致力于計算環境和網絡連接安全可信，是一種運算和防護并存的主動免疫的新計算模式[5，6]，通過對自我的信任評估、計算環境保護和細粒度行為監控，阻止非授權及不符合預期的執行程序運行，主動對抗惡意信息傳播行為非法運行，實現惡意信息傳播的網絡阻斷、隔離、控制。

惡意信息內容評估機制是將惡意信息敏感度的主題分類進行挖掘分析，構建用戶對惡意信息的態度傾向性指標，獲取惡意信息傳播的危害指數評估權重，并利用群決策和模糊算法，對每一項指標進行量化計算和學習訓練，作為惡意信息發現、識別、干預的依據。如圖1所示，在可信計算主動管控框架模型中，在對惡意信息內容敏感度、態度傾向性和危害指數權重等評估基礎上，根據不同等級網絡的管控目標，設計惡意信息區域化主動對抗應用模型，通過內容深度感知分析，對惡意信息進行信息屏蔽、信息過濾和正面信息投放干預，實現惡意信息內容的降解消融。

傳播主體可信認證機制是基于非對稱密碼簽名與驗簽算法，采用數字證書的簽名與驗簽，取代網絡主體口令登錄等弱驗證機制，結合傳播主體域內集中認證授權管理，提供統一認證服務、統一授權服務、統一信任管理服務，實現計算機操作系統用戶、網絡系統用戶、本地軟件等單點登錄驗證，獲取資源數據安全訪問權限和行為授權。傳播主體可信認證機制能夠識別惡意信息的發布者、傳播者、關注者，結合傳播主體訪問授權機制，實現傳播主體對信息承載硬件平臺和軟件系統的訪問控制。

傳播行為主動度量機制是基于可信完整性度量、可信白名單控制、可信狀態判定等模塊，提供執行程序實時可信度量，控制非授權及不符合預期的執行程序運行，對計算環境內應用程序運行狀態進行評估，并通過軟件安裝控制策略、強制訪問控制策略、自主訪問控制策略、審計管理等安全策略，對計算環境程序運行行為進行監測，對異常程序非法行為進行管控，實現用戶身份的可信性、軟件行為的可信性、網絡行為的可信性及業務流程的合規性等安全目標。

傳播行為主動度量機制能夠對惡意信息傳播用戶登錄、在線轉發、瀏覽觀摩和惡意發布等操作進行可信度量，結合可信運行控制機制，制定可信特征策略庫，定義了“自己”成分的特征，實時對可執行程序進行可信度量，根據主體的行為歷史記錄和當前行為特征來動態判斷主體的可信度，確定主體行為是否違規、越權以及超過范圍等，實現細粒度的傳播行為控制[7]。

傳播路徑策略配置機制是一種基于可信網絡連接的主動管控方法，采用平臺狀態評估模塊、平臺狀態基準庫模塊和可信接入配置管理模塊，以終端雙向數字證書認證和計算環境可信度量狀態，作為終端接入網絡的判定依據，能夠對抗基于IP、MAC地址、端口等驗證技術不足，保證接入網絡指定用戶可信、平臺狀態可信、指定應用可信、訪問目標可信，將無序的網絡訪問升級為有序的網絡訪問控制管理。傳播路徑策略配置機制[8]采用多元網絡分析技術，能夠對惡意信息傳播協議端口進行封控，對網絡接入進行可信認證評估，結合網絡核心關鍵節點的可信加固，從單節點信任延伸到網絡信任，從而實現對惡意信息網絡傳播核心節點關鍵路徑的管控。

5 惡意信息傳播區域化管控應用模型

如圖2所示，在網絡安全中心部署可信認證庫、可信度量庫、可信策略庫;在網絡安全中心部署應用正面信息投放、內容深度感知、主體授權認證和可信運行控制功能模塊;在政府服務中心、互聯網企業、重要基礎設施等關鍵節點部署應用可信加固、多元網絡協議解析模塊;在區域化終端平臺上部署應用內容深度感知、正面信息干預、主體可信認證、主體訪問授權、可信主動度量、可信運行控制、路徑策略配置等模塊，對惡意信息本身進行信息干預和降解消融，對惡意信息傳播主體、傳播行為、傳播路徑進行主動對抗。

通過網絡安全中心對整個網絡及業務系統出口進行管理，對互聯網出口的用戶上網行為進行審計和管理，建立惡意信息傳播主體、傳播行為、傳播路徑的特征庫，包含平臺、通信基礎設施、訪問用戶、互聯網企業等傳播主體的特征庫，運用傳播主體可信認證和訪問授權、傳播行為可信度量和運行控制、傳播路徑策略配置和關鍵節點可信加固，以及信任從單節點延伸到網絡的傳遞機制，可對惡意信息傳播事件進行區域化管控處置，達到惡意信息在可信區域不出現、次可信區域不傳播、非可信區域被隔離和阻斷的管控目標。

6 結束語

當今世界正處在大發展大變革大調整時期，國際局勢復雜多變，在新冠肺炎疫情全球爆發的背景下，各國經濟發展速度減緩或衰退，一些西方國家社會矛盾激化，網絡空間的安全形勢越來嚴峻，有效的惡意信息傳播的管控辦法將更加迫切。針對惡意信息網絡傳播主體參與的自主性強、管控難度大，惡意信息網絡傳播行為多樣、技術管控困難，惡意信息網絡傳播路徑復雜、傳播范圍廣泛等特征，采用傳播主體、傳播行為、傳播路徑的惡意信息主動管控技術及應用，是互聯網治理政策管理措施辦法的有益補充，是信息過濾、輿情監控、謠言檢測等網絡信息監控和干預手段的深化升級，將惡意信息內容管理拓展為惡意信息傳播主體認證授權、傳播行為運行控制、傳播路徑策略管理，深化為用戶操作、軟件運行、網絡傳播的細粒度管控，是從被動干預向主動對抗的轉變，能夠有效阻斷、隔離、控制網絡空間惡意信息傳播，對網絡空間治理具有重要意義。

參考文獻

[1] 馬英財.社交網絡下的垃圾信息過濾技術的研究[D].哈爾濱：哈爾濱理工大學，2014.

[2] 路金泉.面向社交網絡信息管控的信息可信度評估方法研究[D].鄭州：中國人民解放軍信息工程大學，2016.

[3] Ratkiewicz J，Conover M，Meiss M，et al.Detecting and Tracking the Spread of Astroturf Memes in Microblog Streams[J].Computer Science，2010：249-252.

[4] 郭凱.基于評論情感的微博謠言檢測研究[D].大連：大連理工大學，2014.

[5] 沈昌祥.可信計算構筑主動防御的安全體系[J].信息安全與通信保密，2016.

[6] 沈昌祥.用可信計算3.0筑牢網絡安全防[J].信息安全研究， 2017.

[7] 沈昌祥.用主動免疫可信計算構筑新型基礎設施網絡安全保障體系[J].網信軍民融合，2020

[8] 王樂東，等.可信計算技術對抗非預知病毒的原理與應用[J].網絡空間安全，2017.

作者簡介：

王樂東（1985-），男，漢族，河南駐馬店人，海軍工程大學，博士，中國人民解放軍91977部隊，工程師;主要研究方向和關注領域：可信計算技術創新及應用、計算網絡信息安全防御。

田楠（1988-），男，漢族，湖北宜昌人，國防科技大學，碩士，中國人民解放軍91977部隊，工程師;主要研究方向和關注領域：可信計算平臺設計、計算環境信息安全。

葉忠（1991-），男，漢族，廣西合浦人，國防科技大學，本科，中國人民解放軍91977部隊，工程師;主要研究方向和關注領域：計算機安全、計算機系統安全防護。