全球化背景下的網絡內容安全風險升級與治理

【摘要】網絡內容安全是網絡內容治理的重要方面，也是信息安全和國家安全領域的重要命題。網絡內容的內涵隨著互聯網技術和全球化趨勢的演進發生了變化，傳統的技術領域風險逐漸向認知領域拓展。在生成式人工智能出現和發展的背景下，網絡內容安全風險進一步出現了隱蔽化、長線化轉向，為社會帶來了深層次風險與挑戰。深刻認識網絡內容安全的發展變化與風險挑戰，厘清網絡內容安全風險升級背后的基本邏輯關系，構建現代化的網絡內容安全治理體系，是推進互聯網治理、應對網絡安全問題和維護國家安全的重要使命與目標。

【關鍵詞】網絡內容安全 信息安全 互聯網治理 生成式人工智能 國家安全

【中圖分類號】G206 【文獻標識碼】Ａ 【文章編號】1003-6687（2024）7-060-07

【DOI】10.13786/j.cnki.cn14-1066/g2.2024.7.008

網絡安全是新時代國家安全的重要命題，網絡內容建設是關系網絡文化建設與數字文化繁榮，推動中國式現代化進程的重要驅動。2023年7月，習近平總書記提出網信工作“舉旗幟聚民心、防風險保安全、強治理惠民生、增動能促發展、謀合作圖共贏”的使命任務，為新時代新征程網絡強國建設提供了行動指南。當前在全球化背景下，各國對網絡主權的爭奪漸趨激烈，加之大數據、云計算、生成式人工智能等技術的發展，網絡安全戰略由信息域向認知域拓展，網絡內容安全風險不斷升級，相應治理面臨轉型與挑戰。對于網絡內容安全的討論需要在網絡安全系統的整體性語境下進行，因此，厘清網絡安全的層級及其作用機制，明確網絡內容安全在當前網絡安全體系中的地位和作用形式，是研究網絡內容安全問題的理論基礎與邏輯起點。從主體的作用形式看，可將網絡安全分為三個主要層級：

第一層級，外在表現層，即網絡安全的技術層級。該層級是網絡安全攻防的關鍵領域，扮演著網絡安全的外部關卡、攻防對象等重要角色。網絡安全的技術層面關系到網絡安全系統建立的整體性過程：在常規使用方面，涉及網絡技術的發展與維護，及時發現和規避安全缺陷、技術漏洞等風險，確保網絡的正常使用和安全運行；在關鍵設施層面，涉及核心技術的研發與突破，關鍵信息基礎設施的運行支持與安全保護等；在信息安全方面，涉及個人信息等數據保護的技術支持，以及信息采集技術的合理應用等。與此同時，網絡安全技術不僅包括技術開發和應用本身，也包含相應技術標準體系的建立，以及與技術風險相關的預案、應急措施、演練等。

第二層級，機制保障層，即網絡安全的制度層級。該層級是網絡安全運行方式和規律的總體反映，對于網絡安全相關的各項工作的開展以及網絡安全體系建設的發展方向具有重要的指引作用。網絡安全的制度層級包括相關法律、規章制度、政策文件等的制定出臺與修訂更新，相應執法工作的有序開展，相關部門和機構的設置與改革，以及司法工作、公開機制的推進和完善等。

第三層級，直接作用層，即網絡安全的內容層級。網絡內容是網絡使用者所接觸的最直接的層面，也是網絡風險借以潛藏和偽裝最直接的形式。因此，該層級是網絡安全風險的最終“著陸點”，也是網絡安全的重要防線與底線。目前，一些網絡攻擊以網絡內容為表現形式，以技術攻擊、認知攻擊等為手段，以實現攻擊方利益企圖為目的。此類風險可能存在于內容的生產、傳播與接收過程中，隨著全球網絡空間沖突的加劇，網絡內容風險也逐步升級。

一、概念演變：全球網絡內容安全的發展階段

在國內外學者的研究視域中，有關網絡內容安全的討論由來已久。本文認為，網絡內容安全風險指的是由網絡內容直接引起的或以網絡內容為形式的網絡安全風險。因此，網絡內容安全包含內部和外部兩個層面，內部安全主要指內容創作與傳播的安全，內容本身含有不良信息，內容創作帶有某種不良企圖，如色情信息傳播、輿論引導等；外部安全主要指內容訪問和使用的安全，攻擊性技術手段以網絡內容為依附，利用內容形式傳播技術風險，如網絡病毒、非法數據采集等。隨著ChatGPT等生成式人工智能的出現，網絡內容安全在內部和外部都面臨變革與挑戰。縱觀內容安全研究的發展歷程，可以厘清網絡內容安全概念的動態變遷。隨著互聯網技術及其應用方式的發展變化，網絡內容安全概念經歷了三個階段的演進過程：技術應用型階段、內容滲透型階段、智能生成型階段。在此過程中，網絡內容安全風險從技術域向信息域、認知域不斷延伸，網絡內容安全也從技術應用問題上升為對國家戰略的重要關切。

1. 技術應用型階段：網絡技術攻擊為核心的網絡安全研究

互聯網廣泛商用并走入大眾視野后，保障用戶對網絡內容的安全訪問和使用是相關企業和技術開發者長期關注的基本問題之一，由此形成了以技術保障為主的網絡內容安全階段。在此階段，網絡技術攻擊是網絡安全的核心問題，網絡內容主要作為技術攻擊的渠道和載體而發揮作用。早期研究重點關注互聯網內容訪問的安全性，聚焦網絡下載過程中可能包含的惡意內容及其對計算機系統造成的風險等，并積極探索利用技術手段應對相關風險的方法，彌補安全漏洞。[1-2]

在發展過程中，網絡技術攻擊形成了體系化、類型化特征。從技術攻擊手段看，網絡內容安全攻擊可分為兩類：主動攻擊和被動攻擊。在主動攻擊中，入侵者與目標系統互動，通過修改目標計算機數據或創建虛假數據流等方式，影響系統運行。在被動攻擊中，通常不涉及數據的修改，入侵者只是收集與被攻擊者相關的信息，例如網絡竊聽等。[3]從技術攻擊目的看，網絡內容安全風險會破壞網絡安全四方面屬性。第一，保密性，指網絡竊聽、黑客攻擊、釣魚網站等可能竊取個人用戶及企業的重要信息，造成保密數據的泄露。第二，完整性，指只有獲得授權的人才能夠對計算機數據進行創建、編輯、刪除等，網絡病毒、木馬等攻擊能夠破壞計算機系統的完整性，實現對計算機的控制，從而造成內容安全風險。第三，隱私性，指用戶個人信息的安全，即避免他人在網絡空間對私人領域的入侵，常見的隱私性問題包括垃圾郵件攻擊、cookie竊取等。第四，可訪問性，指特定使用者所具有的訪問某些系統的權利，一些惡意行為可能阻止用戶的合理訪問，或者造成未經授權的訪問等，如早期個人計算機安全問題中較為常見的拒絕訪問、MBR病毒等。[4]可以看出，該階段對網絡內容安全的探討主要集中在E-mail和Web服務等技術方面，一些研究認為與內容安全相關的風險包括“通過E-mail傳播的網絡病毒”“頁面中的惡意移動代碼”，涉及不良內容的網站、垃圾郵件、網絡泄密等，[5-6]對于網絡內容安全風險的認知也更多停留在互聯網使用行為的范疇。

與此同時，該階段相關研究也探討了網絡內容安全對于國家戰略的重要意義。有學者關注互聯網在社會動員等方面的重要作用，認為互聯網的開放性和連接性推動了社會運動的組織和開展。[7]信息戰這一概念在研究中也得到了闡釋，丹寧在《信息戰與信息安全》一書中指出，信息戰相關的活動涵蓋廣泛，但尤其指恐怖分子利用計算機開展的各類恐怖襲擊，可能造成飛機墜毀、大面積停電、股市崩盤等大型災難。[8]由此可見，網絡與社會穩定、國家安全的關聯性話題在早期研究中已經受到關注。但該階段的研究中，網絡安全風險多以顯性方式呈現，其破壞性和影響也較為顯著和即時，網絡內容安全領域的潛在風險尚未得到充分揭示。

2. 內容側重型階段：社交媒體與網絡內容的“武器化”

網絡內容承載大量互聯網數據與信息，在外部關聯各類技術問題，在內部則關聯意識形態等認知問題。隨著社交媒體的出現和發展，網絡用戶與內容的接觸更加頻繁和緊密，信息以泛在化、碎片化的形式嵌入人們的日常生活之中，也為認知戰等現代意識形態競爭創造了空間，網絡內容安全也從技術應用型向內容側重型轉變。在此背景下，網絡內容呈現“武器化”趨勢，部分主體出于價值滲透目的進行認知干預，將網絡內容作為攻擊的重要目標。在全球化背景下，內容安全逐漸上升至國家安全戰略層面，不僅關乎用戶使用體驗、個人隱私保護等問題，更關系到國家網絡主權與政治安全，以及重要基礎設施安全等國家安全命題。

在社交媒體環境中，網絡內容攻擊已成為一種普遍存在的全球現象，如輿論操縱、網絡文化滲透等。目前，網絡內容攻擊的主要手段包括四個方面。第一，操控社交媒體評論，即通過發布支持或反對政府決策的言論來影響公眾態度，或發布大量中性言論、無關話題內容等，以掩飾公眾的觀點沖突和轉移視線。第二，聯系目標個體，即對社交媒體中的重要人物（知名博主、記者等）進行說服，或針對某些個人發布抹黑性消息，損害個人形象等。第三，虛擬賬號創作，即通過在社交媒體當中部署機器賬號，制造和強化某種聲音和觀點。第四，賬號偽裝，即組織群體以普通網民身份為偽裝，發布具有勸說意味的社交媒體內容，以取得更多用戶的信任，達成傳播目的。[9]

事實上，早期文獻已關注社交媒體內容安全問題，但多集中在不良信息方面，如BBS、聊天室當中的色情、暴力、違法等信息被納入內容安全監管的研究視野當中。[10]隨著網絡空間國際競爭的日趨激烈，輿論操控、認知戰等現代意識形態競爭手段被更多研究者注意到，社交媒體武器化、信息武器化、影響力行動、認知安全等概念受到更多學者關注。蘭德·沃茲曼在《信息的武器化》一書中指出，以技術特征為核心的網絡安全觀念在當今已經顯得過于狹隘。互聯網和社交媒體的發展使人們的認知在前所未有的時間和空間維度上被改變，這也是個體在社交媒體時代最為顯著的脆弱性之一，是當前社會亟須應對的問題。一方面，社交媒體使影響他人變得更加容易；另一方面，新技術推動了影響手段和方式的進化，例如大數據手段能夠為內容攻擊主體提供更加準確的策略設計和決策支持。[11]可見，隨著技術手段的演進和傳播環境的變化，技術攻防已經無法完全滿足網絡安全保障需求，以網絡內容為重點的網絡安全體系亟待研究和建立。

3. 智能生成型階段：生成式人工智能的雙重抉擇

人工智能技術的廣泛應用開啟了網絡內容安全的新場景，以ChatGPT為引領的生成式人工智能出現后，網絡內容安全由以人為主導的內容側重型階段向以機器為創作主體的智能生成階段轉型。這一階段，“雙重性”成為智能技術應用的突出特點。一方面，生成式人工智能為網絡技術攻擊和網絡內容攻擊提供了便捷化途徑，與此同時，智能技術也能夠直接作為網絡攻擊的自主實施者，使網絡內容安全面臨全新挑戰。另一方面，相關技術也能夠為網絡內容安全防御提供支持，在漏洞檢查、代碼安全、誘捕系統建設等方面發揮關鍵作用。[12]

智能生成階段對網絡內容安全的挑戰主要表現在網絡攻擊成本、技術門檻的降低和效率的提升方面。隨著自然語言處理技術的成熟，機器對人類語言的理解和使用能力逐漸提升，尤其是在Transformer模型推出后，以BERT（Bidirectional Encoder Representations from Transformers）、GPT（Generative Pre-trained Transformer）等為代表的預訓練模型大幅提高了機器學習的效率和質量，從而誕生了ChatGPT等能夠實現多風格內容生成以及長文本上下文關聯的對話人工智能，與之相似的視頻、圖畫、語音生成技術也漸趨成熟。由此，機器與人實現了自然語言對話，這也意味著缺乏計算機相關技術背景的主體也能夠通過自然語言描述向ChatGPT傳達代碼編寫等任務。一些研究發現，使用者能夠通過靈活使用自然語言而避開人工智能的倫理機制，從而短時間內借助人工智能技術實施網絡攻擊行為。[13]

從攻擊類型看，生成式人工智能所能運用的網絡攻擊場景涵蓋技術攻擊和內容攻擊兩個層面。在技術攻擊方面，生成式人工智能能夠完成惡意軟件開發、釣魚郵件撰寫、自動黑客攻擊等。已有研究表明，ChatGPT生成的釣魚郵件能夠成功避開垃圾郵件過濾機制，[14]通過假托身份、虛構場景等方式實現誘騙目的。在內容攻擊方面，生成式人工智能能夠進行虛假信息創作、發布網絡評論、虛擬對話等行為，進而實施網絡詐騙、輿論操控、意識形態滲透等惡意攻擊。

總的來說，該階段的網絡內容安全風險概念主要歸結為人工智能技術被以危險方式使用，這種使用不僅指借助ChatGPT等技術開展的攻擊，也包括通過不同語言手段實現對人工智能倫理和行為邊界的突破，例如采用角色扮演、反向心理學等策略引導ChatGPT提供違法信息等。這一變化為網絡內容安全帶來漏洞性風險，為生成式人工智能的行為底線以及危險性帶來更多未知性。

二、現實表現：全球網絡內容安全風險升級

網絡內容安全概念不斷演變和發展，網絡內容安全的相關理念與方法也隨之發生變化。在實踐過程中，全球網絡內容安全風險逐步加劇，在網絡內容安全戰略規劃、網絡空間爭奪的重點領域、網絡內容安全攻防的手段方式三個方面出現了重要轉向，這些現實表現也直接反映了全球網絡內容安全風險的升級。

1. 隱匿化與長線化：全球網絡內容風險的戰略轉向

近年來，全球網絡安全戰略出現轉型趨勢，傳統網絡作戰理念和方式發生變化，高成本、突擊式網絡作戰方式漸趨退出主流戰略，微戰式、防御式戰略開始興起。[15]這種變化一方面來自全球互聯網治理理念的發展：互聯網作為開放性、交互性的虛擬空間，為世界各國共用共治共享，以“網絡空間命運共同體”為代表的新型互聯網治理理念逐漸成為各國共識，傳統的網絡威懾戰略及網絡霸權主義逐漸式微。在此背景下，有關互聯網公平性的討論壓力日趨增加，一些國家的網絡戰略形式也由強權威懾式向隱蔽防御式轉型，由此使網絡內容風險更加長線化、隱匿化。另一方面，這一轉變也是網絡內容在網絡安全戰略中的重要性上升的現實需求：網絡意識形態同時具有“灌輸性”和“滲透性”。[16]灌輸性指網絡內容在價值觀念上對客體的入侵性，即通過強勢的思想灌輸實現自身價值的傳播；滲透性側重網絡內容的傳播形式，多以漸進式的方式實現對客體的潛移默化。由此可見，網絡內容戰略地位的提升進一步加速了全球網絡戰略的隱蔽型轉向。

2. 輿論戰到認知戰：網絡空間意識形態爭奪加劇

伴隨全球化趨勢的發展，互聯網成為各國意識形態競爭的陣地，傳統輿論戰、信息戰向認知戰延伸。從目標上看，當代網絡空間爭奪不僅表現為信息戰的技術競爭，或者輿論戰、心理戰對目標對象的視聽直觀感受的影響，同時也拓展到對人的思維方式、認知習慣的控制，從而使目標對象產生長期的、自主的思想意識，以適應攻擊者的利益訴求。“從本質上看，認知戰是現代科技革命催化下的一種更高階的政治戰”，[17]隨著大數據、云計算等技術的成熟，分析和掌握網絡用戶的行為習慣、觀點認識具有了技術上的可操作性和精準性，認知域也逐漸成為許多國家在網絡空間的重要作戰領域。

在網絡內容迅速發展的現實語境當中，網絡內容平臺極有可能成為意識形態滲透的重要入口，一些國家和組織可能通過捏造、散布各類謠言及煽動性觀點，制造負面輿論事件，傳播不當價值觀念、圖文信息，從而實現民意的“武器化”，為自身政治利益服務。近年來，一些國家已經開始了認知領域競爭的布局，著手制定探索性的認知戰計劃，將認知戰等作為未來參與全球競爭的重要手段。通過增強自身在全球認知領域的主導地位，建立以其為中心的全球話語體系，從而達成提高“認知優越性”和“認知復原力” 等目標。[18]

3. 危險性與智能性：技術歸因下的網絡內容風險升級

信息技術的進步帶來了網絡攻擊的升級，大數據、人工智能等技術的出現和成熟不僅為網絡攻擊行為提供了直接的技術支持，同時也降低了網絡攻擊的成本和門檻，從深度和廣度兩個層面加劇了網絡安全風險與挑戰。在此語境下，信息技術與網絡內容的結合為網絡安全增加了更多不確定性與危險性，網絡內容本身的傳播力、滲透力使得認知攻擊等網絡攻擊手段更加容易實現，云計算等技術通過對網絡內容的分析提供具有針對性的數據支持，為網絡攻擊策略提供精準化、定制化的建議支撐。

信息技術極大地豐富了網絡內容風險的形式，同時也增加了風險防御的技術難度。網絡攻防本身具有非對稱性，風險等級的提升意味著防御技術需要在多個領域實現重要突破，以達到適應當前風險等級的預防水平。對于網絡內容而言，技術攻擊的智能化、自動化，使得深度偽造、機器人輿論操控等新型攻擊方式不斷出現和更新，導致虛假信息真偽難辨，內容安全防御難度提升。技術使用的失范也造成諸多網絡內容風險，特別是生成式人工智能出現后，相應管理機制尚未完善，存在各類管理不暢、制度漏洞等問題，算法偏見、信息繭房、技術倫理、信息失真等問題也逐漸產生。[19]同時，“西方錯誤社會思潮耦合智能技術進行隱蔽滲透”，[20]使得一些以先進技術為外殼的內容產品淪為親西方價值的傳播工具。此外，相關制度設置的不公平性也進一步激化了信息技術帶來的網絡內容風險，國際網絡空間仍然存在著人為設置的技術壁壘等問題，一些國家主導實施各類網絡戰略，以擴大其網絡空間勢力范圍，為全球網絡安全帶來諸多隱患。

三、邏輯內核：網絡內容安全風險治理中的矛盾關系

當前，隨著網絡內容風險態勢的持續演變，全球網絡安全戰略向長線化轉變，網絡安全策略的重點朝認知域轉向，智能技術在網絡內容安全中的作用日益提升。在梳理和分析網絡內容安全發展態勢以及現實問題的基礎上，需要進一步對當前網絡內容安全風險治理中的核心邏輯進行揭示，從而為網絡內容安全風險治理轉型提供參照。其主要表現為幾組矛盾關系：

1. 互聯網開放性與制度排他性的矛盾關系

互聯網是具有開放性的技術體系和虛擬空間，網絡空間為世界各國所共用、共享、共治也逐漸成為全球互聯網治理的共識。隨著互聯網大規模商業化以及移動化，網絡成為人們日常交流、傳遞、獲取信息的重要渠道，互聯網技術成為政治、經濟、文化等領域的重要支撐，網絡在國家發展中的戰略地位越發受到關注并持續提升。因此，互聯網不僅是網絡使用者的信息共享空間，也成為大國技術角逐和意識形態競爭的重要場域。在此背景下，一些國家憑借其技術先進性及話語權優勢對互聯網領域的制度規則進行設置，試圖建立全球網絡空間使用規范。

2. 互聯網使用便利性與安全性的矛盾關系

在互聯網建設發展以及不斷推廣商用的歷程中，網絡使用便利性和網絡安全性的矛盾始終存在。在早期研究中，已有學者認為，在一些情況下，人們會有意識地用安全性來換取互聯網使用的便捷性。[21]這一矛盾具有其合理性，反映了互聯網走進大眾生活，消除技術歧視的不懈努力，同時也是信息技術不斷提升，互聯網行業服務屬性漸趨增強的探索性過程。但是，在網絡內容飛速發展的過程中，平臺對用戶閱讀偏好、位置信息、行為習慣的讀取在提升平臺服務針對性與定制性的同時，也潛藏了數據泄露和非法使用所帶來的風險隱患。隨著網絡內容形式的不斷豐富，分眾化與隱私保護、數字身份與個體自主權、數字社交與個體認知之間的矛盾不斷出現。與此同時，對技術便利性的追逐可能進一步引發內容安全問題，生成式人工智能的機器整合內容可能建立起人與機器的孤島，培養速食化和便捷化的閱讀思維等，最終導致人的認知水平受到制約。[22]

3. 互聯網內容交互性與影響不確定性的矛盾關系

交互性是計算機及互聯網服務的基本特征及屬性，這種屬性一方面源于技術開發和使用本身的需求，另一方面也形塑著網絡應用方式的發展方向。網絡內容作為互聯網信息的呈現形式，成為人們連接和溝通的重要載體，六度空間理論與社交網絡的興起和發展，以及互聯網商業浪潮席卷全球，進一步確立了交互屬性在互聯網應用中的核心地位。長期以來，交互功能成為網絡內容創新的核心概念，從博客、即時通信工具，到微博、視頻軟件、網絡社區等內容平臺，用戶對內容的創作、發表、評論等不斷構成內容平臺的觀點流和信息流，使網絡內容成為價值觀念、社會心理、公眾情緒的重要反映，也成為公眾觀點的形成和聚集地。由此，互聯網完成了技術交互性向內容交互性的延伸，這一過程也使網絡空間具有了更多意識形態屬性和戰略價值。但是，這一變化加劇了內容影響力所潛藏的網絡風險，使得惡意網絡內容借助互聯網交互屬性實現其不良企圖，為網絡內容安全增加了潛在危險性。

四、治理對策：我國網絡內容安全風險治理體系建設

面對全球網絡內容安全的風險升級與戰略轉型，我國必須建立適應當前階段的現代化網絡內容安全風險治理體系，從制度、話語、技術等領域協同推進，促進新安全格局的形成，適應新發展格局的需要。

1. 制度保障：完善網絡內容安全制度體系建設

網絡內容安全制度是網絡內容運行的規則基礎與行動參照，建立和完善網絡內容安全制度體系，是適應全球互聯網治理話語權競爭的必然要求。21世紀以來，世界各國及國際組織著手建立網絡及信息安全制度體系。目前，全球層面形成了以聯合國頒布的《日內瓦原則宣言》（2003）和《日內瓦行動計劃》（2003）為基本框架的信息安全基本共識和指導意見，網絡內容也納入網絡安全保障的框架之中。歐盟自1999年以來持續實施“五年網絡安全計劃”，出臺了《關于網絡和信息安全領域通用方法和特殊行動的決議》（2002）、《關于建立歐洲信息社會安全戰略的決議》（2007）等政策文件，頒布《通用數據保護條例》（2018），嚴格保護個人數據安全和隱私。世界各國積極建立由其主導的全球網絡安全治理制度話語，相關規則和制度的完善成為各國重點戰略領域。

面對全球網絡內容安全挑戰，我國亟須建立全面的網絡內容安全制度體系。從制度層面來看，需要建立多維度的網絡內容安全制度，完善從法律制度到執行標準的制度體系，夯實網絡內容安全治理工作的制度基礎。在法律法規層面，當前以《中華人民共和國網絡安全法》為核心的網絡安全法律法規，初步奠定了我國網絡內容安全的制度框架，但在一些新興及細分領域仍然存在法律解釋空間。為此，需要加快對人工智能、算法倫理、個人隱私、網絡用戶權利保障等方面的解釋進程，提升政策話語對網絡內容動態性的適應能力和引領能力，滿足新興內容領域的治理需求。與此同時，在制度建設過程中強化前瞻性研究，為相關工作提供理論支持。積極應對全球網絡空間制度轉型，對全球網絡空間新形勢、新技術、新的應用場景、新的流行文化、新的社會問題等予以充分關注，并對可能產生的全球性網絡內容治理問題進行科學研判和預測，從而提高制度層面的敏銳度和先進性，增強我國在全球互聯網治理改革中的引領力。

2. 話語權力：推進全球網絡空間話語體系建設

2023年，習近平總書記強調了網信工作“堅持統籌發展和安全”的重要原則。在網絡內容安全風險治理工作中，平衡好發展與安全尤為重要，在進行風險防范與處理的同時，更需要加強網絡內容建設，推進我國在全球網絡中的話語體系的建構。目前，網絡意識形態工作的戰略地位日益提升，網絡輿論引導愈發成為網絡宣傳工作的重中之重。從國際形勢來看，全球網絡戰略重心逐漸向認知領域轉移，在國際網絡空間，西方國家長期渲染“中國網絡威脅”，為其對我國的網絡攻擊行為尋找借口，同時對我國在國際網絡空間的大國形象進行抹黑，給我國網絡安全帶來隱患。在各國網絡話語權爭奪意識和能力不斷提升的現實背景下，推進我國在全球網絡空間的話語體系建設，筑牢我國網絡內容安全的全球話語基礎顯得尤為關鍵。

推進網絡話語體系建設需要遵循內外兼濟的漸進式思路。在國內層面，要以宣傳工作和網絡輿論引導為抓手，加強網絡內容建設和治理，形成健康文明的網絡生態，豐富主流話語的表達方式和敘事策略，促進數字文化繁榮和文化自信的加強。在國際層面，要積極探索適應國際傳播語境的主流話語形態，以各類網絡文化產品為載體，提升我國在國際網絡傳播中的話語權和影響力，在網絡意識形態主戰場上把握主動權。為此，要繼續發揮主流媒體在內容安全領域的積極作用，加快推進新型主流媒體建設，促進輿論宣傳工作與互聯網時代的傳播特點和傳播要求相適應；積極傳播與新時代新發展、中國經濟光明論、中國式現代化等相關的中國故事，著力構建中國話語和敘事體系。在全球網絡傳播語境中，要不斷優化傳播平臺建設，加快推進5G、4K、8K、AI等先進傳播技術布局，提升海外傳播的生動性、大眾性、引領性；持續深化以“媒體外交”為代表的國際影響力建設，加強與國際主流媒體、國際組織的交流合作，不斷拓展中國話語在海外的落地空間。

3. 技術賦能：探索智能驅動型網絡安全體系建設

人工智能技術作為第四次工業革命的關鍵技術之一，深刻影響了網絡內容安全的技術手段和工作思路。人工智能具有較強的溢出帶動性，不斷形成新的應用形態，也為網絡內容安全體系建設帶來更多可能性。網絡內容安全演進至智能生成型階段，內容風險表現形式更加多元，風險影響力極大增強。全球網絡攻擊手段不斷智能化、自動化，機器人賬號、自動內容生產、用戶反饋分析等手段都助長了網絡攻擊能力。因此，網絡內容風險治理需要將以生成式人工智能為代表的核心技術應用提升至重要戰略地位，增強以先進技術為驅動的安全體系建設。

針對全球網絡內容安全風險，需要從實踐和認識兩個方面出發，探索構建智能驅動型網絡安全體系建設。在實踐層面，要推動相關技術突破與創新，鼓勵企業主體的技術創新積極性，運用大數據、人工智能、云計算等技術推進內容治理手段的智能化、多樣化，適應當前網絡內容復雜化、內容安全問題隱匿化的現狀。在此過程中，不僅要關注網絡技術中法規體系的智能化建設，也要加強內容發展與生成技術的開發和應用。在認識層面，要深入推進對智能時代網絡內容風險形勢的研判與分析工作，全面掌握當前全球范圍主要的內容安全威脅和潛在風險，建立相應的風險預警和監測機制。此外，要深入了解人工智能等技術在網絡安全工作中的作用方式，靈活掌握機器學習、深度學習、自然語言信息處理、知識再現與推理、專家系統等重要概念，推進建立網絡安全治理的智能決策系統，全面推進網絡內容風險治理的轉型與升級。

參考文獻：

[1] Islam N， Anand R， Jaeger T， et al. A flexible security system for using Internet content[J]. IEEE Software， 1997， 14（5）： 52-59.

[2] Molva R. Internet security architecture[J]. Computer Networks， 1999， 31（8）： 787-804.

[3] De Vivo M， de Vivo G O， Isern G. Internet security attacks at the basic levels[J]. ACM SIGOPS operating systems review， 1998， 32（2）： 4-15.

[4] Olalekan Adeyinka.Internet Attack Methods and Internet Security Technology[EB/OL].[2024-05-07].https：//ieeexplore.ieee.org/document/4530455.

[5] 趙仲孟，陳劍，張選平，等. 網絡內容安全分析與對策[J]. 計算機工程，2002（5）：41-43.

[6] 萬國根，秦志光，劉錦德. 網絡內容安全分析及審計技術研究[J]. 計算機應用研究，2004（1）：117-118，155.

[7] Froehling O. The cyberspace "war of ink and Internet" in Chiapas， Mexico[J]. Geographical Review， 1997， 87（2）： 291-307.

[8] Denning D E.Information warfare and security[M]. New York： Addison-Wesley， 1999： 113.

[9] Bradshaw S，Howard P．Troops，Trolls and Troublemakers： A Global Inventory of Organized Social Media Manipulation[EB/OL].[2023-11-26].https：//www.oii.ox.ac.uk/blog/troops-trolls-and-troublemakers-a-global-inventory-of-organized-social-media-manipulation/.

[10] 劉琦，李建華. 網絡內容安全監管系統的框架及其關鍵技術[J]. 計算機工程，2003（2）：287-289.

[11] Waltzman R. The Weaponization of Information[EB/OL].[2024-04-26].https：//www.rand.org/pubs/testimonies/CT473.html.

[12] Gupta M， Akiri C， Aryal K， et al. From chatgpt to threatgpt： Impact of generative ai in cybersecurity and privacy[J]. IEEE Access， 2023（7）： 218-245.

[13] Al-Hawawreh M， Aljuhani A， Jararweh Y. Chatgpt for cybersecurity： practical applications， challenges， and future directions[J]. Cluster Computing， 2023， 26（6）： 3421-3436.

[14] Karanjai R.Targeted Phishing Campaigns using Large Scale Language Models[EB/OL].[2024-06-11].http：//arxiv.org/pdf/2301.00665.

[15] 卜哲，葛悅濤，崔梟飛. 美國網絡威懾戰略漸弱化趨勢研究[J]. 信息安全與通信保密，2023（7）：1-11.

[16] 米華全. 網絡意識形態領導權的內涵特征及機制構建[J]. 理論導刊，2022（2）：64-69.

[17] 門洪華，徐博雅. 美國認知域戰略布局與大國博弈[J]. 現代國際關系，2022（6）：1-11，61.

[18] NATO. Allied Command Transformation 20 Years： AS NATO's Military Leader for Change[EB/OL].[2023-06-01].https：//www.act.nato.int/wp-content/uploads/2023/06/NATO-booklet-2023-LR.pdf.

[19] 金雪濤，周也馨. 從ChatGPT火爆看智能生成內容的風險及治理[J]. 編輯之友，2023（11）：29-35.

[20] 洪曉楠，劉媛媛. 人工智能時代網絡意識形態安全建設的發展契機、潛在風險與調適進路[J]. 思想教育研究，2022（10）：138-144.

[21] De Vivo M， De Vivo G O， Isern G. Internet security attacks at the basic levels[J]. ACM SIGOPS operating systems review， 1998， 32（2）： 4-15.

[22] 彭蘭. 智能生成內容如何影響人的認知與創造？[J]. 編輯之友，2023（11）：21-28.

Internet Content Security and Internet Content Risk Governance in the Context of Globalization

XIE Xin-zhou， ZHANG Jing-yi（School of New Media， Peking University， Beijing 100871， China）

Abstract： Network content security is an important aspect of network content governance， as well as an important research topic in the field of information security and national security. The connotation of network content has changed with the evolution of Internet technology and globalization， when traditional risks in the technical field is gradually expanding to the cognitive field. Against the background of the emergence and development of generative artificial intelligence， the risk of network content security shows a new trend of concealment and longevity， bringing deep-seated risks and challenges to society. It is an important mission and goal to promote Internet governance， deal with cybersecurity issues and safeguard national security by gaining a deep understanding of the development and challenges of network content security. It is also urgent to clarify the basic logic behind the escalation of network content security risks and build a modernized network content security governance system.

Key words： Internet content security; information security; Internet governance; generative artificial intelligence; national security