基于人機協同的網絡文化安全治理新模式

詹海寶 孫江 郭夢圓

摘要：在信息化社會背景之下，網絡文化安全治理已成為核心議題。為解決網絡文化環境中的安全難題，提出了以人機協同為核心的多元治理模式，具體包括分工協作、動態協同、學習增強以及全員參與模式。這些模式充分利用人工智能在數據處理與模式識別方面的技術優勢，同時兼顧人類在倫理判斷和策略制定方面的獨特能力，旨在提升網絡文化安全治理的效能，適應網絡文化環境的復雜性與動態性，維護網絡環境的公正與安全。

關鍵詞：人機協同 網絡文化安全 創新治理 人工智能

在信息科技瞬息萬變的時代，網絡文化已深度滲透并重塑了人類的交流方式，并塑造了新的社會價值觀。然而，這也帶來了新的挑戰，如網絡欺詐、信息泄露、文化沖突等，使得網絡文化安全成為當代社會亟需解決的問題。本文試圖揭示人機協同在網絡文化安全治理應用中的可能性，并以此提出具有協同特征的多元治理模式，為實踐者提供新的治理工具與策略，為建立適應信息時代需求的網絡文化安全治理機制提供借鑒。

一、智媒時代網絡文化安全治理新困境

智媒時代，網絡文化安全治理面臨諸如信息處理困難、跨界性問題等全新挑戰，為解決這些困境，引入如人機協同治理等新的治理理念和模式成為必要。此模式通過結合人類的判斷，與機器的大數據處理和學習能力，提高治理的精度和效率。

1.網絡文化安全的內涵與特征。網絡文化安全是在數字世界中，通過對網絡文化資源的綜合治理，強化網絡文化的獨特性、活力和創新性，引領網絡文化向健康方向發展的過程。其內涵涵蓋網絡文化的生產、傳播、接受和反饋等環節，涉及網絡文化資源的存續、信息的公正傳播，以及網絡環境的公正、公平和開放性。它不僅關乎網絡文化資源的實質保護，更關乎對網絡文化價值觀、道德觀、審美觀等精神文化元素的捍衛，以及對網絡文化多樣性的尊重。

網絡文化安全的特征具有全球性、動態性、復雜性和預防性。全球性在于網絡文化的影響力和滲透力跨越了地理和政治的界限，網絡文化的問題和風險可能迅速地擴散到全球范圍。動態性則體現在隨著網絡技術和網絡文化的發展，網絡文化安全的內涵和問題也在不斷變化，需要持續關注和研究。復雜性則在于網絡文化安全涉及法律、倫理、社會、經濟等多個領域，各種因素交織影響，使網絡文化安全的治理成為一個復雜的系統工程。預防性則強調，由于網絡文化問題的擴散速度快、影響大，因此在問題發生前進行預防和管理至關重要，這也決定了網絡文化安全治理的主要工作是預防和預警。

2.智媒時代網絡文化安全治理新困境。智媒時代網絡文化安全治理變得日益復雜，且面臨全新的挑戰。該時代的特點是人工智能與媒體的緊密融合，這對網絡文化的生產和傳播產生了深遠的影響，并為治理模式提出了新的挑戰。

首先，隨著網絡信息的快速增長，信息處理成為一個日益凸顯的難題。以2016年的“通俄門”事件為例，俄羅斯軍方通過大量虛假賬戶在社交媒體發布精心設計的信息，試圖干預美國大選，其操作的隱蔽性和信息的繁多使得防控難度增大。這一事件不僅揭示了信息的生成速度迅猛，處理能力存在明顯不對稱，而且暴露了現有信息治理機制在面對大規模、系統化的信息干預行為時的無力。

其次，網絡文化安全治理面臨著跨界性問題的挑戰。網絡文化涉及的問題跨越多個領域，包括版權、隱私保護、言論自由等，形成了復雜的交叉問題。例如，谷歌公司推出的“谷歌地圖”服務，用戶可以獲取到地理位置信息，這為用戶生活帶來便利的同時，也可能讓用戶接觸到敏感的國防信息，對國家安全構成潛在威脅。這類服務使得網絡文化安全治理不僅需要考慮信息技術層面的問題，也需要深入到法律、倫理等多個層面。

最后，網絡文化的匿名性和信息傳播的速度給網絡文化安全治理帶來了新的挑戰。例如，在2020年新冠疫情期間，網絡上出現大量與疫情相關的謠言，這些謠言在短時間內大規模傳播，對公眾情緒造成沖擊，也對網絡文化安全造成了嚴重影響。這樣的事件揭示了網絡文化的傳播特性和匿名性使得謠言的防控成為一項極其艱巨的任務。

為了有效應對這些困境，需要引入新的治理理念和模式，如人機協同治理。人機協同能夠結合人類的經驗和判斷能力，以及機器的大數據處理和學習能力，有效提高網絡文化治理的精度和效率，有助于解決智媒時代網絡文化安全治理的新困境。

二、人機協同賦能網絡文化安全治理的必要性與可行性

人機協同治理是一種人與機器互補的治理模式，有效提升治理效率。面對網絡文化安全治理的挑戰，人機協同能結合機器處理能力和人類創新決策力，優化應對策略。鑒于人工智能和大數據技術的發展，人機協同治理網絡文化安全是必要且可行的方向。

1.人機協同治理的概念與特性。人機協同治理是指人與機器在治理過程中共同參與，相互協作的一種治理模式。在這個模式中，人和機器各自發揮其優勢，形成互補關系，共同完成治理任務。人機協同治理的實質是一種“合作-競爭-合作”的動態協作關系。人類利用機器的高速計算能力、大數據處理能力和模式識別能力，而機器則借助人類的創新思維、復雜決策能力和價值判斷能力，兩者相互補充，共同促進治理效能的提升。

人機協同治理具有以下幾個顯著特點。一是效率性，通過人機協同，能夠更有效地處理大量復雜的數據和信息，對治理問題進行深入分析，從而提高治理的效率；二是靈活性，人機協同能夠根據治理環境和治理目標的變化，快速調整治理策略和治理方式，具有較高的適應性；三是精確性，人機協同可以利用機器的精確計算和精細操作，提高治理的精確度；四是包容性，人機協同治理不僅包括人與機器的協同，也包括人與人、機器與機器之間的協同，形成一個開放、包容的治理網絡；五是創新性，人機協同治理鼓勵創新思維和創新行為，通過創新來應對治理的新挑戰，推動治理的不斷進步。這些特點使得人機協同治理在應對復雜、動態、不確定的治理環境中，具有顯著的優勢和潛力。

2.人機協同網絡文化安全治理的必要性與可行性。當前網絡文化的安全治理面臨著多元的挑戰，包括法律法規的缺失、技術手段的不足以及公眾教育和意識引導的薄弱等問題。例如，在2017年“勒索病毒”攻擊事件中，全球多地受到影響，具體到我國的網絡環境，即使有一些法律法規和技術手段，也因為公眾教育和意識引導的薄弱，無法在第一時間做出有效的應對。這些挑戰凸顯了尋找創新的治理方式和策略的必要性。

在這個背景下，人機協同視域下的網絡文化安全治理展現出其獨特的優勢。人機協同能夠結合機器的強大計算和數據處理能力以及人類的創新思維和復雜決策能力，從而提升網絡文化安全治理的效率和能力。就像在之后的勒索病毒應對中，我們通過機器的強大計算和數據處理能力，成功隔離了受影響的系統，同時利用人類的創新思維和復雜決策能力對未受影響的系統進行了重新配置和強化，有效阻止了病毒的進一步擴散。此外，人機協同還能幫助我們應對網絡文化的全球性、動態性、復雜性和預防性等特性，實現網絡文化安全治理的優化和升級。

基于當前人工智能技術和大數據技術的發展，人機協同視域下的網絡文化安全治理創新不僅是必要的，也是完全可行的。例如，機器學習可以幫助我們分析和預測網絡文化風險，自然語言處理可以幫助我們理解和監控網絡文化內容，區塊鏈技術可以幫助我們實現網絡文化交易的安全和公正。此外，各國政府和企業也在積極探索和推動人機協同的應用，已經出現了一些成功的實踐和經驗。這些技術和實踐，如同我們在處理“勒索病毒”攻擊事件中所見到的，能夠提升我們處理網絡文化安全問題的效率和能力。因此，人機協同視域下的網絡文化安全治理創新，是完全可行的，也是未來網絡文化安全治理的重要趨勢。

三、人機協同網絡文化安全治理多元模式

在網絡文化安全治理實踐中，人機協同的作用日漸顯著，催生出一系列多元化治理模式。這些模式各具特色，以自身獨有的視角和策略促進網絡文化安全治理發展，進一步展現了人機協同在此領域的重要影響力。

1.分工協作模式。在此模式下，網絡文化安全治理體系內的人工智能與人類審查員建立了一種強大的合作并行機制，為審查體系創造了高度專業化的工作環境。這種模式采用了“職能分化”的原則，將計算機輔助決策系統與人類監控者的職能分離，依據各自的專長進行治理活動。人工智能系統在此模式中主要負責數據挖掘、模式識別和行為預測，它將負責廣泛的監控網絡行為，識別潛在的網絡文化安全風險，并將這些風險標記出來以供進一步審查。這主要是因為人工智能在處理大數據、識別復雜模式以及執行快速、精確的數據分析方面有著明顯的優越性。此外，人類審查員負責進行道德和倫理審查，處理AI可能難以解決的復雜問題和模糊決策，以其高級決策能力來處理這些復雜情境，并進行必要的情境調整。這種模式以技術與道德原則的協同合作為基礎，充分利用人工智能的計算能力和人類的道德及情境理解能力，實現更高效、更全面的網絡文化安全治理。例如，歐洲聯盟的網絡安全機構ENISA就采用了這種模式，他們利用AI技術檢測網絡中的可疑活動和潛在威脅，然后人類團隊基于這些信息進行決策和應對。

2.動態協同模式。動態協同模式充分借鑒了系統動力學原理，注重在網絡文化安全治理中的信息反饋、系統調整和自我優化。在這一模式下，人工智能和人類審查員互為參照，共同學習并不斷調整策略以適應網絡文化環境的動態變化。人工智能系統在此模式中運用其高級的模式識別和預測能力，實時監控網絡文化趨勢，并通過復雜的算法和模型預測網絡行為的未來走向。人類審查員則利用自身對社會文化、倫理道德的深刻理解，評估和修正AI系統的預測結果，并提出實際的治理策略。在此過程中，人工智能系統不斷學習和模仿人類審查員的決策模式，提升其處理復雜網絡文化問題的能力。反之，人類審查員也能從AI系統的數據分析中獲得洞見，優化自己的判斷標準和決策過程。這種動態反饋機制使得治理系統能夠實時適應網絡文化環境的變化，實現網絡文化安全治理的自我優化。總體來說，動態協同模式強調的是人機協同的動態性、反饋性以及自我調整性，為實現網絡文化安全治理的智能化和自適應性提供了新的思路。例如，美國國家安全局（NSA）采用了這種模式，它的AI系統不斷地學習和調整，以更準確地預測和識別網絡威脅，而人類審查員則根據這些預測和識別結果制定出實際的網絡安全策略。

3.學習增強模式。學習增強模式強調利用人工智能的強大學習能力，對網絡文化環境進行深度理解，并從中提取有效的治理策略。該模式基于機器學習中的增強學習原理，通過建立模型來描述網絡文化安全治理的決策過程，人工智能通過在這個過程中進行試錯，學習到最優策略。在此過程中，人類審查員扮演著關鍵的角色，他們為人工智能系統提供初始的決策標準，并給予正確決策的積極反饋，促使系統逐漸學習和模仿人類審查員的決策策略。此外，人類審查員還需要定期對人工智能系統的學習結果進行評估和調整，以確保其決策過程的合理性和公正性。學習增強模式有助于實現網絡文化安全治理的智能化，它可以大幅度提升治理效率，并能適應網絡文化環境的復雜性和動態性。然而，該模式也對人類審查員的專業能力提出了更高的要求，需要其具備足夠的網絡文化知識和技術能力，才能有效地指導和監控人工智能系統的學習過程。總的來說，學習增強模式為網絡文化安全治理提供了一種以數據驅動和學習為核心的治理方式。例如，澳大利亞政府利用這種模式來優化其網絡文化安全治理，他們利用AI系統通過不斷學習和試錯，探索出最有效的網絡監管策略，而人類審查員則負責評估和調整AI系統的學習成果。

4.全員參與模式。全員參與模式主張網絡文化安全治理為共享責任，包含網絡用戶、平臺運營者以及人工智能系統的廣泛參與。網絡用戶應具備自我調控及不當行為舉報能力，通過深化網絡安全教育和文明素養培養，培育出高度的自我約束意識。平臺運營者需制定并執行公正、公平的治理規則，確保網絡環境的有序性與公正性。人工智能系統則利用技術能力，自動識別并應對網絡環境中的安全隱患，顯著提升治理效率與效果。在此模式中，人工智能系統既是執行者，又需要學習與優化，適應網絡文化環境的復雜性與動態性。全員參與模式強調了人機協同的重要性，發揮了各方優勢，推動了網絡文化安全治理的全面性與深度性。實施此模式需對各參與者進行持續教育與培訓，確保治理效果的有效性與持續性。總而言之，全員參與模式巧妙地融合了人工智能的技術優勢和人類的智慧與責任感，為網絡安全治理方面開辟了新的可能性。例如，新加坡的網絡安全策略就倡導了全員參與模式，他們鼓勵廣大公民、企事業單位和政府機構等全體成員積極參與到網絡文化安全治理中來，人工智能系統在此模式中則負責自動識別并應對網絡環境中的安全隱患。

作者單位 西北政法大學新聞傳播學院

本文系2022年度陜西省法學會課題研究項目“總體國家安全觀視域下的網絡文化安全研究”（項目編號：2022HZ1023）的階段性研究成果。

參考文獻

[1]郭海威，任曉剛，劉菲.科技創新賦能網絡文化安全建設[J].新聞戰線，2023（03）.

[2]廖祥忠.總體國家安全觀視閾下網絡文化安全的內涵特征、治理現狀與建設思考[J].現代傳播（中國傳媒大學學報），2021（06）.

[3]李超民.建設網絡文化安全綜合治理體系[J].晉陽學刊，2019（01）.

[4]汪偉，韓璞庚.網絡文化安全治理理論建構[J].南京社會科學，2015（12）.

[5]王岑.從人-機-環境看網絡文化安全體系的構建[J].福建論壇（人文社會科學版），2009（04）.

【編輯：孫航】