數字平臺治理網絡暴力的監管困境與角色重塑

中圖分類號：G206；D922.16 文獻標志碼：A 文章編號：1009-055X（2025）04-0120-11

doi：10.19366/j.cnki.1009-055X.2025.04.010

一、問題提出與文獻回顧

當前，人類已經進入平臺化社會[1]。具有巨大規模效應的數字平臺推動了網絡空間的再中心化，并通過嵌入社會核心，展現出強大的實踐性、關系性與秩序性[2；數字平臺正在蛻變為現代社會運行的重要空間組織形態，并由此推動基礎設施（infrastructure）和社會關系圖譜的交互融合[3]，塑造人類個體間既相互獨立又無縫對接的時空情景與溝通機制。然而，人們依托數字平臺大范圍地建立聯系、傳遞知識和參與互動的同時，煽動引戰、惡意炒作、人肉搜索乃至侮辱誹謗等網絡暴力行為也愈演愈烈，展現出了巨大的破壞力[4」。作為數據控制者，數字平臺具有資源與技術壟斷優勢，能夠依憑數據權力鏈接億萬用戶、深度嵌入各個治理場景、穿越各類組織邊界，而這些特性也決定了其能夠成為網絡暴力治理一大主體的適格性[5]。

目前，數字平臺如何治理網絡暴力這一重要議題，引發了社會各界的眾多探討，相關理論研究正逐步深化，出臺規范的呼聲也日益高漲。近年來，中央網絡安全和信息化委員會辦公室（簡稱“中央網信辦”）聯合公安部、文化和旅游部等多個部門針對數字平臺設置了大量專門化、創新性的網絡暴力信息治理義務，相繼出臺了《關于切實加強網絡暴力治理的通知》《網絡暴力信息治理規定》等多項政策文件，并在實踐層面深人推進“清朗·網絡暴力專項治理行動”，基本型塑了數字平臺對網絡暴力信息事前預警、事中處置、事后救濟等階段的治理角色，數字平臺的主體責任和義務不斷得到強化。然而，盡管各類信息服務提供者紛紛從健全用戶管理、強化技術分析、推動跨平臺交流等多方面試圖實現對網絡暴力的全鏈條治理，但網絡暴力事件依然高發，諸如網紅“管管”自殺①、重慶“胖貓”②以及粉頭發女孩因網暴自殺③等惡性事件仍頻頻見諸報端，牽動著社會輿論神經。事實上，針對數字平臺的管控涉及網絡內容創作自由、網絡空間生態治理、被害人權益保護、平臺主體治理責任等諸多復雜因素；同時，數字時代的網絡暴力具有弱違法性、匿名性、高度情緒化等特點，這又導致數字平臺往往難以精準把握網絡暴力信息治理義務的履行標準，反而造成平臺自治規則正當性基礎存疑。因此，在“牽一發而動全身”的特殊治理場景下，作為“超級責任體”的平臺應如何明確其自身角色定位，切實承擔起“網絡把關人”的職責義務，成為當前網絡暴力治理實踐中亟須解決的關鍵議題。

現有關于網絡暴力治理的研究，缺乏對數字平臺這一特定場域的體察，而主要從三條路徑進行探討：一是側重于對網絡暴力現象的本體論研究，學者們依托違法犯罪說[7]、道德審判說[8、行為異化說9等理論對網絡暴力的概念及其本質內涵進行探討；二是基于刑法教義學，從網絡暴力現象的刑法規制入手，對網絡暴力的程序適用、行刑銜接、刑法介入條件等內容進行分析7；三是對網絡暴力現象進行傳播心理分析和語詞分析，從話語要素、生成方式等維度出發解構網絡暴力所引發的風險[8。雖然這些成果為網絡暴力研究奠定了一定的基礎，但本質上多以結果主義為導向，且長期聚焦于侮辱誹謗等具體網絡暴力行為的規制分析，難以與當前治理模式變革完全適配。此外，部分研究關注到了網絡暴力治理中數字平臺這一關鍵主體，從公私合作模式[12」、看門人理論[13]、社會紐帶理論[14]等更為宏觀的理論視野出發，分析了內容政策與算法技術對平臺治理機制和能力的影響，并提出強化違法內容處置、鼓勵平臺配合執法等治理策略。但這些規制建議更多的是將面向一般違法犯罪信息的平臺內容監管模式，直接套用至網絡暴力這一特殊的治理對象之上，提出的義務標準也較為泛化，難以在網絡暴力的平臺治理過程中有效發揮針對性的指導作用。

針對上述研究不足，本文擬將網絡暴力問題視為一種獨特的“平臺現象”，并從中探討網絡暴力生成與傳播的內在邏輯，同時聚焦網絡暴力平臺治理的場域特殊性，在充分把握數字平臺環境中網絡暴力生成、擴散特征及規律的基礎上，歸納總結數字平臺治理網絡暴力的具體困境，進而嘗試提出數字平臺這一“網絡把關人”角色的優化思路，以為數字平臺對網絡暴力治理義務的具體履行提供有益的啟示。

二、數字平臺視角下網絡暴力的生成與傳播

曼紐爾·卡斯特（ManuelCastells）曾言：“網絡建構了我們社會的新形態，而網絡化邏輯的擴散實質地改變了生產、經驗、權力與文化過程中的操作和結果?！盵15]569數字平臺在最大程度上整合網絡社會的同時，也基于其連接、集聚和集中等網絡化邏輯，使得網絡暴力較傳統暴力而言更具規模性和復雜性，進而引致更具傷害性的“多對一”網絡暴力現象的發生[16]。具體而言，數字平臺雖然憑借其對數據的高度控制權和核心技術優勢，構建了包容、開放、互助的網絡空間形象和話語體系，但在呈現、加工和聚合網絡信息內容的實踐中，一定程度上也助推了特定議題及內容生產、加劇了失真網暴信息蔓延擴散、強化了單向度正義指責與道德審判，對網絡環境造成負面影響。

（一）助推特定議題及內容的生產

個體網絡用戶的單一化行動，往往不能直接誘發網絡暴力議題與內容的大量生產，網絡暴力信息規模化擴散的背后通常還存在數字平臺這一“隱形推手”。在數字化造就的信息洪流中，社會公眾的注意力是一種稀缺資源，其議程容量的有限性決定了并非所有的話題與內容都能夠進入網絡用戶的視野[17]。事實上，在“內容為王”的互聯網競爭環境中，任何一項議題都需要與其他議題展開激烈的博弈后，才有可能占據與論的中心位置。在此過程中，數字平臺作為公共討論空間的創建者，其很大程度上已經突破了傳統單一的商事主體角色，更多地掌握著話題推送以及信息流向的主導權，并逐漸演變為信息繁衍、傳播的核心樞紐。

雖然平臺出于商業利益等目的將自身打造成為“中介”形象，但其根本目的仍在于追求私利[18]124-125。區別于傳統中介，數字平臺的主要特點在于其能夠構建多維交互生態，為網絡用戶提供大量用于交往的場景、算法技術和個性化服務，其背后的運營人員作為技術的開發者和使用者，不可能完全超脫于社會系統之外，因此數字平臺自身攜帶的“中介”形象并非完全中立，個體價值觀的嵌人反而會掩蓋平臺的管控屬性，這在一定程度上規避了平臺在言論管理和內容審查方面的責任[19]。具體來看，為提高用戶黏性和活躍度、做好營銷引流工作，平臺會對那些吸引用戶關注的話題類型進行實時記錄，并將其中符合自身傳播價值與傳播屬性的內容向公眾進行投送，從而將平臺標榜的特定業務內容與用戶個體的偏好相聯結，以求快速引發靶向化的話題討論和情感營造，進而服務于特定的目的或議程。然而，數字平臺對于同質性話題的打造，進一步增強了網絡用戶對于符合自己興趣的內容的選擇性注意和記憶的能力，而對于其他較為陌生的話題則持相對回避、排斥態度，長此以往，用戶在遇到與自身需求、立場、價值觀念不一致的網絡信息時，就易產生語言暴力傾向[20]。例如，當涉及兩性婚姻、勞資關系等敏感話題相關的社會熱點事件被網絡用戶捕捉到時，數字平臺常常會利用其內容聚合的放大效應為該話題進行增權，加強其傳播力度，并通過盜獵拼貼用戶個體畫像、打造標簽化議題等方式提升此類話題的可見性和討論度，進而基于算法機制將包含相關話題的信息推送給特定受眾。這在無形之中可能誘發敵視、偏見，甚至仇恨言論的滋生蔓延，從而導致網絡暴力信息大量在平臺涌現。通過梳理相關案例發現，數字平臺這種靶向性的話題討論機制有時甚至還會成為線下極端暴力行為的催化劑，例如，引發施暴者向受害人送花圈、寄送危險物品（如菜刀、刀片等）、鼓動相關人員聚集聲討等行為，對公共安全和社會秩序造成危害。

（二）加劇失真網暴信息的蔓延與擴散

網絡暴力信息的大規模生成與傳播，與數字平臺流量邏輯驅動的算法推薦機制存在著很大程度的關聯。綜觀諸多網絡暴力事件，流量規模似乎成為了判斷事件真實與否的唯一標準。事實上，根據流量分發內容的運營模式，雖然提升了爭議性事件的曝光度和討論熱度，但同時也易導致網絡空間中具有潛在攻擊性、極端性的言論信息處在優先傳播的位置。

一方面，在平臺算法與流量邏輯支配的公共討論規則下，一些平臺為迎合用戶喜好和觀點，基于完播率、點贊數、評論量、轉發量等交互指標，構建針對爭議性事件輿情數據的智能解析與熱度排序，這潛在加劇了不同用戶對同一事件的意見的兩極分化。與理性的事件討論不同，充斥著極化情感宣泄的輿論場更容易誘發群體性的語言暴力狂歡。在眼球效應的驅動下，那些非理性的語言暴力信息往往被置頂展示，并在網絡用戶的動態、評論以及所謂的“爆炸性新聞”中不斷傳播[21]186，理性思考和多元表達則沉沒于海量評論的底端[2]，這將導致差異性的共識難以形成，最后使得沉默的大多數陷入“沉默的螺旋”，良性的溝通與對話也變得不再可能。例如，2018年發生的“重慶萬州一公交與逆行轎車相撞后墜江”事件①，當事情還未調查清楚之時，平臺基于流量邏輯，將“女司機會開車嗎”“女司機腳踩高跟鞋”等不實評論置頂宣傳，網絡用戶隨即對準女性司機展開狂轟濫炸，并將“男女對立”話題推上輿論的風口浪尖。隨著事件的發酵，各種攻擊性言論持續被點贊、轉發，而相對客觀的理性發言和聲援則早已被圈層化、跨時空的討論所掩埋。此外，由于極端化的話語表達占據輿論風頭，參與者樸素原始的情緒體驗逐級攀升，甚至不惜誤傷他人也要通過辱罵、詛咒、道德審判等沖動方式來滿足對現實生活的心理代償[23」；再加之平臺流量的加持，關于爭議性事件的討論常常如同滾雪球一般滑向失控的一端

另一方面，平臺通過算法機制對爭議性事件進行片段式裁剪，將原本復雜多維的討論場域簡化為二元對立框架，進而導致極端化的語言暴力和情緒反應進一步擴散。在平臺“制造偏見”的內容加工邏輯下，渲染著支配與被支配、施暴與受辱等角色抗衡色彩的網絡暴力信息經過持續不斷的發酵，逐漸奠定了公共討論空間的情感基調。再加之算法推送的信息聚合功能并非完全可靠，網絡用戶易根據“鏡像環境”的虛擬呈現做出相應決策，從而對爭議性事件原貌的理解出現偏差[24]。事實上，數字平臺中民情民意的表達本就是一種秩序建構的過程，但如果這些意見建議建立在失真和虛假信息的基礎上，網民樸素的“正義感”就容易被處心積慮的“惡”所操縱，甚至淪為滿足一己之私利的工具。更為嚴重的是，失真信息在傳播過程中往往會被扭曲和拼接重組，并在算法推送機制的影響下帶上特定標簽，進而形成特定的敘事框架。例如，在2023年發生的“鄭某某案”①中，數字平臺通過制造“陪酒女”“夜店舞女”“不正經”等具有爭議性的話題標簽、熱搜關鍵詞等形式，吸引海量網絡用戶快速加入相關話題的討論。諸多網友基于刻板印象，對鄭某某染粉色頭發的動機與人格進行肆意揣度，各種情緒宣泄和語言攻擊在抖音、微博、快手等各大數字平臺疊加、異化。至該事件傳播、擴散的后期，涉及鄭某某本人的新聞推送中甚至出現“老人帶病考取研究生，還娶了一個小女生”等低俗不堪的言論，進一步導致理性討論的邊緣化和極端情緒的放大。

因此，在流量化的內容呈現、剪裁與拼接邏輯下，網絡暴力信息內容通過轉發、分享、評論等方式在各類數字平臺間傳播，并在算法機制的加持下形成強大的輿論宰制力，因而，數字平臺也在某種意義上推動了網絡暴力信息內容的二次生產。

（三）強化單向度的正義指責與道德審判

在網絡空間中，具有爭議性質的話題往往需要通過數字平臺的媒介性聯結才能夠轉化為暴力輿論場。面對一起具有爭議性質的熱點事件，為進一步增強該事件的曝光度和流量度，各大數字平臺往往還會借助網絡空間中的“意見領袖”制造對立議題并加速其傳播擴散。在此過程中，意見領袖主要通過主動構建事件相關的道德準則、價值觀念和具有情感傾向的“權威”解釋，打著維護公平正義、伸張弱者權益等旗號并將其作為自身行動的合法性來源，進而形成一個潛在的社會動員框架，引導平臺用戶匯聚成為意見領袖的忠實擁，并在特定議題上形成共識，甚至采取集體行動。在這一過程中，意見領袖的權威性、系統性發言充滿著“自我生效”2513的假設，并潛移默化地控制著輿論的走向，進而造成事實漂移。隨著加害者一方在平臺媒介環境中逐漸掌握聲討相對受害人的輿論壓制權和“正義性”基礎，在由平臺媒介搭建的“數字審判席”上，網絡暴力主義者化身“良善的正義使者”開始進行無限的道德話語生產，并通過各種表達方式惡意詆毀、貶損當事人，并對其形成強大的群體輿論攻勢，而當事人在這一完全不對等的權力關系實踐中，只能被迫承受一系列流言蜚語及惡劣的暴力壓迫[2」。同時，數字平臺的匿名性、隱藏性特征，使得平臺用戶個體在網絡空間中“泛道德化”的情緒表達更容易在短時間內吸引眼球、引發群體共鳴。尤其在去抑制性（disinhibition）的心理狀態之下，數字平臺中的網絡用戶更傾向迅速將自身情感代人、投射至目標事件之中，在還未厘清事件全貌時便對當事人進行道德審判，并打造“正義使者”人設對當事人發動輿論圍剿。這種即時性的情緒反應遮蔽了個體深人、全面的理性分析路徑，不少網絡用戶在無意識中被群氓效應（mobmentality）所影響，對被害人肆意發表攻擊性、極端化的言論，網絡暴力信息在數字平臺中的擴散甚至淪為了一種由非理性主導的情感政治[27」。

更為嚴重的是，面對施暴者單向度的輿論壓制和侵權行為，在數字平臺網絡信息傳播機制的操縱下，受害者往往難以對自身權益進行有效的保護與救濟。一方面，網絡暴力的侵害往往呈現突發性、有組織、大規模的襲擾特征，除非借助專業化的技術手段，否則僅靠被害人個人力量幾乎很難在海量的網絡暴力內容中精準定位侵權賬號、鏈接等信息。此外，平臺為賺取流量收益，有時可能會一定程度上放任、縱容網暴信息的傳播，甚至主動采取虛構標簽、推送熱點等行為加劇此類侵權信息的擴散。在此情形下，受害者要想找到這一信息傳播鏈條中的源頭無異于大海撈針；另一方面，數字平臺基于流量邏輯搭建的公共討論空間，使得受害人在取證過程中往往需要付出很大的經濟成本和社會成本?？梢?，在以情感和情緒為主導、以爭奪認同和關注為價值取向的網絡輿論世界里，受害者常常處于人微言輕又救濟乏術的艱難處境。網絡暴力傳播的快速性和廣泛性使得言論對個體的影響呈倍數級增加，在“裝可憐”“博關注”等大量負面評價的圍攻之下，受害人易產生“孤立無援”的心理，從試圖反抗到無奈接受，甚至引發心理癱瘓、自殘自殺等更為嚴重的后果。

三、網絡暴力治理中數字平臺的監管困境

如上所述，數字平臺在網絡暴力治理中扮演著至關重要的角色，但其在監管責任、監管壓力及監管方式等方面亦面臨著諸多挑戰。

（一）數字平臺監管責任不明，監管義務設置預防性不足

于網絡暴力的治理而言，數字平臺既是被規范的對象，也承擔著網絡空間生態管理的重要職責，所以在網絡服務提供過程中，理應更加嚴格地遵守加重義務規則。在國際立法視野下，歐盟《數字服務法》（Digital ServicesAct，DSA）針對數字平臺設置了積極與消極兩方面的義務（即要求實施的事項與禁止實施的事項）。同樣，近年來我國出臺的《中華人民共和國個人信息保護法》《互聯網信息群組信息服務管理規定》《網絡信息內容生態治理規定》等規范性文件，基于不同類型的數字平臺及其業務特點，從內容管理制度、技術保障等方面設置了社交媒體平臺的一般性義務，不斷壓實數字平臺治理網絡暴力的主體責任。然而，總體上看，我國現行的關于平臺“守門人”的制度規范呈現一定程度的泛化趨勢，具體有效的實施細則有待進一步加強。

一方面，在針對網絡暴力治理的諸多責任條款中，建立健全各種“制度”“機制”的話語屢屢出現，但這些抽象層面上的規范內容更多的是一種原則性規定，缺乏細節支撐，可操作性不強，因而較難助益平臺有針對性地履行其監管職責[28]。雖然相關立法規定了網絡服務提供者可以通過屏蔽、刪除等手段來阻斷網絡暴力信息擴散蔓延，且對于違規賬號、網站等，數字平臺亦可以采取黑名單設置、限期整改、關閉封禁等處罰措施，但目前這些規定和舉措更像是對平臺責任的宏觀界定，仍然存在量化適用標準不明確、正當程序不具體等問題。

另一方面，我國針對數字平臺增設的消極義務較多，而積極義務則相對不足，且相關規定前瞻性與預防性不足，并呈現明顯的事后制裁傾向。在網絡暴力的治理框架中，數字平臺作為事前監管的核心主體，本應通過內容監管機制實現其制度預設功能，然而現實卻是，平臺的監管行為仍以傳統的被動響應模式為主，顯露出顯著的局限性。具體來看，首先，平臺介人網絡暴力的消極義務主要側重對違法違規行為的打擊，如“禁止平臺干擾社會輿論、侵害網民權益等行為，禁止算法濫用帶來意識形態、經濟發展和社會管理等方面的風險隱患”“禁止發布暴力恐怖、謠言等有害內容”“快速封禁”等禁止性規定。換言之，數字平臺的內容監管措施，主要是圍繞網絡暴力所造成的實際損害結果來構建，相關規定實際上體現了一種以事后應對和對抗性干預為導向的治理思維。數字平臺雖通過算法過濾、舉報響應等機制強化內容監管，但現行平臺責任機制在平衡用戶權益保障與技術治理效能方面仍面臨諸多挑戰，其治理效能與公眾期待及法律預設目標之間仍存在一定差距。不僅如此，當面對異常極端、高度失控的網絡暴力輿情時，數字平臺即使能夠屏蔽、刪除所有的網絡暴力信息，也很難完全摘除已然形成的對立標簽，以及減緩網絡用戶對爭議性事件瘋狂般的情感輸出。每一輪遭受封禁、刪除的網絡言論，甚至還可能死灰復燃，在下一次的網絡暴力事件中“卷土重來”，引發更為嚴重的網絡暴力危機。其次，針對數字平臺積極義務的設置常常囿于“鼓勵創新”“倡導正能量”等宏觀方面。就網絡暴力議題的生產與傳播而言，數字平臺的積極義務雖在理論上具有引領與指導的潛在價值，但在實踐中卻難以轉化為顯著的實際成效。再加之數字平臺在應對網絡暴力時，常處在商業利益與公共福祉之間的復雜權衡之中，尤其在行業競爭壓力之下往往難以堅定有效地履行其作為“把關人”的核心職責，這導致暗含網絡暴力的議題、內容不斷流人各大社交媒體平臺，并以病毒式的傳播速度迅速彌散。因而，這種義務配置模式的失衡很大程度上制約了數字平臺自我規制能力的提升和相關義務的有效履行，加大了數字平臺治理網絡暴力的難度，因而在設計的科學化方面亟待進一步提升。

（二）數字平臺監管壓力超載，治理成本與風險疊加

當前，互聯網準入門檻低的特性使得表達主體不斷拓展，但網絡用戶媒介素養的提升仍較為遲滯；同時，網絡空間的連接性、虛擬性和無界性為自由創作打開了窗口，卻也引發了網絡空間中價值觀沖突與公共討論理性空間的收縮。近些年，我國相關部門針對網絡暴力議題不斷加大內容審核力度，規則越來越細、標準越來越嚴，數字平臺網絡暴力治理的主體責任日益強化。大量專項行動和禁令鋪陳展開，雖解決了不少由平臺商業導向造成的“疑難雜癥”，推動了網絡生態健康發展，但也在一定程度上推升網絡暴力的治理成本和風險。

一方面，數字平臺的義務履行范疇并不能完全覆蓋所有可能涉及網絡暴力的內容。網絡暴力信息的生產規模、傳播速度、表現方式都不同于一般的違法犯罪信息，數字平臺現有的技術能力和審核機制無法在有限的成本下，實現對所有網絡暴力信息的全面管控與及時處置。因此，在巨大的治理壓力和合規成本下，數字平臺不得不投人更多的資源、技術和注意力用于網絡暴力治理，如完善一鍵防網絡暴力、網絡暴力信息智能過濾、一鍵取證等一系列用戶保護及投訴維權機制，擴充配備與用戶體量和信息規模相適應的內容審核人員，健全用戶注冊、信息發布審核、跟帖評論管理、應急處置等安全管理制度，切實提升對用戶發布言論的人工干預能力等[29]。這些舉措雖然為數字平臺治理網絡暴力提供了規范性支撐，但卻易忽視復雜現實語境對于網絡暴力信息傳播的潛在影響，并引發了一系列相關問題：一是信息審核存在紕漏。為保障網絡用戶權利，數字平臺需謹慎把握言論自由的平衡尺度。盡管當前的人工審核模式能夠彌補算法對復雜語義理解不充分這一短板，但由于受制于審核人員的認知偏差、標準化操作壓力與心理健康損耗等，網絡暴力信息的平臺審核把關面臨一定困境。二是技術治理工具具有內在局限性。大多數防網絡暴力功能都需要用戶自主設置且流程煩瑣，如僅私信功能就分為“可能認識的朋友”“我關注的人”等多個選項，且平臺端口進入程序復雜，基本上需要點擊數次后才能發現相關功能入口。此外，各大數字平臺在內容控制方面并沒有一個共同認可或接受的技術標準框架，尤其對于網絡暴力受害人權益救濟、依規處置處罰違禁賬號網站等事項缺乏統一的規則約束[30]。更為嚴重的是，過于依賴技術對網絡暴力進行治理，一定程度上削弱了網絡空間的自凈能力，同時也違背了技術平等理念，很容易陷入技術壟斷的治理困境。質言之，在網絡暴力治理這一特殊場景下，數字平臺的監管體量不斷擴張，導致了其內容處置成本的增加和合規體系的臃腫，進而使得平臺步入“越管越寬、越管越累、越管問題越多”的惡性循環。

另一方面，數字平臺對于網絡暴力的全面監管常常導致流量收益等隱性合規成本的流失。數字平臺兼具公共規則屬性以及私人屬性[31]，其本質是多元主體之間、個體與環境之間互融共促的公共場域與私人場域的復合形態。因此，從盈利模式來看，一些數字平臺鼓勵用戶自由創作內容，尤其是希望能夠通過營造爭議性話題的公共討論空間快速賺取流量。然而，在高強度的內容審核要求下，數字平臺不得不放棄一定的流量收益，轉而刪除、屏蔽各類網絡暴力信息，對侵權用戶、網站等施以罰款、禁言、通報等處罰。可見，對網絡暴力的監管邏輯與追求流量經濟的市場邏輯之間長期存在著難以調和的矛盾。數字平臺在內容監管方面做出了大量努力，但與此同時，也面臨著用戶活躍度的下降以及具有流量效應的營銷賬號、大V賬號入駐減少的困境，甚至觸及平臺自身生存和發展的核心利益。一旦這些義務履行對平臺持續獲取收益構成威脅，那么，數字平臺在業務運營中就很難保持足夠的治理熱情和投入，甚至可能采取區別對待用戶賬號、有意包庇違規用戶、對投訴舉報進行冷處理等“數字形式主義”手段來應對[32]

（三）數字平臺監管方式單一，公共治理目標偏移

目前，數字平臺對網絡暴力的治理，主要依賴技術層面的內容過濾與處置機制①。數字平臺擁有強大的技術和數據資源優勢，能夠完成對一般違法犯罪信息的快速識別和精準篩選。但網絡暴力具有空間虛擬性、主體隱蔽性、群體參與性等特征，且網絡暴力內容的模糊性、多義性、場景性也十分突出。現實中，很多模棱兩可的“不良信息型”網絡暴力，多表現為冷嘲熱諷、陰陽怪氣、幸災樂禍、風言風語等形式。嚴格來說，這些信息并不屬于“法律法規禁止發布或傳輸的信息”，但不同用戶針對上述內容可能有不同的判斷尺度，例如，基于發布者的主觀惡意去判斷，與根據受害者的內心感受及客觀后果來判斷，得到的結論可能會大相徑庭。正因如此，數字平臺便很難通過現有的技術識別模型窮盡所有網絡暴力信息特征，以至于經常將網絡暴力信息與正常的評論信息混為一談，導致監測效果欠佳。如果數字平臺機械照搬針對一般違法犯罪信息的內容監管模式，對“不良信息型”網絡暴力進行全面消除或停止傳輸，那么很容易出現正常評論被屏蔽、非網暴賬號被封禁等“誤傷”現象，從而形成對網絡空間言論自由的不當干預。

隨著網絡暴力信息形態從顯性攻擊言論向隱性表達擴展，數字平臺面臨內容邊界模糊化帶來的技術識別困境，而這需要通過可解釋性算法模型構建與倫理約束機制的升級，突破語義歧義、情感偽裝等治理瓶頸。在此過程中，數字平臺治理網絡暴力的主體責任愈發凸顯。在網絡暴力信息與網民日常的言論表達難以區分的情況下，為避免承擔嚴格的法律責任，數字平臺的求穩立場促使他們傾向走嚴控路線，部分平臺甚至“一刀切”地采取封禁、批量刪除等較為激進的管控措施，對疑似網絡暴力信息及賬戶進行嚴格處置。數字平臺作為公共輿論的渠道，其價值核心在于促進多元觀點的自由交流與思想碰撞。而在過度審核的模式下，一方面，過度強調內容合法性，將導致原本屬于網民日?；臃秶纳缃粌热菰庹`刪，正常輿論監督的討論議程被阻斷，網民網絡交流及參與度降低，從而一定程度上限制了公眾的自由表達權，有違社會效益的最大化的制度設計初衷；另一方面，數字平臺過度控制網絡暴力信息和熱度的做法，有時不僅收效不佳，反而會刺激網絡用戶參與實施網絡暴力的行動意愿。尤其是個別網絡用戶自認為“替天行道”“正義伸張”的言論，一旦被大面積刪除、屏蔽，反而可能會導致更多敵視、憤、抗拒等負面情緒在網絡空間中彌漫；而一些網絡用戶甚至可能使用更極端的語言暴力來挑釁數字平臺的監管舉措，進而造成網絡暴力輿情更加難以收場。

四、網絡暴力治理中數字平臺的角色重塑

網絡暴力現象是平臺社會中高度情境化的產物，其對數字平臺的治理能力、治理方式等都提出了新的考驗和挑戰。為有效應對這些考驗和挑戰，應完善從行為到信息的數字平臺治理規則體系，適度限縮釋放平臺義務責任，并通過“軟硬兼施”的手段，豐富數字平臺治理網絡暴力的“工具箱”。

（一）從“行為”到“信息”：完善數字平臺治理規則體系

如果僅聚焦行為，那么網絡暴力治理將始終拘泥于不得超過“清晰而客觀的危險”這一標準框架，且面臨著違法行為和主體認定難、違法證據取證難、損害結果認定難、因果關系證明難等復雜問題。而網絡暴力本質上是一種言論表達或者信息傳遞方式，其行為實施必須依賴于數字平臺中的信息載體，因此，有必要轉換治理視角，從信息內容出發審視網絡暴力治理這一議題。

一方面，數字平臺既是網絡信息內容的傳輸渠道，也是這些內容的審查者和監督員。與英國、德國等擁有成熟行業組織及行業規范的國家相比，我國雖針對數字平臺網絡暴力信息管控與審查義務做出了一定的規定，但相關條款相對來說仍較為粗疏。尤其是平臺在進行刪帖、屏蔽、封停賬號等行動時，有關信息公開與報告流程的規定闕如，使得數字平臺處理違法信息內容時的透明度有待進一步提高。在數字社會，一個重要的法律原則是規范信息權力的關系，尤其是公共和私人管理者以及被治理者之間的權力關系[33]。在此基礎上，數字平臺數據控制及處理權限的公開透明機制應是平臺治理保持合法性和正當性的制度前提。因此，有必要以數字平臺“行業自律”為導向，盡快推動網絡暴力分級標準制定、協同預防制度建設等，同時，對數字平臺的治理任務進行細化，將“內容審查”“信息公開”等治理事項以權力清單的形式在平臺規則中固定下來，不斷健全網絡平臺責任體系[34]。

另一方面，隨著信息生產與傳播日益多元化，傳統媒介原有的邊界逐漸淡化。在盈利至上的思維助推下，平臺本身所具有的自凈與過濾功能弱化，把關失責現象頻頻發生，諸多事后救濟機制也很難發揮其應有功能。在這種狀況下，數字平臺的義務配置模式理應展現出高度的預防性與前瞻性，其義務履行重心也應由事后響應轉向事前管理，通過細化網絡暴力信息的認定標準、構建符合平臺自身特點及公共利益的網絡暴力信息預警審核體系等方式，及時阻斷網絡暴力信息的形成。具體而言，一是根據平臺信息傳播的特性，厘清數字平臺的消極義務，如不得在《網絡信息內容生態治理規定》十一條規定的熱搜、熱推等重點環節呈現網絡暴力信息，以有效防止網絡暴力信息擴散傳播；不得為傳播網絡暴力的賬號、機構等提供流量、資金等支持，以控制網絡暴力信息傳播的“推手”等①。二是科以數字平臺相對更多的積極處理、健康引導等義務。例如，可以嘗試借鑒歐盟《關于打擊在線非法仇恨言論的行為守則》以及《數字服務法》中關于刪除非法仇恨言論的基準規定，將數字平臺一般性的常規內容處置義務如“及時消除違法信息內容”等進一步明確化、具體化。尤其對于違法特征較強、具備多平臺跳轉等傳播特征的網絡暴力信息，平臺應采取更加主動的干預技術加以識別、攔截、屏蔽或斷開鏈接等，前置性地發現并預警網絡暴力苗頭性、傾向性問題。

此外，除了突出必要的秩序維護功能，平臺的積極治理作用還應當突出對爭議事件討論過程的正向引導。換言之，面對網絡暴力信息，數字平臺不能僅僅采取對抗性屏蔽、刪除等手段，更應主動搭建充滿包容性、公平性、建設性的議程框架和討論空間，避免大量被極端化情緒所裹挾的網絡暴力信息動搖網絡用戶正確的價值立場。因此，在正向制度構建的目標下，應通過平臺積極治理義務的施加，引導數字平臺對蹭熱度、過度追逐推廣引流、濫用媒介權力等進行自我修正，同時促使平臺不斷加強對熱搜、話題、網絡社區等方面的縱深管理，優化跟帖評論、聊天室、網絡直播、通信群組等場景中的內容治理策略，從根源上遏制網絡暴力信息的擴散勢能，以理性化的網絡信息內容重建健康的網絡秩序生態。

（二）從無限擴張到適度限縮：釋放數字平臺自我治理潛能

近年來，數字平臺的主體責任多次被強調，其作為網絡暴力信息識別與處置的重要“把關人”，越來越被社會寄予厚望，但這并不意味著要將全部的網絡暴力的治理責任全部轉嫁至數字平臺。事實上，網絡暴力治理并不僅僅是法律問題，更需要政府、市場、平臺及其他利益相關者等多元治理主體的協同參與，才能共同推動網絡輿論生態整體改善。而無限平臺責任這一歸責邏輯，使得數字平臺的內容合規與自身技術能力存在一定沖突，即日益增加的監管體量和普遍審核負擔易使數字平臺陷入客觀履行不能的窘境，從而貽害數字平臺的健康發展。因此，有必要合理限縮數字平臺的義務履行范圍，使其能夠在合理的治理成本和風險管控范圍內實現預期的治理效果。

一方面，建議優化“平臺管用戶，政府管平臺”的雙層監管模式。在“平臺管用戶”階段，數字平臺可以嘗試聚焦自身業務范圍、用戶群體特征、議題討論模式等方面，有針對性地完善網絡暴力信息特征庫和典型案例樣本庫，精準排查、及時介人處置那些經常在平臺中制造對立、激化矛盾的重點賬號，以此助益數字平臺從全方位審查海量網絡暴力信息的義務履行焦慮中脫身，從而促進數字平臺以相對合理的成本在業務經營與社會公共責任承擔之間實現平衡。在“政府管平臺”

階段，政府部門不應頻繁通過網絡法立法的方式來無限制地擴張數字平臺的治理義務范圍，也不必過分抬升網絡暴力治理的義務履行標準。相反，應當在考量數字平臺治理成本的基礎上，充分發揮數字平臺的自我治理優勢，協助數字平臺自主完成分級標識確立、網站系統定級、優化門戶身份認證等工作，進一步完善平臺向有關部門報告的制度，不斷提升數字平臺對網絡暴力的治理效能。

另一方面，應合理限縮數字平臺治理網絡暴力的義務涵攝范圍，激發數字平臺參與網絡暴力治理的動力。換言之，與其一味增加數字平臺的內容監管責任，迫使其摒棄依賴流量經濟發展的商業模式，不如將治理重點放在數字平臺自身環境的風險控制上。當商業效益與公共效益之間逐漸達成平衡時，數字平臺的市場屬性將得到更多尊重，實現網絡暴力治理的阻力也會相應減弱。此時，網絡暴力治理不再是依靠外部施壓來促使平臺“守門人”義務的履行，而是將治理目標逐步內化于數字平臺自身的發展目標和商業實踐中，使治理目標成為平臺內部共同認可的價值基礎。因此，平臺責任的合理限縮能夠促進數字平臺提升監管主動性，推動內容合規與內容運行在數字平臺內部同步發展、同步優化。

（三）從“單刀直入”到“軟硬兼施”：豐富數字平臺治理“工具箱”

如前所述，在巨大的治理成本和行政監管壓力下，數字平臺往往會在網絡暴力治理的標準設置等方面采取更嚴格的舉措。過度審核的做法易擠壓用戶在平臺場域中的權益實現空間，對網絡用戶正常言論表達造成“誤傷”，甚至會引發網絡暴力二次生產的反效果。因此，數字平臺對網絡信息內容的管控，不應僅限于刪除、屏蔽等“一刀切”式的硬性治理手段，更應在適度擴張不良信息管理范圍的基礎上，嘗試通過用戶培訓、算法推薦等軟性治理手段，正向引導網絡用戶的情感表達與言論發表[35。具體而言，針對“不良信息型”網絡暴力的技術識別難點，數字平臺可以從言論的頻率數量、情感傾向等多個維度出發，設置更具針對性和細粒度的網絡暴力信息審核標準。對指責嘲諷、貶低歧視等違法特征較為模糊的信息內容，可以利用人工智能大模型等技術手段，將多條言論作為一個整體語料進行集中分析。同時，對于一些新型的網絡暴力表達形式，可通過用戶自主標注來不斷加強機器學習，并結合發表言論的具體社會影響加以識別和規制，進而使各類技術識別模型、人工審核規則能夠穿透網絡暴力與日常言論表達相近的表象，實質性地審核特定場景中網絡信息的語言暴力傾向[36]。

需要注意的是，盡管數字平臺在治理網絡暴力方面具有顯著的技術優勢，但在治理過程中仍需對網絡用戶的權利保障給予足夠的重視，規范技術應用程序，引導技術向善。首先，可以嘗試以主動披露機制代替算法備案審查機制。與后者對文本規范本身進行“形式”評估不同，主動披露機制要求特定主體必須公開或公布某些重要信息，并能夠讓公眾了解算法的特定目的及其具體決策過程，從而提高算法透明度，避免算法區隔導致的群體意見極化[37]。其次，積極開發調適業務場景，完善實質性的用戶舉報和反饋機制，盡可能滿足當事人差異化的維權訴求。尤其當受害人已經遭受到嚴重網暴侵害時，數字平臺需及時采取技術屏蔽等方式，將被害人的隱私等信息進行封鎖隱藏，盡可能改變其在面對網絡暴力宰制時的被動失語狀態，提升其數字化生存能力。最后，為避免因大面積刪除、屏蔽網絡暴力信息而造成輿論規模的再次膨脹和網民情緒反向擴張，數字平臺應把控信息阻斷手段的漸進性、合比例性。當數字平臺審查后決定刪除或屏蔽相關信息內容時，可設置向侵權人發送修改或刪除的勸阻提醒、對涉網暴信息標注提示、控制傳播范圍或做折疊處理等選項，并告知發布者刪除理由、信息處理結果以及發布網絡暴言論可能涉及的民事及刑事責任，打破加害人與被害人之間與論話語權失衡的困局，真正削弱網絡暴力的與論宰制力。

五、結語

以數字平臺為抓手開展網絡暴力治理，是順應平臺化社會發展現實的必然選擇。在此基礎上，明確數字平臺在保障網絡內容安全、維護網民合法權益等方面的義務職責，將成為數字時代我國治理網絡暴力的重要制度方案。然而，數字平臺對網絡暴力這一高度情境化現象的治理面臨著監管職責界定模糊、監管負荷過重以及監管手段單一等監管責任落實難題。鑒于此，有必要轉換治理視角，構建一套由行為層面至信息層面的數字平臺治理規則體系策略，通過合理界定數字平臺的義務邊界，激發其參與治理的積極性，并借助柔性治理策略正面引導用戶的情感走向與語言表達方式。誠然，學術界在網絡暴力治理領域的研究成果已經頗為豐富，且形成了多種研究路徑，但當前研究鮮有從平臺視角對網絡暴力現象展開審思。本文旨在探索數字平臺中網絡暴力信息的擴散演化邏輯，梳理數字平臺網絡暴力治理的監管困境與角色塑造路徑，屬拋磚引玉之作。未來，對于人工智能技術的倫理治理、“飯圈”文化治理、網絡輿情治理等新興議題，均可依循此路徑進行更加深人的探討，進而為構建健康、和諧且安全的網絡生態環境提供借鑒和啟示。

參考文獻：

[1] 陳昌鳳，袁雨晴．平臺演化：中國互聯網30年與傳播變遷［J]．新聞與寫作，2024（4）：15－24.

[2] 管其平．空間社會學視域中網絡空間的生產及其正義［J]．學術探索，2022（8）：52-59.

[3] 孫萍．從“慣習培養”到“粘性使用”：數字平臺的算法生產——基于行動者網絡的視角［J］．西南民族大學學報（人文社會科學版），2022，43（1）：153－161.

[4] LOUISF，MOHAMED S.Cyberbullyingand online harassment：a multifaceted examination of digital platformviolence[J].2024（3）：15-18.

[5] 王燃．論網絡暴力的平臺技術治理［J]．法律科學（西北政法大學學報），2024，42（2）：121-134.

[6] 辛艷艷，方師師．網絡暴力治理中的平臺主體責任困境［J]．青年記者，2023（13）：88－90.

[7] 敬力嘉，胡雋．網絡暴力法律規制的完善路徑［J]．中國人民公安大學學報（社會科學版），2021，37（5）：142 -149.

[8] 江根源．青少年網絡暴力：一種網絡社區與個體生活環境的互動建構行為［J]．新聞大學，2012（1）：116－124.

[9] 張瑞孺．“網絡暴力”行為主體特質的法理分析［J]．求索，2010（12）：140－142.

[10] 勞東燕．網絡暴力刑法治理的基本立場［J]．政法論壇，2024，42（3）：39-54.

[11] 嚴丹．智媒時代網絡暴力主義話語的生成機理與治理策略［J]．內蒙古社會科學，2023，44（4）：70－77.

[12] 江溯．論網絡犯罪治理的公私合作模式［J]．政治與法律，2020（8）：40-54.

[13] 單勇：數字看門人與超大平臺的犯罪治理［J]．法律科學（西北政法大學學報），2022（2）：76－90.

[14] 許博洋，周由，CHANGL．青少年網絡越軌行為的發生過程及原理——基于自我控制理論和差別交往理論的視角［J]．中國青年社會科學，2021，40（3）：79-87.

[15] 卡斯特．網絡社會的崛起［M］．夏鑄九，等譯．：社會科學出版社，2001.

[16] 冉華，鄭東和．戒除誘惑與重申信任：數字交往情境下的網絡暴力治理［J]．學習與實踐，2024（10）：25 -33.

[17] 李鎵．從網絡社會到平臺社會：算法風險的媒介化治理邏輯演進［J]．蘇州大學學報（哲學社會科學版），2024，45（3）：183-192.

[18] 凱拉．媒介與社會：權力、平臺與參與［M］．任孟山，陳文沁，譯．：中國傳媒大學出版社，2023.

[19] 邵占鵬．數字平臺的三重屬性與角色沖突［J]．浙江學刊，2024，（5）：67－77，238.

[20] 朱笑延．走向媒介正義：網絡暴力信息治理的平臺角色與法治實現［J]．中南大學學報（社會科學版），2024（1）：50-62.

[21] 勒普頓．數字社會學［M]．王明玉，譯．上海：上海人民出版社，2022.

[22] 陳啟涵．平臺可供性視角下網絡對立情緒的流量政治［J]．新聞界，2023（1）：78－87，96.

[23] 李姝慧，劉朝璞．暴力情景、心理代償與異時空共情：深度媒介化進程中的網絡暴力邏輯［J]．閱江學刊，2024，16（6）：92-99，180

[24] 郭淼，師俊艷．重構與糾偏：算法在網絡輿情中的效用［J]．青年記者，2022（17）：48-50.

[25] 馬爾庫塞．單向度的人：發達工業社會意識形態研究［M]．劉繼，譯．上海：上海譯文出版社，2014.

[26] 羅讓．網絡暴力的微觀權力結構與個體的“數字性死亡”［J]．現代傳播（中國傳媒大學學報），2020，42（6）：151-157.

[27] 馮濟海．“粉”“黑”之爭：網絡迷群極化的“日?；鞭D向［J]．社會學研究，2021，36（6）：113－135，228 -229.

[28] 石佳友．網絡暴力治理中的平臺責任［J]．法律科學（西北政法大學學報），2023，41（6）：14－23.

[29] 魏露露．互聯網創新視角下社交平臺內容規制責任［J]．東方法學，2020（1）：27－33.

[30] 趙韞誤，劉晶．“規則 + 技術”：互聯網平臺針對“網絡暴力”現象的數字化治理［J］．文化創意，2023 （2）：75-84.

[31] 肖紅軍，陽鎮，商慧辰．平臺監管的多重困境與范式轉型［J]．中國人民大學學報，2022，36（4）：24-39.

[32] 朱笑延．從內容監管到生態調控：網絡暴力信息治理的平臺義務重塑［J]．南京大學學報（哲學·人文科學·社會科學），2024，61（1）：76-91，163-164.

[33] BALKIN JM. The three laws of robotics in the age of big data [J]. Ohio State Law Journal， 2017，78 （5） ：592.

[34] 單勇．數字平臺與犯罪治理轉型［J]．社會學研究，2022，37（4）：45-68，227.

[35] 宋錯業．“算法”與國家治理創新——數據、算法與權力的知識生產與邏輯呈現［J］．科學學研究，2022，40（3）：401-409.

[36] 王明麗．社交媒體技術治理困境及其應對路徑［J]．新聞文化建設，2022（10）：32-34.

[37] 李小波，翟巖．數字平臺網絡暴力：演化機制、治理困境與突破路徑［J]．新媒體與社會，2024（4）：76-89，415 -416.

Regulatory Dilemma and Role Reshaping of Digital Platforms in Governing Online Violence

ZHAI Yan

（School of Law and Order，People’sPublic Security University of China，Beijing 1OO038，China）

Abstract： With the deep embedding of information technology practices into social structures， digital platforms have emerged as the core spatial organizational form of modern societal operations， driving the recentralization of cyberspace. Leveraging their resource endowments and technological monopolies， digital platforms not only provide the virtual space for the emergence and spread of cyber violence， but also serve as key responsible entities in their governance. Within the specific context of digital platforms， the mechanisms through which cyber violence is generated and disseminated include： amplifying certain topics and content production， intensifying the distorion and diffusion of violent information，and reinforcing unidimensional moral judgments and justice-based accusations. Currently， the governance of cyber violence by digital platforms in China faces significant challenges， such as unclear regulatory responsibilities， regulatory overload， and rigid enforcement approaches. To address these challenges， it is imperative to shift the governance focus from“behavioral control” to “information governance”，to refine the platform regulatory frameworks by moderately narrowing the scope of platform obligations， to unleash their self-regulatory potential by adopting hybrid regulatory instruments combining coercive and incentive-based measures. These measures will help reshape the role of digital platforms in cyber violence governance and promote a more scientific and systematic approach to addressing this issue in China.

Key words： digital platform;cyber violence; platform accountability; technological governance