基于人工智能技術治理網絡暴力的探析

孫 仕

（廣東財經大學公共管理學院，廣東 佛山 528100）

1.問題的提出

當代以互聯網為代表的信息技術的高速發展，讓人類社會生活變得更加便利化和多樣化。同時也催生了與以往完全不同的社會問題，各類社會性問題頻發且呈現劇烈化和擴散化的趨勢，公共治理壓力也隨之增加，亟需相關治理理論的創新和治理能力的提高，也更加促成了人們對利用信息技術手段來解決公共問題的創新和思考?；谏缃痪W絡快速發展下產生的網絡暴力就是當下最典型的社會現象，它帶來的實時性、集中性和直接性的傷害讓許多人深受其害。也正因如此，探索出更多解決網絡暴力的方法就勢在必行。

2.人工智能概述

通過自然的進化與發展而產生的智能，被稱為自然智能。人類智能是目前已知的自然智能中最復雜且最高級的智能。通過人類智能而間接制造和發展出來的智能，被稱為人工智能或機器智能。人工智能來源于自然智能，特別是人類智能。所以，人工智能研究的首要任務就是認識和理解自然智能，創造人工智能的機器和應用，增強并服務人類智能的開發。

[1]人工智能的概念最早由John McCarthy于1955年在達特茅斯會議上正式提出。人工智能（AI：Artificial Intelligence），根據英文釋義可以理解為“人造的智能”。人工智能被劃分為了三個階段，即弱人工智能階段、強人工智能階段和超級人工智能階段。弱人工智能是利用智能化技術改善經濟和社會發展所需的一些技術條件和功能；強人工智能是十分接近于人類智能的階段，目前普遍認為這個階段要持續發展到21世紀中葉后才能真正實現；超級人工智能是腦科學和類腦智能有了突破發展后而創造的一個超越人類智能的超強智能系統。當下的人工智能發展還處于弱人工智能階段，研究領域主要是語音識別、圖像識別、自然語言處理、智能機器人、專家系統和自動駕駛等方面，延伸出的科技領域已經涉及人類社會的多個方面。[2]

3.網絡暴力概述

本文通過我國最大的文獻數據庫——中國知網（CNKI），檢索了該概念的學科研究狀況，主要涉及新聞傳播學、政治學、法學及社會學等多個學科，目前已經初步形成規模（見圖1）。其中不少學者均對網絡暴力進行了概念描述，如姜方炳（2011年）將網絡暴力定義為“網絡技術風險與網下社會風險經由網絡行為主體的交互行動而發生交疊，繼而可能致使當事人的名譽權、隱私權等人格權益受損的一系列網絡失范行為”。[3]陳代波（2013年）認為網絡暴力是“網民對當事人或者組織實施的以制造心理壓力為手段，以迫使當事人或者組織屈服的網絡攻擊性行為的總稱；因這種行為帶有明顯的強制性特征，與現實中的暴力類似，故而稱為網絡暴力”。[4]路芳（2010年）將網絡暴力界定為“網絡暴力是一種作為行為施方的網絡行為主體以其隱蔽性、強制性、極端性和侵犯性的網絡行為給行為受方造成實質性傷害的網絡行為失范”。[5]他們都在強調網絡暴力性質和特征的基礎上進行相應的概念厘定。于此，本文將網絡暴力總結為：網絡行為主體通過網絡社交渠道以極端化和強制化手段，對當事人造成心理上實質性傷害的類暴力行為的總稱。最普遍的網絡暴力方式包括網絡造謠、網絡誹謗、人肉搜索、信息曝光、道德譴責、網絡騷擾、網絡恐嚇等行為。

圖1 針對網絡暴力的各學科文獻數①

網絡暴力的成因來源于多方面的因素。首先，互聯網的開放性和匿名性，導致網絡行為主體人（包括網絡行為個人、網絡行為商業團體等）在原有的社會事件中忽略客觀事實，為了增加關注度或是為了商業盈利而刻意加入主觀的歪曲見解來制造矛盾，經過多方的轉發和歪曲疊加后，最終讓閱讀者和觀看者得到與客觀事實完全不符的信息，這種網絡信息失真會激怒部分極端主義者而發起網絡暴力的行為。

其次，網民低齡化和整體網民受教育程度偏低也是重要因素。根據中國網信辦（CNNIC）發布的《2021年全國未成年人互聯網使用情況研究報告》的統計數據顯示：“2021年未成年網民達到1.91億，未成年人互聯網普及率達96.8%，較2020年（94.9%）提升1.9個百分點”。②第50次《中國互聯網絡發展狀況統計報告》顯示：“截至2022年6月，我國網民規模達10.51億，較2021年12月新增網民1919萬，互聯網普及率達74.4%”③；第47次《中國互聯網絡發展狀況統計報告》中網民學歷結構的數據顯示：“小學、初中、高中/中專/技校學歷的網民占比分別為19.3%、40.3%和20.6%；受過大學?？?、大學本科及以上教育的網民占比分別僅為10.5%和9.3%”。④通過以上數據可以發現，我國網民以中等教育水平的群體為主，網民不光低齡化而且整體受教育程度不高。

再者，隨著互聯網數字經濟在我國的爆發式增長，各種基于互聯網發展起來的科技公司得到了進一步的發展，比如騰訊、百度、新浪、優酷、字節跳動等，均開發出了相應的社交App、視頻軟件及論壇，從Web1.0時代轉向Web2.0時代，為網絡行為主體提供了動態化、參與式、可讀可寫以及便捷化的互動方式，但也為網絡暴力孕育了溫床。[6]由于網暴者本身也是這類社交平臺的“客戶”，在盈利需求的驅使下，會疏于自我監管機制建設，最終助長網絡暴力行為的不良風氣。

最后，網絡暴力法制建設缺失也是不容忽視的因素。法律是公民行為規范的基本準則，針對性的立法必然是控制網絡暴力的有效手段，但是我國仍然將網絡暴力相關的行為歸類于民事侵權的范疇，尚且未形成網絡暴力專項立法。一旦發生網絡暴力行為，目前僅能依據部分條例和規定進行維權。另外，由于互聯網的匿名性、網絡暴力行為主體的多元性、網暴受害者受害程度難以估量性等多重因素，也導致受害者容易因為取證艱難而陷入維權困境。

4.人工智能精準化治理網絡暴力的可行性

4.1 治理網絡暴力的迫切需求

4.1.1 傳媒環境的凈化

“沉默的螺旋”理論是指每個人生來就是害怕孤獨的，所以在面對具有爭議性的話題時，他們會試圖判斷自己的意見是否屬于大多數，然后判斷公共輿論是否會朝著贊同他們意見的方向改變，一旦他們覺得自己的意見占劣勢，在“擔心被孤立”心理作用下就會傾向于對該話題保持沉默。因此，輿論占優勢的一方便會更加得勢，輿論處于劣勢的一方便會無限地沉默下去，形成了一個“螺旋式”的傳播過程。[7]網絡是個開放的世界，任何人都可以表達自己的觀點和看法，但是網絡暴力加速了“沉默螺旋”的發展，阻礙了少數人發表觀點和看法的機會，破壞了開放、包容、自由的網絡傳媒環境。其次，傳媒在社會治理中起到監督作用，但是網絡暴力讓“監督”超越了“邊界”，以致于讓不法個人和機構、商業團體為了利益把監督變成了“輿論造勢”。這種“輿論造勢”再加上自媒體時代的“蹭熱度”行為，就把良性的媒體監督變成了“開局一張圖、內容全靠編”的網絡行為，不光損害大眾的利益，也嚴重降低大眾傳媒的公信力。網絡暴力導致的傳媒環境惡化問題，亟待解決。

4.1.2 公眾權益的保護

網絡暴力嚴重損害公眾利益。網絡暴力行為主體者的侮辱、造謠、謾罵及其他不正當網絡行為會給當事者及其家人在精神上造成創傷而影響正常生活的開展。近年來，眾多名人、學者及普通人都因為遭受網絡暴力而患上抑郁癥，甚至還會選擇輕生自殺。比如劉學洲事件⑤、王力宏離婚事件⑥、電視劇虐貓事件⑦等。同時，網絡暴力扭曲大眾道德價值觀。網絡暴力事件最常見的例子就是站在個人的道德標準上對當事者進行道德審判，呈現出道德判斷的偏激和片面。由于互聯網的開放性、匿名性及其相應的法制缺失，讓這種網絡行為極易超出正常的邊界，在得到憤世嫉俗的審判快感后，網絡暴力行為主體者對當事者精神上摧殘的背后也無需對此承擔任何責任，甚至還能彰顯出道德的高尚和偉大，這種肆無忌憚的網絡行為方式扭曲了大眾的道德判斷標準和公共道德底線。[8]

4.1.3 企業和國家的穩定發展

網絡暴力阻礙互聯網行業的良性發展。網絡暴力作為互聯網時代高速發展衍生出的一個“毒瘤”，它不僅會嚴重影響大眾的網絡沖浪體驗，同時也會給網絡運營商和網絡社交平臺帶來相應的損失，比如品牌形象受損、核心用戶流失等，甚至可能導致企業的商業投資撤回、破產和倒閉。而且，網絡暴力影響社會的穩定和國家安全。網絡行為主體者借助網絡平臺散播的攻擊性和煽動性的言論、敏感話題相關的圖片及視頻，經過互聯網的擴散和發酵后會出現在網絡的各個角落，這種無限拓展性和不可控性，最終會形成“網絡輿論一邊倒”現象。相比于傳統媒體輿論，網絡輿論具有多元復雜性、即時互動性和隱蔽性等特點。如果網絡暴力形成的類似于“民主”“人權”等話題的網絡輿論，也極易被西方或敵對勢力所利用，策劃或煽動反動活動，攻擊我國的政治制度，以致影響我國的社會穩定和國家安全。[9]

4.2 公眾對人工智能的高接受度

現有的人工智能應用對人們的生活方式、學習方式、娛樂方式都產生了巨大的影響。不僅大幅提高了社會資源的使用效率，也是讓生產方式更加趨于人性化。據德勒的一項民意調查顯示，“68%的中國用戶對人工智能技術持積極態度，用戶認為人工智能技術將對社會發展、教育、醫療水平、環保和社會公平都有積極作用”。⑧利用人工智能技術解決網絡暴力問題目前已經成為學術界和社會日益關注的熱點，強大的治理需求促使了人工智能治理網絡暴力的進一步實施和開展。

4.3 國家政策的大力支持

為促進人工智能技術的發展，國家發展改革委、科技部、工業和信息化部、中央網信辦聯合制定了《“互聯網+”人工智能三年行動實施方案》（2016）、國務院印發了《新一代人工智能發展規劃》的通知（2017）、工業和信息化部印發了《促進新一代人工智能產業發展三年行動計劃（2018-2020年）》（2017），2019年政府工作報告中更是將人工智能升級為“智能+”。國家政策對人工智能領域的引導和鼓勵，促進我國從“互聯網+”時代向“人工智能+”時代的積極轉變。另一方面，為更好地防治網絡暴力問題，切實地保障網民自身的合法權益，以中央網信辦為主的相關部門也積極開展了打擊網絡暴力和改善網絡環境的專項行為，比如2022年4月部署和開展了針對影響力較大的18家網絡平臺的“清朗·網絡暴力專項治理行動”和2022年8月舉辦的中國網絡文明大會等。

4.4 人工智能支撐技術的高速發展

“數據”“算力”和“算法”是人工智能最重要的3個要素，它們之間相互促進和相互支撐，最終促成了人工智能技術的應用和價值創造。自黨的十九大以來，數字中國建設取得顯著成效，基本建成全球規模最大且技術領先的網絡基礎設施?！敖刂?021年底，我國已建成142.5萬個5G基站，總量占全球60%以上，5G用戶數達到3.55億戶”。⑨完善的網絡基礎設施建設促進了我國互聯網產業的快速發展。網絡暴力產生于互聯網，而互聯網中用戶每一次交互過程都會留下后臺痕跡，隨著交互記錄不斷在后臺系統積累，最終就會形成龐大的數據庫，數據庫存儲的數據為人工智能的訓練提供了先決條件，技能獲取后的人工智能可以根據不同場景的數據得到相應的智能模型。算力，即計算機處理數據的能力，也是人工智能突破發展的決定因素。根據2022年中國算力大會公布的數據顯示，“截至2022年6月底，我國在用數據中心機架總規模超過590萬標準機架，服務器規模約2000萬臺，算力總規模超過150EFlops。與此同時，算力產業鏈條持續完善，包括算力基礎設施、算力平臺、算力服務等在內的、具有國際競爭力的算力產業生態初步形成，一批具有示范效應的算力平臺、新型數據中心以及產業基地相繼落地”。⑩算法模型、數據技術和算力產業的蓬勃發展也為人工智能技的發展打下了夯實的基礎，出現了如百度AI、華為、商湯及阿里巴巴等涉及人工智能技術的公司和品牌。

4.5 精準化治理網絡暴力的實踐應用

4.5.1 敏感詞、敏感音頻及敏感圖像和視頻

對以自然語言描述為表現形式的網絡暴力行為，目前最常用的人工智能技術是“敏感詞過濾”。建立一個“敏感詞文字描述庫”作為檢測自然語言描述的依據，通過后臺的智能識別和智能過濾，將過濾的敏感詞直接屏蔽、替換或阻止發布，減少網絡暴力敏感詞的文字傳播，從而減少語言攻擊和降低語言暴力傷害。[10]由于音頻數據主要以波形型號為主，所以對以音頻為表現形式的網絡暴力行為，主要是利用波形特征對網絡暴力特征進行提取、識別和分類。對于以圖像和視頻為表現形式的網絡暴力行為，一般需要提取圖像和視頻的特征，針對圖像和視頻中目標運動的動作、軌跡和姿態等特征，采用多分類算法模型對不同類別的網絡暴力行為進行識別后，定位相關語義特征的圖像和視頻，最后實現對帶有血腥、恐怖組織、槍支器械、色情、垃圾營銷廣告、水印等諸如此類網絡暴力行為的圖像和視頻的過濾和刪除。目前，國內各大網絡平臺均有針對敏感詞、圖像和視頻及音頻的應用，如新浪微博、微信及抖音等平臺。另外，諸如百度AI智能云、網易易盾和數美之類的專業第三方內容審核服務也日趨成熟（見圖2）。

圖2 百度AI審核服務、數美智能檢測服務

4.5.2 人工智能提示和服務

人工智能“語言提示”和“用戶自主拉黑”功能，是利用人工智能技術，在暴力性評論語言發表之前，后臺會自動向評論者發出提醒，讓評論者更改語言來保持友善的社交環境。用戶的個人賬戶下如果經常受到來自某個或多個人的帶有辱罵、攻擊或暴力的評論，該用戶可以設置“拉黑”功能來防止此類評論的繼續發表。這兩項功能均可以幫助預防網絡暴力。目前國內外的眾多社交平臺均有上線諸如此類的人工智能服務。2019年國外圖像視頻分享社交平臺Instagram就推出了這類友好發言的提示功能。2022年2月圖像視頻分享社交平臺抖音也成為國內首個推出“發文警示”功能的平臺。此外，抖音在預防網絡暴力系統中還新增了一項功能，即“心情暖寶寶”平臺助手。用戶在多次違規發布評論和私信后，人工智能就會自動觸發“心情暖寶寶”，以在線溝通的方式引導用戶去尋求心理輔助、就診和緊急幫助（見圖3）。諸如此類的還有知乎平臺的“瓦力”機器人助手。

圖3 抖音平臺的友好評論提醒、心情暖寶寶助手

5.人工智能技術治理網絡暴力的公共治理創新

21世紀是人工智能迅速崛起的時代，在5G、物聯網、大數據、云計算等技術的突破后，全球互聯網之間的交互日益緊密，為人工智能技術的發展提供了良好的內外部環境。人工智能技術在社會實際問題中的應用，如網絡暴力的治理，給公共治理創新帶來了挑戰，同樣為公共治理模式帶來了創新的機遇。

5.1 向收縮性政府的轉變

政府規模，是指政府的機構、職能、人員等各種要素構成的一個有機整體。政府規模不是越小越好，也非越大越好。政府規模過小容易導致政府失靈與市場失靈，政府規模過大則會導致機構臃腫和財務負擔加重，不利于公民幸福感和政府公信力的提升。強調政府治理能力的過程中，構建適度規模的政府也是當代公共治理模式轉變的基本取向。人工智能的發展為處理海量公共治理數據提供了更為高效便捷的方式和手段，通過機器的自主學習和精準算法模型，人工智能可以在不受人為主觀因素的干擾下，實現對海量數據更科學地整理和分析，進而為更優質的治理方案提供決策支持。以網絡暴力治理為例，人工智能不僅可以讓治理主體從簡單且重復性的敏感詞過濾和刪除勞動中解放出來，既減少了人力成本，同時也有利于推進治理過程的扁平化和網絡化。[11]

5.2 向精準化治理的轉變

結合上文中人工智能技術治理網絡暴力的實踐應用可知，在大數據技術的支持下，人工智能在自主學習和創造后，能夠精準了解網民的情緒變化及個人偏好，能夠針對性地對每個網民建立完整的后臺數據檔案，并適時地提供相應的服務和滿足網民的需求，為網絡暴力治理提供了良好的預防機制。在公共治理的其他領域，人工智能依然能為公共服務和治理的精準化、高效率化提供了技術支撐。

5.3 加速公共治理協作方式轉變

公共治理需要公共部門內部橫向之間的協同合作。與此同時，與外部社會組織的共同合作也十分關鍵。治理網絡暴力不僅是互聯網平臺的責任，相關公共部門如中央網信辦也肩負著監管之責。只有在內外部雙方協同合作的基礎上才能從根本上改善和凈化網絡環境。利用人工智能的自動化與智能化功能獲取各類公共治理所需的社會信息，可以解決中央與地方、地方與地方、政府與社會間信息不對稱導致的合作難題。打造一體化和集約化的智能中心，可以在解決“數據孤島”問題上加強部門橫向和縱向的合作。

6.總結

從厘清網絡暴力的概念、成因和危害，再結合對人工智能的概述，本文試析了人工智能精準化治理網絡暴力的可行性及其對公共治理的創新。人工智能技術的應用不僅可以抑制網絡暴力的初起，精準化打擊網絡暴力行為，也可以加強對網絡暴力的預防同時引導互聯網良性可持續的發展。當然，網絡暴力屬于綜合性的社會問題，如果僅僅依靠人工智能類的技術去解決網絡暴力相關的問題是遠遠不夠的。除此之外，還需要不斷的完善法律法規和制定更加嚴格的監管措施，才能從根本上解決網絡暴力問題。盡管我國在人工智能技術方面的發展日新月異，但就人工智能技術治理網絡暴力而言仍然任重道遠。

注釋：

①數據來源：2022年8月23日，以中國知網期刊數據庫（CNKI）為來源，檢索流程如下：選擇文獻來源為“中文總庫”，按“網絡暴力”進行主題檢索，再對“學科”一欄的文獻數據量進行表格化處理。

②中國互聯網絡信息中心，《2021年全國未成年人互聯網使用情況研究報告》，http：//www.cnnic.cn/n4/2022/1201/c116-10690.html.2022-12-01/2022-12-05.

③中國互聯網絡信息中心，第50次《中國互聯網絡發展狀況統計報告》，http：//www.cnnic.cn/n4/2022/0914/c88-10226.html.2022-09-14/2022-12-05.

④中國互聯網絡信息中心，第47次《中國互聯網絡發展狀況統計報告》，http：//www.cac.gov.cn/2021-02/03/c_1613923423079314.htm.2021-02-03/2022-12-05.

⑤劉學洲事件——從小被親生父母賣掉的劉學洲，于2021年找到了親生父母，由于尚未成年經濟無法獨立，養父母也均已去世，居無定所，便提出了和親生父母一同生活或者為他提供住所的想法，遭到了親生父母的拒絕。隨后，網絡有人攻擊劉學洲貪財，對他的長相、聲音各個方面進行口誅筆伐。最終2022年1月劉學洲不堪網暴的壓力在三亞海邊吞藥自殺身亡。

⑥王力宏離婚事件——2021年12月中旬，李靚蕾發表了一篇她與王力宏離婚內幕的博文，李靚蕾隨后得到了網民的支持。但是后面又發了一條博文提及徐姓女歌手，因為表述含糊不清，王力宏也沒能及時解釋，導致徐姓女歌手被網暴，廣告合約減少，收入大幅縮水。而后某陳姓作家也因為質疑李靚蕾遭到了大量的網暴。

⑦電視劇虐貓事件——某于姓導演的電視劇《當家主母》中一段貓咪中毒死亡的片段被網民懷疑是真實存在的，于是對電視劇的劇組及其導演進行了網暴，劇組多次澄清不屬實，但是依然受到了網民的質疑。最后事態愈演愈烈，超六萬人給電視劇評低分，導致收視率不佳。劇組無奈選擇報警后，三名煽動網暴的始作俑者均被捕。

⑧德勤《人工智能產業白皮書》，https：//www2.deloitte.com/cn/zh/pages/innovation/articles/china-ai-industry-whitepaper-intelligence-driven-by-innovation.html.

⑨《數字中國發展報告2021》，http：//www.cac.gov.cn/2022-08/02/c_1661066515613920.htm.

⑩2022年中國首屆算力大會報告，https：//www.zsdh.org.cn/news/714348922419802112.html.