開源環境中網絡極端信息特征分析

◆甄曉宇

（新疆互聯網信息辦公室 新疆 830000）

恐怖主義是網絡極端化信息的重要表現形式。英國社會凝聚力研究中心（Centre for Social Cohesion）2008 年的報告指出，網絡已成為恐怖分子的“圣戰圖書館”，恐怖組織的傳教平臺，激進分子的交流場地[1]。前“基地”組織阿拉伯半島分支重要成員安瓦爾·奧拉基（Anwar al-Awlaki）在美國長大并接受大學教育，被稱為“郵件上的伊瑪目”、“網絡中的本·拉登”，利用網站傳播“圣戰文學”文章，鼓吹網民稱為“互聯網圣戰者”[2-3]。倫敦警方2005 年逮捕網民“伊爾哈比007”，英美情報部門認定其為“基地”組織的網絡恐怖活動服務，參與了發布恐怖主義資料、在線招募極端分子、為極端組織籌集資金等網絡恐怖活動，并在規避一般網絡議題監管、建立可靠的網絡通信等網絡技術方面起到了關鍵作用[4]。

極端主義在不同國家或地區的政治斗爭、武裝沖突、突發事件中，存在通過網絡快速傳播的現象。2020 年7 月聯合國秘書長古特雷斯也指出，疫情凸顯了人們在濫用數字技術、網絡攻擊和生物恐怖主義等極端行為面前的脆弱性[5]。在美國、歐洲等地，黨派斗爭、反猶主義、白人/反白人主義等社會群體結構性沖突在網絡傳播中顯示出更多的不確定性。

為打擊網絡恐怖（極端）主義犯罪和管控網絡極端意識形態傳播，不同國家（組織）和主要互聯網公司均采取了相關措施。美國參議院2015 年出臺《美國國土安全部社交媒體改進法案》、2019 年歐洲議會通過《關于解決在線傳播恐怖主義內容的規則》。2017 年 6 月，Facebook、Microsoft、Twitter 和YouTube 四家公司成立全球網絡反恐論壇（GIFCT），旨在共同遏制互聯網平臺宣傳暴力極端主義和恐怖主義。相對于政府行政部門在管控網絡極端信息方面的能力，YouTube 公司在2019 年的一季度顯示了更全面的能力，公司處理的視頻共計140 萬個，數量是政府提供問題視頻數量的數百倍[2]。

從開源信息的語言（符號）、議題極端導向、主體規避監管的組織架構等方面做特征分析，提出相應的對策建議，可為做好開放網絡空間中極端化信息綜合治理提供一定參考。

1 極端信息的內容特征

極端信息的網絡傳播依賴于網絡可接入性和信息個體從眾程度。在網絡可接入性不斷提高的環境下，符合個體從眾心理的信息，將有更廣泛的傳播。

1.1 語言的廣泛性和精準性

1.1.1 語言的有效傳播

網絡空間中極端意識形態內容的傳播，具有廣泛影響力的語言主要包括英語、法語、阿拉伯語等。2015 年11 月13 日巴黎系列恐襲事件發生后，“伊斯蘭國”組織在社交網站上用阿拉伯語和法語發表聲明，宣稱對此事件負責。在恐怖（極端）組織向非洲發展的案例中，“基地”組織北非分支在“提問-回答”的社交式網絡互動提供了阿拉伯語、英語、法語等語言服務[6]。

網絡極端意識形態內容小語種的傳播，具有精準、高效的特征。《反恐秘密戰：美國如何打擊“基地”組織》中多次提到普什圖語極端信息在巴基斯坦和阿富汗交界地區的傳播、俄語極端信息在中亞地區以及俄羅斯高加索地區的傳播等，而美國網絡情報部門也以烏爾都語、波斯語以及其他伊斯蘭世界語言進入網絡開放論壇聊天室制造“混亂”[7]。

網絡中極端化或具有極端化隱喻的符號、圖片等具有情感動員的特征。具有一定宗教表達能力的服裝在伊斯蘭教、猶太教、佛教等宗教中均有體現，而一些服裝被用于網絡極端宗教傳播具有象征意義，比如蒙面寬大的罩袍等。

1.1.2 多語境下的隱秘性

特定群體的語境下理解，具有一定的語境隔離。例如，包含民族主義框架的官方宣傳對于威權人格低、意識形態偏右的個體很可能會漠視這些信息，也可能會產生逆反心理[8]。網絡信息的監管造成被監管對象規避監管的能力提高，例如拼音、諧音、“黑話”等規避基于敏感詞信息過濾的監管。

基于信息利用價值不同而產生的監管沖突，造成信息“不合理存在”。例如針對2005 年伊拉克大選投票前發布在網絡上的“投票站清單”信息，執勤的美國軍方為了投票站安全希望清理網絡信息，而美國情報部門則不希望暴露他們已掌握的信息能力。

1.2 社會結構性沖突的極端化

網絡空間中社會相對階層間沖突的極端化。社會創傷尤其是經濟創傷割裂社會，造成“受害人”的極端化傾向。近年來發生在歐洲的暴恐事件導致歐洲社會存在一定的穆斯林恐懼癥，加上美國政府的禁穆令等，導致部分穆斯林背景的青年在西方社會中身份認同建構上失敗，形成相對經濟能力差的底層力量。社會經濟底層群體與社會既得利益者之間的矛盾，在不當的社會網絡輿論或網絡極端主義言論的影響下向極端化方向發展，導致不同階層的青年激進化或者成為潛在的激進行為支持者。

網絡空間中社會群體間沖突的極端化。在同一社會中不同文化背景、種族背景的群體中，有利益沖突的網絡渲染地緣政治沖突，如阿以戰爭、敘利亞內戰和伊拉克戰爭等導致部分激進阿拉伯背景青年群體將美國、以色列視為敵人，并付諸行動。激進主義者利用網絡自媒體平臺、網絡社交話題等，惡意引導和擴大不同群體對現實經濟和政策的不滿，以此來塑造一個對立的網絡世界，繼而導致網絡外報復社會的極端行為發生[9]。

網絡空間中其他社會結構性沖突的極端化。歷史遺留問題、多元文化沖突、政治利益訴求沖突等社會結構性矛盾在網絡的推波助瀾下，社會極端事件多發。美國2020 年總統選舉中標志性事件“攻占國會山”，是特朗普Twitter 治國的負面案例，特朗普及其支持者網絡鼓動支持者通過暴力影響正常的政治程序，體現了美國所謂民主向民粹的轉變，而參與群體的白人特征也表明多元主義急劇增加了社會結構的內在張力，繼而導致社會分化事件發生[10]。馬里蘭大學主持的全球恐怖主義數據庫（GTD）中記錄了2019 年13 起香港極端事件，其中12 件極端事件無實施者說明（Unknown），1 件實施者標注為極端反政府分子（Anti-Government extremists），社會結構性沖突成為社會極端事件的誘發因素。

1.3 暴力極端

非主觀意愿傳播暴力極端的新聞鏡頭或社交媒體鏡頭，可能在網絡上造成更廣泛的影響。普利策獎作品《黑旗：ISIS 的崛起》，立場并非極端主義但是書的內容如“屠場主人扎卡維”、“這個國家，由扎卡維奠基”等，顯然具有一定的負面鼓動性。暴恐案件經主流媒體報道后，自媒體大眾會通過網絡再加工后廣泛的傳播，甚至將不符合事件主流認知的信息大范圍傳播，造成偏離主流價值觀的信息歪曲。而暴恐案件在極端意識形態信息中則被描述成“圣戰”，被擊斃的暴恐（極端）分子則被描述成將享受“天國的喜悅”。

暴力犯罪、斬首、爆炸物制作等暴力極端內容在網絡空間的非法傳播。2016 年07 月20 日人民法院報文章《男子“翻墻”下載暴恐視頻、圖片網上售賣》，被告人非法持有宣揚恐怖主義、極端主義物品，并通過淘寶、百度、微信等網絡工具傳播。2016 年10 月被廣泛報道的文章《職校女孩被網友洗腦 要去參加“圣戰”》，受害人網絡上與一名自稱“阿卜杜拉”的人成為好友，“阿卜杜拉”向其發送宣揚宗教極端思想、恐怖主義、極端主義的音頻、電子書等資料。

2 極端信息發布主體的網絡能力特征

2.1 網絡恢復能力

極端組織或個人基于網絡平臺的規則通過注冊賬號、申請賬號恢復、儲備平臺賬號等方法，具備恢復使用目標網絡平臺的能力。“伊斯蘭國”組織創建《網絡開放式安全平臺指南》（ISIS OPSEC Manual）、《支持者的安全》（The Supporter's Security）等刊物，指導極端分子恢復個人的網絡平臺使用能力。

極端意識形態信息在有限訪問賬號平臺中因為個人隱私權力而獲得有限規避監管能力。有限訪問的論壇、個人平臺賬號、平臺房間等，基于開源信息搜索的有限規則，無法實現有效監管。例如2015年美國土安全部開展了“If You See Something，Say Something”網絡運動，以期在法律范圍內通過網民積極參與，合法獲取更多可能涉及國家反恐安全的個人信息。

開源網絡工具中具有可讀信息功能的均具有成為傳播極端主義意識形態平臺的可能。例如涉及個人隱私的電子郵箱、不具備聊天信息存儲能力的游戲房間、Tor 瀏覽網頁等在法律層面、技術層面等規避網絡監管。公開報道顯示，美國國家安全局在網絡戰爭游戲的監控中遇到了游戲暴力語言和極端分子語言有相似之處的困擾，“他們是在談論恐怖行動，只不過是在游戲中”[11]。

2.2 網絡組織結構能力

極端組織結構有功能化分割的趨勢，不同功能結構的網絡行為區分以實現規避打擊和實現組織目標。付舉磊根據境內外“東突”組織活動信息做的“恐怖分子-恐怖組織”網絡中部分組織的中心性指標分析顯示，某些恐怖分子與恐怖事件的具體執行者聯系并不多，但與其他恐怖組織的上層人物聯系緊密，起著“領頭人”作用[12]。

組織的現實變動導致網絡信息的變動，需要網絡信息的長期研判和網絡信息主體溯源。例如聯合國的一份報告認為從屬于敘利亞“基地”組織的“東伊運”武裝人員因在敘利亞損失嚴重有遷往阿富汗并投靠“東伊運”阿富汗分支的跡象[13]。極端組織的跨地理位置、跨網絡平臺的信息主體判斷需要數據庫比照。

3 網絡極端信息管控的建議

3.1 做好特定語言信息管理

針對已發生極端事件區域或具有不穩定動態的對象開展語種或方言的網絡信息動態掌握。根據已認定的極端符號、隱喻詞語等做重點信息的管控。建立動態管理的特定語言或符號數據庫，依據違法違規案例做好網絡管控空間內非法語言或符號的存量信息清理和新增信息阻斷工作；封堵可管控網絡空間外與我國法律法規不相符信息或敵對極端信息的網絡“信息倒灌”、“信息入侵”。

3.2 強化網絡平臺公司責任

強化手機APP 商城的網絡產品審核，避免小眾APP 成為網絡極端信息的傳播工具。審核體系應滿足法律法規要求尤其是各地方法律法規的要求，避免地方性法律法規在可控網絡空間的失效，防止網絡空間相對無地域性和地方法律法規地域內執行的現實沖突。

根據已處置違規違法案例，實行網絡平臺案件指向性管控，提高境內網絡存儲、網絡通訊企業的案件責任。根據各網絡平臺已發生案例中極端信息的文字、圖片、語音等特征做平臺自查，并建立比對數據庫，杜絕相同極端信息在同一網絡平臺的反復出現。

規范平臺企業內部網絡議題設置管理和輿情導向管理，維護議題指向或輿情涉及主體的合法權益。

3.3 建立網絡極端信息數據庫

建立極端信息內容的數據庫。依據已處置極端案件中信息特征建立文字關鍵詞庫、符號比對庫、圖片樣本庫、語音識別庫，在技術識別和人工識別的基礎上，創新AI 智能應用、大數據模型應用等，壓縮極端主義信息的網絡生存空間，提高網絡公司用戶信息自我審核能力，保障政府監管的可覆蓋能力。

建立極端信息主體的數據庫。已處理的網絡極端信息發布主體在保障公民合法用網的基礎上，進行網絡標記，并建立預防性網絡使用主體案例數據庫。已處理網絡極端信息未處置的信息發布主體予以關注，已處理網絡極端信息無信息發布主體的將極端信息本身做主體特征納入信息主體數據庫，為可能的信息比對做好大數據基礎。

3.4 全民監管

宣傳網絡典型違法違規案件，提高網民對網絡違法違規的鑒別能力。鼓勵網民參與網絡安全建設，對于一些網絡有限訪問論壇或房間、有限訪問個人網絡空間的信息，開源技術下不可能完全閱讀與審核，而廣大網民則有一定的能力發現隱藏其中的極端信息，尤其是論壇或房間的發起人需具備一定的網絡安全意識。

4 結語

傳統的網絡恐怖暴力信息持續存在，而社會結構性沖突信息在網絡的傳播中出現了相關議題極端化。網絡極端信息發布主體在網絡監管下開始以社會批評者的偽裝出現，并和網絡極端組織進行切割，試圖逃避監管。建立網絡極端信息和信息發布主體的數據庫并合理共享，有利于監管機構和網絡平臺企業清除已有極端信息，阻止極端信息發布，并對極端信息發布主體進行管控。