算法認知戰中的社交機器人運作機制、挑戰與應對

【摘要】在國際政治博弈過程中，基于網絡技術和人工智能的算法認知戰已經成為“計算宣傳”中的重要環節。作為高新科技的“社交機器人”，在實現信息武器化之后，被用于網絡輿論戰后成為出沒于民間網絡、引導人類認知的隱蔽力量。現通過俄烏沖突等案例揭示在計算宣傳過程中社交機器人的動向與運作機制。同時，也對社交機器人對國家安全的挑戰提出思考，探索相關的治理之道。

【關鍵詞】社交機器人；算法認知戰計算宣傳；國家網絡安全

一、問題的提出

俄烏沖突被認為是互聯網誕生以來第一場真正意義的網絡時代戰爭，負責制造輿論的“筆桿子”在戰場中發揮了不亞于地面戰的重要作用［1］。開戰的頭三個月，烏克蘭安全局摧毀了俄羅斯十幾個對社交機器人賬號進行管理的機器人農場，同時抵御了250多次網絡攻擊。這些機器人農場集中在哈爾科夫、切爾卡西亞、捷爾諾波爾等地，使用了超過10萬個虛假用戶，超過100個GSM網關設備、近萬張SIM卡等。烏克蘭一方也使用了社交機器人相關技術，如人工智能程序GPT-3模型網絡，它具有1750億個參數的自然語言深度學習模型，有能力影響目標人群。美國在科技上全力援助烏克蘭，因此烏克蘭一方擁有的社交機器人技術與規模極有可能超越了俄羅斯的捕獲能力。

在現實主義邏輯凸顯、對抗性日益突出的國際政治領域，國家之間多層次多維度的算法認知戰（algorithmic cognitive warfare）融入廣義的宣傳戰之中，成為“計算宣傳”（ComuputationalPropaganda）的重要環節。在網絡戰爭中，誰掌握了網絡，誰就會獲得更大的優勢［2］。社交機器人（Social bots）是人工智能的產物之一，它經過人工編程后可直接與用戶互動交流。近年來，出于不同目的設計的社交機器人潛伏至社交網絡。由于網絡的匿名性特征，潛伏在人類用戶之中的社交機器人往往作為“腹語者”而存在，悄無聲息地引導民眾的認知和思考。被用作軍事領域的社交機器人，活躍于國際輿論場并散布假消息，成為計算宣傳中的信息武器。

二、文獻綜述：計算宣傳與算法認知戰

在古代的戰爭中，有謀略的軍事家往往在戰前散布各種信息，形成己方的道德優勢，同時削弱對手士氣。《孟子·離婁上》有云：“得天下有道，得其民，斯得天下矣。”傳播學奠基人之一的拉斯韋爾（Harold Lasswell）在將“戰爭宣傳”定義為“操縱表述來影響人們行動的技巧”，指出宣傳策略也是一種制勝的武器［3］。隨著人類生活越來越向互聯網傾斜，多項網絡新技術包括人工智能、算法推送、深偽、VR/AR、短視頻等，悉數被軍事化和武器化，成為計算宣傳矩陣。伍利（Samuel C.Woolley）和霍華德（Philip N.Howard）在2016年提出“計算宣傳”的概念，將其描述為“以在社交媒體網絡上故意散布誤導信息為目的，使用算法、自動化和大數據分析等方式操縱公眾輿論”［4］。計算宣傳兼具技術和社會雙重屬性，技術屬性來源自以人工智能、算法為代表的現代信息傳播技術（ICT）的發展，而社會屬性則植根于“宣傳”控制輿論的內涵。計算宣傳基于算法運作機制，發展出制造利己趨勢、消除不利聲音和推薦垃圾信息等基本形式。

當國際關系趨于緊張化，國家之間相互的計算宣傳也會變得越發激烈，有可能會引發算法認知戰。所謂認知戰，是指個體信息獲取、存儲、提取和應用的心理過程，具體包括個體思考抽象事物的能力和解決實際問題的能力，即個體信息加工（information processing）的過程和能力［5］。計算宣傳的核心在于采用算法改變人類大腦對信息的存儲和編碼過程。自從算法介入媒體，算法會影響用戶所接受的新聞內容和信息可見性，并影響他們的行為。某些信息強國通過網絡技術等手段對其他國家網民“釋放迷惑性的信息”［6］。與傳統地緣政治相比，信息時代的地緣政治具有“由國家到個人”“由真實的物理世界到虛擬世界的動員和力量”“舊媒體到新媒體”這三個新的轉變［7］。作為信息強國的美國率先強化了網絡戰爭的布置，2017年8月18日，美國國防部啟動了將網絡司令部（US CYBERCOM）升級為一級聯合作戰司令部的流程，成為美軍第十個聯合作戰司令部［8］。以信息網絡技術為基礎的網絡力量構成各國的綜合國力基礎，也成為爭奪地緣政治權力的基本條件和競爭成敗的決定性因素［9］。

三、社交機器人的運作機制：一種“信息武器”

社交機器人（social bots）被定義為一種可以在在線社交網絡中自主運行、自動發布信息并進行互動的智能程序，最主要的特征是能與人類用戶進行互動［10］。社交機器人也可以偽裝成人類，高效地執行多項“偽草根運動”［11］。政治傳播領域的機器人通常被作為政治腹語的言說者，通過營造虛假人氣、推送大量政治信息、傳播虛假或垃圾政治信息干擾輿論、制造煙霧遮蔽效應混淆公眾視聽、塑造高度人格化形象的虛擬意見領袖等方式［12］，助力于背后操縱主體的權力角逐，威脅民主政治的發展［13］。一些政客利用機器人在社交網絡上造勢，假裝擁有大量粉絲，以此攻擊競爭對手以營造選舉優勢［14］。這盡管存在一定的倫理爭議，但在激烈的國際博弈過程中，社交機器人技術也被公然運用為“信息武器化”的一部分。一些信息強國將精心炮制的帶有政治導向的新聞報道、學術報告等納入互聯網公共空間之中［15］。

（一）制造“信息迷霧”：社交機器人生產海量內容

大量投入互聯網的社交機器人可以生產出海量內容，打造出信息迷霧，用于扭曲真相或局部真相。作為信息武器的社交機器人的有效載荷沒有上限，它具有深度學習能力，能在5分鐘內生產并發布一萬條不同的原創內容，同時進行大規模的轉發與點贊行為。社交機器人倚仗機器人農場作為信息指揮站，具備無限再生的特點。它是一種足以瞄準一國互聯網用戶進行無差別轟炸的信息武器。在關于英國脫歐公投的推特流量中，不到1%的賬戶生產了幾乎三分之一的信息，其中絕大多數是自動化或半自動化的機器人。［16］

社交機器人長期潛伏并隱蔽于一國社交媒體場域，平日盡力扮演得像真人用戶。有一些機器人賬號還擁有自己的頭像、姓名、職業等具體消息。在2016年美國大選中出現了一些實名的“拉丁裔賬號”，無論是個人信息、發帖內容，都很難分辨出它是虛假的智能程序。在強化自身話語的同時，社交機器人也可以識別對自己不利的言論，并對這些觀點“點踩”或“拍磚”，或進行簡單的反駁。社交機器人已經具備一定的機器學習能力，能通過編寫好的詞匯組合來發布政治觀點。這些觀點往往集中在爭議較高的領域，爭議性話題會導致不同信息的交鋒，為誤導信息的傳播提供了契機，也更容易成為計算宣傳的內容載體［17］。社交機器人能助推情緒擴散尤其是負面情緒，達到人機共情。在“沉默的螺旋”作用下，當社交機器人在通信網絡中占2%至4%時，就能影響意見氣候，并可以通過這種機制來塑造社交媒體用戶的行為規范［18］。作為信息武器的社交機器人能不動聲色地改變整個輿論場的氛圍環境，破壞輿論場的事實能見度。

（二）算法精準發布：以智能推送瞄準特定人群

在特殊情況下，社交機器人也會細分人群，選定特定群體。它們通過用戶上網瀏覽的“數字腳印”或“數字面包屑”可以了解到用戶大致輪廓，找到對政治議題感興趣的、具備一定經濟基礎和社會活動力的網絡用戶來作為重點滲透對象。大數據為信息武器提供了精確的瞄準系統，并將有價值的目標變成一個個“光點”，達到“精準策反”的目的。以劍橋數據分析公司為例，在進行目標選取時，該團隊會尋找“自戀特質得分較高的人”，因為他們“更容易產生嫉妒或‘這是我應得的’之類的情緒”，而這類情緒極易誘發違規和不服從等級制度的行為。該公司數據科學家克里斯托弗·懷利（ChristopherWylie）表示，網絡手段能策動某些關鍵人物叛變，“終極目標是激發和沖動型、反常型或強迫型行為相關的負面情緒和思維過程。目標的行為從輕微或消極抵抗上升到更有破壞性的行為”。通過一段時間逐漸瓦解對方的心理彈性因素，誘導目標形成錯誤的認知，破壞其自我效能。因此，在大數據的準確瞄準下，一些處于關鍵位置、心理符合模型設計的目標容易成為持續攻擊的對象。

（三）數字平臺支撐：成為認知戰的運載系統

社交機器人之所以成為信息武器，是因為它在國際政治體系和人類生活高度倚仗的網絡空間中找到了嵌入的途徑，數字平臺則成為社交機器人所利用的“特洛伊木馬”。一直以“中立者”自居的數字平臺很可能會為其效力的政府默默提供關鍵助力。在俄烏沖突中，俄羅斯的社交機器人農場容易被集體揪出，這與美國掌控著推特、臉書等數字平臺有著直接關聯。平臺數字媒體是當前數字經濟賴以運行的核心系統，已然深度嵌入社會結構。數字平臺往往是由某個商業公司所主持，本質上是一家跨國互聯網資本企業，是世界多個國家通用的社交媒體，它覆蓋了全世界絕大部分國家，注冊用戶有13億人，并開通了17個語言版本。擁有多家有國際影響力的數字平臺是美國在信息地緣政治中的巨大優勢，數字平臺不僅是社交機器人的運載系統，也成為算法認知戰的戰略要地［19］。

四、社交機器人武器化對國家安全的挑戰

社交機器人帶來的信息迷霧用于影響一國用戶的認知，進而制造意識形態風險。意識形態的重要性不言而喻，關系到國之根本。當下，大量用戶將網絡信息作為認知外部世界的重要來源。社交機器人的“眾口鑠金”可以很大程度上扭曲受眾的認知、改變意見氣候、制造意識形態風險，從而挑戰國家安全。

（一）炮制謠言和偏見，制造社會恐慌

社交機器人的泛濫、批量生產謠言與偏見，人機共存的輿論場擠壓了真實聲音。一些社交機器人在特定程序的編寫下，在網絡上散布不實消息。民眾無法區分真相與謠言，一些民眾選擇盲目跟隨，也有一部分民眾對網絡信息保持警惕狀態，網絡信任度進一步下降。“當一個社會失去對基本價值和社會秩序的基本共識，觀念傳達與接受之間就會短路。網絡的后真相狀態進一步加劇，形成“只問立場、不問事實”的非理性網絡環境，導致網絡世界走向極化。

大量謠言的存在必定導致社會不安。作為信息武器的社交機器人不僅制造了信息迷霧，更帶來公共輿論場的極端情緒，形成所謂的“信息疫情”。在緊張的國際局勢中，作為信息武器的社交機器人成為散布流言、恐慌與仇恨的起點，對廣大網民身心造成傷害，導致受眾出現思想混亂、價值觀扭曲等現象，破壞社會凝聚力。

（二）信息大國發動“推特革命”，帶來意識形態風險

當下大部分第三世界國家依然處于網絡社會的初期，用戶網絡素養不高，國內法制不完善，政府對國際輿論場缺乏了解，即使意識到問題所在也缺乏反制的辦法。因此這種狀態被信息強國所利用，通過社交機器人的滲透悄然改變著目標國的輿論場環境。本世紀多個國家爆發“推特革命”，就是社交媒體被策略性使用，而第三世界國家用戶對此完全沒有心理準備，政府也缺乏應對措施。美國多次以技術援助為名支援第三世界國家，助其搭建數字平臺，完成之后就試圖操縱目標國的議題，從而影響該國的政治走勢。這種意圖往往掩蓋在善意援助之下，實際上客觀服務于美國的海外策略。2022年7月13日，美國白宮前安全顧問博爾頓在接受美國新聞網采訪時不慎透露了自己參與2018年操縱委內瑞拉政變的消息。在動蕩的國際環境之中，被用作軍事用途的社交機器人必然導致信息混亂，直接影響到目標國的國家安全。

五、治理方向：走向信息領域的全球治理

互聯網、數字平臺、社交機器人等通信科技的發明，其初衷都是促進不同人群、不同文明之間的對話，而不是用于制造信息迷霧。從理想主義的角度來看，信息的作用應當是促進人類彼此的交流與理解。在一些國家或地區，已經對社交機器人的使用進行立法。然而，對社交機器人在國際上的濫用，更需要在國際層面引起關注。

（一）拒絕網絡霸權主義邏輯

當下的國際格局中，熱衷于將社交機器人作為信息武器的就是信息強國。他們因技術勢能而擁有絕對的制網權，從而遠程影響、控制、打擊別國，形成了當下的網絡霸權主義傾向。這種網絡霸權主義很容易誘發網絡世界的軍備競賽。其他國家為了提升網絡防御能力，也紛紛開發信息武器技術，以確保有“即時反擊”的能力，導致“網絡空間軍備競賽”。這就走入了博弈論中的經典模式“囚徒困境”（Prisoner’sDilemma）：越是追求絕對安全，國際社會就越不安全，將再次陷入“所有人反對所有人”的“霍布斯叢林”（Hobbesian Jungle）狀態。網絡霸權主義對國際秩序的破壞性顯而易見，國際社會有必要共同反對某些信息強國技術濫用，避免國家間卷入“網絡軍備競賽”之中。

（二）加強對數字平臺的治理

數字平臺是社交機器人等信息武器的運載系統，也是治理的關鍵所在。一些跨國互聯網企業為了盈利，不惜與權力結盟，成為信息強國的同謀。2022年11月，馬斯克以440億美元完成了推特（后改名“X”）私有化的進程。在接管之后，馬斯克宣布了雄心勃勃的整治計劃，并更換了公司大半高層管理人員。他表示，“擁有一個共同的數字城市廣場對文明的未來很重要，在這里，各種各樣的信仰可以以健康的方式進行辯論，而不是訴諸暴力”。馬斯克決定改變推特“謊言公司”的形象，并對平臺進行紀律管制。當然，這一努力能否改變推特的性質還是未知數，但這已經是數字平臺改革的重要信號。

（三）完善國際網絡安全公約體系

對社交機器人的治理必須從國際關系現實主義邏輯中抽離，重新回到全球治理的邏輯之中。類似于核武器，社交機器人技術也是全球性問題，它帶來的危害有可能傷害每一個個體，也包括信息強國的公民。現實主義范式認為國家在決策時對利益的考量高于道德，因此很可能造成“安全困境”。在全球治理的范式框架中，國家之間需要拋棄利益沖突，肩負起相關的責任。《網絡行動國際法塔林手冊》（Tallinn Manual）是通過歐美等地區國家的學者的集體研究來推動網絡空間國際規則制定的大型手冊，較為系統、全面地涉及了主權、管轄權、國家責任、人權法、海洋法、國際電信法等15個領域的網絡空間國際法規則。關于社交機器人的使用公約也應當及時付諸討論，以全球治理的思路制定算法認知戰的道德邊界。

（四）讓“南方國家”發揮更大的作用

“南方國家”是當下國際網絡輿論場的“新到者”，很容易成為信息武器襲擊的對象。這些國家需要進一步加強國內“互聯網”輿論場主導，不能被美國和西方國家所操控。“南方國家”在20世紀70年代倡導的新世界信息秩序運動，曾經給世界帶來深刻影響，證明其有能力改寫當今信息領域的發展走勢。同等的邏輯也可以應用在社交機器人的使用上，信息強國的技術優勢將足以支配信息弱國的輿論場，從而威脅后者的國家安全，形成“數字殖民主義”。不少“南方國家”表達了對信息武器化的擔憂，尤其表達了對社交機器人技術的排斥。他們將成為遏制信息霸權、維護全球正義的重要力量［20］。

六、結語

綜上所述，社交機器人在當下的國際局勢中會被作為信息強國操控與欺騙他國民眾的信息武器。社交機器人并不是孤立的，其他網絡革命的產品——包括數字平臺、深偽技術、人臉識別、GPS定位技術、區塊鏈技術等——混合使用，形成了算法認知戰矩陣。信息技術的武器化，必然導致國家間的軍備競賽與囚徒困境，最終損害整個網絡環境和人類利益。像所有戰爭一樣，算法認知戰也同樣沒有贏家。國家主席習近平指出，“網絡安全是全球性挑戰，沒有哪個國家能置身事外、獨善其身，維護網絡安全是國際社會的共同責任。各國應該攜手努力，共同遏制信息技術濫用”。［21］只有將網絡空間放到全人類福祉的高度，才能為美好世界創造積極前景和可行路徑。在任何時代，作為“萬物尺度”的人類，不應被社交機器人所愚弄及迷惑。最后，和平與發展是全球民眾的共同愿望，希望國際社會早日走出緊張狀態，網絡空間的建設與規范依然需要各國合力達成。

［本文為國家社科基金（24bxw058）的階段性成果］

參考文獻：

［1］方興東，鐘祥銘.算法認知戰：俄烏沖突下輿論戰的新范式[J].傳媒觀察，2022（4）：5-15.

［2］Arquilla J.Ronfeldt D.Cyberwar is Coming！.Rand Corporation[EB/OL].（2022-06-22）.https：//www.rand.org/pubs/reprints/RP223.html.

［3］哈羅德·拉斯韋爾.世界大戰中的宣傳技巧[M].張潔，田青，譯.北京：中國人民大學出版社，2003：22.

［4］Samuel C.Woolley，amp; Philip N.Howard.Automation，Algorithms，and Politics，Political Communication，Computational Propaganda，and Autonomous Agents[J].Introduction.International Journal of Communication，2016（10）：4882-4890.

［5］Ulric Neisser.Cognitive Psychology：Classic Edition[M].New York.Psychology Press，2014：4-28.

［6］陸俊元.論地緣政治中的技術因素[J].國際關系學院學報，2005（6）：9-14.

［7］Fraser，Matthew.Geopolitics 2.0[J].Elcano Newsletter，2009，Vo.60：7.

［8］特朗普宣布美軍網絡司令部升級地位與美軍中央司令部持平[EB/OL].（2022-06-22）.https：//www.guancha.cn/global-news/2017_08_19_423583.shtml.

［9］蔡翠紅.網絡地緣政治：中美關系分析的新視角[J].國際政治研究，2018（1）：9-37+5.

［10］Kollanyi，B.，Howard，P.N.，amp;Woolley，S.C.Bots and Automation over Twitter During the US Election[J].Computational propaganda project：Working paper series，2016.

［11］Marechal，N.Automation，algorithms，and politics| when bots tweet：Toward a normative framework for bots on social networking sites （feature）[J].International Journal of Communication，2016，10（10）：5022-5031.

［12］張洪忠，段澤寧，楊慧蕓.政治機器人在社交媒體空間的輿論干預分析[J].新聞界，2019（9）：17-25.

［13］趙爽，馮浩宸.機器人水軍發展與影響評析[J].中國信息安全，2017（11）：88-89.

［14］Howard，P.N.，Woolley，S.，amp;Calo，Ryan.Algorithms，bots，and political communication in the US 2016 election：The challenge of automated political communication for election law and administration[J]，Journal of Information Technology amp; Politics，2018，15（2）：81–93.

［15］趙永華，竇書棋.信息戰視角下國際假新聞的歷史嬗變：技術與宣傳的合奏[J].現代傳播（中國傳媒大學學報），2022（3）：58-67.

［16］Howard，P.N.，amp;Kollanyi，B.BotsStrongerInandBrexit.computational propaganda during the UK-EU Referendum[J].Available at SSRN，2016.

［17］羅昕，張夢.西方計算宣傳的運作機制與全球治理[J].新聞記者，2019（10）：63-72.

［18］Ross，B.，Pilz，L.，Cabrera，B.，Brachten，F.，Neubaum，G.，amp; Stieglitz，S.Are social bots a real threat？An agent-based model of the spiral of silence to analyze the impact of manipulative actors in social networks[J]European Journal of Information Systems，2019，28（4）：394-412.

［19］馬立明.從信息全球化到信息地緣政治：互聯網思維邏輯的演進與趨勢[J].國外社會科學，2021（6）：84-95+158.

［20］馬立明，中國概念的知識再造與全球旅行：國家傳播視角下的概念地理[J].暨南學報（哲學社會科學版），2024（6）：71-85.

［21］2015年習近平在第二屆世界互聯網大會開幕式上的講話[EB/OL].新華網，（2015-12-16）.http：//www.xinhuanet.com/politics/2015-12/16/c_1117481089.htm.

作者簡介：馬立明，暨南大學新聞與傳播學院副教授（廣州 510632）；陳青，暨南大學新聞與傳播學院碩士生（廣州 510632）。

編校：鄭 艷