計算宣傳的風險、機制與治理

◎陳 長

人類社會正在進入全面數字化時代。 新技術的發展深刻影響著各方面， 新興技術在政治領域的顛覆性影響尤為深遠。 數據和算法結合， 實現對人類行為進行的計算和預測， 算法政治通過個性化、 靶向式的思想和行為誘導，具有了強大的輿論影響和塑造能力。 借助于新技術的超級“計算” 能力， 人的“算計” 能力也在上升， 即技術影響民意， “計算” 為 “算計” 服務。 智能算法的精準度使得大規模的社會控制成為可能， 制造了諸多現象級的事件。 2016年美國總統大選中體現的算法技術操縱是重要實踐樣本。 并且在2020 年美國大選和2024 年競選備戰， 左右翼繼續深化算法技術在政治中的作用。 在其他政治事件中也發現有算法技術操縱輿論的痕跡， 如英國脫歐。 技術影響民意，導致社會共識撕裂， 更會產生“民粹主義” 的外溢效應， 既是數字時代公共治理的重要內容， 也是我國在新發展格局下面臨的重要外部挑戰， 對其成因的討論有助于對潛在風險進行準確研判和應對。

一、 數字社會中民意操縱的風險和手段

公共輿論是政治學和公共管理學的重要議題， 公共管理的目標是公共利益最大化， 公共輿論是抽象公共利益的具象化。 操縱公共輿論被認為危害政治穩定和公共安全， 甚至帶來“災難性” 的“否決政治” 和政治僵局。 技術操縱民意是數字時代的公共文化和公共理性所面臨的嚴峻挑戰， 這種操縱會促進社會風險的放大， 帶來的公共危機事件， 影響公共決策和公共管理績效， 帶來國家治理的難題。

1.算法與政治日益結合， 擾亂正常的輿論生態

隨著人類社會逐步向智能化進化， 人工智能技術是當前科技和信息革命的關鍵技術， 是新一輪科技革命的主導技術。 “數字社會” 正成為人類社會發展的重要階段。 在數字社會中， 數據和算法是重要決定因素， 關系著公民的信息獲取、 資源分配、政治表決和社會公平正義等。 如果數字技術和算法被操縱， 會嚴重威脅社會公平正義。 同時， 算法和政治的結合正在成為影響政治生態的重要變量。 算法的有益方面是為信息獲取和溝通帶來便利， 但是其有害方面也較為突出， 例如算法偏見、 算法操縱， 這些負面影響會影響公平正義，為治理帶來風險。 這些風險主要包括算法失靈帶來的決策失靈和系統紊亂， 也包括算法濫用帶來的深層安全風險和社會風險， 所以算法政治成為一個不容忽視的議題。

2.信息計算能力飛速提升， “加速” 社會動員

“云計算”、 “量子計算” 和“5G” 等新一代技術的出現， 有效提升人類社會的信息處理與傳輸能力。 社會進入一種動員“加速” 和觀念“極化”狀態， 數據、 算法和算力正在建構數字社會的新規則， 深刻地改變全球政治、 經濟和社會運行的發展模式。 數字社會中， 社交媒體徹底顛覆了公民對政治信息的獲取方式和對特定政治議題的在線討論。社交媒體逐步成為公民日常生活不可缺少的部分，從全球范圍來看， 個體花費在社交媒體的時間不斷增加， 并可能影響到群體的社會聯系和集體行動。因此， 社交媒體上成為輿論宣傳的重要陣地， 各種利益相關方都將重心轉移到社交媒體， 以期掌握重要的民意塑造渠道。

3.出現計算宣傳新范式， 精準化推送信息

借助新技術操縱民意的現象被學者提煉為“計算宣傳” （Computational Propaganda）。 計算宣傳是最新的宣傳范式， 以社交媒體網絡為載體， 通過算法進行大數據分析， 傳播帶有特定信息， 以操縱公眾輿論為目的的新型宣傳方式。 “計算宣傳” 技術被稱為“以工業規模操縱民意”， 數字社會的智能算法的精準度使得大規模的社會控制成為可能。“計算宣傳” 通過技術劫持民意， 改變或干預政治運行規則， 徹底變革了過去的低效率模式。 通過技術手段與大數據分析， 分析群體和個人的心理人格、 興趣愛好、 信息偏好和行為特征， 其優勢在于克服了傳統 “大水漫灌式” 宣傳的不精準和低效率。 通過推送策略提高用戶數據和算法模型的預測力， 在精準分類的基礎上， 將用戶分割， 用戶收到的是“千人千面” 的信息， 從而能對選民個體施加針對性的政治影響。

二、 數字化操縱政治輿論的運行要素和影響機制

智能算法所帶來的精準推送， 高效迅速地作用于人對公共事務的觀念， 使得技術手段影響民意的現象在程度和影響上超過歷史任何時候。 厘清計算宣傳對政治輿論的影響機制是公共治理在數字社會的重要內容， 主要分為運行要素和影響機制兩個重要部分。

1.運行要素： “數據+算法+策略”

（1） 數據集： 全面化的數據搜集。 構建數據集是指對用戶微觀行為數據進行多維度的與搜集、 提取和挖掘（Data Mining）， 從大范圍和多渠道的數據資料中挖掘深度信息， 對可延展的數據進行儲存和匹配。 在云服務器上儲存多樣化的數據， 數據結構包括文本形式數據、 多媒體形式數據、 時序格式數據、 空間格式數據、 交互關系數據等。 數據來源可以是從數據公司購買， 也可以在公共數據庫中爬取， 通過實時動態跟蹤和自動化爬取來挖掘目標信息。

（2） 算法集： 場景化的用戶畫像。 搜集數據的目的是進行分析和歸納， 智能化的分析模型使得用戶被置于不同的場景中進行畫像， 并將這種人像標簽編碼數字化和人格分類建模。 人物畫像主要基于心理測量學的人格模型， 通過建立理論模型， 結合機器學習反復驗證模型有效性。 根據詳細的指標體系對用戶的人格特診和心理結構進行分類（例如可通過社交媒體的點贊數判斷人格特質， 可通過消費記錄判斷性別教育性取向， 可通過社交平臺發文的情感詞判斷實時心理狀態）， 通過上千個數據點的采集， 為某個用戶建立完整的多層次的性格檔案， 詳細記錄其人格特質、 興趣點、 日常生活軌跡、 社交圈特點等。 這些人格特質的用戶檔案再與長期的行為數據對比， 就可以對用戶的行為作出預測。 這些基于心理特征的算法預測模型不斷地與最新搜集的數據進行匹配和測試， 使得模型的精準度和預測力不斷提升。

（3） 策略集： 個性化的動員過程。 在前兩個步驟的基礎上， 計算宣傳的最終目的是進行個性化的動員， 數據集與算法集能有效壓縮用戶的反饋周期。 通過推送策略提高用戶數據和算法模型的預測力， 能對選民個體施加針對性的政治影響。 這與過去的信息推送方式完全不同， 過去的信息動員是簡單分類， 所有用戶獲取的是同質化的信息； 而計算宣傳在精準分類的基礎上， 將用戶分割， 用戶收到的是“千人千面” 的信息。

2.影響機制： 受眾注意力的 “嵌入—分層—同步”

計算宣傳作用于輿論的機制就是利用算法技術的推薦機制、 趨勢機制和過濾機制， 在社交媒體上傳播誤導性政治模因或者煽動性信息， 通過控制政治討論方向和塑造心理空間來進行輿論操縱。 具體分為如下三個機制：

（1） 算法通過推薦機制影響受眾注意力的嵌入。 注意力嵌入作為公共輿論塑造的重要開啟階段， 指公眾對于特定的公共事務的注意力被吸引和關注的過程。 算法的推薦機制指算法在社交媒體空間為公眾營造符合個人心理特質和興趣點的擬態環境， 使“模因” 和信息能夠敏捷而精準地引起公眾響應， 使其注意力被吸引到特定議題上。

（2） 算法通過趨勢機制影響受眾注意力的分層。 注意的分層是承接階段， 指對嵌入的注意力進行重要性和匹配度的排序， 揭示某種觀點的受重視程度和受眾注意力集中程度。 注意力分層強調算法影響輿論的聚焦強度。 算法的趨勢機制利用其可見性放大或者擴散含有政治模因的話題標簽， 引導討論方向， 使得某種政治模因成為趨勢話題。 這種分層機制利用算法的“可見性” （Visibility） 和“不可見性” （Invisibility）， 為己方提供優勢。

（3） 算法通過過濾機制影響受眾注意力的同步。 注意力的同步指利用過濾機制引導受眾進行有效的注意力分配投入， 通過相互依賴和同步壓力實現一定范圍的注意力協同。 借助社交媒體平臺和同步壓力， 使得特定的政治模因被淹沒，實現瓦解政治討論和屏蔽、 稀釋特定政治信息的目的。 注意力的同步是強化階段， 以保持注意力的持續性。

三、 數字社會中計算宣傳的風險治理

數字社會是國家利維坦和技術巨頭并存的時代， 治理數字社會中的數字技術是一個動態變化的政策響應過程。 伴隨社交媒體在信息生成、 傳播過程中重要性的不斷提升， 人工智能技術的廣泛應用所引發的治理風險也隨之增加， 全球范圍內不斷涌現的相關案例體現了推進治理創新、 加強監管政策緊迫性和必要性， 對其治理主要體現在對智能算法的風險治理上。 對于人工智能的治理已經將“集中治理” 向“敏捷治理” 模式發展，在治理中要注意創新發展和規制治理同步推進。

1.轉變監管思路， 成立專門機構進行治理

人類社會已經進入深度數字化轉型時期， 信息技術的發展與應用不僅在工具層面帶來了產業變革， 其更是推動人類社會加速進入數字社會形態。 社交媒體機器人等計算宣傳技術在當前的興起與發展可被視為在此大背景下的必然結果。 與數字化變革進程相伴隨的， 是不斷涌現的治理挑戰。 正如前文實證研究所指出， 社交媒體機器人在很短時間 （往往超出人類反應時間） 內的大規模涌現以及永不停息的信息生產與傳播過程， 注定了傳統監管模式 （例如撤熱搜） 的局限性。 傳統治理機制革新與調整并不能很好應對規模大、范圍廣、 速度快的業態新特征， 當前有必要改變傳統的硬性監管模式 （撤熱搜、 刪帖等）， 推動社交媒體平臺數據合理、 規范開放， 在兼顧平臺商業秘密、 用戶隱私保護的同時， 調動多方積極性實現協同治理。 考慮到監管本身的專業性以及傳統政府變革的漸進性， 建議成立專門部門或獨立機構以提供技術支撐和最佳治理實踐作為參考， 使傳統政府部門仍然能夠在較短時間內有效應用監管提升治理績效。

2.加速推進監管科技的研究與應用， 適應計算宣傳的治理挑戰

監管科技的研究與應用由此成為政府改革的必然選擇。 尤其是監管機構要建立與主流社交媒體平臺的常態化風險信息交流機制， 既主動發展立足于監管需求的監管科技， 也推動社交媒體平臺積極探索動態創新的監管科技。 2020 年美國大選所體現出的人工智能應用的新特點， 表明了技術發展步伐已經遠遠超過治理制度的反應速度。社交媒體機器人的影響已經深入到微觀層面， 甚至已經融入了人類社會之中。 面對此種挑戰， 借助不斷發展的人工智能技術， 同步更新對于社交媒體機器人行為規律的總結， 進而實現精準識別、 有效治理， 幾乎成為監管機構的唯一選擇。考慮到社交媒體平臺具有數據優勢和技術優勢，要求社交媒體積極探索、 發展監管科技， 仍然是監管機構必須要重視的治理手段。 雖然此舉可能加重平臺負擔， 但伴隨社交媒體平臺影響力的不斷擴大， 其公共屬性不斷增強， 進一步落實平臺治理責任仍然是應對治理需求的重要方面。

3.加強虛假新聞內容治理， 把好關鍵 “入口”以盡量減少其不利影響

導致社會觀點極化的還不僅僅是智能推送算法， 人工智能技術推動下的社交媒體機器人， 同樣可能與極化觀點相結合并最終影響微觀層面的個體觀點與行為。 鑒于此， 應在已有規范的基礎上， 重點關注帶有強烈政治傾向的極端內容的擴散與傳播， 特別是在社交媒體機器人的推動下而可能影響輿論走向的極端內容， 盡早發現、 盡早引導， 以確保清朗網絡空間建設。 所以應重視人工智能技術應用可能推動社會觀點極化的可能性， 重點關注帶有強烈政治傾向的極端主義內容的擴散與傳播， 以確保清朗網絡空間建設， 我們有必要進一步加強社交媒體平臺的虛假新聞治理， 落實公眾人物、 網紅大咖的言論責任， 通過內容源頭的治理以減少不良內容的傳播， 進而減少社交媒體機器人的 “放大” 效應。 內容治理方面， 當前更應該重視人工智能技術應用帶來的新挑戰， 在新環境考驗歷史經驗的有效性、 推進歷史經驗的與時俱進。

4.重視公民教育， 加強公眾認知教育， 提高公民的算法素養

應盡可能提升公眾對于計算宣傳和假新聞的認知水平和識別能力， 以最大限度減少負面影響。 計算宣傳的最終影響者是公眾， 因此加強公眾認知教育使之能夠識別輿論誘導行為從而主動避免其誤導影響， 便成為了更為長遠的政策需求。 當前普遍應用的社交媒體機器人大都未使用特別復雜的算法模型， 從賬號注冊時間、 微博發布頻率與時間、 微博內容的相關性等方面均可較為容易地識別出機器人賬號， 因此加強公眾認知教育并不意味著每個人都應成為計算機專家， 而是更多強調培養公眾批判意識， 提高公民的算法素養， 形成自主的判斷和反思， 從而最大限度減少負面影響。