ChatGPT熱潮中的冷思考：警惕信息工具用于認知對抗

摘要：ChatGPT作為一款智能信息工具，不僅可以被用于處理客觀信息，也隱藏著被用于實施主觀認知對抗的相應可能。從技術邏輯、政治邏輯角度對ChatGPT被用于認知對抗的可能性進行初步分析，并對ChatGPT被用于認知對抗的潛在功能與結果進行思考，主要分為四個方面：基于“連接”功能，重構人機交互影響能力；基于“畫像”功能，發揮目標用戶分析能力；基于“挖掘”功能，提升對抗內容生成能力；基于“省力”功能，提升信息高效投送能力。

關鍵詞：ChatGPT；認知對抗；人工智能

中圖分類號：G201 文獻標識碼：A 文章編號：1674-3180（2023）01-0072-04

*基金項目：本文系國家社科基金軍事學項目青年項目“面向智能化聯合作戰指揮的認知情報學研究” （項目編號：2021-SKJJ-C-045）的階段性研究成果。

作為一款強大而貌似中立的智能信息工具，ChatGPT的技術屬性與政治屬性天然交織在一起，不僅可以被用于處理客觀信息，也隱藏著被用于實施主觀認知對抗的相應可能（參見圖1）。

從技術邏輯而言，ChatGPT對人類認知的關注顯著增加，相較于其他人工智能模型的核心技術優勢，提升了精準理解人類思維與認知的能力，具體體現為，把用戶的認知結構理解為計算關系，將認知過程視為計算活動，從而將認知理解與數據計算深度融合[1]。ChatGPT在知識體系上，繼承了信息科學和認知科學的理論方法，也融合了計算科學、數據科學和基礎數學等學科的研究成果；在技術支撐上，嵌入了人類反饋強化學習，因而具備了理解上下文等認知的先進特征。基于注意力機制的Transformer模型也使得ChatGPT的訓練質效更加優化；在人機關系上，改變了用戶傳統使用習慣，機器通過在交互中模擬人對信息的心理認知過程，一方面使用戶主動參與到算法建構中，另一方面也使算法能以更人性、更自然、更個性化方式對用戶認知施加影響。

從政治邏輯而言，隨著美國對華戰略競爭與遏制日益升級，在意識形態布勢、輿論宣傳塑勢等認知對抗領域愈發明顯。從美國對外認知滲透的發展歷程來看，依靠技術專家、資本家以及權力精英（政治精英和軍方精英）的結盟運用新興技術賦能認知攻防是其慣用手段。第二次世界大戰期間，美軍將傳單和廣播等信息手段引入心理戰領域；越南戰爭期間，美軍利用衛星電視這一新媒介，通過熒屏增加信息輸出量以提升認知影響效果；以海灣戰爭為起點、伊拉克戰爭為發展，美軍重視運用互聯網為其戰爭宣傳造勢；隨著社交媒體的全球化興起，美軍又巧妙運用Facebook、Twitter等傳遞信息，在世界各地推動“顏色革命”。[2，3]近年來，美軍將“心理戰”更名為“軍事信息支援行動”，進而與注重技術的電子戰、網絡戰等作戰能力統一劃歸為信息作戰，也反映其借助信息流量主導認知走向的變革，其目的就是使認知對抗更好地獲得邊際突破和技術牽引。這也是美軍在“制信息權”后提出“制腦權”的重要原因。ChatGPT作為美國研發的聊天機器人，不僅時常在對話中“站在美國立場”，甚至能把當前美國的“政治正確”玩得明明白白，這也被越來越多人所詬病。OpenAI創始人兼CEO山姆·阿爾特曼（Sam Altman）在2022年12月5日關于“該系統將確保符合民主價值觀”的言論，也加深了業內人士關于其是否會成為宣揚美式價值觀“利器”的擔憂。就ChatGPT可能被用于認知對抗的潛在功能與結果而言，筆者認為，主要有四個方面。

一、基于“連接”功能，重構人機交互影響能力

ChatGPT可被用于認知對抗的首個功能，是其提供的互動交流型、擬態環境型等人機“連接”，這將給運用信息工具對人類認知開展交互影響帶來顛覆性重構。

所謂互動交流型“連接”是指，ChatGPT的核心競爭力來自基于人類反饋的強化學習（reinforcement learning with human feedback， RLHF），幫助其信息產出和人們的認知、常識、需求保持一致。這就使得ChatGPT的聊天體驗躍升，從傳統的“提問——搜索”型關鍵詞匹配逐漸過渡到語義匹配，人機連接更像一種跨物種的自然交流。雖然從傳統的信息科學視角來看，ChatGPT所提供的互動交流型“連接”，能夠有效克服信息單向傳輸所造成的認知狹窄。但作為信息強勢一方，ChatGPT通過自身的互動機制，依舊可以基于目標用戶的需求變化、態度反應、思想波動等，在快節奏、高效率的溝通中不斷調整策略，深層干預目標用戶的認知。

由于上述超乎預期的交互體驗，ChatGPT超過Instagram、TikTok，成為史上用戶數增長最快的消費者應用，在2023年1月，其月活躍用戶數已達1億。此外，微軟也在2月初推出由ChatGPT支持的最新版本必應搜索和Edge瀏覽器，同時宣稱旗下的Office、Azure云服務等產品也將整合升級。考慮到用戶增長趨勢與微軟產品的市場占有率，ChatGPT及其迭代產品很有可能成為全民化、普及化的新一代操作系統平臺及應用軟件，也就具備了在人們大腦中建構起與現實世界相對應的認知鏡像。正如微信為人們建構了基于但不同于現實社交關系的虛擬“朋友圈”，這個認知鏡像就是傳播學奠基人李普曼提出的“擬態環境”。在這個環境中，通過對核心算法、數據來源、信息本身、呈現方式、時間節點等進行有計劃地篩選編輯，就可以營造出傾向性認知場景，進而對目標用戶的認知與判斷進行潛移默化的影響。換言之，ChatGPT提供的擬態環境型“連接”，實際上就是為信息解讀提供獨有的解釋框架，最終針對用戶進行了“認知再編碼”。

二、基于“畫像”功能，發揮目標用戶分析能力

ChatGPT能夠基于用戶需求和上下文進行互動，依賴的一項重要功能是給用戶“畫像”：首先，搜集目標用戶當前及歷史使用所留下的數據痕跡，通過技術處理進行分析，可初步得出目標用戶的特征。進而，將目標用戶特征與后臺用戶標簽比對，可洞察目標用戶的興趣愛好，將目標用戶的“畫像”漸漸地描繪清楚。最后，通過更加豐富的網絡信息行為數據，包括網站監測和網絡瀏覽的數據、社交數據和地理追蹤數據等，繪制出更完整清晰的目標用戶“畫像”。

目前，尚未有OpenAI、微軟運用ChatGPT進行用戶畫像的公開報道。但微軟公司研究院曾和劍橋大學共同合作，對同樣紅極一時的Facebook用戶數據痕跡進行分析。該研究證明，通過對個體網絡空間留下的海量信息分析，能夠精準預測用戶在一定范圍內的個人特性，包括年齡、性別、種族、性取向、智力水平、情感穩定性、宗教信仰、生活滿意度和政治傾向等方面。由此推斷，ChatGPT通過精準、多元的數字畫像功能，將極大提升對目標用戶的分析能力和認知攻心能力。

三、基于“挖掘”功能，提升對抗內容生成能力

ChatGPT作為人工智能生成內容技術（AI-Generated Content， AIGC）的最新研究成果，不僅可以編文案、寫代碼、創作詩歌，甚至還能撰寫學術論文，預示其在文本創作乃至未來的影像編輯領域具有巨大的潛力，將極大提升認知對抗中的內容生成能力。ChatGPT的內容生成能力來源于對海量數據的“挖掘”功能，其模型參數量在迭代中呈爆發式增長：2018年發布的GPT-1的參數量有1.17億，2019年發布的GPT-2的參數量就升至15億，而2020年5月發布的GPT-3參數量更是達到1750億。結合自監督學習技術，ChatGPT無需人工做數據標注，就可以對網絡上的海量公開文本數據進行模型訓練，從而高效地形成大量知識模型與內容。

這種高效內容生成能力在認知對抗中的價值在于：一是通過算法操縱信息流量，在短時間內形成輿論熱點、聚焦社會共識，推動形成“信息瀑布”，有利于拓展認知對抗的可及性與到達率，進而使目標用戶的認知形成固化，最終實現多層次、多主題、全民化的社會認知對抗。二是通過利用AI技術對信息產品進行人為設計和投送，可以使認知攻防信息在很長一段時間內持續并隱蔽地發揮影響力。

四、基于“省力”功能，提升信息高效投送能力

ChatGPT憑借操作簡單、即問即答、極高效率等優點，使用戶在使用過程中大呼省力。而所謂“省力原則”，反映在傳統情報學研究中就是著名的齊普夫定律，也就是指人類總想以最小的代價獲得最大的收益，因此人類為了節約有限的認知資源，對信息并不總是進行理性的全面分析，反而常常采用簡單有效的認知策略進行加工、判斷與決策。對此，著名的計算機與信息學家、人工智能創始人之一、諾貝爾獎得主赫伯特·A. 西蒙（Herbert Alexander Simon）曾有過一句著名的論述：“信息并不匱乏，匱乏的是我們處理信息的能力。我們有限的認知力是組織活動的主要瓶頸。”[4]為避免認知資源耗盡，人們在情報認知中容易無意識地使用省力原則。

在認知對抗中，省力原則的背后是ChatGPT所展現的直觀信息，成為用戶理解相關問題事件的解釋框架，在認知中扮演“地基”“支架”“指示牌”等個性化角色。換言之，ChatGPT基于省力原則，可改變用戶信息檢索乃至思考問題的方式，提升認知對抗中信息高效投送能力。這也與輿論媒介的議程設置功能不謀而合，即：在多數情況下，告訴受眾該怎么想時，可能并不成功；但告訴受眾該想些什么時，卻會驚人地成功。

小 結

2022年11月30日正式發布的ChatGPT，被微軟、谷歌等互聯網巨頭視為新一代技術革命。然而從技術發展的歷史角度來看，任何進步都隱藏著相應的代價。強大而貌似中立的ChatGPT，究竟是智能社會之鑰，還是潘多拉魔盒？也許都不對，也許兼而有之。正如蘭登·溫納所言，我們稱之為“技術”的東西，在我們生存的世界中正在成為構建秩序的一種途徑。很多技術設備和體系在日常生活中的重要性就在于它包含著使各種人類活動趨于秩序化的各種手段。[5]

在ChatGPT的人機交互中，核心算法通過人類真實認知機理的訓練，可對認知對抗效果進行即時評估：一是目標對象關于信息傳播內容的認知和行為反應，二是目標對象更深層次信息需求的訴求。

在業界普遍認為國外ChatGPT的領先優勢有望在一段時間內延續時，警惕由數據、算法、算力等綜合優勢形成的智能霸權，思考以信息為表、認知為里的有機結合形成“控腦武器”，既是防止技術突襲與技術陷阱的學理思考，更是貫徹落實黨的二十大報告中“牢牢掌握黨對意識形態工作領導權，全面落實意識形態工作責任制，鞏固壯大奮進新時代的主流思想輿論”的應有之義。

參考文獻：

[1]劉偉超，周軍.認知情報學研究進展[J].情報資料工作，2020（6）.

[2]金苗.國防部2.0：美軍社會化媒體對外傳播路徑[J].對外傳播，2010（10）.

[3]嚴興平，張喜燕.美軍戰略傳播的新型手段：社交媒體[J].軍事記者，2012（2）.

[4]Simon， H. A. \"Rationality as Process and as Product of Thought\"[J]. American Economic Review， 1978（2）.

[5]李志紅.關于技術自主論思想的探討：訪蘭登·溫納教授[J].哲學動態，2011（7）.

（責任編輯：馮靜芳）