?ChatGPT類生成式人工智能的意識形態風險及其防控策略

向繼友 吳學琴

摘要：面對人工智能技術的重大突破，尤其是ChatGPT等新一代人工智能在社會生活各個領域的廣泛應用，審視、預判和防范ChatGPT類生成式人工智能的意識形態風險成為一個重要的理論課題。ChatGPT類生成式人工智能環境下的意識形態傳播具有可塑性、可量化性、個性化和精準預測性等特點。ChatGPT類生成式人工智能介入意識形態傳播的技術路徑體現在技術與思想的耦合、預測性的算法推薦、個性化的話語創設和賦權性的網絡傳播等方面。ChatGPT類生成式人工智能介入意識形態傳播會帶來算法歧視、數據失真、算法監控和算法反噬等潛在的風險。應通過統籌科技倫理規制算法推薦、設計主流意識形態駕馭算法、協調傳播主體與客體的價值需求、強化大數據技術檢測與治理等，加強對ChatGPT類生成式人工智能意識形態風險的防控。

關鍵詞：ChatGPT；生成式人工智能；意識形態；風險

基金項目：國家社會科學基金項目“21世紀馬克思主義意識形態理論與話語創新研究”（項目編號：22VRC094）；安徽省哲學社會科學規劃重點項目“基于網絡輿情大數據的人類命運共同體傳播動態及引導”（項目編號：2023AH050030）

中圖分類號：D61文獻標識碼：A文章編號：1003-854X（2023）12-0053-07

一、問題的提出

ChatGPT誕生于2022年11月底，是由美國公司Open AI研發的一款人工智能產品。它是一種集人機對話、文本生成、語言合成、語言翻譯、搜索引擎、信息處理等多功能于一體的“必應式”機器人，是新一代生成式人工智能的典型代表。ChatGPT自問世以來，依托其強大的人工智能技術和大數據分析能力，能夠迅速地獲取信息、分析信息、處置信息并在不同領域展現出全新的應用。ChatGPT作為一種生成式人工智能，一經與其他領域相結合便展現出強大的創造力，生產出新的內容，大大提高各領域的生產力，于是便出現了“ChatGPT+”的多場景應用。盡管ChatGPT的這種“創造力”不能被界定為嚴格意義上“人的勞動性成果”，但是作為一種生成式“產品”，其自身附著某種“價值”和“意識形態”傾向是毋庸置疑的。“人工智能和大數據不是驅動經濟發展和社會變革的意識形態中立的科學知識。”（1） ChatGPT類生成式人工智能必然涉及生成式信息傳遞的主體客體、對話內容以及算法推薦，這就可能會對我國的主流意識形態產生沖擊，帶來新的意識形態風險。當前，面對ChatGPT類生成式人工智能在社會生活各個領域的廣泛應用，審視、預判和防范ChatGPT類生成式人工智能的意識形態風險成為一個重要的理論課題。

ChatGPT的出現標志著人工智能的發展進入到嶄新的階段，學界的相關研究也隨之逐漸增多并日益深化。就ChatGPT等生成式人工智能的意識形態風險而言，現有的研究成果主要著力于以下三個維度：第一，內容生產維度。代金平、覃楊楊認為，ChatGPT等生成式人工智能憑借內容生成的首要功能對意識形態的價值觀念層進行滲透，依靠交互對話的產品形態對意識形態的話語方式產生影響，利用多維應用的功能屬性對社會生活實踐領域展開強勢介入，從而形成了眾多具有新特點的意識形態風險。（2）李昂、汪洋認為，作為一種基于語言模型的對話系統，ChatGPT雖自稱客觀中立，但實際上可能具有一種民主社會主義的意識形態屬性。因此，作為一種政治價值輸出工具，ChatGPT在實踐運用過程中有可能對我國意識形態安全構成多方面的風險。（3）溫曉年認為，ChatGPT是人工智能發展劃時代的標志，然而ChatGPT并不是其標榜的持中立客觀的立場。ChatGPT的強大功能使其具有一種隱形的意識形態功能，ChatGPT的西式資本所有權屬性決定了其本質上是資本主義維持自身體系以及資本增殖的工具，ChatGPT的技術構成蘊含著天然的政治傾向和政治偏見。（4）第二，傳播場域維度。李舟、易華勇認為，擁有跨模態深度學習能力的ChatGPT具備了全方位介入意識形態安全治理的超級能力，從文本生成與話語傳播雙重維度重構了當前意識形態安全治理的基本格局。這主要表現為ChatGPT以驚人的算力、算法、算策以及聚合語料知識等功能疊加重置了意識形態文本生成的基礎場景，打破了意識形態話語傳播的傳統模式，沖擊了主流意識形態治理的底層邏輯，由此滋生出不可忽視的意識形態安全治理風險。（5）孫會巖認為，ChatGPT已經進入日常生活領域，人和算法多元交互、虛擬與現實融合的意識形態場景正在形成，這為提升網絡意識形態傳播效能提供了新的可能。然而，當頂層設計、資源結構、制度體系等沒有與ChatGPT同步發展時，“數字利維坦”就會對主流價值觀、內容監管、隱私安全等帶來諸多潛在風險。（6）第三，技術路徑維度。王延川、趙靖認為，ChatGPT等生成式人工智能在深刻改變人類交往方式和信息傳播范式的同時，也由于“技術利維坦”、智能算法“把關人”、資本技術操控的共同作用，誘發多重意識形態風險的產生。（7）方旭認為，作為生成式人工智能的最新成果，ChatGPT通過監督式深度學習與人機集成強化學習相結合，實現了人機交互新格局，對公眾的思維方式、認知范式和價值觀念產生了深刻影響。在參與主體泛眾化、價值路徑多元化、內容生成簡單化的運作表征下，ChatGPT帶來了輿論引導、雙標效應、深度偽造等意識形態風險。（8）王少認為，ChatGPT基于跨模態深度學習模型獲取了參與思想政治教育對話的能力，從而在現實中直接實現了思想政治教育主客體與人工智能的交流。具體而言，依托特征關聯技術精確識別思想政治教育問題和答案的對應機理后，ChatGPT通過反饋強化學習機制，在與思想政治教育主客體互動交流中，聚合語料知識，轉化數據意義，生產文本內容，修正并輸出答案，實現了對思想政治教育的技術介入。對ChatGPT的不當利用，將會導致意識形態滲透和錯誤思潮傳播等安全風險。（9）

綜上，現有研究對ChatGPT類生成式人工智能的意識形態風險展開了多維度的詮釋，但尚缺乏對作為底層邏輯的數據、算法和算力的整體性探討。ChatGPT類生成式人工智能依托其強大的數據、算法和算力功能，以語料庫的自然語言生成機制解構了自然語言語境、信息傳播場域和人機交互的技術路徑。從大數據的關聯性來看，ChatGPT類生成式人工智能語料庫的自然語言生成機制所呈現出來的工具理性和價值理性的博弈，沖擊甚至瓦解著主流意識形態治理的底層邏輯。從ChatGPT類生成式人工智能的深度合成技術的作用機理來看，語料庫的自然語言生成機制的底層邏輯是算法推薦，因此應加強算法推薦技術的價值理性，以抵御人工智能在應用中可能帶來的意識形態操控風險。有鑒于此，本文將研究的重點集中于大數據技術賦能和算法推薦介入意識形態傳播的路徑方面，從ChatGPT類生成式人工智能環境下意識形態傳播的特征入手，探究ChatGPT類生成式人工智能介入意識形態傳播的技術路徑，以技術路徑為底層邏輯分析ChatGPT類生成式人工智能介入意識形態傳播的潛在風險，并針對性地提出防控措施和規制策略。

二、ChatGPT類生成式人工智能環境下意識形態傳播的特征

ChatGPT類生成式人工智能環境下意識形態的傳播主要源于人工智能的大數據賦能和增權及其在傳播過程中的內容生產、算法分發、算力儲備、算法推薦等，這種“沉浸式”的應用場景會模糊真實信息與虛假信息、網絡虛擬空間與現實物理世界的邊界，導致人們的思想意識無法在現實的人際關系中得到支撐，從而逐漸懸空人們的價值觀，導致社會主流意識形態異化。在內容生產、算法分發、算力儲備、算法推薦中，起到核心作用的是算法推薦。相對于傳統的網絡治理，基于算法推薦的意識形態治理依托大數據的關聯性技術路線，潛移默化地改變了客體的認知方式，從而實現了對網絡傳播場域下主流意識形態的重塑。正是由于網絡空間大數據傳播所具有的算法模擬性既能夠實現超時空的信息自由流動，又能夠實現人的精神主體的自由翱翔，所以，從認識論的角度來看，ChatGPT類生成式人工智能環境下的意識形態傳播具有可塑性、可量化性、個性化和精準預測性等特征。

第一，傳播的可塑性。馬克思認為：“社會——不管其形式如何——是什么呢？是人們交互活動的產物。”（10）。在網絡空間中，ChatGPT類生成式人工智能環境下的意識形態傳播同樣是人們交互活動的產物，反映的是現實生活中人與人之間的關系。從這個角度來說，ChatGPT類生成式人工智能環境下的意識形態傳播不再是個人的行為集合，而是受到現實中社會關系的影響，是按照一定社會交往規則傳遞思想的交互活動。在這個網絡虛擬空間與現實物理世界交互的場域中，意識形態的傳播具有以下特點：其一，在ChatGPT類生成式人工智能環境下，意識形態傳播的主客體之間是平等的，意識形態傳播除了受到傳播主體的主觀情緒影響外，還受到傳播主體所處經濟、社會、政治、文化等環境的影響。其二，ChatGPT類生成式人工智能環境下的意識形態傳播場域由傳統閱讀型的文本傳播向音頻化、視頻化、立體化的傳播方式轉變，這種復雜多變的傳播場域極易使人產生閱讀依賴、思想鈍化、意識誤導，從而造成思想領域的困惑，產生對主流意識形態的抵觸心理。其三，ChatGPT類生成式人工智能環境下意識形態的內容生產是基于人工智能模型的算法推薦，具有海量數據和精準算法的特性，可以根據大數據標簽進行精準匹配，自然具有可塑性。因此，網絡空間呈現的是網民群體的集體意識形態傾向，這種集體意識形態傾向是人們交互活動的產物。簡言之，網絡空間是主流意識形態傳播的重要載體，ChatGPT類生成式人工智能環境下意識形態的大數據傳播必然要求塑造網絡空間。

第二，傳播的可量化性。馬克思在其經典著作《資本論》中提出了機器體系具有“技術屬性”的觀點，認為技術能夠實現對任務的分解、重構、組合等一系列加工，最后整體的合力大于各部分之和，從而創造新的生產力。ChatGPT類生成式人工智能同樣具有“技術屬性”，這種技術屬性包含大數據、算法、算力三個要素，且這三個要素在技術邏輯上是可量化的。依托“技術屬性”的賦能和增權，ChatGPT類生成式人工智能環境下的意識形態大數據傳播本質上是人類對象性活動的產物，是技術屬性與社會屬性的統一體，即ChatGPT類生成式人工智能利用大數據的算法推薦推進意識形態的傳播，集中體現在意識形態傳播主體、傳播客體、傳播場域、傳播效果的可量化性上。首先，意識形態傳播主體和傳播客體都是以大數據形式表征的，這使得意識形態與對應事物之間形成了關聯關系，而這種關聯可以通過傳播客體的意識形態進行量化分析。其次，在意識形態傳播場域，可以利用大數據和算法推薦對傳播足跡進行追蹤和記錄，進而實現對傳播整體上的關注點和特定群體的量化分析。最后，意識形態傳播效果可以通過傳播客體的認可程度來區分和判斷，這種傳播客體有意無意的思想表征能夠被記錄下來，成為一種可量化的大數據樣本。

第三，傳播的個性化。意識形態傳播的個性化是從傳播客體的獨特性出發的，旨在滿足傳播客體的內在需求，精準匹配其受眾畫像。ChatGPT類生成式人工智能環境下的意識形態大數據傳播利用海量數據和智能算法對傳播場域中的細分受眾進行精細畫像、定位追蹤、標注匹配等，從而更好地滿足受眾需求，引領主流意識形態的二次傳播，即“更好地了解待分發的內容，更好地了解待接收的用戶，更高效地完成信息與人之間的對接”（11）。其一，標注受眾畫像。利用大數據分析技術和算法推薦對受眾進行全方位的分析和數據采集，并對其做標注，以便后續匹配更加個性化的傳播內容。其二，標注內容畫像。ChatGPT類生成式人工智能通過建構超大型語言模型，利用神經網絡深度學習算法，對傳播場域中的意識形態內容進行標注、篩選和匹配，做好內容畫像以便分類備用。其三，匹配受眾畫像和內容畫像。ChatGPT類生成式人工智能利用算法推薦對受眾和內容進行優先級別排序，有針對性地進行分發，在不知不覺中引領意識形態傳播的走向。

第四，傳播的精準預測性。“處理數據的科學，一旦數據與其代表事物的關系被建立起來，將為其他領域與科學提供借鑒”（12）。ChatGPT類生成式人工智能依托大數據分析技術可以更好地了解意識形態關聯事物的運動軌跡，從多個維度、多個視角、多個層面對某一運動軌跡作預測性分析，且相關性分析具有糾錯功能，尤其是統計學中的離散分析，可以更好地糾正偏差。簡而言之，數據科學通過其大數據匯集、分析、整理、精準預測等功能的運用，為構建數據與其代表事物之間的關聯性提供了“生產資料”。量化是大數據的顯著優勢，大數據技術具有“量化一切”的功能與優勢，它能夠將各種各樣的社會現實轉換為數據資源，使之成為可以被標注的受眾畫像。除此之外，ChatGPT類生成式人工智能的算法推薦既能夠為意識形態傳播主客體尋找到最佳的傳播場域，又能夠通過大數據挖掘和語義分析精準匹配受眾畫像，精準定位事物的運動軌跡，引領網民思想的走勢，預測網民關心的特定事件，評估輿情的發展趨勢，甚至操控意識形態的演變方向，造成意識形態的二次傳播。

三、ChatGPT類生成式人工智能介入意識形態傳播的技術路徑

探究人工智能介入意識形態傳播的技術路徑，需要在兩個方面進行重點把握：意識形態的獨特性和傳播的技術手段。ChatGPT類生成式人工智能環境下意識形態傳播體系的技術重塑與建構，需要找到相應的著力點，即介入的技術路徑。傳統的意識形態傳播體系側重于文本的話語體系和自上而下式的宣教特性，而ChatGPT類生成式人工智能的介入路徑則側重于深度合成技術的應用，具體來說就是技術與思想的耦合、預測性的算法推薦、個性化的話語創設和賦權性的網絡傳播。

第一，技術與思想之間的耦合。ChatGPT類生成式人工智能嵌入意識形態的內容文本時會對其進行重塑，這體現在技術與思想之間耦合的張力上。一方面，技術的嵌入會在技術與思想的交互作用中產生風險，導致技術刻意迎合主客體的需求而致使意識形態異化。一旦技術裹挾思想，勢必造成人被機器“奴役”，直接把人變成可統計的數據。另一方面，技術嵌入的本質在于推動人機的互動，不僅為網絡虛擬空間增添趣味，而且拓展了人機交流空間，有助于實現人的自由而全面的發展。ChatGPT類生成式人工智能介入意識形態傳播不僅要遵循主流意識形態的思想引領，而且要超越技術的工具屬性，在技術與思想的耦合中尋求最佳平衡點，以工具理性重塑意識形態的價值理性。技術價值重塑意識形態是數字化場域與意識形態的全面融合，是內容文本與作用機制的耦合，是技術屬性與意識形態諸要素的深度契合。

第二，預測性的算法推薦。“在小數據世界中，相關關系也是有用的，但在大數據的背景下，相關關系大放異彩。”（13）行為和意識形態之間具有千絲萬縷的聯系，而大數據則賦予了這種聯系以可預測性。通過大數據的算法推薦，既能夠預測客體的思想意圖，又能夠在解讀和回應客體思想的過程中實現主體對客體的意識形態引領。ChatGPT類生成式人工智能通過跨模態深度學習模型形成了強大的自我注意機制，能夠在龐大復雜的大數據中挑選自己需要的信息進行自我學習和反復訓練，并在與人類的互動中逐漸修正和發展，從而增強算法推薦的可預測性。ChatGPT類生成式人工智能還將主客體置于既定的學習模型中，以增強人的智能體驗，這種“沉浸式”體驗又反過來強化預測性的“真實性”。至此，ChatGPT類生成式人工智能通過深度學習模型獲取了介入意識形態的對話能力，依托于大數據的算法推薦使得深度學習模型能夠關聯語言元素的特征，構建了人機主客體的逼真在場體驗，從而輸出具有強預測性的符合主客體特定思維方式和思想觀念的內容文本。

第三，個性化的話語創設。意識形態的傳播效果還受到個性化話語創設的影響，可以說個性化的話語創設直接決定了意識形態的傳播場域。話語創設是ChatGPT類生成式人工智能的本質特征。在暗箱模式下，ChatGPT類生成式人工智能對多元話語素材進行分類整合和立體構建，生產出具有推測性和預判性的個性化話題，改變了原有傳輸中的主客體關系，解構了主客體關系的推測性和主體的情感功能。其一，ChatGPT類生成式人工智能模糊了主客體的邊界以及主客體間信息真實和信息虛假的邊界，可以在不依靠主體的狀態下單純依據客體的話語體系生成新的文本內容。其二，意識形態傳播的引領是建立在主客體關系的推測性基礎上的，即主體需要推測和判定客體意圖才能進行傳播引領，而ChatGPT類生成式人工智能的個性化話題創設則在某種程度上撇開了主體的主動性，解構了主客體關系的推測性，改變了意識形態傳播引領的場域。其三，ChatGPT類生成式人工智能創設的話語體系是建立在算法推薦的基礎上的，這樣就大大消解了主體的情感屬性，從而減弱了原有意識形態的傳播效力。

第四，賦權性的網絡傳播。ChatGPT類生成式人工智能在傳遞信息的同時，還依托其強大的數據、算法和算力功能，對信息流進行技術賦權，從而介入到意識形態的傳播場域中。傳統的意識形態傳播強調“把關人”的重要性，要求加強媒介素養，而ChatGPT類生成式人工智能環境下的意識形態在全場域傳播中具有異化的風險，從本質上看就是人的“社會屬性”被人工智能的“工具屬性”所取代。一是人機交互情感異化。傳統的情感交互是在人與人之間進行的，而ChatGPT類生成式人工智能誕生之后，人與人的情感異化為人與機器的情感，使得部分網民對機器產生依賴感，希望在虛擬世界獲得更多的關注。二是人機交互認知異化。作為一種新興變量，“機器”正以自己獨特的行為方式沖擊著社會輿論。（14） ChatGPT類生成式人工智能一定程度上取代了原有的信息來源，還通過自己“生產”的內容來影響人們的認知結構。三是人機底層創新異化。在傳統社會，人是創新的重要主體和核心力量。如果ChatGPT類生成式人工智能取代某些行業，勢必造成這些行業從業者的失業，從而消解其創新的積極性和主動性。長此以往，這種人機交互將會削弱社會的底層創新能力，而過度依賴于機器的創新。

四、ChatGPT類生成式人工智能介入意識形態傳播的潛在風險

ChatGPT類生成式人工智能介入意識形態傳播的底層邏輯是運用大語言模型實現海量數據的訓練，并逐步產生“有意識”的理解、推理和創造能力。大數據技術賦能生成式人工智能遵循著組織、技術和流程再造的邏輯，集中體現在技術、數據、算法和人機交互四個方面的賦能。必須注意的是，ChatGPT類生成式人工智能介入意識形態傳播可能會帶來潛在的新風險，集中表現為“算法利維坦”，即算法在社會治理中成為決定性因素。從整體上看，ChatGPT類生成式人工智能的意識形態風險主要是技術風險和倫理風險，具體體現為算法歧視、數據失真、算法監控和算法反噬。

第一，算法歧視導致生產內容傾向的異化。算法歧視是ChatGPT類生成式人工智能所蘊含內容文本的主觀聚合表現，有特定的價值取向。算法并不是單一的、靜態的，而是復雜的、動態的，其作為大數據、云計算的結合體，屬于人工智能時代的個性化與智能化的產物。（15）與傳統的信息生成和輿論生成邏輯不同的是，算法規定的生成路徑和生產內容由于具有不可操作性而變成“信息繭房”，不受外界介入的干擾，使得其受眾的價值觀念呈現整齊劃一的“一元化”狀態，并且在算法推薦的加持下得到持續的強化，迫使受眾的意識形態在無意識中被構建起來，從而導致生成內容傾向的異化。從算法歧視生成的內在邏輯來看，算法歧視是以大數據計算實現其功能的，而大數據計算規定著算法歧視的特質，使算法推薦具有可計算性和能計算性。這種遵循著既定規則的可計算性和能計算性必然會使算法推薦被打上重復性、偏好性或價值取向性的意識形態烙印，使得其生產和傳播的內容傾向持續輸入，加固了原有算法推薦的邊界。從算法歧視生成的主觀邏輯來看，人的本性就是自身獨特本質與共享本質的有機統一，而算法歧視撇開人的共享本質，制造、生產、編輯、推薦有利于自身發展的獨特本質內容，以迎合人的利己本性和他人的認同。一旦算法推薦推送的具有歧視性的文本內容和觀點與受眾的價值觀相契合，算法歧視自身就構建了“信息繭房”，這樣就嚴重削弱了人的思辨能力和認知能力，加劇了人的單向度性。

第二，數據失真導致算法意識形態的錯位。ChatGPT類生成式人工智能環境下意識形態的傳播依托于大數據化受眾的多維數據集進行自動整合與分析，在網絡空間中投射出一種虛擬身份，呈現出個體的畫像，以算法身份的形式參與網絡空間的意識形態傳播。數據與算法可將受眾進一步細分為可分體，并烙上大數據化標簽，以滿足ChatGPT類生成式人工智能環境下意識形態傳播個性化的需求。在ChatGPT類生成式人工智能介入主流意識形態個性化傳播的語境下，大數據受眾的細分體在網絡時空中進行移置，需要先將個體受眾轉換為數據，再依據大數據標簽的屬性對細分體進行二次分類，并對細分個體進行受眾識別和大數據分析，形成算法推薦可讀的數據畫像。ChatGPT類生成式人工智能介入下主流意識形態的傳播是建立在細分體受眾的自我認同和數據畫像相匹配的基礎上的，因此，細分體受眾借助大數據標簽的自我意識實現了意識形態契合。細分體受眾自我意識的構建過程一方面是大數據和算法進行“求同”與“去個性化”的歸類過程，另一方面也是消解細分體主體性的過程，這可能導致細分體受眾數據的失真，造成ChatGPT類生成式人工智能模型算法意識形態的錯位。

第三，算法監控造成傳統職業信仰的崩塌。ChatGPT類生成式人工智能環境下的意識形態在社會各個職業領域傳播的效度和信度是不一樣的，受到傳播主客體所處的環境等因素的影響，而且這些影響因素也構成算法推薦的條件。傳統職業由于門檻較低，對從業人員的技術能力要求不高，很容易被新興的人工智能所取代，這就會造成人們對傳統職業信仰的崩塌。隨著大數據技術和人工智能機器人的廣泛應用，人工智能環境下的工作被算法監控起來，這進一步造成了人們對算法推薦生成的內容難以理解溝通和意識形態傳播的障礙。比如，ChatGPT的廣泛應用勢必會取代傳統的程序性、重復性的工作，而算法監控生成的內容又會進一步強化這一趨勢，這就導致人們急于發聲，表達對算法推薦的不滿。當人們表達心聲的正常渠道被阻塞時，他們就會轉而利用門檻較低的自媒體平臺發聲，以宣泄自己的憤懣，并以所謂的“公平正義”反制人工智能的應用。這樣，原有傳統職業所具有的自由變成了生成式人工智能的自由，社會的創新動力被無限壓制，也使得傳統職業的工作失去了創新意義。長此以往，當拋棄了傳統職業的累積性和源動力的時候，科技創新便具有偶發性和不可確定性，這勢必造成人們對傳統職業信仰崩塌的風險，也會對ChatGPT類生成式人工智能環境下的意識形態傳播構成風險。

第四，算法反噬造成人機互動關系的變異。ChatGPT類生成式人工智能的運用表明機器也可以作為意識形態傳播的行為主體廣泛參與人機交互的建構活動，這就使得人機交互活動具有“革命性的變化”，即ChatGPT類生成式人工智能的認知在某種程度上超越了人的認知，帶來人機互動關系的變異。算法推薦在ChatGPT類生成式人工智能環境下意識形態的傳播過程中起到至關重要的作用，即生成、編排、重構大數據信息，賦予了這些信息流某種意識形態屬性，而這些信息流又按照自身的算法重塑下一個信息，造成算法反噬。算法反噬的作用表現為信息流在傳遞過程中真偽難辨，自帶意識形態傾向，影響人的認知，甚至操控人的心智，造成人的思想扭曲，以至于人們不禁要問究竟是人在操控機器，還是機器在操控人。算法反噬作用還體現在人機交互情感上，表現為人與人之間的情感傳播異化為人機交互情感。在ChatGPT類生成式人工智能環境下的意識形態傳播過程中，算法推薦與算法反噬相互作用，形成基于人機交互馴化的傳播模式，在很大程度上影響著主流意識形態的傳播。

五、ChatGPT類生成式人工智能環境下意識形態風險的防控策略

在任何一個完整的系統中，風險和規制永遠是相伴而生的。ChatGPT類生成式人工智能意識形態風險的防控重點是將數據、算法和算力作為一個整體，以大數據為元素、算力為支持、算法為程序，進行生成式人工智能的數據規制和算法規制。唯有建立一個各算法相關主體均應遵循的“數據規范”和“算法向善”的人工智能完整體系，才能精準地將ChatGPT類生成式人工智能的意識形態風險控制在一定范圍之內。為此，要從ChatGPT類生成式人工智能介入意識形態傳播的技術路徑入手，設計主流意識形態算法，實現數據、算法和算力的有機統一，在源頭上平衡算法推薦與人的意識的統一，構建技術理性與算法倫理兼顧、算法內容自主生產與算法監控嵌入動態平衡的意識形態風險防控策略。

第一，統籌科技倫理規制算法推薦，堅定社會主義意識形態的思想引領。ChatGPT作為一種生成式人工智能，理應遵循科技倫理的規范，堅持用科技的價值理性規制工具理性，堅定社會主義意識形態的思想引領。“如果我們在教給強大的智能機器基本倫理標準之前，在某些標準上達成了共識，那一切就會變得更好。”（16）在科技倫理的各項指標中社會責任是最為重要的，科技的研發方和使用方均應秉持高度的社會責任感，堅持科技發展為社會主義事業服務。ChatGPT類生成式人工智能環境下的意識形態傳播要堅持用社會主義意識形態的科技倫理規制算法推薦，在程序研發、設計、運行中嵌入社會主義意識形態大數據，構建符合社會主義主流意識形態價值觀的算法推薦。ChatGPT類生成式人工智能在介入意識形態傳播的過程中，算法推薦在某種程度上創新了自身的話語體系，實現了話語內容和話語傳播的雙重賦權。在這種情況下，必須堅持社會主義主流意識形態話語對ChatGPT類生成式人工智能的算法引領，運用社會主義主流意識形態規訓ChatGPT類生成式人工智能的算法，防止ChatGPT類生成式人工智能在話語構建和話語傳播過程中制造意識形態風險。

第二，設計主流意識形態駕馭算法，提升主流意識形態傳播主體的能力。針對ChatGPT類生成式人工智能介入意識形態傳播的技術路徑以及帶來的算法風險，設計主流意識形態駕馭算法是解決主流意識形態傳播困境的有力武器。算法推薦的本質是基于算力的能量儲備和基于大數據算法的技術設計，也就是說，ChatGPT類生成式人工智能介入下的意識形態傳播并非隨意擴散，而是依據事先設計的編碼程序展開的。在算法的技術設計中，算法推薦通過對網絡行為和心理的大數據挖掘和分析，對傳播受眾打標簽，賦予其特定的意識形態傾向，引導傳播者的認知和判斷，依據大數據關聯性進行優先等級排序和匹配，最終實現影響意識形態傳播的目的。在此意義上，當下“深度學習和數據的有效積累在長遠來看已不僅是信息的集合，更可能是一個機構的價值觀和意識的體現”（17）。若要實現主流意識形態的價值觀和意識，就需要設計主流意識形態話語引領下的算法推薦規訓技術。為此，信息傳播主體既要在輸入和輸出端訓練話語體系和話語技術，又要探尋傳播過程中主流意識形態引領下的話語邏輯和規律。設計主流意識形態駕馭算法使得“傳播的意義將在很大程度上由信息傳播轉變為價值和意義傳播”（18），這種傳播機制既遵循主體的意志，又提升主體傳播主流意識形態的能力。

第三，協調傳播主體與客體的價值需求，實現算法式能動性的個性化傳播。算法式個性化傳播，是運用大數據的算法技術，針對受眾特征展開個性化描述、匹配和傳播的過程。數據和算法使得ChatGPT類生成式人工智能環境下意識形態傳播的主體對傳播環境和傳播客體的認知以量化形式呈現，便于協調傳播者和受眾的價值需求，實現整個傳播體系中主流意識形態的一致性。在意識形態傳播過程中，如果能夠協調傳播主體與傳播客體的價值需求，就很容易推進算法式能動性的個性化傳播。協調傳播主體與傳播客體的價值需求，主要是指依據傳播平臺的算法價值取向施以個性化服務、精準化服務和能動式服務。在此基礎上，大數據的多維性和標簽化、算法式智能個性化和算力的增強，將有力地推進社會主義主流意識形態的個性化傳播，將傳播主體與傳播客體的獨特性和差異性融入傳播內容的生成中，實現意識形態傳播全流程的統籌協調。

第四，強化大數據技術檢測與治理，約束意識形態傳播中的算法推薦。因為ChatGPT類生成式人工智能環境下的意識形態傳播充滿不確定性，所以，加強生成式人工智能全場域的大數據技術檢測和治理成為其健康發展的必然要求，這樣可以約束意識形態傳播中的算法推薦。強化大數據技術檢測和治理，有助于推進主流意識形態的精準傳播、針對性監管，約束生成式人工智能意識形態傳播中的算法，構建大數據技術檢測反向規訓意識形態傳播機制。大數據技術檢測，可以從源頭上檢測信息的可靠性。同時，以大數據挖掘技術對信息作二次分析，從話語體系、信息共性、網絡環境等多方面開展分析，有助于依據媒體性質推薦不同的算法，進行區別化、精細化的治理。算法推薦應該根據媒體平臺性質的不同，進行內容生產和信息傳播的算法分類，明確黨媒與商業化媒體的算法差異，做到事前監督、事中檢測和糾錯、事后反饋和治理，檢驗算法推薦的可信度，制定分級分類標準，以約束ChatGPT類生成式人工智能環境下主流意識形態的傳播偏失。在研發新型生成式人工智能算法模型時，要立足中國國情，以社會主義主流意識形態為指導，構建多方參與、多元協同、共享共治的治理算法監管范式，實現新型生成式人工智能算法模型與國家治理范式相匹配的良性治理模式，為中國式現代化建設筑牢意識形態防火墻。

注釋：

（1） Nigel Walton， Bhabani Shankar Nayak， Rethinking of Marxist Perspectives on Big Data， Artificial Intelligence （AI） and Capitalist Economic Development， Technological Forecasting and Social Change， 2021， 166（c）， Article 120576.

（2） 代金平、覃楊楊：《ChatGPT等生成式人工智能的意識形態風險及其應對》，《重慶大學學報》（社會科學版）2023年第5期。

（3） 李昂、汪洋：《ChatGPT的政治傾向初探：表現、成因及意識形態風險》，《實事求是》2023年第4期。

（4） 溫曉年：《ChatGPT的意識形態風險審視》，《西北民族大學學報》（哲學社會科學版）2023年第4期。

（5） 李舟、易華勇：《ChatGPT介入意識形態安全治理的邏輯、風險及應對》，《閱江學刊》2023年第4期。

（6） 孫會巖：《新一代人工智能技術的網絡意識形態問題及其應對——以ChatGPT為例》，《毛澤東鄧小平理論研究》2023年第5期。

（7） 王延川、趙靖：《生成式人工智能誘發意識形態風險的邏輯機理及其應對策略》，《河南師范大學學報》（哲學社會科學版）2023年第4期。

（8） 方旭：《從ChatGPT看人工智能時代意識形態領域運作表征與風險防范》，《毛澤東鄧小平理論研究》2023年第5期。

（9） 王少：《ChatGPT介入思想政治教育的技術線路、安全風險及防范》，《深圳大學學報》（人文社會科學版）2023年第2期。

（10） 《馬克思恩格斯文集》第10卷，人民出版社2009年版，第43頁。

（11） 喻國明、曲慧：《“信息繭房”的誤讀與算法推送的必要——兼論內容分發中社會倫理困境的解決之道》，《新疆師范大學學報》（哲學社會科學版）2020年第1期。

（12） 付安玲：《推進大數據時代紅色文化數字化建設》，《中國社會科學報》2020年6月30日。

（13） ［英］維克托·邁爾-舍恩伯格、肯尼思·庫克耶：《大數據時代：生活、工作與思維的大變革》，盛楊燕、周濤譯，浙江人民出版社2013年版，第71頁。

（14） 張洪忠、王競一：《社交機器人參與社交網絡輿論建構的策略分析——基于機器行為學的研究視角》，《新聞與寫作》2023年第2期。

（15） 許加彪、王軍峰：《算法安全：偽輿論的隱形機制與風險治理》，《現代傳播（中國傳媒大學學報）》2022年第8期。

（16） ［美］邁克斯·泰格馬克：《生命3.0：人工智能時代人類的進化與重生》，汪婕舒譯，浙江教育出版社2018年版，第444頁。

（17）（18） 孫萍：《“數據新能源”下的傳播新機制》，《中國社會科學報》2020年1月2日。

作者簡介：向繼友，安徽大學馬克思主義學院講師，安徽合肥，230601；吳學琴，安徽大學馬克思主義學院院長、教授、博士生導師，安徽合肥，230601。

（責任編輯 劉龍伏）