生成式人工智能引發的意識形態風險及其應對

[中圖分類號]B0-0 [文獻標識碼]A [文章編號]1004-4175（2025）02-0017-09

生成式人工智能（GenerativeArtificialIntelli-gence，簡稱GAI）是基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術，具有創造性、自主性和可塑性等關鍵特點。與傳統人工智能（AI）相比，GAI不僅能夠對已有的數據進行分析并發現新的規律，而且能夠生成新的內容，實現了AI從對世界的計算感知到認知理解的一次飛躍。隨著GAI不斷融人人們的生產生活以及科研領域，也越來越影響到意識形態領域的安全，使我國意識形態工作面臨諸多新的風險。為了有效應對新風險，有必要從理論、技術、實踐以及典型樣態等方面進行深人剖析，找出其中的原因，以便能夠提出針對性的應對之策。

一、GAI引發的意識形態風險

GAI作為AI發展的嶄新領域，業已從理論、技術、實踐三個向度對意識形態產生了重大影響，相應地形成了理論、技術和實踐取向的潛在風險。

（一）GAI的主體性對主流意識形態造成沖擊

隨著計算機的問世，圖靈（A.Turing）最初關于“計算機能否思維”的判斷以及“圖靈測試”，遭到了哲學上的質疑與批評。最著名的是塞爾（J.Searle）的“中文屋論證”——計算機根本不理解所回答的問題，不會思考，也沒有智能，更沒有真正的理解能力。然而，塞爾的反駁并沒有阻止人們對“計算機能否思維”的深入探索。在隨后的幾十年中，AI技術取得飛速發展。2022年隨著ChatGPT的問世以及2025年初DeepSeek的出現，標志著AI正式邁入GAI階段。這兩個里程碑式的事件標志著有關AI的應用不局限于技術上為社會提供更為豐厚的物質生產能力，更多的是讓人類體會到AI的升級版本GAI在意識形態領域為人類社會帶來的價值性存在，即GAI融入意識形態本身就是一件有力的\"認知武器”，表明一場有關意識形態的“認知戰\"已經打響。

“意識形態”是關于觀念的學說，由法國哲學家德斯蒂·德·特拉西在18世紀末提出。該詞最初是指一定的社會共同體，或哲學思想主體所主張的精神形式，并用于對宗教黑暗的批評。該詞的現代意義覆蓋了包括科學在內的整個文化領域，它是橋接主體與世界的中介。從意識形態與社會存在關系方面來看，意識形態不是人腦中所固有的，而是產生于社會存在。人的意識形態受認知方式和能力、環境、信息、價值取向等因素影響。“馬克思將意識形態理解為在一定歷史時期內，個人或群體對世界及社會所持有的各種見解和觀點的總和。”1馬克思認為，意識形態包括宗教和一切意識形式，代表了某主體階級或集體的情感價值、觀念，是階級利益的理論化，并認為意識形態在政治上起著極其重要的作用。因此，“‘主流意識形態'是指一個社會中具有主導性、統攝性、引領性的社會思想觀念體系\"2]，屬于上層建筑的范疇。馬克思主義作為中國特色社會主義的主流意識形態，也受到GAI的重要影響。而作為新時代重要力量的GAI，不僅改變了人類汲取知識的途徑和思維模式，也推動了國家治理層面建設。然而，GAI在介入意識形態的過程中，會不自覺地增強人對其依賴程度，導致GAI不再中立，從而為主流意識形態的發展帶來潛在風險，值得我們警惕！

馬克思主義哲學認為，人的主體性地位是人全面自由發展的體現，更是社會發展的最終體現。人的主體性增強與技術發展程度密切相關。AI是技術塑造人和世界的典型領域，引發了人的思維方式和生活方式的巨大變化。一般來說，AI在不斷生成的過程中經歷三種形態一一個體的、組織的和主體的。個體形態作為第一種形態，與其他技術工具并無差異，處于“它物”存在的狀態，與人的主客關系分明；第二種形態是組織形態，具有一定的自治性，每個智能體之間分工明確，又互相協作完成任務，這一形態下的AI具有一定的代理性，與人的關系出現主客體的顛倒，即反客為主；第三種形態是主體形態，這一形態的AI時刻都在不斷更新，似乎具有了人的意識特性。ChatGPT作為GAI的代表是第三種AI，與人的關系呈現出一定程度的“主體間性”，即人與智能體的關系似乎接近了人與人的關系，形成了人機交互的“人機間性”。需要強調的是，GAI展現出越來越強的主體性特征，稍加不慎的“激進”發展路線（如強AI就可能導致技術變化背后“以人為本的主體性”的顛覆，使得主流意識形態走向另一個極端。

眾所周知，近代西方哲學第二次轉型是由虛擬的（神本）社會關系轉向現實的（人本）社會關系。而GAI的不斷更新表現出明顯的主體性，將“以人為本的主體性\"拉向新的虛擬社會關系之中的“以虛擬人為本的主體性”，如元宇宙，導致人被奴役的局面死灰復燃。因此，盲目地發展“人機關系”和“人機交互”，會造成主流意識形態被西方資本主義意識形態操縱的風險。由此看來，AI的意識形態也具有三重屬性，并與AI的三種形態相對應。第一重屬性是AI作為意識形態的生產工具，是精神生產資料，它在當下和未來的應用替代了傳統的意識形態生產方式，調整甚至變革了現有的意識形態格局；第二重屬性是法蘭克福學派倡導的AI本身就是意識形態，技術不僅是第一生產力，而且具有統治的功能。第三重屬性是盧卡奇倡導的自然性意識形態，自然的第一屬性是社會屬性，表現出強AI下人機關系（勞動關系、社會活動關系、交往關系）的變化。因此，“純粹的自然關系或被神秘化為自然關系的社會形式在人面前表現為固定的、完整的、不可改變的實體，人最多只能利用它們的規律，了解它們的結構，但決不能推翻它們\"[3]32。

概言之，無論GAI處于何種形態，其本身蘊含無論哪種意識形態屬性，都展現出其基于科技屬性而不斷進化生成更為高級的類人屬性，都意味著其所攜帶的科技屬性影響主流意識形態。加之海量的大數據、精確的算法助推GAI大模型不斷迭代、更新、完善、拓展，以豐富的樣態深入大眾尋求認同，甚至沖擊主流意識形態。

（二）GAI的偏好性催生了“技術利維坦”①

GAI作為AI技術工具，廣泛地進入政治、經濟、文化、生態等各個領域。從算法、數據等技術向度審視GAI介人國家發展的各個領域，我們發現，GAI在意識形態領域的影響與傳統AI有所不同。傳統AI通過固定式文本的話語體系和自上而下的宣傳方式介入意識形態，人對其可操控性強。而GAI將技術與類人思維相耦合，通過預訓練逐步掌握用戶的特點及價值偏好，為用戶創設個性化話語體系，并可通過虛擬人傳播虛假信息。GAI技術以其靈活多變性使得用戶難以掌握其規律并精準控制，用戶在GAI面前往往會陷入被動境地，如被商業廣告干擾。更為重要的是，GAI自身所蘊含的資本夾持和技術權利性，以一種“強勢\"的“人造物性\"支配甚至控制“自然人性”，逐步成為影響主流意識形態的“利維坦”。這造成了“人工智能的技術賦能與約束機制的非對稱性蘊含著技術失控的潛在風險”[4]。隨著工業社會的發展以及AI技術的深度介人，從解放人的雙手發展到解放人的大腦，并且隨著AI技術由“弱\"到“強\"的升級中，人與技術的關系發生了傾斜和失衡，這一現象意味著人對技術的依賴程度與日俱增，科學、自然規律以及社會實踐中人的主體性地位受到威脅。

以ChatGPT為例，它是2022年11月底Open AI公司推出GAI大模型，用于自主生成文本、圖像和聲音，語言的預測和翻譯，人機對話和問答等。與傳統機器人最大的不同是，GPT可以自動學習人類提出的概念性內容，可以根據文本資料的關聯性，在短時間內自動預測并生成相關文本。而且GPT還相繼經歷了GPT-1到GPT-5即Sora的不斷進化，“標志著GAI正式進入‘強人工智能'時代。ChatG-PT強大到支持用戶一次性上傳10萬字的指令信息，可根據用戶指令快速生成文本、圖片、視頻、音頻、代碼等內容，甚至推出了語音交互功能（VoiceUserInterface）\"[]。GPT之所以內容豐富多樣，正是因為GAI技術不斷進化出人類歷史長河中難以比擬的“自主性\"技術向度。而且，GPT以深度神經網絡為背景，依靠新型機器深度學習技術，幫助GAI分析海量語言數據資料，并且不斷在已生成的自然語言資料中動態地尋找規律進行自主學習來增強自身。

顯而易見，GAI日益展現的“利維坦”屬性，為GAI技術蒙上了西方資本邏輯操縱下的意識形態面紗，通過提供偏好性答案，成為用戶最為滿意的模型，形成“技術利維坦”，最終讓人成為其\"奴隸”。人類之所以會感到受縛于智能化的原因正是“技術利維坦\"顛倒了人類社會與技術的支配關系，整個社會被禁錮在一雙“看不見的雙手\"中，也就是技術介人不同類型的社會機體，表面上看起來社會在使用技術達到自身的目的，實則早已被技術所控制。GAI會在技術與觀點之間重新將數據資料塑造成符合設計者和用戶意識形態領域的文本和圖像，這種刻意塑造后的數據結果會迎合主客體的需求，從而導致意識形態的演變，使得社會受困于智能技術中。如此一來，人的主體性就會受到嚴重的威脅，而且技術介入意識形態會通過人機互動而強化，這種情形很可能會導致人們對AI產生恐懼[5]

人機互動本應遵循馬克思主張的“人一機一人”的辯證關系，而GAI技術彰顯了社會的技術屬性，也就是“人一機”關系，忽視了技術的社會屬性。在當今智能信息時代，我們感受到的是技術對人類社會的無限介入，人類的主體性正在消融于GAI的發展歷程中，“人與機器的機體特性因為人性的消融而不斷雜糅，人的生命則化為愚鈍的物質力量\"。失去歷史的積淀，我們再談論社會抑或是人類本身，都會顯得單調和機械，如果人類社會不能正確使用GAI，不能正確引導其發展方向和發展方式，“技術利維坦\"將加快人類社會被技術吞噬的速度，意識形態的風險就會成為人類社會健康發展的巨大障礙。

（三）GAI的有價性偏離了社會實踐的取向

隨著AI的發展，人與世界的關系正在轉變為人與人造物的關系，人造物就是基于AI的機器人、大模型和自動駕駛技術。相對于人和自然界，人和AI共同構成人工世界，而且相互影響、相互塑造。技術始終是人類社會對周遭環境持續性實踐的產物，它顯然是一種具體實在的實踐產物。在人類社會實踐的背后，不是只有技術帶給人類社會的演化，因此，我們不能簡單地將演化還原為人類日益對技術的依賴，模糊了依賴背后的始作俑者一資本與技術的高度結合體。面對這種“依賴”，馬克思認為，“操縱機器的工人所完成的這些動作的特點，是它們的被動性，它們對機器本身運動的適應性，對機器的從屬性。這種被動性的專業化，及專業化本身的消滅，是機器勞動的特點\"[7]162。值得思考的是，究競是人“從屬于\"機器（技術）還是他者（資本）？究竟是技術在實踐運行中的價值取向難以調節，還是其背后操縱者與用戶的價值取向難以調節？

近年來，我們看到的是，當ChatGPT問世后，國內科技巨頭紛紛投入GAI技術并研發上線服務型GAI大模型，以及互聯網企業在文本生成圖像的類ChatGPT相關技術實踐產業{8]46。國內的科技企業展示出開拓GAI市場獲得價值利益的雄心。例如，百度的“文心一言”訊飛的\"星火大模型\"等大模型攜帶著人類價值偏好，不斷應用于人類社會的日常生產和生活中，使用戶逐步構建符合產品設計者的思維認知模式，其隱蔽的價值取向逐漸變得具體有形。放眼國際，谷歌在2023年12月正式發布迄今功能最強大、最通用的多模態AI大模型—Gemini（“雙子座”）1，并用英文對全球170多個國家提供升級服務，卻沒有將中國納入其服務的范圍。即將在2025年中國深圳召開的國際仿真技術應用展覽會概況顯示，2024年全球仿真軟件涉及計算機、制造業、航空、軍事等領域，市場規模已達到數十億美元，并預計在未來幾年內保持兩位數的年復合增長率。智能產品的生成機制是“利用人工智能技術還原或模擬物理世界\"9]，表明仿真技術愈成熟，被資本不良利用的概率就愈高，所導致的意識形態風險就愈大。這些智能技術讓人贊嘆的同時，更令人深思和擔憂，在一定社會歷史階段中，我們應該賦予技術何種社會性質以及何種價值取向呢？特別是當技術介人主流意識形態時，技術的內涵隨著實踐的發展轉化為人機關系的范疇，融入人類社會的方方面面，并影響其發展走向。馬克思在百年前就警示工人階級要警惕“資本”背后對其無休止的壓榨。馬克思預示了人與技術之間的關系：“自然科學通過工業日益在實踐上進入人的生活，改造人的生活，并為人的解放做準備。\"[10]193在智能技術飛速發展的今天，我們更要協調智能技術與人的價值取向之間的矛盾。

當GAI應用于人類日常生產生活的范圍越來越大時，它不僅在基本的工作、醫療、學習等方面有助于人們減輕壓力，甚至還能在營銷、客服、風險控制等業務里發揮作用，并且隨著其模型的升級，以后其“業務范圍”會越來越廣。GAI應用場景的多元化和產品種類的多樣化更容易滋生復雜的價值傾向和立場偏差，這些作用隱藏在豐富多元的GAI產品和活動之中，無意識地調節甚至改變人類主體的世界觀和價值觀。GAI與虛擬現實技術相比，不同于后者籠統地對用戶提供感知化體驗服務，GAI的切入點更為細致，它會從主體的能動性出發，為用戶訂制“一對一\"的個性化私人服務，出色的虛擬仿真能力疊加GAI算法深度合成技術，加強GAI的類人感知體驗。GAI提供針對性的迎合式服務是為了通過不斷的訓練進行自我調整，提升用戶對自己的正向反饋，達到整合篩選需要的內容與意識形態勾連，并以用戶所需個性化的范式潛移默化地介人人類的生活，從而提升它自己在人類中的存在需求，讓人在不經意間受到其自身范式的誘導和規訓。值得反思的是，我們不能在自信于GAI擁有類人的生成式能動性實踐行為的同時，又自負于將GAI“孤立\"起來發展，這兩方面在本質上具有矛盾性，且不可兼得。

總的來說，在GAI與人類的交互實踐中，鑒于GAI是在異于他國意識形態下設計的，會生成難以調和的多元價值取向，加之其通過迎合方式強制介入人類的行為和認知模式之中，導致人們對GAI的價值立場把握不準，在應用過程中難免會產生意識形態偏愛的風險。因此，我們應該正確且合理使用GAI并對其進行嚴格規范，引導其與主流意識形態和諧共生，防范人機關系的主客倒置。GAI在介入意識形態的三種風險生成向度下，呈現出了三種相應的“風險樣態”一—稀釋話語權、編織“信息繭房”以及信息失真和偽造。

二、GAI引發意識形態風險之緣由

習近平強調，意識形態工作是黨的一項極端重要的工作。科學技術在創造財富的同時，也帶來很多消極、負面的后果（]。GAI引發的意識形態的風險是全面的、全新的和系統的，面對GAI引發的意識形態風險，首先需要弄清其“風險樣態”及其發生的緣由，這樣才能夠做到有的放矢、有所作為、有力應對。

（一）GAI的內容多元性稀釋了主流意識形態的話語權

作為一種思想體系，主流意識形態的目標是得到社會成員的普遍認可。“主流\"蘊含兩方面含義：“一是在深廣度上對社會公眾產生強烈的影響；二是常依靠政治權威發揮作用、維持影響力。\"而\"主流意識形態的話語權主要源自其占有大眾傳媒信息資源和話語表達渠道，并通過設置議程來左右社會話語符號，從而影響受眾的意識形態認知”[12]。主流意識形態的建設對維護社會團結穩定、引領社會思潮、弘揚核心價值體系起著重要的導向作用。隨著GAI的開發應用，特別是在ChatGPT發布以來，使得主流意識形態的話語權逐步由國家權威機構和專業人士轉向全民大眾參與的形態，不僅拓寬大眾表達自我觀點和看法的渠道，而且表達的內容形式也變得多元化。可以說，GAI開創了人機交互的新境界（自媒體涌現），使得許多大眾媒體也可以享用之前只有國家主流媒體機構才可以設置的議程。開放共享的信息資源傳播新樣式，徹底打破了傳統意義上主流意識形態話語權壟斷。然而，由于GAI本質上是技術工具，越來越多地應用于社會經濟生產領域，其本身不具有意識形態特征，但GAI的開發設計者和用戶是具有意識形態的人，帶有各自的主流意識形態。這意味著GAI會自然而然地介人意識形態領域，在有助于主流意識形態多元化發展傳播，促進全民暢所欲言的便利開放格局形成的同時，加劇了主流意識形態的話語權被稀釋和被分化的危險。

一方面，輿論引導主體層面，從專業人士流向大眾參與，“泛娛樂化”的意識形態言論弱化了主流意識形態的引導能力以及人的主體性地位。可以說“泛娛樂化帶來的巨大流量經濟與資本的利益訴求不謀而合\"[13]。不同于主流意識形態話語內容，“泛娛樂化\"的表達形式和GAI合力助推大眾在自由的網絡世界里暢所欲言，娛樂的表達方式滿足了大眾的表達內心真實想法的訴求。而且，資本在“泛娛樂化”的話語環境中猛烈追逐價值和利益，并與GAI強強聯合，肆無忌憚地生產出低俗的娛樂化內容來獲取流量。在博得大眾興趣和眼球的同時，忽視了人的主體性地位，降低了大眾對主流意識形態的認同度，沖擊了主流價值內容的傳播，稀釋了主流意識形態的話語權。

另一方面，西方發達國家利用頂尖GAI技術沖擊非發達國家主流意識形態話語權。這表現為以美國為首的西方國家憑借先進的AI技術推行“數字殖民”統治，對其他國家進行監聽，竊取國家機密[14]。發達國家的技術霸權主義在展現其誰有強大的技術和龐大的資本能力，誰就掌握媒體的話語權和主導權之外，正在利用GAI技術以人類不可控的速度促使GAI進化出“自主性”向度，而西方發達國家的這一行為，并不能簡單的由其引發新一輪“技術演化\"的批判，就可化解它給人類帶來的各方面危機，傳統的批判體系并沒有將AI與意識形態直接勾連，并反思兩者在認知向度上存在的問題。西方發達國家的行為嚴重威脅了其他國家意識形態安全，不僅稀釋了國家主流意識形態話語權，而且最終會導致國家主流價值的瓦解甚至喪失。與此同時，在資本的裹挾下，多元化社會思潮進行碰撞，使得主流意識形態面臨分化甚至消解的危險。資本借助GAI在宣揚自由平等的外衣下，刻意傳播歷史虛無主義、享樂主義、拜金主義、極端個人主義等，沖擊主流意識形態及話語權，使之淹沒于資本之中。

（二）“算法歧視”編織起封閉的“信息繭房”

“信息繭房\"源自GAI技術的核心—生成式算法。在GAI產生之前，只有人類這一主體可以生產出\"內容”。近年來，生成式算法使得GAI可以具備只有人類才擁有的能力。GAI技術不需要提前設定自然語言系統，依托海量的文字、音頻、視頻等形式的數據庫，通過不斷“投喂\"大量帶有選擇偏好的特定信息，形成并及時調整模型參數，自主生成內容高度相關且流暢連貫的、帶有偏好的文本和圖像，并通過不斷迭代，形成“算法鋼印\"②。GAI根據預訓練轉換模型的設計者提供的學習模型，有針對性和偏好性地搜集提取相關信息。設計者會有意無意地為GAI提供特定意識形態和價值取向的語料庫，引導GAI逐步形成特定意識形態，當GAI對提供的資料進行學習后，便形成了帶有意識形態偏好的價值取向，從而忽略甚至掩蓋主流意識形態，形成“信息繭房。\"此外，不同于傳統的搜索引擎，GAI每一次進行人機對話問答的過程，都會不斷豐富自身所擁有的數據，加深對用戶偏好的了解。當用戶對其提供肯定的反饋后，GAI會將該答案強化。如果用戶提供否定的反饋，GAI不會再提供該答案。GAI通過能動性地學習從而增強自身的主體性，由于“人工智能技術的迭代式發展對社會政治、經濟、文化的顛覆式影響正不斷挑戰與技術相關的意識形態的批判范式，并且不斷刷新既定的批判內容\"6。GAI的“自主性”表征之所以引起人們驚恐的原因在于：GAI的進化不能簡單理解為技術演化的增強，而是GAI利用信息鴻溝加劇意識形態偏差，以及不合理的發展GAI會將主流意識形態誘導至隱蔽和偏僻的“抽象\"的唯心主義深淵，顛覆“以人為本”的主流意識形態。在發達國家技術霸權的意識形態中，正是利用了“算法歧視\"編織了“信息繭房\"和\"數字鴻溝”，增強GAI的算法能力，從而弱化人的自主思維能力和信息處理能力，固化人的思維認知范疇，其結果是使人的自主性喪失。具體來說，自主性喪失的原因主要有二：

其一，GAI強大的算法弱化人的自主思維能力和信息處理能力。在算法歧視的不合理對待下，GAI為用戶提供單一的、具有特定價值取向的內容。而算法并不是一成不變的，而是動態變化的，集大數據和云計算于一身；算法不同于傳統信息生成技術的地方在于：“算法規定的生成路徑和生產內容由于具有不可操作性而變成‘信息繭房’，不受外界介人干擾，使得其受眾的價值觀念呈現整齊劃一的‘一元化'狀態。\"[5]\"信息繭房\"指的是在信息傳遞過程中，人們長時間的只關注自己所挑選的事物和令自身感到高興的事情，就會將自己束縛于像蠶繭一般的‘繭房'里。在GAI一次又一次向用戶推送特定范疇的信息，迫使用戶的意識形態在不知不覺中建立起來，從而掩蓋了主流意識形態，造成信息繭房。更具體地說，GAI在面對不同語境和語種時，可以模擬用戶的表達方式發言，從而生成具有特定方向性、針對性且讓用戶滿意的言論。而且，GAI與用戶的交互方式是一間一答的形式，回答用戶問題時，會使用“一、二、三\"有條理的陳述方式，為用戶帶來條理清晰、富有層次且極具說服力的體驗感。GAI只為用戶提供滿意的答案，而不展示信息的來源（切斷其他渠道信息源），避免了用戶因其他信息而對其產生質疑和批判。久而久之，人的自主思維能力和信息處理能力就被弱化了，最終淪為技術的傀儡。

其二，“信息繭房”固化了人的思維認知范疇。如今強大的算法越來越精準地鎖定對應用戶的需求，數字技術逐步催生“數字利維坦”，使用戶囿于“信息繭房”之中。目前看來，形成“數字利維坦\"窘境的原因在于，GAI技術無法將社會生產力和生產關系合邏輯地統籌起來，無法將技術和社會統籌起來最終落腳于“人”。從人工機體向度看，“我們的一切發現和進步，似乎結果是使物質力量成為有智慧的生命\"[10]580。GAI在深度學習技術、大模型技術以及智能算法的助推下，給每一位用戶貼上偏好標簽，提供沉浸式一對一服務，而用戶對人造信息的需要與日俱增，增加了GAI與用戶之間的“黏性”。這樣就使得用戶逐漸脫離真實生活，拒絕與外界的有效溝通，將自身禁錮在“信息繭房\"中。這不僅加劇網絡圈層的分化，而且導致用戶自身意識形態的偏執化和極端化。這樣一來，每個人都處在一座“信息孤島”之中，使主流意識形態難以延續，最終喪失其主導能力。

（三）資本控制下的“智能仿真”導致原始信息的失真和偽造

GAI在使用過程中產生原始信息失真的原因，并不是單純由于技術在應用時自然產生的演化，而是由于在西方資本勢力的操縱下不合理甚至不良應用GAI。以ChatGPT為代表的GAI所攜帶的價值取向及其背后的技術邏輯暗含西方意識形態和政治正確的導向，與其設計者的價值立場、主流意識形態及其文化傳統密切相關。近年來，中美在意識形態領域的博弈，美國的科技霸權利用部分GAI制造“算法黑箱”，誘導民眾逐步形成特定意識形態，在資本控制下，引發信息失真的風險，此風險樣態與OpenAI發布的虛假信息和行為誘導因素有關：“所謂虛假信息和行為誘導是指GAI會遵循使用者的要求，生成一些虛假、有害或者誘導性內容用于惡意攻擊。\"GAI利用智能仿真技術試圖突破意識形態把關機制，表現出動態演變的意識形態屬性，正成為我國當下以及未來意識形態安全最有力的技術威脅之一。

首先，GAI通過人為仿真設計散布帶有各自國家意識形態的虛假言論，歪曲事實，混淆視聽。GAI整合分析“投喂\"的相關信息生成的話語缺乏理論深度。由于GAI無法分辨所提供信息的真偽和價值取向，更無法像人那樣理解語言的內涵和邏輯，極易出現理解偏差，這是因為GAI以“投喂\"的數據為原材料，加上智能算法對數據進行簡單的排列，缺乏相關語境和話語邏輯的構建，生成的文本缺乏完整的敘事結構，具有碎片化和片面化特征，且“大數據”也容易受到“污染”，其真實性不足以完全采信。

其次，GAI成為傳播極端言論的隱秘渠道。當前，網絡環境和關系錯綜復雜，敵對勢力利用GAI仿真技術制造的虛假信息和虛假輿論，千方百計破壞他國的意識形態安全。民眾長時間在表面上看來自由平等多元化言論的影響下，不加思考地“暢所欲言”，形成了真假難辨且復雜的網絡關系。這種不合理利用GAI的結果逐步破壞了作為一切社會關系總和一人的意識主體性，稀釋甚至解構了民眾對于主流意識形態的認知能力。

最后，GAI在為用戶提供“私人訂制”服務的過程中，克服了傳統AI僵化機械式的呈現文本的方式，用戶在計算機前看到屏幕跳動的字節，通過所謂的“深度思考”逐字地生成并呈現在用戶的眼前，這樣仿真生成方式更加接近真人之間的互動交流，帶給用戶與真人交流體驗的錯覺。GAI通過樹立同自身交流的“智慧生命體”的形象，增強用戶對GAI的信任，方便隱蔽傳播虛假信息和意識形態偏見。在GAI擬人化的話語風格的掩蓋下，最終極為可能演變為傳播帶有不良意識形態色彩的極端破壞性言論的隱秘渠道。

不過，值得慶幸的是，雖然GAI的智能仿真技術使得人類表現出對GAI依賴程度日益加深，但到目前為止，人與GAI的邊界還清晰可見，難以調節的是人與GAI的邊界有可能會為人類社會帶來“矛盾且痛苦\"的認知模糊。西方資本正在用GAI包裝自身，延伸其多元化意識形態，目的是要逐步模糊人類與GAI的邊界，將人類變成技術化的存在。需要注意的是，對GAI技術的依賴有別于海德格爾所講的“上手狀態\"和“意向性”所對應的“此在（工具）一周圍世界\"的整體性認識——而是作為從人類\"生命”所擁有的“身體\"嵌入“環境\"并使用工具的單一狀態，升級到復雜的人造物狀態，而與之相伴的是人類本身功能的退化。馬克思針對他所處的工業時代就曾認為，“自動機器體系的出現，意味著活勞動和對象化勞動之間發生了重大的歷史性變革\"[16]85。人類原本進行復雜的實踐活動降至簡單的勞動，而復雜的勞動交給技術來完成，技術代替人類具有的技能和力量，因為它本身就是“能工巧匠”。在GAI技術體系里，人類對技術的依賴的同時，技術又對人類進行無限介人，即人類反過來轉化為技術“有意識的器官\"被技術所支配。在資本無限追逐價值利益的驅動下，模糊了人與技術的分界線。GAI仿真技術被人類操持下，顯得比人類更富有生命活力和實踐能力。而人類在GAI操持下反而具有了機械性和固定模式性。人在不斷適應GAI，享受GAI為人帶來便捷的同時，又不知不覺地被其本身所\"規訓”，成為GAI的“附件”。

三、應對之策

為更好地發揮GAI對我國意識形態傳播的積極作用，趨利避害，我們有必要從技術創新、政策引導、社會監管等方面進行系統規范，做好有力應對的工作。

（一）提升以馬克思主義為核心的主流意識形態在網絡意識形態斗爭中的影響力，防范GAI內容多元稀釋主流意識形態話語權

縱觀GAI時代，由于GAI內容多元化稀釋了主流意識形態話語的凝聚力、主導力和掌控力。面對這種不利局面，我們應該如何應對呢？一方面，針對主流意識形態的話語權面臨著被稀釋和被分化的危險所呈現的樣態，我們應該在思想上遵循主流價值的引領。習近平強調：“歷史和現實都警示我們，思想輿論陣地一旦被突破，其他防線就很難守得住。在意識形態領域斗爭上，我們沒有任何妥協、退讓的余地，必須取得全勝。” ^′[17]23_GAI 的設計者和使用者在思想價值上存在偏差，多元化的價值取向相互碰撞，沖擊主流意識形態，極易導致意識形態安全風險。因此我們要堅持馬克思主義在意識形態領域指導地位的根本制度，必須堅持主流價值思想的引領，推動馬克思主義與GAI產品相融合，提升以馬克思主義為核心的主流意識形態在網絡意識形態斗爭中的影響力。而且要創新自主的核心價值體系話語表達，增強主流價值思想在AI傳播領域的吸引力和說服力，以縮短公眾與宏大政治敘事話語的距離感，讓主流價值話語體系走進民眾日常生活。因此，在GAI時代，我們既要承認GAI對價值體系的深刻影響，又要堅持馬克思主義不動搖，實現GAI蘊含的技術升級和核心價值之間的平衡。

另一方面，堅持中國共產黨的領導，牢牢掌握黨對意識形態工作的領導權。《中共中央關于進一步全面深化改革推進中國式現代化的決定》指出，“要完善意識形態工作責任制。創新馬克思主義理論研究和建設工程深化網絡管理體制改革，整合網絡內容建設和管理職能。完善生成式人工智能發展和管理機制”18]。可以看到，黨領導意識形態工作下一步的具體落腳點在重點管理并完善GAI的發展態勢，引導其與我國主流意識形態融合發展。要建設具有強大凝聚力和引領力的社會主義意識形態，面對嚴峻的意識形態斗爭形勢，要想抓牢主流意識形態工作的領導權，就要堅持黨在意識形態領域的絕對領導。全體黨員十部要在政治上、思想上和行動上高度自覺地堅守網絡意識形態陣地，擴大主流價值思想的影響范圍，加強主流價值思想的正面宣傳，構建網絡和現實的同心圓。因此，我們應該合理利用ChatGPT等GAI產品，將“黨媒數據\"和主流意識形態植入GAI數據庫，讓GAI產品成為黨日常工作和宣傳主流思想的“新喉舌”，確保產出內容充分宣傳黨的主張。此外，我們應該將“黨管媒體\"的原則置于GAI領域中，建立符合黨和人民意志的意識形態風險評估體系，確保黨在意識形態斗爭中處于有利地位，掌握意識形態交鋒的主動權，切實落實好無論時代如何發展、媒體格局如何變化、黨管媒體的制度原則不能變。

（二）以創新技術規訓GAI的監管機制，防范算法歧視編織的“信息繭房”

科學技術的持續創新是GAI得以長久發展的重要基礎，也是GAI引發意識形態領域安全風險的關鍵變量。因此，針對算法歧視所編織“信息繭房”，應從“人為規訓\"路線轉向“技術規訓\"路線：一是從技術本身出發制定有效的治理路徑，從生成式算法方面制定相應政策法規；二是從GAI應用場景方面制定相關治理路徑，嚴格規訓GAI。具體而言，由于GAI的不合理開發和應用導致因算法歧視編織\"信息繭房”的風險樣態，其治理應該擺脫人為規訓算法的路線，因為在以GAI大模型為基礎的算法面前，無論是設計者還是用戶，都無法探尋算法的全部潛在風險，能做的只是在GAI應用過程中發現問題。

因此，為了提前預防意識形態領域安全風險的發生，一方面，要通過建立智能算法、大數據的備案和披露制度，不斷增強GAI專業技術領域內部透明度，強化GAI算法技術本身的監管力度。也就是說，通過建立健全GAI風險評估和數據備案管理機制，將“具有輿論性質\"以及“社會動員性質”的GAI產品劃定在評估范圍之內，嚴格監管GAI產品的市場準入、運行以及退出機制。而且，對來自異域的GAI產品嚴格實施準人標準、安全評估程序以及產品算法模型本身的備案機制，積極引導GAI大模型企業簽訂行業組織自律協議，不斷強化企業內部核心數據的輸入端口和輸出端口的主體責任，確保GAI規范長久運行。

另一方面，要樹立并強化意識形態安全意識，不斷提高其風險預判能力。習近平強調“意識形態關乎旗幟、關乎道路、關乎國家政治安全和政權安全\"[19]44。GAI利用算法歧視掌握用戶偏好催生“技術利維坦”，編織“信息繭房”掩蓋主流意識形態的發展和傳播。對此，我們必須提高意識形態敏感度，在意識形態敏感區域設置相應的應對策略，明晰生成式算法必備的技術規則，同時不斷完善意識形態安全風險的審查制度，增強GAI技術的安全性。而且，算法歧視下編織“信息繭房”的“風險樣態\"形成于海量帶有隱蔽性問題數據的預訓練模型之中，這就要求我們利用關鍵詞掃描技術對外來GAI產品中存在的不良意識形態內容進行屏蔽和剔除，阻斷用戶對產品內容中的一些政治敏感性詞匯的提問，堅持“管、用、防\"并舉。此外，我們應該利用AI技術預判風險，即“政府可借助國家防火墻（國外稱GreatWall，又稱“防火長城\"管理域名、檢查代碼、過濾內容來監控輿情\"，防止GAI技術在意識形態領域造成潛在風險，只有這樣才能最大限度地消除算法歧視帶來的“信息繭房\"效應。

（三）增強主流意識形態把控力，抵御資本控制下智能仿真技術造成的信息失真和偽造

針對使用GAI智能仿真技術產生信息失真風險的樣態，我們認為應該增強主流意識形態把控力，加快AI核心技術創新能力的腳步，積極引導GAI向善。習近平指出：“人工智能呈現深度學習、跨界融合、人機協同、群智開放、自主操控等新特征，正在對經濟發展，社會進步，全球治理等方面產生重大而深遠的影響。”[19]100然而，由于敵對勢力利用GAI仿真技術制造出大量虛擬主體，如數字人、電子人，在深度學習技術、AI協同控制技術、自然語言大模型技術、生成式對抗網絡技術等一系列專業AI頂尖技術疊加下，使得信息深度偽造成為網絡意識形態治理難以把控的新變量。這些虛擬主體在操控者的包裝下，在“去中心化\"的網絡環境中釋放大量虛假信息，混淆用戶視聽，大大增加了“把關人\"的工作難度。而傳統的監管模式以“把關人\"為監管核心，重在以量取勝，在面對GAI技術加持下的智能仿真體時，無論如何增加“把關人\"的數量，都無法應對信息采集、信息選擇、信息編輯、信息審核、信息發布等一系列意識形態全鏈的任意環節。因此，我們應該“更加重視運用人工智能、互聯網、大數據等現代信息技術手段提升治理能力和治理現代化水平”[20]115

具體而言，我們應找準GAI與維護主流意識形態安全的契合點。首先，我們應該實現GAI核心技術的自立自強，不斷加強高端芯片的硬件技術和自然語言處理系統的軟件技術的突破與創新，建立自主的GAI數據生成和處理平臺，確保數據的真實性、安全性、自主性和可靠性，從根本上確保主流意識形態安全。其次，我們要運用AI監測技術提高對輿情信息的監測能力。通過大數據技術，對網絡信息進行全方位的監測和多模態感知，防患于未然，筑牢意識形態安全防線。再次，我們要將傳統把關人“重點監管\"模式轉變為“全鏈監管\"模式，合理劃分權責，以技術制約技術，不斷完善分布式監管網絡布局，提升智能化監管水平，以適應GAI下大量虛擬仿真主體，以及虛假信息的加持下，產生對主流意識形態的攻擊。復次，積極引導GAI助力主流意識形態正向發展，積極推進GAI與公益事業相結合，構建面向不同年齡、不同群體的GAI主流價值信息推送系統，創新主流價值的傳播方式，以主流價值理性糾正工具理性。同時，樹立GAI賦能主流意識形態領域的人本主義原則，以人的主體性邏輯馴化對GAI的崇拜觀念，營造健康積極、向上向善的綠色網絡環境。最后，擴大培養科技創新人才隊伍的規模，要想突破國際尖端核心技術以及跨越技術鴻溝，關鍵是培育GAI領域的頂尖人才，需要國家與企業攜手，健全人才培養機制，完善人才檢查審查制度，確保培養一支高素質、高水平的GAI技術團隊。

注釋：

① “利維坦”（Leviathan）原指《圣經》中具有可怕力量的海上巨獸。隨著數字智能時代的到來，“技術利維坦”是指在信息社會中，由于人類對信息技術使用不當而導致信息技術反噬人類社會自身，使人類產生受縛于技術之感。

② “算法鋼印”指的是在預訓練過程中如同鋼印一般烙印在生成式算法中的刻板化的意識形態。

參考文獻：

[1]謝波，曹亞男.生成式人工智能意識形態安全風險探析[J].國家安全研究，2024（01）：102-127.

[2]陳先紅.主流意識形態傳播與公共關系[N].中國社會科學報，2023-11-02（04）.

[3]盧卡奇.歷史與階級意識[M].杜章智，等譯.北京：商務印書館，1999.

[4]蔣博，李明.人工智能助力意識形態治理現代化建設[J].理論視野，2021（02）：69-74.

[5]劉永謀，白英慧.科學文化視域下的人工智能恐懼問題[J].理論探索，2024（04）：28-36.

[6]余聰，張亮.人工智能時代意識形態批判的哲學反思- —“人機關系\"視野中的批判向度[J].浙江學刊，2021（02）：4-11.

[7]馬克思.機器。自然力和科學的運用[M].北京：人民出版社，1978.

[8]丁磊.生成式人工智能：AIGC的邏輯與應用[M].北京：中信出版社，2023.

[9]歐陽林潔，張永紅.生成式人工智能應用的意識形態風險：命題由來、生成機制與治理進路[J].學術探索，2023（11）：7-16.

[10]馬克思恩格斯全集：第2卷[M].北京：人民出版社，2009.

[11]沈廣明，左勇華.綠色科技的哲學探微—基于馬克思主義哲學分析視域[J].江西師范大學學報（哲學社會科學版），2024（05）：31-37.

[12]方旭.從ChatGPT看人工智能時代意識形態領域運作表征與風險防范[J].毛澤東鄧小平理論研究，2023（05）：35-44.

[13]李紅革，黃家康.彈幕文化對主流意識形態的風險挑戰及其應對策略[J].湖南社會科學，2022（06）：52-57.

[14]陳卓.人工智能時代主流意識形態話語權構建的多維審視[J].中國軍轉民，2024（08）：26-28.

[15]向繼友，吳學琴.ChatGPT類生成式人工智能的意識形態風險及其防控策略[J].江漢論壇，2023（12）：53-59.

[16]成素梅，張帆.人工智能的哲學問題[M].上海：上海人民出版社，2020.

[17]習近平.論黨的宣傳思想工作[M].北京：中央文獻出版社，2020.

[18]中共中央關于進一步全面深化改革推進中國式現代化的決定[N].人民日報，2024-07-22（01）.

[19]中央網絡安全和信息化委員會辦公室.習近平總書記關于網絡強國的重要思想概論[M].北京：人民出版社，2023.

[20]習近平.習近平談治國理政：第3卷[M].北京：外文出版社，2020.

責任編輯蘇玉娟