人工智能時代意識形態安全治理的守正創新

摘要：人工智能技術在極大解放和發展生產力的同時，也使得意識形態治理風險驟升，引發了原生性意識形態風險、衍生性意識形態風險和共生性意識形態風險。本文認為既要深入挖掘馬克思主義經典著作中的精髓，更要以習近平新時代中國特色社會主義思想為根本遵循，尋求解決之道。通過加強技術馴化，完善監管體系，鞏固人本價值等，有效治理意識形態領域的各類風險，切實維護我國意識形態安全。

關鍵詞：人工智能；意識形態安全；智能算法

當前，以大數據分析和智能算法為核心的人工智能技術正深度融入社會生產與人們的生活實踐之中，使得既有的意識形態治理體系面臨一系列新的問題與挑戰。黨的十八大以來，以習近平同志為核心的黨中央高度重視意識形態工作，深刻指出：“意識形態工作是黨的一項極端重要的工作。面對改革發展穩定復雜局面和社會思想意識多元多樣、媒體格局深刻變化，在集中精力進行經濟建設的同時，一刻也不能放松和削弱意識形態工作，必須把意識形態工作的領導權、管理權、話語權牢牢掌握在手中，任何時候都不能旁落，否則就要犯無可挽回的歷史性錯誤。”當前，人工智能發展方興未艾，加強我國意識形態安全治理的守正創新已刻不容緩。

一、挑戰之析：人工智能時代意識形態領域存在的三類風險

人工智能憑借對人類認知的模擬與感知能力，極大推動社會生產力的又一次解放，但由其技術帶來的風險也不容忽視。如人工智能通過其強大的信息編碼與處理能力，發揮著價值引導、共識凝聚、情感動員等功能，導致意識形態風險更趨隱匿性與多樣化。基于生成機制與表現形態的差異，人工智能時代的意識形態風險可分為原生性、衍生性與共生性等三種類型，作出這一分類，有助于深化對風險本質的理解與把握。

（一）原生性意識形態風險

原生性意識形態風險是指在人工智能技術的設計和開發過程中，技術研發主體通過代碼實現、數據選擇和模型訓練等環節，將自身的意識形態傾向植入技術體系之中，進而產生基礎性價值判斷風險。

一方面，人工智能技術研發過程潛藏意識形態風險的現象在社會學領域已得到廣泛關注。正如馬爾庫塞在《單向度的人》中所指出的，技術進步中已不可避免地滲透著政治意圖，技術邏輯已異化為維持現有統治狀態的工具。人工智能系統的設計過程本質上是一個社會化的價值選擇過程。在技術開發過程中，話語權分配、利益權衡以及價值觀認同等問題，早已超越了單純的技術范疇，演變為復雜的政治經濟問題。這種技術政治化的趨勢導致人工智能成為帶有特定價值傾向的“話語再生產”工具，其背后反映的是技術開發者及其所屬社會群體的意識形態偏好。在隨后的模型訓練過程中，海量數據的投喂雖然賦予了模型強大的算力，但數據本身所攜帶的意識形態印記，也成為原發性意識形態風險的重要來源。這種憑借技術優勢獲得的意識形態輸出優先權，使得人工智能成為潛在的文化和價值觀念傳播工具，其影響范圍之廣、滲透程度之深，已遠超傳統媒體時代。

另一方面，全球范圍內人工智能技術的異化應用正加劇文化沖突，并引發深層次的意識形態風險。這一現象已引起國際社會的廣泛關注，聯合國教科文組織（UNESCO）于2021年發布的《人工智能倫理問題建議書》明確指出，人工智能技術可能內嵌并加劇偏見，可能導致歧視、不平等、數字鴻溝和排斥。當前以西方國家為主導的技術輸出模式正在強化“西方中心主義”的知識生產體系，人為擴大發達國家與發展中國家之間的數字鴻溝，造成認知層面的不對稱性依賴。在惡意應用情境下，人工智能技術可能被用于大規模傳播虛假信息、實施精準的公眾誘導等，進而服務于特定的政治操縱和資本利益訴求。值得注意的是，以美國為首的發達國家正加速推進科技與經濟的政治化、意識形態化進程。以臉書（現Meta）為代表的科技巨頭試圖通過“元宇宙+虛擬貨幣”的新型數字資本主義模式，掌控全球經濟金融資源，實現其地緣政治戰略目標。從全球治理維度來看，若缺乏有效的跨國監管機制和多邊協調框架，文明沖突將從虛擬空間向現實世界滲透，人工智能技術可能異化為思想殖民和文化霸權的工具。這種趨勢將使虛擬空間演變為大國意識形態博弈的新戰場，并對現有的全球治理格局產生深遠且復雜的巨大影響。

（二）衍生性意識形態風險

衍生性意識形態風險是指個體或群體在人工智能技術的使用中，由于具體使用方式、社會情境和文化背景等因素所引發的次生性意識形態影響。

一是傳統媒體時代“把關人”角色正逐漸被算法技術取代，催生了“把關人離場”和算法主導的“迎合式把關”效應，一定程度上消解了主流意識形態的主導地位。隨著媒體平臺算法技術的深度應用，信息篩選權和輿論引導權已悄然從傳統媒體機構轉移至技術系統，這一權力轉移過程印證了曼紐爾·卡斯特關于網絡社會中權力重構的理論預見。在資本邏輯的主導下，算法系統不可避免地傾向于選擇符合資本利益最大化的內容審核與推送機制，使得傳統以社會利益和公共價值為核心的內容篩選標準被逐漸邊緣化。這種雙重機制的疊加效應在一定程度上導致輿論場出現內容失序，如低質量信息泛濫、虛假新聞橫行、“三俗”內容充斥網絡空間等等。更為嚴重的是，這些蘊含不良價值導向的信息通過算法推薦系統的放大效應，不斷侵蝕主流意識形態的話語空間，最終有可能引發個體價值迷失和精神真空等深層問題，使得主流意識形態的引領作用面臨弱化風險。

二是人工智能時代的“信息繭房”現象正在重塑受眾認知結構和價值體系，導致受眾認知的窄化和價值偏差。在傳統傳播生態中，意識形態傳播主要依賴于信息覆蓋面和單向傳播，這在一定程度上確保了信息的統一性和完整性，但缺乏針對性和互動性。隨著人工智能技術的深度應用，媒體平臺和資訊終端為了追求用戶黏性和點擊量，普遍采用基于用戶興趣偏好和歷史行為的個性化推薦機制，帶來“理性認知剝奪”的系統性風險。從認知層面來看，“信息繭房”使用戶逐漸從多元化、立體化的信息生態中抽離，被局限于同質化的信息圈層之中。這種信息隔離導致群體認知趨同，表現為觀點同質化、行為模式化和偏好單一化。在社會重大議題和熱點事件的討論中，這種認知趨同極易引發群體極化現象，加劇社會分歧。從價值層面來看，在“信息繭房”效應的影響下，每個個體都成為以自我為中心的信息生產者、傳播者和選擇者，導致個體思維方式的固化，人們有可能逐漸淪為“數據囚徒”，導致意識形態的碎片化和社會共識的消解。

（三）共生性意識形態風險

共生性意識形態風險是指人工智能技術可能引發人類認知與價值體系根本性重構的風險，這是在長期應用場景下所產生的附隨性風險。

人工智能技術的迅猛發展正在重塑人類的主體性地位，這種重塑不僅體現在技術層面，而且更深刻地觸及人的本質認知，加劇“主客體異位”的哲學困境。作為新型生產力工具，人工智能通過替代人類的重復性和程序化勞動，在解放人類體力勞動的同時，也逐步涉足認知領域，實現了對人類腦力勞動的部分替代。這種替代效應在提升生產效率、推動技術革新、促進產業升級等方面展現出顯著優勢，但同時也帶來了“勞動主體性悖論”——技術進步本應強化人的主體地位，卻在實際發展中導致了勞動者主體性的弱化。這一危機印證了馬克思的預判：“我們的一切發明和進步，似乎結果是使物質力量成為有智慧的生命，而人的生命則化為愚鈍的物質力量。”在人工智能時代，這一危機呈加劇之勢，同時引發了一個根本的哲學命題：如果人工智能獲得某種形式的主體地位并最終超越人類，那么人類將不得不重新審視自身存在的價值和意義，以及由此導致的存在主義的“虛無與荒誕”困境。傳統意識形態體系建立在人類主體性不可動搖的前提之上，而人工智能的發展則可能動搖這一根基。當機器開始具備類主體特征，傳統的人機關系、勞動價值理論、倫理規范等都將面臨重構。這種重構不僅涉及技術倫理層面，而且將引發深層次的意識形態風險，其影響之深遠可能超越歷史上任何一次技術革命帶來的意識形態變革。

二、理論之魂：堅守馬克思主義意識形態理論之正

未來已來。人工智能時代的意識形態安全治理任務，是如此現實地呈現在我們面前。要實現人工智能時代意識形態安全治理的守正創新，既要深入挖掘馬克思主義經典著作中的精髓，又要從我們黨的主要領導人相關思想中汲取營養，全面把握人工智能技術發展與意識形態安全治理之間的雙向互動關系，從中找到解決現實問題的理論依據和方法論指導。

（一）馬克思主義經典作家的相關理論闡述

首先，馬克思主義經典作家基于辯證唯物主義與歷史唯物主義的研究范式，將科技進步與意識形態的互動關系置于“生產力—生產關系、經濟基礎—上層建筑”的框架中進行解釋，明確了意識形態與科學技術的本質區別。意識形態“歸根到底是由人們的物質生活條件決定的”，并通過哲學、宗教、倫理等表現形式，深刻體現特定階級的利益訴求。恩格斯關于“每一個階級，甚至每一個行業，都各有各的道德”的論述，充分揭示了意識形態所蘊含的階級特性與利益導向。同時，馬克思將科學技術定位為社會生產力的組成部分，而不屬于意識形態范疇，強調勞動生產力由“工人的平均熟練程度，科學的發展水平和它在工藝上應用的程度，生產過程的社會結合，生產資料的規模和效能，以及自然條件”等多種因素決定。這一理論闡釋確立了科學技術作為生產力發展關鍵驅動力的地位，同時明確了其價值的中立性，即不具階級屬性與政治傾向。

其次，馬克思主義經典作家深入剖析了科學技術與意識形態之間相互滲透和影響的復雜關系。從歷史唯物主義維度來看，重大的科技革命往往對原有意識形態體系產生巨大沖擊，它會深刻改變人們的價值觀念體系，重構社會精神文化圖景。正如馬克思所言，“大工業通過普遍的競爭迫使所有個人的全部精力處于高度緊張狀態。它盡可能地消滅意識形態、宗教、道德等等”，從反向作用機制來看，意識形態對科學技術發展同樣具有形塑作用。馬克思在論述資本主義制度對科學研究的異化時批判道：“無私的研究讓位于豢養的文丐的爭斗，不偏不倚的科學探討讓位于辯護士的壞心惡意。”由此可知，意識形態不僅能夠左右科學研究的價值取向，甚至可能成為阻礙科學發展的桎梏。當下，西方國家正利用算法黑箱、算法歧視和算法后門等人工智能技術手段構建并強化特定意識形態，導致科學技術逐漸異化為資本增殖和政治操縱的工具，最終產生消解人性、加劇社會分化、侵犯隱私以及威脅民主制度等一系列負面影響。意識形態對科技發展的反作用力，最終使科技進步對人類文明發展產生重大影響。

（二）中國化的馬克思主義的相關理論闡述

我們黨歷來高度重視意識形態建設，堅持馬克思主義基本原理與中國具體實際相結合、與中華優秀傳統文化相結合，創造性地提出了一系列新思想、新觀點，為我國意識形態建設提供了科學的理論指導。毛澤東強調“掌握思想教育，是團結全黨進行偉大政治斗爭的中心環節”，指出：“凡是要推翻一個政權，總要先造成輿論，總要先做意識形態方面的工作。”從正反兩方面彰顯了他對意識形態工作極端重要性的深刻認識。鄧小平豐富和發展了社會主義意識形態建設思想，在新的歷史條件下重新確立解放思想、實事求是作為包括意識形態建設在內的黨和國家全部工作的根本思想路線。黨的十八大以來，習近平總書記針對新形勢下意識形態工作的新特征和新要求，將意識形態工作定位為黨的極端重要的工作任務，將加強網上輿論工作作為意識形態工作的首要任務，為新時期我國加強和改進意識形態工作提供了認識論和方法論的指導。

作為馬克思主義政黨，我們黨歷來將科技發展放在至關重要的位置，以高度的理論自覺和實踐智慧，提出了一系列具有指導意義的論斷，為我國科技創新和技術發展指明了方向。新中國成立后不久，毛澤東就深刻指出：“不搞科學技術，生產力無法提高”。改革開放后，鄧小平提出：“科學技術是第一生產力”。進入新時代，習近平總書記多次強調，創新是引領發展的第一動力，要全面深入實施創新驅動發展戰略，推動把我國建設成為世界科技強國。

面對人工智能技術廣泛應用可能引發的包括對意識形態安全造成挑戰等一系列問題，習近平總書記強調科技領域是國家安全的重要組成部分，指出要建立前瞻性的風險防控體系，指出要把創新作為第一動力、把安全作為底線要求、把普惠作為價值追求，“確保人工智能安全、可靠、可控”。習近平總書記關于“推動我國新一代人工智能健康發展”和“意識形態關乎旗幟、關乎道路、關乎國家政治安全”等一系列重要論述為人工智能時代意識形態安全治理工作注入了強大動力，提供了根本遵循，為在新形勢下正確處理科技發展與意識形態安全關系提供了科學的理論指導，為全球科技治理和意識形態安全提供了中國智慧和中國方案。

三、實踐之策：創人工智能時代意識形態風險治理舉措之新

人工智能時代意識形態安全治理策略的守正創新，應立足于新時代的歷史方位，以馬克思主義尤其是習近平新時代中國特色社會主義思想為指導，準確把握馬克思主義基本原理的“不變”與基于新時期新特征新挑戰的“變”之間的關系，科學回答意識形態治理提出的實踐問題。

（一）加強技術馴化，有效治理原生性意識形態風險

人工智能時代的原生性意識形態風險根植于技術層面。因此，要從技術規制的源頭入手，將技術創新與算法規制有機結合，有效防范原生性意識形態風險。

第一，要提升自主創新能力，加強技術攻關。2025年1月20日，我國自主研發的人工智能大模型DeepSeek-R1在全球科技界引起廣泛關注與熱議。該模型不僅在性能上比肩美國頭部企業OpenAI的同類產品，更以其創新的算法優化與架構設計，大幅降低了算力需求和成本，撼動了傳統AI發展模式。DeepSeek-R1的成功標志著我國在人工智能領域實現了從“跟跑”到“并跑”的重要跨越，是我國高水平科技自立自強的典范。當前，全球范圍內的人工智能競賽正呈加速態勢，技術迭代周期不斷縮短，創新突破的窗口期愈發緊迫。我國亟須進一步加大對原始創新的支持力度，培育更多突破性原創成果，以實現人工智能核心技術領域從“并跑”到“領跑”的飛躍。具體而言，首先，應加快構建國家級人工智能研究平臺，整合優勢資源，聚焦前沿領域，推動跨學科、跨領域的協同創新。其次，大力培養和引進一批批高精尖人才，著力打造創新型人才梯隊，為人工智能技術的持續突破提供智力支撐。此外，加緊建設一批高水平的智能算力基礎設施，優化算力資源配置，提升計算效率，為人工智能技術的研發與應用提供堅實的硬件保障。同時，積極推動建立公平、開放、包容的人工智能國際技術合作機制，打破技術壟斷國在關鍵領域的“技術霸權”格局，在全球科技競爭中占據更加主動的地位，為我國實現高質量發展和科技強國目標奠定堅實基礎。

第二，健全算法備案與披露制度，提高技術透明度。當前，我國已初步建立起系統化、全方位的算法備案與披露監管框架，涵蓋國家法律、部門規章和地方性法規，包括《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》《關于加強互聯網信息服務算法綜合治理的指導意見》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等。但在實踐層面仍存在若干亟待解決的問題。其一，備案與披露的類型劃分過于單一，未能充分體現分級分類的監管原則，導致對不同風險等級的算法缺乏差異化規制；其二，備案與披露的內容要求較為模糊，缺乏具體化、標準化的操作指引，難以滿足精準化、審慎化的監管需求。因此，應加快制定配套的、細化的算法備案與披露制度，以進一步明確備案登記的內容、程序及標準。根據算法的應用場景、技術復雜度及潛在風險等級，可將其劃分為高、中、低風險類別，并針對不同類別制定差異化的備案與披露制度。例如，對應用于教育、新聞、金融等敏感領域的高風險算法，應要求其提供更為詳盡的技術說明、風險評估報告及倫理審查證明；而對于低風險算法，則可適當簡化備案流程，以兼顧監管效率與技術創新的平衡。同時，建立動態化算法監管機制，定期對已備案算法進行安全評估與合規審查，確保其在實際運行中始終符合我國法律法規及社會倫理的要求。更為重要的是，在國家層面需加速推進人工智能公共訓練數據資源平臺的戰略性布局，為算法模型的研發與優化提供高質量的數據支撐。

（二）完善監管體系，有效治理衍生性意識形態風險

人工智能時代的傳統把關人權力落空，難以有效應對仿真智能體生成內容所帶來的挑戰，加劇個體用戶的認知偏差，導致衍生性意識形態風險。要通過完善監管體系，提升主流意識形態的引領力。

第一，提升議程設置能力，掌握輿論引導主導權。議程設置理論作為傳播學領域的重要理論，其核心要義在于媒介通過議題選擇和優先排序影響受眾認知，這種能力已成為衡量輿論引導效能的核心指標之一。強大的議程設置能力不僅能夠決定受眾的信息接觸范圍（即“看什么”），更能通過框架效應（framing effect）和顯著性轉移（salience transfer）機制，潛移默化地引導公眾的認知取向和價值判斷（即“怎么看”）。在人工智能時代，傳統把關人角色的弱化導致價值引領機制的空轉，使得強化議程設置權顯得尤為迫切。從實踐維度來看，有效的議程設置應遵循雙重價值取向。其一，堅持國家利益至上，通過戰略性傳播和敘事建構，清晰地向國際社會闡明中國的政治立場、發展理念和價值主張，在多元話語場域中鞏固社會主義意識形態的主導地位。其二，踐行群眾路線，運用大數據輿情分析技術，精準分析人民群眾的社會認知圖譜，圍繞民生關切、社會熱點和輿論焦點設置議題，通過“情感共振”和“價值共鳴”實現注意力資源的有效配置，實現正向輿論引導。

第二，提升內容供給能力，重構內容把關機制。基于傳播政治經濟學理論視角，主流媒體應堅持社會效益優先、兼顧經濟效益的原則，通過內容生產的供給側結構性改革，構建既具有思想深度又富有傳播效度的內容生態體系。從內容生產維度來看，需著力打造多層次、立體化的主流意識形態內容矩陣。運用敘事學理論和接受美學原理，精心設計內容框架，通過故事化表達、可視化呈現和情感化敘事等策略，提升主流內容的傳播親和力與感染力。同時，基于受眾畫像和需求分析，創新話語表達方式，打造既彰顯主流價值又符合大眾審美需求的內容產品集群，形成具有持續供給能力的優質內容池。從傳播渠道維度來看，要深度把握算法傳播的特征和規律，實現內容生產與平臺分發的有機統一。運用計算傳播學理論，研究用戶的信息接觸習慣和內容消費偏好，通過智能推薦算法與人工編輯的協同優化，實現精準傳播與價值引導的平衡。探索跨平臺、多形態的內容分發策略，搭建“一次采集、多元生成、全媒傳播”的內容生產分發體系。從把關機制維度來看，構建“人機協同”的雙重把關模式。一方面，充分利用機器學習、自然語言處理等算法技術，建立內容安全的風險預警和過濾機制；另一方面，發揮專業編輯的價值判斷優勢，守住人工審核的“最后防線”。通過建立算法與人工的協同審核機制、動態反饋機制和糾偏機制，確保內容把關的準確性和有效性。

（三）鞏固人本價值，有效治理共生性意識形態風險

共生性意識形態風險極有可能造成對人本價值基石的深層解構，導致人的主體性消解和價值理性式微，因此亟須構建一個系統化、多維度的解決方案體系，以應對AI技術發展可能帶來的價值倫理困境。

從價值建構維度來看，應當牢固樹立以人為本的技術倫理框架，將人的尊嚴、自主性和發展權確立為核心價值指標，使AI服務于“人是目的”的全人類共同價值取向。通過價值量化模型和算法參數轉化機制，實現以人為本的價值嵌入，確保AI系統的設計、開發和應用始終遵循人類價值優先原則。從技術實現維度來看，要設計并部署基于深度學習和自然語言處理技術的“價值防火墻”系統（value firewall system），通過實時監測、動態評估和自動修正等功能，防止AI系統偏離預設的人類價值軌道，確保技術發展始終服務于人類福祉。從治理機制維度來看，應當建立涵蓋事前評估機制、過程監控機制、事后追溯機制的全生命周期的技術倫理審查體系，實現技術倫理風險的可預測、決策過程的可追溯、不良后果的可問責。從國際合作維度來看，要建立“全球AI倫理委員會”，基于聯合國基本框架，充分考慮各國和地區在文化特色、法治體系以及價值觀念等方面存在的顯著差異，尊重不同國家和地區的文化與價值自主性，協調制定跨國界的人類價值保護標準，建立AI技術倫理的全球治理框架。通過定期發布AI倫理白皮書、建立跨國技術倫理審查機制、協調各國AI治理政策等方式，促進全球范圍內達成人類價值保護共識。

上文已提出了原生性、衍生性和共生性意識形態風險的針對性治理策略，除此之外，筆者認為還應從強化人文氛圍與培育理性自覺的雙重維度協同發力，助力人工智能時代意識形態安全的治理工作。其一，積極營造技術服務于主體價值的文化氛圍。以主流價值觀引導算法設計，實現技術倫理與人文價值的統一，推動算法向善。借助算法的精準傳播優勢，構建智能化意識形態傳播體系，強化主流價值引領力。其二，提高用戶終端抵御意識形態風險能力。通過開展全民數字素養教育、建立社會化的算法監督網絡、提升用戶信息辨別和處理能力等，將國家意識形態安全轉化為公民個體的認知防御能力。

責任編輯：鄧田田

作者簡介：曾榮峰，女，博士，湖南師范大學新聞與傳播學院講師（湖南長沙，410081）。

基金項目：湖南省社科基金青年項目“ChatGPT崛起下意識形態安全的新特征及治理路徑”（項目編號：23YBQ037）