生成式人工智能的數字意識形態風險及其治理研究

中圖分類號：D64 文獻標識碼：A 文章編號：2095-5103（2025）07-0042-05

黨的二十屆三中全會通過《中共中央關于進一步全面深化改革推進中國式現代化的決定》（以下簡稱《決定》），要求完善人工智能等戰略性產業發展政策和治理體系。生成式人工智能作為機器技術的躍遷式質變與符合新發展理念的先進生產力質態，是關乎數字意識形態安全的前沿問題與最大變量。黨的二十大報告明確指出，建設具有強大凝聚力和引領力的社會主義意識形態，健全網絡綜合治理體系，推動形成良好網絡生態2。同時，《決定》要求健全網絡綜合治理體系，完善生成式人工智能發展和管理機制。可見，數字時代的意識形態領域斗爭發生了形式轉變。生成式人工智能作為鞏固我國數字意識形態安全的重要陣地，使我國意識形態安全工作面臨諸多實踐課題和時代命題。因此，要高度重視生成式人工智能應用與數字意識形態之間的倫理平衡與安全發展問題，在數字時代中充分理解生成式人工智能對數字意識形態的應用創新與變革，并正確審視人工智能具體應用中的數字意識形態風險及其治理路徑。

一、生成式人工智能對數字意識形態的應用創新與變革

作為知識型工具，技術在更深層面上作為一種行為約束邊界介人社會與社會關系中。在馬克思看來，技術是人本質力量的體現，其概念“通過其具體表現——機器加以分析\"3，隱含了技術與意識形態的關系命題。馬克思指出：“作為資本，自動機在資本家身上獲得了意識和意志。\"[4442在對拜物教的批判中，馬克思揭示了機器承載著意識形態傳播的物質基礎，以現實的人的物質生產實踐為基底建構意識形態理論，而技術所生產的商品在資本操縱下也具備了虛幻的意識形態性質。作為社會產物，技術并非一種意識形態，而是在資本權力機制的應用控制中具備了意識形態屬性，以此實現對社會的導向、約束及動員作用。

立足唯物史觀，生成式人工智能并未脫離馬克思語境中的技術概念，而是作為機器體現著意識形態功能。在數字場域，數字意識形態仍從屬于現實的人的物質生產實踐，是主體存在的一種表現方式，即在實踐中展現主體自身思維的現實性。作為意識形態的載體，生成式人工智能為實踐主體提供了具身方式，提升了意識形態的傳播力度與觸達范圍，形成了“一種與人類的交互行為處于糾纏關系之中的共生整體\"β。也就是說，生成式人工智能形塑了主體泛在交互新場景，以其負載的思維意識介人主體的行為實踐中，以此實現對主體行為范式、生產方式和實踐理路的普遍滲透和潛隱規訓。

數字意識形態的作用機制嵌套在生成式人工智能中，人工智能的技術特質卻無法規避意識形態風險。作為一種解釋規則，意識形態的樣態呈現方式代表了政治觀念闡發與敘事話語編排。隨著技術與意識形態之間的內在關聯性加強，生成式人工智能打破了主流意識形態一元引導格局，推動了意識形態展現與傳播方式的創新與變革。在最新的應用中，生成式人工智能展示了邏輯思維強化與感性存在模擬的強大功能，已然實現跨次元的主體交互與情緒感知，以自然語言交流實時性與情緒模擬真實性滿足人的生活需求與情感需求。同時，在公眾場域的使用中，其多維嵌入的技術特性為意識形態合理化輸出提供了有利條件，使其算法架構、語料庫等帶有意識形態性。因而，生成式人工智能為主體所提供的服務中也滲透了隱性意識形態，即所生成內容并非客觀中立，而是印刻著價值觀念、生活理念和制度框架等意識形態的技術產品，影響主體的自我認知與行為選擇。生成式人工智能的出現回應了馬克思對技術的批判：“我們的一切發現和進步，似乎結果是使物質力量成為有智慧的生命，而人的生命則化為愚鈍的物質力量。\"6775隨著技術實踐衍生出異化現象，具備自我迭代能力的生成式人工智能或許會以超越工具范疇的顛覆性，催生難以預估的意識形態風險，導致主流意識形態被邊緣化，給人機共存的倫理形態與發展進路帶來新的挑戰

二、生成式人工智能數字意識形態風險的現實表現

隨著新一輪科技革命的到來，生成式人工智能對社會發展與社會關系的過度介入正不斷催生出算法監控、意識遮蔽、價值偏差及表達式微等數字意識形態風險。

（一）算法監控：數字內容生成供給異化

數字內容生成供給異化是基于生成式人工智能算法監控產生的內生性意識形態風險。作為技術基底，算法模型的植入使生成式人工智能成為類人的生產主體。區別于人類基于物質條件與社會關系所開展的創造性生產活動，生成式人工智能依托數據爬取與參數微調的算法模型，在設計與訓練過程中植入了意識形態，致使生產失范成為意識形態風險擴大的后果。

作為數字意識形態的重要載體，數字內容在主體與生成式人工智能的互動中產生，能夠直接作用于人的意識。然而，這種具有解釋性的智能關聯處于“全景監獄”的監管之下，迫使數字內容的生成內涵偏離了原有范疇。正如馬克思指出：“人本身成了私有財產的這種緊張的本質。\"7179在算法監控下，生成式人工智能并非服務數字主體的純粹工具，而作為資本竊取知識勞動成果的技術手段，通過控制人們的現實觀念進行利潤剝削。在此條件下，數字主體與生成式人工智能之間的交互異化為生產剩余價值的勞動過程，數字內容生成供給實則是數字主體為資本所提供的勞動產品，導致數字主體隱私暴露、數字內容生產失真、數字信息惡意編造及數字生成內容非法共享等風險發生。同時，主體邏輯思維與自我意識也在交流與互動中被算法監控捕捉，在數字轉碼中成為物化商品，加速數字生成內容供給異化現象演變，進而引發意識形態風險。

（二）意識遮蔽：數字主體思想警覺弱化

數字主體思想警覺弱化是數字意識形態風險的重要體現。由于算法黑箱的遮蔽，虛擬場域中的主體可能無法辨識人工智能的生成內容中存在事實錯誤與信息偽造現象，導致生成式人工智能意識形態風險外延。

數字產品所承載的信息是左右公眾意識的重要變量。生成式人工智能是對人類智能的模擬與延伸，其對信息生成的賦能限度取決于算法設計者的思維認知與價值理念，因此，其所承載的思想可能有悖于主流意識形態。從人工智能發展看，具有天然競爭性的市場是技術創新的主體，技術控制者掌握技術往往是為了服務資本。技術寡頭的優勢與逐利本性將意識形態烙印在底層算法中，借助不對稱信息場域壓制與其自身利益不相符的觀念與話語，以數字載體的合法性遮掩自身的階級性，以數字空間掩蓋現實社會與意識形態的關聯。因此，看似中立簡單的內容表達，實則清晰地列出了具有傾向性的答案，甚至模糊不同意識形態的邊界與對立。在此條件下，數字主體無法回避或者質詢模型算法所輸出的偏見與歧視，將長期游離在主流意識形態之外，對政治問題的敏感度和對社會存在的感知力弱化，從而阻礙主流意識形態傳播。

（三）價值偏差：數字倫理植入路徑歧化

數字倫理植入路徑歧化根源于技術理性邏輯的價值偏差，在數字場域中增生意識形態風險。倫理向度的數字延伸是生成式人工智能的類人創作模式與人機命運共同體的基石，數字倫理植入歧化導致主體的社會情感與價值立場量化，動搖了主流意識形態的架構。

生成式人工智能的神經網絡算法基本規則是主體價值規訓的意識結果與數字顯現。由于數字倫理植入路徑受制于數字資本的桎梏，在隱性意識形態操縱中進一步導致數字空間中主體權利與義務失衡。正如馬克思所說：“只有吮吸活勞動才有生命，吮吸的活勞動越多，它的生命就越旺盛。\"8]269在生成式人工智能的迭代訓練與推理輸出中，大量數據支撐著算法運轉，而數據的來源則是數字主體的隱私信息與個人作品。在此情況下，生成內容所有權卻歸人工智能使用者所有，數字主體的數字勞動成為否定性存在。此外，倫理植入路徑歧化可能將公眾對數字技術的需求扭曲為對數字資本現存秩序的認可，使數據暴露成為進人數字空間的必然條件。這種觀念使主體在人工智能應用中解構了自身意識，使其行為趨向于工具崇拜，以數字依賴擠占主流意識形態傳播空間與思想輿論環境，同時造成責任主體虛化，加大了我國生成式人工智能數字治理與監管困境。

（四）表達式微：數字話語受困資本同化

數字話語受困資本同化是關乎意識形態安全的隱性問題，在主體表達式微中誘發了意識形態風險。數字主體對生成式人工智能的盲目崇拜導致其價值判斷能力被惰性思考所替代，導致主流思想引領出現了去中心化趨勢，在交往與行為物化中遮蔽了自身的主體性。

數字內容的生成基于人與機器語言的交互。作為思維的物質外殼與意識的現實形式，數字話語是意識形態的特殊載體。在生成式人工智能的實際應用中，其所生產的數字內容是基于一定話語景觀模板下的既定生成，通過算法技術賦權擁有了同質化的生成過程與意涵，破壞了人類生產生活的意義來源。于數字主體而言，自身的數字認知能力與數字智能素養可能無法透視生成背后的資本邏輯，因此在過度的信息投喂與工具依賴中，其認為數字生成即為客觀準確，在面對擬態環境輸出結果時無從感知自身話語表達權利的剝奪。人工智能對主體的反向輸出，憑借技術話語的勢能，壓制人類對生活的本能表達，持續擠壓著主流意識形態指導下的社會意識生產空間。在此條件下，數字編碼成為公眾信息交流與思想傳播的普遍形式。同時，數字主體理性思維能力下降，致使自身在技術統治下喪失表達與創新能力，進而無法在實踐中確證主體自我的存在，導致意識形態面臨持續撕裂的風險。

三、生成式人工智能數字意識形態風險的治理策略

在數字場域中強化主流意識形態的傳播力與引領力，應在生成式人工智能的具體應用中推動主流意識形態傳播數智化轉型，以人的存在作為衡量生成式人工智能的價值尺度，從技術規訓、思想引領、人本面向及價值理性等方面進行防范治理，在良性互動的人機和諧生態系統中實現價值聚合，推動智能社會現代化建設。

（一）技術向善：以技術規訓構筑數字正義空間

技術規訓是對生成式人工智能技術與算法架構的治理，是在技術發展價值中立原則之下對我國智能技術領域的守正創新。因此，要錨定技術及其應用場景的治理路徑，強調對生成式算法的規制與馴化，有效抵御意識形態風險，在人機和諧中構筑數字正義空間。

生成式人工智能要實現技術的變革性突破，促使意識形態防范技術優化升級。首先，要堅持生成式人工智能發展技術向善，切實以技術創新實現算法優化，重構數字生產秩序。“互聯網核心技術是我們最大的‘命門’，核心技術受制于人是我們最大的隱患。\"9]97科技自強是推動中國式現代化的應有之義，也是關乎我國意識形態安全的重中之重。因此，要加快我國智能技術與數字算法的研發，以系統觀念把握人工智能技術發展的方向、倫理標準及發展規劃，審慎把握數字技術開發和使用的限度。其次，要建立意識形態敏感領域與強制定向訓練制度，明確生成式人工智能技術標準與應用規范。技術應用規范與定向訓練是對算法架構的糾正，是在技術安全性基礎上對意識形態風險的有力規避。因此，要在大力推動我國智能產業發展的基礎上，以中國特色社會主義理論體系數據庫作為生成式人工智能技術定向指導與訓練模式，將社會主義意識形態的價值觀貫穿我國生成式人工智能產品的研發、應用及其推廣之中，以地域性表達構建公眾熟悉的文化場域，實現主流意識形態的有效內嵌

（二）理念升級：以思想引領加強主體辨偽能力

正確的思想引領是規避生成式人工智能意識形態安全隱憂的有力抓手。因此，要增強社會主義意識形態凝聚力和引領力，提高公眾數字素養，促使數字主體提高自身辨偽能力，形成正確的思維方式與價值體系，實現對生成式人工智能的有效利用。

一要深化意識形態領域在智能化平臺的供給側改革，保障生成式人工智能的發展方向。作為人類文化元素，技術所起作用的好壞取決于社會集團對其利用的好壞。面對數字時代信息雜糅與錯誤思潮的亂象，更要牢牢掌握黨對意識形態工作的領導權，全面落實意識形態工作責任制，鞏固壯大奮進新時代的主流思想輿論。因此，要始終堅持和鞏固馬克思主義在意識形態領域的指導地位，堅持中國共產黨的領導，牢牢掌握智能產品事業中的主流意識形態話語權，以我國自主研發的核心技術為基礎自上而下落實意識形態工作責任制，利用生成式人工智能構筑輿情甄別智能系統與數字領域意識形態安全防線。二要多方面分層次提高公眾智能素養，提高公眾對錯誤思想的感知警覺與抵御能力，形塑數字空間公共理性。數字意識形態參與主體的泛眾化與感知弱化是促使社會公眾形成慣性思維與認知趨同的重要原因。因此，要加大人工智能的通識性宣傳，分層次培養數字主體的理性判斷能力與數字素養。同時，利用各種輿論契機發揮網絡意見領袖的積極作用，促使數字主體在弘揚主流意識形態中提高風險感知力，在公共失序的數字空間中形成慎獨意識，主動擔負維護國家意識形態安全的責任。

（三）價值引導：以人為本破解全鏈監管難題

以人為本是正確處理技術與監管關系難題的堅定立場，更是關乎數字倫理正確植入的現實選擇。因此，要在立法監督與公眾自覺的協同作用下實現主流意識形態正向引導，破解全鏈監管難題，化解價值偏差風險。

一要在完善數字空間立法的基礎上，以科技倫理為重點建立生態化的動態智能監管體系。現有的法律制度與監管體系著力于人類行為的因果關系，無法明確作為機器的生成式人工智能的行為責任范圍。因此，要完善生成式人工智能的算法披露機制，“有效彌合傳統中心式監管體系所造成的監管縫隙\"，充分利用分級分類策略確保監管規則的合理化，并將用戶作為把關人吸納至監管體系中，完善多元協同的監管體系。二要在全鏈監管中引人知識產權保護體系，有效維護腦力勞動者與數字勞動者的權益。生成式人工智能是知識產權保護的新客體，算法的可解釋性對生成物的創新性與獨創性劃定了知識產權的保護范圍。因此，要基于可解釋性構建全流程知識產權保護體系，將數字版權管理技術引人數字監管中，對人工智能的生成物進行合理化保護與全過程審查，平衡生成內容的商業性與公共性，避免知識產權保護范圍的無序化擴大，營造良好的數字發展環境。

（四）話語變革：以價值理性消解資本話語侵蝕

價值理性是在公共失序環境下對主客關系顛倒的正確處理。因此，要充分發揮人的主體能動性，以價值理性駕馭工具理性，消解資本意識侵蝕，達到合目的性與合規律性的辯證統一，推動人與數字技術的共同發展。

一是保證主體數字話語表達與交互，引導數字主體辯證看待自身與技術之間的關系。在資本邏輯的統攝下，話語生產位置的轉換考驗著主流意識形態話語建設與闡釋能力，但主體具有破解數字迷思的潛力，可以“通過有意識地利用極限而克服受奴役狀態\"2J%。因此，要引導主體樹立以物為用的原則，平衡主客體之間的價值需求與情感需求，合理看待以人作為目的與以數字技術作為手段在人工智能中的辯證關系，使人工智能回歸工具本位。二是正視數字空間的話語平權問題，提高數字主體創新思維能力。自主性是主體的內在屬性，而生成式人工智能物化了主體的社會關系與勞動關系，消解了主體精神的自由向度。因此，應維護數字主體在話語接受、生產、表達和選擇等方面的權利，在推動主流意識形態闡釋工作中助力公眾跳出數字崇拜的困局，用主流價值紓解技術焦慮，以批判性思維凝聚數字主體力量，推動主體的理性表達與數字生產成為數字社會良性運轉的強大動力，共同構建未來人機友好共存的數字文明社會。

參考文獻：

[1]中共中央關于進一步全面深化改革推進中國式現代化的決定（二〇二四年七月十八日中國共產黨第二十屆中央委員會第三次全體會議通過）[N].人民日報，2024-07-22（1）.

[2]習近平.高舉中國特色社會主義偉大旗幟為全面建設社會主義現代化國家而團結奮斗——在中國共產黨第二十次全國代表大會上的報告（2022年10月16日）[N].人民日報，2022-10-26（1）.

[3]付天睿.馬克思機器理論與人工智能的相遇及反思[J].現代哲學，2022（1）.

[4]馬克思恩格斯全集：第23卷[M].北京：人民出版社，1972.

[5]藍江.生成式人工智能與人文社會科學的歷史使命——從ChatGPT智能革命談起[J].思想理論教育，2023（4）.

[6]馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012.

[7] 馬克思恩格斯文集：第1卷[M].北京：人民出版社，2009.

[8]馬克思恩格斯文集：第5卷[M].北京：人民出版社，2009.

[9]習近平.論黨的宣傳思想工作[M].北京：中央文獻出版社，2020.

[10]方旭.從ChatGPT看人工智能時代意識形態領域運作表征與風險防范[J].毛澤東鄧小平理論研究，2023（5）.

[11]歐陽林潔，張永紅.生成式人工智能應用的意識形態風險：命題由來、生成機制與治理進路[J].學術探索，2023（11）.

[12]赫伯特·馬爾庫塞.單向度的人：發達工業社會意識形態研究[M].劉繼，譯.上海：上海譯文出版社，2014.

責任編輯：朱婧婧兼職編輯：譚江林