生成式人工智能意識形態風險：邏輯審視、樣態呈現及防范對策

〔摘要〕生成式人工智能與意識形態高度關聯。從技術特性來看，意識形態傳播樣態改變、意識形態管理難度增大、技術特性虛化意識形態階級屬性三個層面是其意識形態風險的底層邏輯。生成式人工智能，在生成內容方面存在疏離主流意識形態理論體系風險，在技術表現形式上弱化主流意識形態主導權，在傳播范圍上擠占傳播空間等是其意識形態風險的主要呈現樣態。為了應對這些意識形態風險，我們應加強制度保障，充分發揮馬克思主義在意識形態領域指導地位的根本優勢；通過理論引領強化重點群體教育；加快核心技術和意識形態關聯性技術研發；完善行業發展規范，不斷提升對生成式人工智能技術意識形態風險的防控能力。

〔關鍵詞〕生成式人工智能；意識形態；信息繭房；Sora

〔中圖分類號〕D64 〔文獻標識碼〕A 〔文章編號〕2095-8048-（2024）04-0014-09

2022年11月，OpenAI公司發布ChatGPT——一款人工智能技術驅動的自然語言處理工具，后續相繼推出升級版本，引起全球關注。生成式人工智能是指在生成式AI模型、訓練數據等的基礎上，生成文本、圖片、音頻、視頻、代碼等多樣化內容的內容生產方式。目前市面流行的ChatGPT、文心一言等均屬于“生成式預訓練模型”（generative pre-training transformer），一種用來分析和預測語言的人工智能模型，它可以幫助我們進行自然語言處理，例如機器翻譯、自動文摘和快速問答等。此外，還有能夠實現描繪圖像（Diffusion模型）、音頻制作（MuseNet模型）、影視創作（Dramatron模型）、互動娛樂（綜合運用上述模型）等不同功能的生成式人工智能模型。2024年2月，OpenAI發布人工智能文生視頻大模型Sora，再次引發社會對生成式人工智能大模型技術發展的極大關注。意識形態是人類思維的產物。人的思想、意志是由物質條件決定的。基于知識生產的生成式人工智能“生產內容”“生產過程”等與意識形態高度關聯，密切關注生成式人工智能意識形態風險，具有重要的理論和現實意義。

一、生成式人工智能意識形態風險邏輯審視

生成式人工智能意識形態屬性一方面來自技術本身，也就是馬爾庫塞強調的科學技術作為第一生產力對于剩余價值生產的巨大作用，進而增強資本主義統治在經濟、政治、文化領域的全方位滲透。〔1〕生成式人工智能的這一意識形態屬性并未超越傳統意義上科技發展與意識形態互動的討論范疇。另一方面，就生成式人工智能技術特性來看，其主要功能是提高人類知識生產效率，與航天、生物工程等技術最大的不同在于其介入到人類思維外化領域。我們可以從意識形態傳播樣態、意識形態管理難度、虛化意識形態階級屬性三個層面審視生成式人工智能意識形態風險的底層邏輯。

（一）“人機對話”重塑意識形態傳播樣態

1.意識形態人際傳播轉向“機—人”傳播

“語言在實際運用中（包括在傳授中）總是自覺地或不自覺地以一定的意識形態為導向”〔2〕。有學者將“語言的物質化”歸納為兩種形式：一種是通過書寫或者印刷，這種形式在人類文明發展歷史長河中占據絕大部分時間并一直延續至今；另一種形式是“通過語法化和模擬來重新創建人工語言能力”〔3〕。

從生成式人工智能技術發展來看，第二種語言物質化形式日趨成熟，改變了語言物質化的主客體關系。人已經不再是語言物質化的唯一主體，以計算機、互聯網、算法等組合而成的“系統”成為語言物質化的新“主體”，語言物質化從主客體間關系向物體間關系轉變。生成式人工智能技術發展之前，主體間性是人類認知傳遞的基礎。生成式人工智能“客體間性”重塑了以語言為載體的意識形態傳播樣態。在生成式人工智能大模型訓練過程中，“機器學習”在海量數據的訓練中不可避免會強化或淡化某種意識形態價值傾向，甚至在已有數據基礎上“創造”出人類無法理解的語言表達。這種機器與機器（模型與模型）之間基于自然語言的“對抗訓練”，成為語言生成與傳播的全新方式。

“傳授語言的過程本質上就是傳授意識形態的過程。”〔4〕以ChatGPT為代表的生成式人工智能為例，其與人互動以“對話”的方式展開，內容以自然語言呈現。在使用ChatGPT時，人從自己的價值立場出發提出問題，或問題本身具有某種價值傾向，ChatGPT基于前期訓練給出信息反饋，完成“人機對話”的同時實現了意識形態傳播。這種“人機對話”的方式突破了意識形態在人與人之間傳遞的傳統樣態，意識形態出現“機一人傳播”新樣態。

2.意識形態跨語言壁壘界限日趨消弭

一定的意識形態以一定的語言為載體。在人類歷史上形成的不同民族語言，形式上表現為不同的語法和邏輯，內容上受到意識形態影響。從某種意義上來說，不存在沒有意識形態屬性的語言。“語言是一種實踐的、既為別人存在因而也為我自身而存在的、現實的意識。”〔5〕在人類社會進入“世界歷史”之前，不同民族語言差異阻隔了不同意識形態觀點的交流與傳播。隨著資本主義在世界范圍的發展，人類交往突破了地理界限，在不同文明相互交流對話中，語言差異及背后的文化差異為不同的思想觀念建構了“隔離帶”。

無法理解一種語言及其背后的文化，也就無法理解意識觀念的基本概念、核心價值等關鍵要素。當早期西方傳教士抵達中國時，他們發現中國文化與西方文化之間存在巨大不同，無法交流成為最大障礙，他們不得不從學習語言、習得文化開始，了解熟悉中國文化。語言翻譯功能是生成式人工智能應用較早的領域。例如，2012年，微軟就已經發布一套全自動同聲傳譯系統，能夠將英文同步轉譯成中文實現語音同步輸出。語言壁壘的消弭，為意識形態觀念跨文化、國別、地域傳播提供了技術便利。

3.意識形態跨時空共振風險加劇

意識形態是具體的、歷史的。人類意識到某種思想觀念具有維護階級統治功能之前，關于政治、經濟、文化、法律等思想觀念伴隨著人類階級社會發展不斷豐富。具有某種價值傾向的思想觀念的傳播，與人類社會發展具有同樣漫長的歷史。從人類社會發展歷程來看，不同思想觀念代表不同階級利益，在不同歷史時期和地域范圍內展開爭論或斗爭，不同歷史時期的意識形態爭論主要矛盾也各不相同。

生成式人工智能在訓練過程中，需要經過海量數據投喂訓練。這些數據是人類社會發展過程中產生的思想觀念的集成。這種集成并非是一次性或完全獨立而成的。從理論上來說，只要有足夠算力和存儲空間，生成式人工智能的數據能夠通過在不同硬件上運行相同或不同的模型完成更多數據訓練，實現“無限擴容”。以ChatGPT為例，ChatGPT4.0版本數據庫更新截止到2023年4月，它能夠從數據庫中“尋找”2023年4月前納入語料庫的全部知識。經過“投喂”的ChatGPT，無法根據外部世界的變化與人進行真正的討論與對話，可能會忽略“問題”與“答案”之間存在的時間、空間的巨大“鴻溝”，給出的看似完美的“答案”卻可能造成意識形態觀點跨時空“對話”，帶來“時空錯亂”的混淆。

（二）數據、算法、系統集成導致意識形態管理難度增大

1.“海量數據”：意識形態內容溯源困難

“數據”是生成式人工智能內容生產的“原料”。OpenAI公司公布的數據顯示ChatGPT3.0有1750 億（175B）個參數〔6〕（業內猜測ChatGPT4.0有10000億個參數，但OpenAI公司未公布具體參數數量），預訓練單詞數量達百億級別，每次技術升級帶來的參數總量呈現指數級增長。理論上來說，人類歷史上所產生的知識都能夠實現數據化進而轉化為生成式人工智能的“數據原料”。ChatGPT等生成式人工智能語料庫和數據庫主要來源于西方發達國家互聯網和學術網站等，這些內容本身就良莠不齊，且天然帶有資本主義意識形態傾向。

信息溯源是意識形態治理的重要內容。由于數據體量、算法黑箱等現實制約，給生成式人工智能產生的信息溯源帶來極大困難。生成式人工智能以強大的自然語言處理能力和全球化視野搭建人類知識生產平臺。一方面，生成式人工智能理論上能夠“習得”人類歷史上產生的所有知識內容；另一方面，生成式人工智能與用戶之間的“實時互動”成為新的知識生產的數據資源。這兩方面均增加了生成式人工智能知識生產信息溯源的難度和成本。

2.“算法推薦”：意識形態操控風險加劇

“算法”最初源自數學領域。現代算法的應用以計算機為載體、以二進制為運算機制。通過不同算法，輸入的數據能夠得到不同的結果以實現不同目的。數據經濟背景下，算法能夠實現收集數據并挖掘數據的價值進而實現生產工具的功能。現代算法不僅僅應用于生產領域，20世紀60年代，算法已經開始幫助人們進行股票交易決策，在經濟、醫學、教育等領域廣泛應用。20世紀90年代，美國科學家已經能夠通過博弈論算法，預測政治事件，甚至能夠預測“反對戈爾巴喬夫的軍事政變將會觸發蘇聯的轟然倒塌”。〔7〕

如果將數據和算力看作是生成式人工智能的基礎，各類算法和模型則是生成式人工智能的技術核心。不同的算法能夠滿足生成式人工智能應對不同的使用場景。從某種意義上來說，算力和數據是生成式人工智能依托的“物質前提”；而算法則是能夠根據不同需求進行設置的“主觀意志”，為滿足不同需求而進行迭代和升級。為滿足特定意識形態傳播或預測而創造的算法，可以實現意識形態傳播的人為操控。隨著算法、算力和數據系統集成的生成式人工智能技術發展，能夠預測使用者的意識形態傾向，在“算法推薦”的加持下，為意識形態操控提供了更為便利的技術可能。

3.“系統集成”：意識形態滲透全域擴散

傳統的意識形態風險多集中在文化、傳媒、教育等領域。從生成式人工智能技術應用場景來看，傳媒、影視、營銷、娛樂、教育、金融、醫療、軍事、交通、物聯等領域均呈現出廣闊的應用前景。生成式人工智能技術將大大加快“強人工智能”時代的到來。從文字生成，到圖片、音頻、視頻，生成式人工智能產品從數量到質量不斷提升，模型、算法不斷創新疊加，生成式人工智能應用場域可能涉及社會生活方方面面，“系統集成”成為技術發展和應用的重要趨勢。

生成式人工智能不再單純作為工具提升人的物理能力。通過數據收集、算法預測、反饋強化等不透明過程，生成式人工智能已經成為人類社會交往中的“非人主體”，在對人類知識生產產生顛覆式影響的同時，逐步改變人類社會交往模式。在“系統集成”趨勢的影響下，人與機器相互交融，生成式人工智能知識生產的中心化技術特征與去中心化的分布特征，增加了意識形態風險擴散的可能。

（三）“智能生成”技術特性虛化意識形態階級屬性

1.“技術萬能”：弱化意識形態階級屬性

生成式人工智能的深度學習過程，對于人來說是不可理解的。這種不可理解的過程“生產”了人類能夠理解的內容。有人工智能科學家認為，生成式人工智能以億為單位的參數的“交互”，就是一種“理解能力”。這種“理解能力”產生于非人的機器，在一定程度上加深了生成式人工智能的“神秘色彩”，也賦予生成式人工智能貌似擺脫了人類價值偏見的“絕對”客觀中立假象。當人們認為技術不具有意識形態屬性的時候，恰恰是受到“技術中立”觀念影響的表現。

哈貝馬斯認為，“技術統治”作為意識形態，“為新的、執行技術使命的、排除實踐問題的政治服務”〔8〕。相比傳統意識形態在鞏固統治階級統治地位時所表現出的“直接的”“明顯的”功能，“技術統治”往往表現為潛移默化的作用。雖然哈貝馬斯將科學技術作為一種意識形態的考量沒能真正揭示資本主義意識形態本質，但其對科學技術發展與意識形態互動的分析具有重要的理論價值。有生成式人工智能領域權威科學家認為，技術創新是推動經濟增長的永恒動力，進而成為維護資本主義制度的重要力量。具有“更少意識形態性”的科技——生成式人工智能“生產”的內容，產生更具迷惑性的“去意識形態化”假象。

2.“信息繭房”：加劇意識形態認知偏執

桑斯坦提出，人們“只聽我們選擇的東西和愉悅我們的東西”〔9〕，導致“信息繭房”現象出現。人們在互聯網上只選擇自己偏愛的信息，能夠加劇“信息繭房”效應，甚至產生極化。生成式人工智能能夠通過與人“對話”來“預測”提問人的價值傾向，并根據這種傾向性選擇生成符合提問人價值選擇的“答案”。生成式人工智能技術特性，進一步加劇了認知偏執風險。

ChatGPT等生成式人工智能會自動收集用戶使用數據，將其轉化成為ChatGPT等大模型“預測”用戶使用習慣、價值傾向的“原料”。為了增加用戶粘合度，ChatGPT等大模型可以根據用戶“喜好”，通過算法主動推介符合用戶價值取向的關聯性內容，強化用戶價值“喜好”，進一步加劇“信息繭房”效應，從而增加了意識形態偏執。

3.“技術霸權”：強化資本主義意識形態傳播

從ChatGPT到Sora，從語義內容生成到物理世界圖景模擬，生成式人工智能技術實現對人類思維世界到物理世界的全方位“模擬生成”。這意味著，生成式人工智能不僅模擬創造意識形態觀念內容，同時能夠在不斷發展的算力、算法和海量數據的基礎上，實現對意識形態觀念產生的社會根源的“情境再現”，甚至能夠讓人們能夠更加豐富、立體、飽滿地感知意識形態觀念生成的歷史過程和現實場景，增強特定意識形態觀念的吸引力和感染力。

從技術發展現狀來看，我國生成式人工智能技術發展與西方發達國家比較而言處于相對落后狀態。從生成式人工智能技術與意識形態傳播關系來看，技術差距可能轉化為資本主義意識形態傳播的技術優勢，進而強化資本主義意識形態傳播力度、廣度，對社會主義意識形態傳播帶來技術性擠壓。當今世界，資本主義意識形態和社會主義意識形態之間的較量，實質上是資本主義制度與社會主義制度之間的較量，意識形態的“權力邏輯”核心在于意識形態理論本身的領導力和與之相配套的技術支持和制度保障。生成式人工智能技術作為與意識形態密切相關的技術，需要警惕“技術霸權”可能轉化為資本主義意識形態傳播的技術優勢，成為當前意識形態較量的“技術變量”。

二、生成式人工智能意識形態風險樣態呈現

生成式人工智能意識形態風險主要在內容生成、技術形式和傳播范圍三個方面表現突出。在生成內容上存在疏離主流意識形態理論體系風險，在技術表現形式上存在弱化主流意識形態主導權風險，在傳播范圍上擠占主流意識形態理論傳播空間。

（一）內容上：疏離主流意識形態理論體系風險

1.價值選擇前置：增強資本主義意識形態輸出

生成式人工智能技術創新和迭代發展有賴于參數規模和訓練數據體量。訓練ChatGPT等大模型的數據主要來源于wiki、reddit、西方發達國家科研論文網站等互聯網絡，同時包含用戶使用ChatGPT過程中的信息數據。這些數據來源天然具有意識形態價值取向。ChatGPT等大模型技術以西方發達國家為中心向世界范圍擴散，其使用過程某種程度上也是資本主義意識形態向世界范圍強化輸出的過程。

從計算機和互聯網技術發展歷程來看，科技工作者個人的作用日益凸顯。在技術變革的窗口期，處于技術研發最前沿的核心技術人員對實現技術躍升具有重要主導作用。在涉及技術與人（社會）交互模式等具有人文價值取向選擇時，其中關鍵技術人員價值取向會在有意或無意中發生影響。在“對齊主義”傾向的影響下，生成式人工智能對資本主義意識形態價值觀念的主動“對齊”，對社會主義意識形態帶有“價值偏見”。這種前置的“價值對齊”選擇，無疑是對資本主義意識形態的強化。

技術研發的“無意識偏見”并非只體現在語義生成領域。以文生圖（頻）也并非“價值中立”。目前公布的由Sora生成的視頻影像產品中，人物主角均為白人，其中的算法可能存在基于人種、宗教等價值偏見。以好萊塢為代表的西方電影產業自1910年代開始就已經形成“視覺化故事講述傳統”。隨著技術發展，視覺傳達效果發生了革命性變革，嵌入其中的傳統性預設價值導向和意識形態基調依然發揮著不可替代的作用。在極具西方價值偏好的敘事傳統影響下，生成式人工智能創作的視頻影像產品，無法避免隱含資本主義意識形態價值選擇。

2.知識生成碎片：內容呈現弱化主流意識形態凝聚力

“直接的物質的生活資料的生產，從而一個民族或一個時代的一定的經濟發展階段，便構成基礎，人們的國家設施、法的觀點、藝術以至宗教觀念，就是從這個基礎上發展起來的”〔10〕。統治階級在一定的物質條件和社會關系的基礎上創造了作為“觀念的上層建筑”的意識形態。作為整體性概念的意識形態包含了政治思想、法律、道德、哲學、藝術、宗教等等諸多具體意識形式，這些具體的意識形式，都可以看作相對獨立的系統且具有一定的理論系統性，具有邏輯嚴密的系統性特征。

生成式人工智能強大的知識生產能力和廣泛的應用場景，滿足了人們對于內容生產的需求。越強大的功能意味著更高資本、數據、算力等的投入。在成本與收益的“博弈”中，生成式人工智能所具有的“極致”能力往往不能在商業化應用場景中常態化實現，用戶所獲得的內容往往是“拼湊”出來的碎片化內容。當生產內容與政治思想等意識形態內容關聯度較高時，碎片化呈現可能帶來明顯的意識形態偏差，甚至出現與主流意識形態價值取向背離的現象，從而削弱主流意識形態認同，影響主流意識形態凝聚力。

（二）形式上：弱化主流意識形態主導權

1.“技術崇拜”：淡化主流意識形態宣傳主體權威

教育機構是傳播意識形態的重要場所，教師群體是傳播意識形態的重要主體。教育機構在人才培養的過程中，實現了知識傳遞與文化傳承，同時實現意識形態傳播。隨著傳播技術的發展，知識傳播不再局限于特定的場所與組織，人們能夠從多種渠道獲取知識。從ChatGPT迭代歷程來看，隨著神經網絡（Transformer）層數的加深和訓練樣本量的增加，ChatGPT展現出了更趨近于人類思維的“思維鏈能力”，并在“知識儲備”“邏輯推理”等方面展現出了超越人類的“無所不能”。

當技術被視為“無所不能”的“存在”，新的“技術崇拜”隨之而來。生成式人工智能以自然語言為輸出內容，其生成內容文本數量、邏輯規范等在技術迭代中更加“人性化”，達到甚至超越專業人士水平，在學術論文撰寫、專業考核考試等領域表現優異。當人們開始不去思考生成式人工智能生產內容是否正確的時候，對于技術的“盲從”可能轉化為對其內容價值觀念的盲目接受。當生成式人工智能對于涉及意識形態價值取向的內容與主流意識形態理論宣傳主體解釋出現偏差時，主流意識形態宣傳主體權威性在“技術崇拜”的影響下將會受到削弱。

2.“虛擬主體”：影響主流意識形態宣傳主體形象建構

現實生活中，意識形態觀念通過一定的宣傳教育主體，采用不同宣傳教育形式，增強意識形態理論吸引力、凝聚力、引領力，實現統一思想、凝聚力量。意識形態宣傳教育主體公眾形象，在很大程度上影響著意識形態宣傳教育工作實效。以高校為例，思想政治理論課是鞏固馬克思主義意識形態領域指導地位的主陣地，高校思想政治理論課教師是高校意識形態教育工作的主體。高校思想政治理論課的公眾形象，特別是高校學生對高校思想政治理論課程和教師的總體印象和綜合評價，事關高校意識形態工作實效。意識形態宣傳教育主體建構是傳統意識形態傳播的重要內容。將思想政治理論課教師隊伍建設作為辦好思政課的關鍵來抓，強調高校思想政治理論課教師重要作用，體現了增強主流意識形態宣傳教育主體形象建構的重要意義。

人在與生成式人工智能“對話”時，容易產生生成式人工智能是“有意識的存在”的錯覺，將其視為具有思維能力的“存在”。以ChatGPT為代表的生成式人工智能具有更加擬人的互動能力和更加迅捷的反應速度，在圖像、音頻、影像生成等大模型支持下，作為一種全新對話“主體”出現在用戶面前。一旦用戶尤其是青少年學生群體過度使用，特別是沉迷于滿足娛樂、互動、社交等需求，極易沖擊淡化意識形態宣傳主體形象，削弱意識形態宣傳教育主體的吸引力和引領力。

3.“真假雜糅”：增加意識形態管理工作成本

“深度偽造”是基于人工智能技術替換視頻中人物相貌、口型、表情、聲音等生成不易識別的偽造視頻。深度偽造技術制造的圖文真偽鑒別困難，涉及政治人物等內容甚至需要官方部門發布聲明予以澄清。以文生頻的Sora能夠根據自然語言描述生成一個逼真的“物理世界”，從理論上能夠囊括整個“物理世界的全部要素”〔11〕，將“深度偽造”提升為“逼真還原”。

從技術角度來看，“有圖有真相”的時代已經結束。圖片、音頻、視頻等不但審核成本較高，其真假辨別成本更高。在全媒體時代，人們更加習慣通過短視頻等方式獲取信息，其傳播速度更快、受眾人群更廣。“深度偽造”、以文生圖（頻）讓“高級紅”“低級黑”等風險概率增加且制作成本降低，這不僅增加意識形態管理成本，更有可能加劇“塔西佗陷阱”風險，損害政府公信力和主流意識形態理論引領力、凝聚力。

（三）傳播上：擠占主流意識形態理論傳播空間

1.使用場域私人化：技術性“屏蔽”主流意識形態理論內容傳播

互聯網讓信息傳播步入個人化時代。互聯網展現出了強大的“過濾”能力——人們只選擇自己感興趣的內容，技術性屏蔽不感興趣的內容。隨著技術的發展，特別是在各種算法的加持下，“協同過濾”涌現，人們不僅能夠接收到自己感興趣的內容，同時能夠獲取與自己興趣相同的同好群體關注的其他內容，并通過接收端自動推薦。

從意識形態觀念傳播角度來看，生成式人工智能具有更為私人化的使用場域，對話內容表現為“僅本人可見”，后臺數據“無人可見”。用戶每次使用產生的數據都成為預測用戶興趣或潛在興趣的“投喂原料”，技術和成本優勢讓“私人AI”正在成為可能。生成式人工智能使用者多集中在年輕群體，特別是青年學生，技術使用需求較大，嘗試使用新技術滿足自身需求的意愿較強。在私人化使用場域中，用戶更多的是滿足自身教育、娛樂等需求，在“協同過濾”效應的影響下，主流意識形態理論內容可能被屏蔽在用戶視野之外。

2.內容審核遲滯化：網絡空間治理面臨新的挑戰

內容審核是傳統媒介傳播出版和互聯網信息發布的重要環節。“媒體和文化工業在20世紀成為一種控制機制，有效地控制著什么樣的觀念能在社會中被制造出來并傳播出去。”〔12〕生成式人工智能技術到來之前，全媒體讓“人人都是麥克風”，已經對國家“把關人”角色提出了挑戰。隨著人工智能技術的發展，“大模型以全球視野和全球性資源構建全球一體化的世界知識體系”〔13〕。生成式人工智能強大的“知識生產”能力，前置的數據投喂、算法規制等內含的預設價值觀念，應成為國家數字治理必須關注的重要領域。

超大語料庫和強大算力讓生成式人工智能擁有“及時反饋”的技術性能，大模型自身成為內容生產的“把關人”。從目前的實踐來看，“把關人”作用發揮并不理想。生成式人工智能技術應用出現不符合主流價值觀表述引發輿論關注時有發生。生成式人工智能技術在進入應用場景后，生成內容審核成為不容忽視的短板。“網絡空間已經成為人們生產生活的新空間，那就也應該成為我們黨凝聚共識的新空間”〔14〕。對包含生成式人工智能在內的網絡內容審核，是數字治理的重要內容，不應因技術發展而“遲滯”。

三、生成式人工智能意識形態風險防范對策

“建設強大凝聚力和引領力的社會主義意識形態，是全黨特別是宣傳思想戰線必須承擔起的一個戰略任務。”〔15〕應對生成式人工智能意識形態風險，應強化制度保障，充分發揮馬克思主義在意識形態領域指導地位的根本性優勢；通過理論引領強化重點群體教育；加快核心技術和意識形態關聯性技術研發；完善行業發展規范，不斷提升對生成式人工智能技術意識形態風險的防控能力。

（一）強化制度保障，堅持馬克思主義在意識形態領域指導地位的根本制度

中國共產黨明確提出“堅持馬克思主義在意識形態領域指導地位的根本制度”〔16〕，這是我國社會主義制度和國家治理體系在意識形態領域的顯著制度優勢。堅持馬克思主義在意識形態領域指導地位的根本制度，是防范應對生成式人工智能帶來的意識形態風險挑戰的首要制度保障。堅持用歷史唯物主義和辯證唯物主義基本原理分析看待新生技術，堅持馬克思主義的根本立場、觀點、方法指導意識形態工作，是應對生成式人工智能意識形態風險的重要理論保障。

從實踐層面來說，嚴格落實意識形態責任制，是應對生成式人工智能帶來意識形態風險挑的重要抓手。各級黨組織和有關部門應該將生成式人工智能意識形態風險納入意識形態工作議事范圍，密切關注生成式人工智能技術發展及其在不同行業領域應用帶來的新情況和新變化。持續關注生成式人工智能在教育、傳媒、娛樂、影視等領域應用和受眾反饋，強化內容監管。

（二）關注重點群體，用黨的理論創新引領青年意識形態工作

青年是意識形態斗爭爭奪的重點群體。做好青年工作，是實現中國式現代化建設的重要戰略任務。黨的十八大以來，意識形態領域形勢發生全局性、根本性轉變，青年一代精神風貌更加積極向上，對黨的創新理論和社會主義核心價值觀認同不斷增強。青年對各種新技術最為敏感，是生成式人工智能技術使用主要受眾，是生成式人工智能潛在意識形態風險影響的重點關注人群。

中國共產黨歷來高度重視青年思想政治教育工作。隨著社會發展和科技進步，青年思想政治教育工作不斷創新發展。生成式人工智能以網絡空間為主要存在場域，必然會增強網絡虛擬空間的內容對青年的思想影響。面對生成式人工智能對青年意識形態工作帶來的沖擊，一方面要強化各類思想政治理論課改革創新，統籌推進大中小學思政課一體化建設，“不斷增強思政課的思想性、理論性和親和力、針對性”〔17〕，鞏固學校意識形態教育主陣地。另一方面，要豐富青年社會實踐教育，增進青年對國情的了解。“每一種理論上的駁斥都會逐漸轉變成對對手的整個生活情境的更為根本的攻擊”〔18〕，讓廣大青年在實踐中了解中國共產黨領導人民取得的偉大成就，充分認中國式現代化道路的歷史邏輯及中國特色社會主義制度優勢，增強馬克思主義中國化最新理論成果說服力，是有效應對生成式人工智能意識形態風險的重要手段。

（三）加大技術研發，核心技術與意識形態關聯性技術研究并重

發達國家的生成式人工智能技術創新發展，依托于算力、算法、數據等軟件和硬件技術優勢和強大的資本投入。我國生成式人工智能技術暫時落后于西方發達國家，在基礎理論、模型方法、核心算法、關鍵設備、高端芯片等方面存在一定差距。

鑒于生成式人工智能技術發展現狀及其帶來的意識形態風險，應進一步加大技術研發，努力實現整體技術水平從“跟跑”向“領跑”超越，為應對生成式人工智能意識形態風險提供技術保障。一是加強核心技術創新研究。充分發揮新型舉國體制優勢，加強基礎理論、模型方法、關鍵設備、高端芯片等的研發，從技術層面避免出現代差級技術鴻溝。二是加強技術與意識形態屬性關聯研究。當前，在討論生成式人工智能發展時，多聚焦在數據共享、技術標準、人才培養、法律制定等方面，對于生成式人工智能意識形態屬性多歸于倫理人文范疇討論，地位并不凸顯。根據生成式人工智能技術特性，應高度關注其社會輿論動員和意識形態屬性，在追求技術發展的同時，加強技術與意識形態屬性關聯研究，確保意識形態安全，是“落實互聯網企業信息管理主體責任”〔19〕的應有之義。

（四）規范行業發展，加快完善生成式人工智能技術發展制度規范

2024年3月，歐盟通過全球首個《人工智能法案》，明確要“創建符合歐盟價值觀的人工智能系統”（creating AI systems in line with Union values）〔20〕，并對違反歐盟價值觀等涉及意識形態方面內容做出禁止性約束，為制定生成式人工智能行業規范和法律法規提供了一定參考。當前，我國生成式人工智能行業處于起步階段且呈現出蓬勃發展趨勢，從政府到企業均對生成式人工智能技術發展給予極大關注。2023年4月，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》，其中明確規定生成式人工智能生成內容應“體現社會主義核心價值觀”。2024年，“人工智能+”寫入政府工作報告，表明國家層面對人工智能行業發展最新態勢的高度關注。但是，生成式人工智能發展在數據安全、隱私保護、知識產權、意識形態等方面亟需相關法律予以規范。

面對生成式人工智能意識形態風險，應有行業立法予以規范。一是要從立法層面明確研發使用生成式人工智能必須符合憲法和法律明確規定的社會主義屬性。二是要構建生成式人工智能行業意識形態工作規范。從行業自律角度出發，建立弘揚社會主義核心價值觀的行業準則。三是強化從業人員意識形態素養。生成式人工智能意識形態屬性一定程度上受技術研發人員意識形態素養影響，應從“人”出發，規范“機器”的意識形態價值取向，防范生成式人工智能技術意識形態風險。

〔參考文獻〕

〔1〕〔美〕赫伯特·馬爾庫塞.單向度的人：發達工業社會意識形態研究〔M〕.劉繼，譯.上海：上海譯文出版社，2006：10.

〔2〕〔4〕俞吾金.意識形態論（修訂版）〔M〕.北京：人民出版社，2009：1-2，2.

〔3〕許煜.論數碼物的存在〔M〕.李婉楠，譯.上海：上海人民出版社，2018：141.

〔5〕馬克思恩格斯文集：第1卷〔M〕.北京：人民出版社，2009：533.

〔6〕Zhang S，Roller S，Goyal N，et al.OPT： Open Pre-trained Transformer Language Models〔J〕.arXiv e-prints，2022.DOI：10.48550/arXiv.2205.01068.

〔7〕〔美〕克里斯托弗·斯坦納.算法帝國〔M〕.李筱瑩，譯.北京：人民郵電出版社，2014：120.

〔8〕〔德〕尤爾根·哈貝馬斯.作為“意識形態”的技術與科學〔M〕.李黎，郭官義，譯.上海：學林出版社，1999：64.

〔9〕〔美〕凱斯·R.桑斯坦.信息烏托邦：眾人如何生產知識〔M〕.畢競悅，譯.北京：法律出版社，2008：8.

〔10〕馬克思恩格斯文集：第3卷〔M〕.北京：人民出版社，2009：601.

〔11〕喻國明.Sora作為場景媒介：AI演進的強大升維與傳播革命〔J〕.青年記者，2024，（4）.

〔12〕〔澳〕尼古拉斯·凱拉.媒介與社會：權力、平臺和參與〔M〕.任孟山，陳文沁，譯.北京：中國傳媒大學出版社，2023：73.

〔13〕曾白凌.大模型、大數據、新精英：數字技術對知識生產的征服與全球性重構〔J〕.現代出版，2023，（6）.

〔14〕〔15〕習近平.論黨的宣傳思想工作〔M〕.北京：中央文獻出版社，2020：355，340.

〔16〕〔19〕十九大以來重要文獻選編（中）〔M〕.北京：中央文獻出版社，2021：283，285.

〔17〕習近平.思政課是落實立德樹人根本任務的關鍵課程〔J〕.求是，2020，（17）.

〔18〕〔德〕卡爾·曼海姆.意識形態與烏托邦——知識社會學導論〔M〕.李步樓，尚偉，祁阿紅，朱泱，譯.北京：商務印書館，2014：65.

〔20〕Artificial Intelligence Act〔EB/OL〕.European Parliament， https：//www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html【責任編輯：歐 露】