數字空間意識形態安全的風險防范與治理回應

[摘要] 意識形態作為借助媒介進行傳播的社會精神產物，在傳播過程中難以避免風險，元宇宙與ChatGPT技術的發展造就了虛擬社群，使得意識形態安全在數字空間內同樣面臨新的風險與挑戰。通過對元宇宙與ChatGPT的技術考察，我們發現數字技術發展帶來的風險與挑戰具體表現為：信息產生方式變化、算法支配信息加大信息繭房、價值前見破壞技術中立、削弱自主思考能力等。面對以上風險，國家需要作為主要推進力量，健全法律法規、推進技術中立，建立算法準入制度，聚焦技術的社會公益與公共服務屬性，在保護數據資產的同時鼓勵數據創新，從而維護意識形態在數字空間中的安全。

[關鍵詞] 數字空間 意識形態安全 技術中立 算法準入

[基金項目] 本文系四川省高校思想政治理論教師培訓中心項目“新時代大中小學思政課課程內容一體化構建研究”（項目編號：SZQ2021051）、2023年河南省哲學社會科學規劃項目“數智賦能推進國家安全體系和能力現代化研究”的階段性成果。

[作者簡介] 趙燕萍，河南警察學院公安專業基礎教學部講師，研究方向為警察法、行政法;陳敘龍，遼寧師范大學馬克思主義學院副教授，研究方向為思想政治教育、大學生就業創業。

[中圖分類號] D64

[文獻標識碼] A

[文章編號] 1008-7672（2024）05-0016-14

“元宇宙”一詞出自作家尼爾·斯蒂芬森（Neal Stephenson）的科幻小說《雪崩》。在該小說中，人類通過“數字替身”（avatar），在一個虛擬三維空間中生活，作者將那個人造空間稱為元宇宙?；ヂ摼W界目前對于元宇宙的共識是：它是從互聯網進化而來的一個實時在線的世界，是由線上、線下多個平臺打通所組成的一種新的經濟、社會和文明系統。①而于2022年11月上線的ChatGPT則是由美國人工智能實驗室OpenAI開發的人工智能聊天機器人應用。ChatGPT以大型語言模型和機器深度學習為基礎，以人工智能算法為邏輯底色，是由智能系統組網、大數據支撐、算法提供動能、人類參與指導并建構的虛擬“國度”。②

元宇宙與ChatGPT的共性在于，一是兩者都跨越了物理世界和虛擬世界，二是在兩者內部的空間中，人的主體意識介入數字空間之中并存在大規模的交流。因此，意識形態在數字空間中具有產生與發展的機會，隨之而來的衍生風險則成為影響未來社會穩定發展的潛在危機。

本文通過對元宇宙與ChatGPT的技術考察，探討了數字技術發展過程中，意識形態在數字空間中的演變以及由此產生的風險，在此基礎上對風險的治理做出了進一步回應。本文考察的核心問題是：意識形態在數字空間中是如何運行的？在從元宇宙到ChatGPT等生成式人工智能的發展過程中，數字空間中意識形態安全的風險是如何變遷的？又該通過何種方式有效應對數字空間意識形態安全的風險？

一、 主體與技術：數字空間意識形態安全的風險邏輯

意識形態是一定社會的階級、集團基于自身利益對現存社會關系自覺反映而形成的認知體系，由一定的政治、法律、哲學、道德、藝術、宗教等社會學說及觀點所構成。③它反映了一個人或一個團體對于社會問題的認識和態度，包括對權力、經濟制度、社會關系、文化傳統等問題的觀點和立場。意識形態是人類的觀念和信念的組合，是對世界的看法和評價體系，其產生和發展受到歷史、文化、社會等多種因素的影響，是人類集體意識的結晶，并影響人們的價值觀、行為準則和社會角色的選擇。數字空間是從元宇宙和ChatGPT等人工智能技術中提煉出來的共性特征，數字空間意識形態安全風險的產生，有著較為清晰的基本邏輯。

（一） 風險起點：意識形態的本質是一種精神產物

意識形態本身具有精神產物特質，是闡釋數字空間意識形態安全風險的起點。作為一種精神產物，意識形態的形成與塑造深受語言表達模式的影響。社會性精神產物的形塑是借助權威性的語言系統為特定理念賦予正當性與合法性，從而夯實其表達基石的過程。在當今這個數字化傳媒異軍突起、話語權力布局經歷重塑的時代背景下，意識形態話語之間的互動已由原先的個人行為轉變為大眾的共同參與。數字化技術為眾多參與者構建了一個緊密相連的交流空間，使得他們能夠團結起來，共同表達心聲、追求共同愿景，并在此過程中尋找共鳴與歡樂。對于精神產物創造而言，數字技術所倡導的集體創作邏輯與實踐社群理念，無疑在提升集體認知、激發集體智慧方面發揮了積極作用，為創造豐富多彩的社會精神產品提供了更加廣闊的平臺，也進一步推動了創新力的釋放。然而，這種以多元主體與多樣生產方式為特征的“集體式”精神產物生產模式，同樣孕育著潛在的風險。它在某種程度上打破了原創與復制之間的清晰界限，削弱了核心敘事的主導地位，從而對主流意識形態的權威性構成了潛在的挑戰。

一方面，隨著精神產物創作主體的日趨多元化，意識形態話語主體正面臨著發聲空間被擠壓的困境。個體賦權的廣泛實現，推動了精神創造物生態向多樣化和狂歡化的方向發展，用戶生成內容的井噴式增長不僅帶來了精神產物數量的激增，也導致了精神產物質量的參差不齊。這種局面的出現，部分歸因于創作門檻的降低和資本邏輯的影響。它們共同作用，使得精神產物的知識性和價值性逐漸被娛樂性所侵蝕。在“流量至上”的創作動機驅使下，用戶往往傾向于對原始文本進行改編、挪用甚至顛覆性地再創作，這導致那些蘊含規范和約束的意識形態產物被邊緣化，其話語在數字參與空間中逐漸被自由放縱和“逐利起舞”的聲浪所淹沒。

另一方面，新式精神產物創作形式催生了戲仿、拼貼等新型敘事方式的興起，這些方式對意識形態話語內容構成了嚴峻挑戰。衍生影像產物的再生產和影像符號體系的轉譯，使得作品生產逐漸遵循“盜獵—拼貼—轉譯”的意義輸出模式。在這一模式下，作品內容經歷了從不可見之物到可見之物，甚至是廣受歡迎之物的轉變。這種轉變導致宏大而嚴肅的意識形態話語內容在某些情況下被重新解讀和利用，成為“情感共同體”表達情感、構建認同的工具。在這種語境中，用戶群體往往通過戲謔狂歡的方式抵制主流話語、解構權威，以實現情感的宣泄和共同體的凝聚。這反映了數字時代精神產物創作的復雜性和多樣性，以及其所包含的對于意識形態話語穩固體系的挑戰。

（二） 風險過程：意識形態安全在傳播中遭遇風險

意識形態安全的風險，以其本身精神產物的特質為起點，而最大的風險則是在意識形態傳播過程中產生的。數字技術的發展對于意識形態傳播的影響日益凸顯。意識形態作為服務于權力的意義體系，不僅是抽象的思維構建，而且是一種具體而微的象征形式的社會運用。它的傳播過程涉及媒介選擇、機構布局以及對時空距離的精準把握等多個復雜而微妙的層面。在當今認知盈余的時代背景之下，傳統的傳播邏輯和信息邊界逐漸被打破。新型的傳播方式不再僅僅滿足于信息的簡單傳遞，而是更多地融入了特定場景中的情感與關系元素，從而使得傳播內容更加富有情感性和生動性。數字參與空間中的交互式場景傳輸正是這一新型傳播模式的典型代表。它將用戶的身份認同、情感體驗與社交互動三者緊密地結合在一起，為用戶打造了一種前所未有、更深層次的沉浸式體驗。這種沉浸式的傳播框架，無疑極大地提升了用戶的感官享受，使得傳播內容更加生動和真實。與此同時，它也成功地消除了傳統媒介所帶來的疏離感和距離感，使得用戶能夠更加深入地融入傳播情境之中。盡管數字技術所帶來的交互式場景傳輸具有如此多的優點，但我們仍然不能忽視其所帶來的挑戰和問題。由于過于強調具象和感性，它往往會對抽象和理性產生一定的排斥作用;而其瞬時性和碎片化的特點，也可能會對意識形態信息的持續性和連貫性構成威脅，從而阻礙信息的有效流通和傳遞。

一方面，新型的交互式場景已經對傳統的閱聽秩序進行了深刻的解構與重塑。這一變革不僅擾亂了意識形態信息原有的流通空間，還在很大程度上對其進行了壓縮。在數字技術的驅動下，信息的生產和接收過程變得異常靈活與自由，這無疑對基于傳統信息接收體系的意識形態信息傳播模式構成了巨大的沖擊。與此同時，公眾的角色也發生了顯著變化，他們不再是被動地接收信息，而是在參與和交互的過程中被賦予更多維度的信息解讀權力。這種權力的下放使得以“議程設置”為代表的意識形態編碼方式面臨前所未有的挑戰。此外，數字場景力的不斷強化進一步加劇了感性信息的流行，這類信息能夠深入人心，引發強烈的情感共鳴，從而在某種程度上阻礙了意識形態信息的流通。

另一方面，交互式場景傳輸所具備的快速性與即時性特質，已經深刻地改變了公眾在信息消費層面的行為模式。公眾如今常常在不同的信息源之間進行迅速切換，這種行為模式導致意識形態信息的流通時間被嚴重割裂，呈現出一種斷續、不連貫的狀態。同時，為了迎合公眾對于感官刺激的強烈需求，各類傳播符號也不得不以碎片化、快速流動的形式來呈現信息，以期在瞬息萬變的信息海洋中捕捉公眾的注意力。這種碎片化的信息接收方式不僅削弱了公眾對同一信息的持續關注能力，使他們難以對某一信息保持長久的興趣，還阻礙了公眾對信息的深入思考和理解。在碎片化的信息海洋中，公眾往往只能捕捉到信息的表面，而無法深入其內核，理解其深層含義。因此，具有知識深度和內容連貫性的意識形態信息在這種環境中難以獲得公眾的持續關注，其有效流通也受到嚴重的阻礙。

（三） 風險主體：虛擬社群觀點交互導致風險增加

所謂虛擬社群，是指在數字中由網絡參與主體自發形成的關系松散卻聯系緊密的非結構化的組織群體。①虛擬社群是數字空間中意識形態安全風險產生的主體，虛擬社群觀點交互的過程是導致意識形態安全風險增加的主要環節。

虛擬社群的形成與持續發展，其根本驅動力在于成員間的價值認同。這種認同不僅體現在個體對社群文化的接納與內化上，還存在于群體間共享的價值觀念與社會結構之間的共鳴之中。它遵循著從“個體認同”到“群體凝聚”再到“社會整合”的遞進邏輯，構建了一個多層次、動態演化的認同體系。在這個體系中，現實的虛擬社群生態成了一個重要的載體和平臺，它承載著價值認同的建構、傳播與強化的過程。在數字技術的浸潤下，虛擬社群成了信息交流、情感表達和社會參與的重要場所。個體的身份建構在這里得到了前所未有的凸顯，而共同的興趣愛好和圈層歸屬則成了社群凝聚力的源泉。在虛擬社群的語境中，節點傳播模式的盛行不僅賦予了個體更大的自主權和話語權，也使得信息傳播更加迅速和廣泛。每個節點上的個體都可以自由地創造、分享和消費文本或信息，這使得具有相同興趣的信息流能夠在短時間內匯聚成一股強大的力量，進而形成一個個獨具特色、身份獨立的圈層。這些以興趣為紐帶的圈層社群不僅為個體提供了情感歸屬和身份認同的空間，更在無形中塑造著他們的價值觀念和行為方式。然而，虛擬社群背后的流動性和疏離性也為意識形態價值認同帶來了新的挑戰。如何在享受虛擬社群帶來的便利與愉悅的同時，應對這些挑戰并維護意識形態的穩定與統一，成為亟待解決的問題。

一方面，虛擬社群中身份的多樣性在一定程度上削弱了個體對主流價值的關注度。在數字空間中，由于各類社群層出不窮，且主題豐富多樣、準入門檻相對較低，個體得以在不同的社群間自由游走，并擁有多重身份標識。這種跨社群的交往方式使得個體在身份定位上呈現出一種游移不定、缺乏穩定性的狀態。隨著多重身份的疊加與頻繁轉換，個體的價值認同也趨于碎片化和即時性，難以形成穩定、持久的價值觀念。同時，不同價值觀念的不斷更迭和傳輸，也進一步加劇了個體對主流價值的忽視和疏離。

另一方面，虛擬社群內成員之間基于身份認同所建立的情感紐帶，對群體內部的價值基礎起到了鞏固作用。這種情感歸屬使得社群成員形成了共同的價值聚焦點，并對社群內的意見領袖產生了價值權威認同。這種價值權威性在維護社群統一價值基礎的同時，也加劇了社群間價值認同的排他性。與此同時，數字交流方式具有傳染性和擴散性，它直接在情感或情緒層面上進行傳播，使得社群間的封閉性和對立性進一步加劇。這種排他性和封閉性不僅阻礙了不同社群間的交流和理解，也容易導致極端思想和偏見的產生和傳播，進而動搖社會意識形態的基礎。

從宏觀視角來看，整個數字社群的生產邏輯呈現出一種突破常規，甚至是抵抗常規的鮮明傾向。在數字空間的廣闊疆域內，社會成員得以暫時脫離現實社會關系的重重枷鎖，完成角色的自由轉換。這種轉換為他們提供了機會，使其更容易擺脫傳統價值觀念的深層束縛，進而催生出與主流價值觀念背道而馳卻又具有高度傳染性的文本內容。此類內容在數字社群的密集網絡中迅速傳播，而主流價值觀念卻難以有效地滲透這一領域并發揮其應有的引導作用，由此不僅可能加劇數字社群與傳統社會之間的價值觀念斷裂，還可能對整個社會的價值觀念和意識形態認同產生深刻而長遠的沖擊。

二、 危機之呈現：數字空間意識形態安全的風險類型

隨著元宇宙概念的提出與快速發展，以ChatGPT為代表的生成式人工智能被大規模應用，由線上線下共同組成的數字空間已經逐漸成為社會生活的重要切面。在數字空間中，意識形態也面臨著自生自發、算法技術歧視以及創新日漸弱化等一系列風險。

（一） “生成式”風險：從資本操控到自生話語

元宇宙在“成為建構生產方式的本體的同時，也成為服務于資本邏輯的意識形態力量”。①資本把客體化的世界和人類都當作謀利的工具，在資本邏輯的驅動下元宇宙作為數字經濟發展的新賽道，成為資本逐利的新市場。元宇宙是資本驅動并由技術集成的融合現實世界和虛擬世界的虛實融通的現實鏡像世界。①2022年以來，全球范圍內資本不斷涌入元宇宙領域。就我國而言，數字化轉型已成為國家重點戰略發展方向，元宇宙作為產業發展的未來形態，將能夠充分打開產業數字化轉型發展的新空間。②元宇宙是技術邏輯和資本邏輯的統一體，在規范和引導資本進入元宇宙領域時要特別注意，資本邏輯對技術邏輯的統攝導致的資本野蠻擴張和技術風險加劇都可能會使元宇宙“步入歧途”，使得資本邏輯主導的元宇宙成為意識形態滲透的新工具。③

ChatGPT等生成式人工智能和以往技術生產導致意識形態問題的不同在于意識形態風險問題的滋生從信息傳播向信息生成轉變，開啟了意識形態風險治理的新時代。同時，生成式人工智能利用人工智能技術自動生成內容?；诟咚懔?、大數據、強算法等多方面技術突破，生成式人工智能實現了高質量、高效率、多樣化的內容生產。生成式人工智能從底層的基礎模型開始即可對終端的服務應用層內容產生直接影響，呈現出技術支持、服務提供與內容生產“三位一體”的技術形態。④但這種內容生產方式徹底改變了內容傳播的風險模式，可能會沖擊國家主權獨立，造成數字技術霸權從而威脅政治安全和意識形態安全。⑤生成式人工智能所生成的內容不僅包括文本、圖像、音頻、代碼等外顯性內容，同樣包括價值、觀點、策略、邏輯等內隱性內容，兩種明暗交織的內容生成邏輯在反映一定意識形態的同時，也重構著原有的意識形態。具體而言，生成式人工智能在意識形態價值觀念層的嵌入邏輯是以內容生成為基點，經由大數據的收集檢索和對算法推送的系統整合，以內容生產者的角色在意識形態領域內實現全方位的價值觀念重構。⑥人工智能技術有可能被西方國家所利用，生產詆毀抹黑中國特色社會主義制度的信息，通過引誘青少年獲取和觀看達到灌輸西方意識形態的目的。例如，從獨聯體國家接連發生的“顏色革命”到“阿拉伯之春”的動蕩，西方國家一直將意識形態領域視為其進行政治干預和顛覆他國政權的關鍵突破口。他們利用精心設計的煽動性政治話語，在精神與現實兩個層面不斷挑動和放大社會的不滿情緒，以此作為實現其政治目的的重要手段。在精神層面，西方國家通過媒體、網絡等渠道，大肆宣揚所謂“民主”“自由”等價值觀，試圖瓦解目標國家的民族認同和國家凝聚力。他們利用話語權的優勢，將復雜的政治問題簡化為二元對立的選擇題，誘導民眾在情緒化的狀態下做出符合西方國家利益的選擇。在現實層面，西方國家則通過支持反對派、操縱選舉等手段，直接干預目標國家的內政。他們利用煽動性的政治話語，制造和擴大社會矛盾，煽動民眾對現政權的不滿和反抗，最終達到顛覆政權的目的。這種以意識形態領域為突破口的政治干預模式，不僅嚴重破壞了目標國家的政治穩定和社會發展，也損害了國際關系的公平與正義。因此，對于西方國家在意識形態領域的滲透和顛覆活動，我們必須保持高度警惕，并采取有效的措施加以防范和應對。

對此，我國《生成式人工智能服務管理暫行辦法》第四條明確規定，“提供和使用生成式人工智能服務……不得生成煽動顛覆國家政權、推翻社會主義制度、危害國家安全和利益、損害國家形象……的內容”。但從目前來看，隨著意識形態風險問題從信息傳播向信息生成的轉變，現有“技術支持者—服務提供者—內容生產者”模式的網絡治理框架已不符合監管要求，亟須完善。

（二） “智能性”風險：從空間交往到算法支配

元宇宙是人類社會的深度媒介化，意味著人類社會數字化程度的加深，在客觀上為西方國家意識形態“信息繭房”的擴散和蔓延創造了更好的條件。虛擬環境是由人的意識和體驗組成的主觀世界，這個主觀世界的形成是由大眾媒介造成的。元宇宙是擬態媒介的超級形態。①媒介必然帶來語言和思想的交互傳授，“傳授一種空洞的語言是不可能的，傳授語言的過程本質上就是傳授意識形態的過程”。②元宇宙作為超級媒介，時時刻刻把人包裹在“信息繭房”中，這為全面和廣泛地灌輸意識形態提供了土壤?；谠钪鎻姶蟮膫鞑チ?，要謹防部分西方國家以元宇宙所制造的“信息繭房”為工具，不斷傳播與社會主義核心價值觀相悖的思想認識。這種封閉的信息空間成為負面輿論的溫床，限制了人類的認知。在這樣的環境中，人們容易被單一、簡化的數字意識形態話語所左右，難以形成多元化的價值共識，從而導致主流意識形態話語權受到嚴重擠壓。若不加以提防，眾多網民的思想體系則會在“信息繭房”的不斷浸淫下被重新塑造和扭曲，極易引發群體性極端思想災難。

ChatGPT在從信息傳播向信息生成轉變的過程中被算法技術操縱，“信息繭房”由此產生并最終強化了某些特定個體或群體的觀點，甚至引發更大的群體極化風險。在內容生產變革中，算法推薦實現了從“人找信息”到“信息找人”的轉變。生成式人工智能直接跨越了人類對知識的生產過程，實現了從“提供信息”到“呈現答案”。很多既有研究表明，生成式人工智能的大語言模型會從訓練數據中復制有害的社會偏見和刻板印象。由于大型語言模型的核心能力來自訓練數據，訓練數據基本上是人類語言和文本的表達，而且其規模巨大，因此模型不可避免地會捕獲和獲取訓練數據中的偏見和歧視。不僅如此，大語言模型的自主學習和持續迭代可能把訓練數據中的偏見和歧視固化在模型中并進行放大，陷入歧視性的反饋循環，從而生成人類無法擺脫的“信息繭房”。③人類被囚禁在“信息繭房”中，不斷被定向灌輸某種特定的語言、思想和觀念。久而久之，在“元宇宙”這一虛擬世界之中，技術帶來的沉浸體驗可能讓人偏安于虛擬的繭房之中而無視現實的勞動生產，也有可能因為資本籌劃、文化滲透等因素形成在意識形態方面極端錯誤的虛在群體，甚至在元宇宙“信息繭房”野蠻生長的情況下，不同的信息繭房可能會形成自身的“意識形態”并且威脅主流意識形態的安全。①

（三） “倫理性”風險：從技術中立到注入前見

技術中立理論認為，技術是不含價值取向的工具。雅克·埃呂爾（Jacques Ellul）主張，技術具備自主性，能夠實現自我主宰，并不會被人類設定的目的或價值左右。②元宇宙基于真實的3D體驗與情境交互建構起沉浸式虛擬情境，能夠通過實時交互的立體空間重構用戶的情緒感官體驗。而ChatGPT則是將智能體架構、認知架構和包容式架構進行整合，以海量的數據庫或語料庫為基礎，通過構建“有聯系的整體”生成新的智能化文本以輔助人類更便捷高效地學習。③相較于ChatGPT而言，元宇宙排除了物理世界的存在，賦予人類以數字身份在數字空間中正常開展生產生活活動的可能。

在元宇宙的空間視域中，雖然資本操控下的工具屬性使其在一定程度上存在潛在的意識形態風險，但更多的是用戶在使用過程中“實時”注入的個人觀點和群體傾向。從工具論的角度看，元宇宙作為數據信息的集合體，能夠以其多元化的價值內容和具身化的感官體驗提升意識形態的實踐效能。④但是，在元宇宙空間中，人類能夠以數字身份在現實世界與數字世界自由穿梭，現實世界中的價值理念和意識形態等內容極易根據人類存在場域的變化而延展至虛擬空間，進而導致元宇宙空間在發揮意識形態功能的過程中顯現出倫理性風險。在這一過程中，盡管人工智能、虛擬現實、區塊鏈等數字技術在其中起到關鍵作用，能夠幫助意識形態內容實現向虛擬空間的動態化、實時化、全面化介入，但元宇宙作為意識形態傳播工具本身，仍然表現出明顯的技術中立屬性和工具價值。

在ChatGPT的應用過程中，技術資本邏輯主導下的工具屬性使其在開發階段便已經蘊含設計者的價值理念，其自身標榜的絕對“客觀中立”難以成立。作為內容生成式的新型傳播媒介，ChatGPT以大規模數據庫和預訓練語言模型為基礎，極易通過注入前見操縱用戶的價值觀導向，進而導致公眾陷入意識形態價值認知的混亂狀態，甚至出現“國家偏見”“民族偏見”“文化偏見”“個人偏見”等倫理問題。⑤ChatGPT不僅能夠把人詢喚為服從的主體，還可能有意無意地將非英語話語的人“生產”為他者。⑥在我國，由于中文語料的缺乏以及語言文化的差異，ChatGPT在參與意識形態傳播過程中，極易削弱國家意識形態話語權的主導地位，擾亂意識形態傳播秩序，為其他國家插手我國主流價值觀建構提供可乘之機，甚至威脅國家的政治安全與文化安全等。

（四） “創新性”風險：從固化創新到削弱創新

本質上，元宇宙是一個與現實世界交互的巨大虛擬世界。它通過數字的方式呈現各種業態場景和社會互動，展現出無窮的數字可塑性和符號創造力。①這是一個由數字構建，但又極具現實感的世界。元宇宙的出現，讓我們有了一個全新的空間去創新和實現想法。在這個空間里，我們可以通過數字財產、游戲存檔等方式將創新能力固化。盡管它可以讓我們的創新能力得到固化，但這種固化只存在于虛擬世界中，無法轉化為現實世界的具體產物。另外，元宇宙的“娛樂至死”特性可能對用戶產生不良影響。在元宇宙的世界中，用戶可能會沉浸在無限的資源和空間中，實現他們的任何想法。然而，這種無限可能的虛擬世界可能會引發虛擬與現實的巨大割裂。在現實世界中，資源和空間都是有限的，這種有限性可能會給那些曾在元宇宙中享受過無限可能的用戶帶來沉重的打擊。更為嚴重的是，人們可能會在這種割裂中更加傾向于選擇元宇宙——這個看似“世外桃源”的虛擬世界，以此來逃避現實中物質層面的缺失和精神層面的不滿足。這無疑是一種危險的趨勢，因為它可能導致人們逐漸失去對現實世界的認知和感知，進而影響他們的生活和工作。

ChatGPT的存在可能會對人類的思維深度和感受力產生影響，這主要是由于它無法生成多元化的觀點。過度依賴技術可能會導致思維模式的僵化和行為的異化，從而削弱我們的創新能力，使我們逐漸成為“數據的囚犯”。②這主要體現在以下幾個方面：第一，ChatGPT的預設響應有其固有的局限性。它主要依賴于機器學習算法生成的預設響應，雖然這些響應是基于模式和數據分析的，但它們缺乏人類創造力帶來的深度和微妙差異。與提供有限和可預測響應的人工智能系統交互可能會抑制我們的想象力，并限制我們對不同觀點的探索。第二，過度依賴人工智能生成的內容可能會導致真實性和原創性的喪失。當我們使用自己的獨特經歷、情感和觀點時，創造力就會得到充分發揮。然而，如果過度依賴人工智能生成的內容，就可能會失去這種真實性和原創性。第三，使用ChatGPT作為信息和對話的主要來源可能會削弱我們批判性思維的能力。當我們習慣于接受人工智能生成的答案而不去質疑或審視它們時，我們的批判性思維和獨立評估信息的能力可能會逐漸減弱。第四，人們輕易獲取大量的信息，會產生一種虛假的專業知識感。ChatGPT可以提供快速的答案和解釋，給人一種知識全面的錯覺。然而，真正的專業知識需要對概念作深入理解、批判性分析并進行實際應用，而這些都是人工智能無法提供的。第五，過度依賴ChatGPT可能會抑制我們的想象力和解決問題的能力。人工智能生成的建議可能會限制我們對非傳統思想和應對挑戰的新方法的探索。對ChatGPT的依賴可能會阻礙我們跳出思維框架，人類獨立開發創新解決方案的能力發展將受到極大限制。

三、 現代化治理：數字空間意識形態安全的風險防御

在當前數字空間中，意識形態安全問題日益突出，呈現出多樣化、復雜化的形態。隨著數字技術的快速發展和廣泛應用，虛擬空間已經成為人們交流、表達、獲取信息的重要平臺。然而，正是由于其開放性和無邊界性，數字空間也孕育著各種意識形態風險，給社會穩定和個人權益帶來了巨大挑戰。為了有效防御風險，我們應當從多方位入手，對數字空間進行現代化治理。

（一） 推進技術獨立，完善意識形態安全制度架構

當前數字技術作為資本邏輯的產物帶來了新型意識形態風險，這些風險包括但不僅限于對信息的操控、意識形態的扭曲以及對個體和社會價值的侵蝕。為了應對這些風險，我們應推進技術獨立，完善意識形態安全制度架構。

推進技術獨立是保障數字空間意識形態安全的關鍵。首先，我們應摒棄資本對新技術的完全操控，形成人工智能技術的國家力量。當前，人工智能技術的發展正受到一些大型科技公司的主導，這可能導致技術濫用和意識形態出現偏頗。為了避免這種風險，國家應加強對人工智能技術的關注和引導，投入更多的資源和精力，培養和發展本國的人工智能技術，確保技術的安全性和自主性。人工智能技術的快速發展對國家的意識形態安全帶來了新的挑戰，雖然一些大型科技公司擁有巨大的資金和技術實力，掌握了人工智能技術的核心資源，但是這些公司往往更關注商業利益，而非國家的意識形態和安全。因此，國家需要加強對人工智能技術的關注和引導，通過政策和資金支持，培養和發展本國的人工智能技術，形成技術的國家力量。①同時，國家還應通過政策、法律和規范的制定，建立起合理的監管機制，以確保人工智能技術的發展符合國家的意識形態和利益。人工智能技術的應用中涉及的數據隱私、信息安全等問題需要得到充分的保護和監管。國家應加強對人工智能技術的監管，制定相關法律法規和規范，明確技術的邊界和責任，確保人工智能技術的安全和可控。②

其次，我們需要追蹤西方新的生成式人工智能的前沿，有效解決生成式人工智能“卡脖子”問題。生成式人工智能是一種強大的技術，具有自主學習和創造的能力，但也存在潛在的風險。西方國家在這方面的研究和發展領先于中國，他們不斷推出新的生成式人工智能技術，擁有更高水平的技術能力和創新能力。為了確保技術的安全和可控，我們應加強對西方新的生成式人工智能技術的跟蹤和研究。我們可以通過積極研究和探索，了解生成式人工智能的最新發展動態，發現其中的安全隱患和問題，并探索解決方案;通過自主研發和創新，取得生成式人工智能領域的突破，發展出安全可控的技術，這不僅能夠提升國家的技術實力，還能夠確保技術的安全和自主，保護國家的意識形態安全。

此外，完善意識形態安全制度架構是數字空間意識形態安全的重要保障?？茖W準確地進行制度設計，為元宇宙空間中各個行為主體樹立行為標尺、明確行為禁區，是維護未來數字空間意識形態安全、保障元宇宙社會良性發展的必由之路。①國家應通過政策、法律和規范的制定，建立起合理的監管機制，以確保人工智能技術的發展符合國家的意識形態和利益。這些政策和法律應該明確規定人工智能技術的邊界和限制，防止其被濫用成為扭曲國家價值觀和牟取利益的工具。在制定這些政策和法律時，需要考慮到技術發展的動態性和多樣性。人工智能技術的發展日新月異，不斷涌現出新的應用和潛在風險。因此，監管機制需要具備適應性和靈活性，能夠及時跟進和調整，以應對不斷變化的意識形態安全風險。同時，監管機制還應該注重平衡創新和安全的關系。人工智能技術的發展需要鼓勵創新和實驗，但也需要避免對社會和個人權益造成潛在威脅。

（二） 規范算法準入，為算法的應用注入公益底色

為了保障算法的應用安全和公益性，我們需要構建準入機制、發布準入清單，為算法技術的進入和退出架構起安全過濾屏障。同時，要加強算法創造，規范公共性算法的語言訓練，從算法學習的起點進行有效規制。

一方面，構建準入機制和發布準入清單是保障算法應用安全的重要手段。準入機制是指通過一系列的審核和評估程序，對算法進行篩選和審查，以確定其是否符合準入標準。準入標準可以包括算法的安全性、可靠性、隱私保護能力等方面的要求。準入機制應該是透明、公正、可行的，確保不同類型的算法都能夠接受相應的審核和評估，并且能夠及時適應技術的發展和應用的需求。準入清單需明確列出哪些算法是被允許使用的，哪些算法是被禁止使用的，以供社會各界參考。準入清單應該明確列出被準入算法的基本信息、應用領域、使用限制等內容，使公眾能夠了解和評估這些算法的特點和潛在風險。準入清單的發布應該是及時的，以保證社會各界能夠及時獲取最新的信息，避免不合規的算法被濫用或誤用。②

通過構建準入機制和發布準入清單，可以防止不安全、有害或被濫用的算SwQfF4diMuyrIOSCK7TPT8+qQRBVpjd8bfBiIaovFJE=法進入社會。準入機制和準入清單應由國家或相關機構制定，并定期更新和完善。在制訂準入機制和準入清單時，需要考慮到算法的技術特點、應用領域的需求以及社會的公共利益，確保算法的應用符合科學、安全、公正的原則。不同類型的算法具有不同的特點和潛在風險。因此，準入機制和準入清單應該針對不同類型的算法進行細化和分類，確保審核和評估的準確性和全面性。同時，應用領域的需求也應該被納入考慮，以確保準入的算法能夠滿足實際應用的要求。在制訂準入機制和準入清單時，還需要考慮社會的公共利益。算法的應用可能對個人隱私、社會公正等方面產生影響。也就是說，準入機制和準入清單應該確保算法的應用符合社會公共利益的要求，避免對個人權益和社會穩定造成不利影響。

另一方面，算法創造是算法應用安全的基礎，只有具備公共性和安全性的算法，才能為社會帶來真正的公益。因此，我們需要加強對算法創造的規范和引導。要規范算法的語言訓練，確保算法不會出現偏頗、歧視或有害的問題。語言訓練應遵循科學、公正、中立的原則，杜絕算法對個人或特定群體的歧視和侵害;要從算法學習的起點進行有效規制，注重算法的道德教育和公益意識培養。①算法學習不僅是對技術能力的培養，更應該注重對人文素養的培養，使算法從一開始就具備公益底色和社會責任感。此外，還應加強對算法創造者的監督和評估，建立起一套完善的算法倫理評價體系，對算法的創造和應用進行全面的監管和評估。②

（三） 回歸工具價值，聚焦人工智能的公共服務性

為了確保人工智能應用的公共服務性，就要使其回歸工具價值，并聚焦于技術中立和有效監督兩個方面。一方面，我們應確立人工智能應用的“倫理”，即要求人工智能設計者的價值理念應當遵循技術中立的精神。雖然當前的生成式人工智能能夠對某些問題產生獨到的回應，但這種回應應該基于一種價值中立的“訓練”。技術中立意味著人工智能設計者和開發者在設計和訓練人工智能系統時，應避免將個人或特定群體的偏見或意識形態引入算法中。人工智能應該以公正、客觀和中立的方式對待問題，并根據事實和數據做出回應。為了實現技術中立，我們需要在算法的設計和訓練過程中，建立嚴格的倫理規范和監管機制，確保算法的應用不會對個人或特定群體造成歧視或傷害。

另一方面，我們需要做好監督工作，對可能出現的意識形態安全風險進行有效的預判和防范。③人工智能的應用涉及社會的各個方面，可能會涉及敏感的政治、宗教、種族等問題。因此，我們需要建立起一套有效的監督機制，對人工智能的應用進行全面監測和評估，及時發現和解決可能存在的問題和風險。監督工作應該包括對算法的審查和評估，以及對算法應用的監測和反饋。至于算法本身，需要建立一個獨立的專業機構或專家團隊，負責對算法進行審查和評估，確保其符合技術中立和倫理要求。至于算法應用，需要建立起一個全面的監測系統，對算法應用的數據來源、算法決策過程和結果進行監測和反饋。同時，還需要建立起反饋機制，讓用戶和受影響的群體能夠及時反饋問題和意見，以便及時進行調整和改進。

總之，回歸工具價值，聚焦人工智能的公共服務性是確保人工智能應用安全性和可信度的重要舉措。我們應確立人工智能應用的“倫理”，要求技術中立，并建立起有效的監督機制，對意識形態安全風險進行預判和防范。在推進工作時，我們需要強化各方的責任和合作，共同推動人工智能的公共服務性，為社會帶來更多的利益和福祉。

（四） 培植創造力，完善數字空間創新管理制度

為了應對“娛樂至死”和“數據囚徒”等虛擬生活狀態對意識形態認同的價值基礎的消解，我們需要在數字空間內部培植創造力，并同時約束創造力，以實現在數字空間創新的同時防止不良用戶濫用權力。

首先，我們應在數字空間內部培植創造力。數字空間作為一個充滿無限可能性的創新領域，應鼓勵用戶發揮創造力，生產更多有價值的內容。可以通過提供相關的教育和培訓機會，激發用戶的創造潛能，并提供必要的資源和支持。同時，數字空間平臺也可以通過舉辦創新競賽、設立創新基金等方式，鼓勵用戶積極參與創新活動，并給予適當的獎勵和認可。與培植創新力相對應的是約束創造力。雖然創新是數字空間的重要驅動力，但必須在確保創新的同時不違反法律法規和道德倫理。因此，我們需要建立健全管理制度來約束數字空間中的創新行為，防止不良用戶利用創新為非法活動提供便利，及時發現和處理違法違規行為，并對違規用戶進行懲罰和追責。

其次，我們應通過保護數字資產、激勵創新制度等方式提高用戶的自主創造性，破解“數據囚徒”困境。大數據具有極大量、多維度、相關性等特質。①當前，許多用戶在數字空間中產生了大量的個人數據，因為用戶無法完全掌控和支配自己的數據，這些數據被稱為“數據囚徒”。為了解決這一問題，我們需要建立起一套完善的數字資產保護機制，使用戶能夠擁有對自己數據的所有權和控制權，同時加強對個人數據泄露和濫用的監管，確保用戶的數字資產不被非法侵犯。②一方面，數字資產保護機制應確保用戶對個人數據的所有權，這意味著用戶應有權決定自己的數據如何被收集、存儲、使用和分享。數字資產保護機制可以包括個人數據權益聲明、數據使用許可協議等制度，確保用戶在使用數字服務時能夠自主選擇數據的使用方式，并有權拒絕不符合自己意愿的數據使用行為。另一方面，數字資產保護機制應提供用戶對個人數據的控制權，即用戶應能夠隨時訪問、修改和刪除自己的數據。數字資產保護機制可以通過建立統一的個人數據管理平臺，使用戶能夠方便地管理自己的數據。同時，用戶還應有權將自己的數據共享給其他組織或個人，但前提是要確保共享行為符合用戶的意愿和利益，并且得到用戶的明確授權。

最后，數字資產保護機制、激勵創新制度也是提高用戶自主創造性的重要手段。通過對用戶使用和分享自身數據的行為進行經濟獎勵或其他非經濟獎勵，可以鼓勵用戶積極參與數字空間的創新活動。例如，用戶可以選擇將自己的數據提供給研究機構或企業，用于科學研究、產品開發等領域，并從中獲得一定的回報。這樣的激勵機制可以增強用戶對自己數據的認同感和參與度，進而促進數字創新的發展。此外，我們還可以通過教育和宣傳活動，增強用戶對數字資產保護的意識和能力。用戶應了解自己的數字資產價值，學會合理利用和保護個人數據。同時，政府和有關機構也應加強對數字資產保護的法律法規的制定和執行，為用戶提供更加安全和可信賴的數字環境。

四、 結語

在元宇宙以及ChatGPT兩者的共同作用之下，原有的數字虛擬空間變得更為廣闊，同時也使得人類意識在數字虛擬空間中的接入、發展成為可能。人類的意識形態是通過物質媒介承載的具有政治性的社會精神生產活動的產物，因為意識形態的傳播需要通過不同媒介進行擴散、需要國家對于信息流動的治理、需要結合現代科學技術的最新發展，故在傳播過程中極易受到侵蝕。而在數字空間的生成、壯大過程中，數字空間中的虛擬社群以其獨特的紐帶功能、間接互動方式，增加了意識形態安全的風險。數字空間之中，意識形態安全的風險隨著技術的發展也衍生出新的動向，原有的信息生產模式被改變，算法作為主導的信息交互模式難以避免地會出現算法支配、算法歧視等問題，甚至設計者的主觀價值傾向也會對其產生影響。過多的數據、對于生成式人工智能的依賴可能削弱人類獨立思考判斷的能力。針對以上數字空間內的意識形態安全風險，需要以國家作為人工智能技術的主導力量，在追蹤西方前沿技術的同時，保證技術的中立。在算法的使用上，以社會價值為判斷標準，建立算法準入機制和清單。通過保護數字資產、激勵創新制度，培育可以合理利用數字資產的新型模式。

數字技術正在以前所未有的速度和廣度重塑我們的生活空間和思維方式，它被賦予了更加多元、復雜且生動的社會角色。數字技術不僅作為一種工具或媒介存在，更在深層次上與社會結構、文化形態以及個體認知緊密交織，從而成為我們社會生活中不可或缺的一部分。在技術的無意識滲透中，數字技術逐漸展現出強大的價值塑造力，對個體的行為模式、價值觀念乃至社會整體的發展方向產生深遠影響。如何平衡數字技術與主流意識形態之間的關系，確保兩者在相互作用中保持和諧與共進，成了一個重要而緊迫的時代課題。實際上，數字技術與主流意識形態之間并非截然對立的關系。相反，它們在某些方面存在著共同的基礎和互動的可能性。主流意識形態作為社會價值的引領者和守護者，應當以主動的姿態直面數字技術的挑戰，不斷創新和完善自身的傳播方式、表達形式以及價值內核，以適應數字技術時代的發展需求。

（責任編輯：肖舟）

微信公眾號

① 喻國明：《未來媒介的進化邏輯：“人的連接”的迭代、重組與升維——從“場景時代”到“元宇宙”再到“心世界”的未來》，《新聞界》2021年第10期。

② 曹克亮：《ChatGPT：意識形態家的機器學轉向及后果》，《統一戰線學研究》2023年第4期。

③ 張雷聲：《論社會主義社會主流意識形態》，《馬克思主義研究》2008年第4期。

① 楊嶸均：《論網絡虛擬空間的意識形態安全治理策略》，《馬克思主義研究》2015年第1期。

① 鄧伯軍：《數字資本主義的意識形態邏輯批判》，《社會科學》2020年第8期。

① ③ 何茂昌：《元宇宙資本邏輯的批判及其矯治》，《學術探索》2023年第6期。

② 張弛：《資本爭相涌入 元宇宙探索仍在路上》，《金融時報》2022年9月1日，第6版。

④ 張凌寒：《生成式人工智能的法律定位與分層治理》，《現代法學》2023年第4期。

⑤ 謝梅、王世龍：《ChatGPT出圈后人工智能生成內容的風險類型及其治理》，《新聞界》2023年第8期。

⑥ 代金平、覃楊楊：《ChatGPT等生成式人工智能的意識形態風險及其應對》，《重慶大學學報》（社會科學版）2023年第5期。

① 王玨、陳雅梅：《理解元宇宙——一種新的超級媒介》，《九江學院學報》（社會科學版）2022年第4期。

② 俞吾金：《意識形態論》，人民出版社，2009年，第2頁。

③ 代金平、覃楊楊：《ChatGPT等生成式人工智能的意識形態風險及其應對》，《重慶大學學報》（社會科學版）2023年第5期。

① 魏紅艷：《元宇宙行動者如何“破繭成蝶”？——兼論以太“信息繭房”的機理與超越》，《圖書館》2023年第7期。

② Jacques Ellul， The Technological Society. Translated by John Wilkinson， New York： Vintage Books， 1964， pp.140-141.

③ 令小雄、王鼎民、袁?。骸禖hatGPT爆火后關于科技倫理及學術倫理的冷思考》，《新疆師范大學學報》（哲學社會科學版）2023年第4期。

④ 王暾：《從互聯網到元宇宙：數字空間的意識形態安全審視》，《貴州社會科學》2023年第2期。

⑤ 方旭：《從ChatGPT看人工智能時代意識形態領域運作表征與風險防范》，《毛澤東鄧小平理論研究》2023年第5期。

⑥ 張生：《ChatGPT：褶子、詞典、邏輯與意識形態功能》，《傳媒觀察》2023年第3期。

① 劉金鳳、吳寧：《元宇宙的意識形態功能審思及風險應對》，《社會科學家》2023年第5期。

② 王延川、趙靖：《生成式人工智能誘發意識形態風險的邏輯機理及其應對策略》，《河南師范大學學報》（哲學社會科學版）2023年第4期。

① 劉淑春：《數字政府戰略意蘊、技術構架與路徑設計——基于浙江改革的實踐與探索》，《中國行政管理》2018年第9期。

② 李舟、易華勇：《ChatGPT介入意識形態安全治理的邏輯、風險及應對》，《閱江學刊》2023年第4期。

① 王暾：《從互聯網到元宇宙：數字空間的意識形態安全審視》，《貴州社會科學》2023年第2期。

② 程樂：《生成式人工智能的法律規制——以ChatGPT為視角》，《政法論叢》2023年第4期。

① 鄒開亮、劉祖兵：《ChatGPT的倫理風險與中國因應制度安排》，《海南大學學報》（人文社會科學版）2023年第4期。

② 崔小燕、張長立：《生成式人工智能誘發的風險樣態、生成邏輯與智慧治理策略——基于傳播政治經濟學的分析》，《寧夏社會科學》2023年第4期。

③ 代金平、覃楊楊：《ChatGPT等生成式人工智能的意識形態風險及其應對》，《重慶大學學報》（社會科學版）2023年第5期。

① 艾伯特-拉斯洛·巴拉巴西：《爆發：大數據時代預見未來的新思維》，馬慧譯，中國人民大學出版社，2012年，第13頁。

② 翁士洪：《數字時代治理理論——西方政府治理的新回應及其啟示》，《經濟社會體制比較》2019年第4期。