生成式人工智能賦能網(wǎng)絡意識形態(tài)治理現(xiàn)代化的邏輯進路

盛思琦

（西南大學 重慶 400715）

習近平總書記強調(diào)：“在互聯(lián)網(wǎng)這個戰(zhàn)場上，我們能否頂?shù)米　⒋虻泌A，直接關系我國意識形態(tài)安全和政權安全。”[1]意識形態(tài)是社會穩(wěn)定和國家長治久安的根基。當今世界正處于新科技革命和產(chǎn)業(yè)變革的交匯點，大型語言模型標志著人工智能的進步，特別是“類人”的生成式人工智能發(fā)展，給人們生活提供便利的同時也給網(wǎng)絡意識形態(tài)治理現(xiàn)代化帶來了風險挑戰(zhàn)。為此，必須要敏銳察覺暗藏生成式人工智能機遇下網(wǎng)絡意識形態(tài)治理的危機，有針對性地采取對策，進而提高網(wǎng)絡意識形態(tài)治理的現(xiàn)代化水平。

一、認知之維：生成式人工智能與網(wǎng)絡意識形態(tài)治理現(xiàn)代化

作為新一輪科技革命的“領頭雁”，生成式人工智能呈現(xiàn)井噴式發(fā)展。生成式人工智能為網(wǎng)絡意識形態(tài)治理現(xiàn)代化提供了重要驅(qū)動力。

（一）生成式人工智能的基本概念——以ChatGPT為例

生成式人工智能(Generative Artificial Intelligence)是通過各種機器學習方法從數(shù)據(jù)中學習對象的特征，進而生成全新的、完全原創(chuàng)的內(nèi)容（如文字、圖片、視頻）的人工智能[2]。

2022 年11 月，由美國人工智能研究實驗室OpenAI研發(fā)的一款模仿自然語言應用程序ChatGPT 正式上線。作為生成式人工智能的最新成果ChatGPT(Chat Generative Pre-trained Transformer)，其全稱是生成式預訓轉(zhuǎn)換機器人。ChatGPT 的運行邏輯是當用戶向ChatGPT 發(fā)出指令后，大型語言模型將指令轉(zhuǎn)碼為數(shù)字序列，分析其中的含義和意圖，基于既有文本語料，生成數(shù)字序列形式的內(nèi)容，繼而將之轉(zhuǎn)化為文本并輸出[3]。簡單來說，就是ChatGPT可以理解人類輸入語言，并以其所掌握的知識庫和數(shù)據(jù)集為基礎，給出相應的回答或解釋，從而實現(xiàn)人機對話的交互能力。同時，ChatGPT 具有保障連續(xù)性對話、發(fā)出主動性追問、實現(xiàn)“人化”式表達、具備“記憶力”的鮮明特征。

（二）網(wǎng)絡意識形態(tài)治理與網(wǎng)絡意識形態(tài)治理現(xiàn)代化

網(wǎng)絡意識形態(tài)是指在網(wǎng)絡時代，通過互聯(lián)網(wǎng)傳播的各種思想、觀點和價值取向的集合。它是由網(wǎng)絡上的各種信息、觀點、價值觀等因素影響而形成的。它不同于傳統(tǒng)的意識形態(tài)，它具有廣泛性、開放性、多元性等特點。網(wǎng)絡意識形態(tài)治理現(xiàn)代化，主要是指通過運用先進的科技手段和治理方法，使網(wǎng)絡空間中的意識形態(tài)表達和傳播更加規(guī)范、有序、公正、安全、自由、開放，其旨在應對互聯(lián)網(wǎng)時代的挑戰(zhàn)和問題，構建一個更加安全、健康、有序的網(wǎng)絡空間，要求政府、互聯(lián)網(wǎng)企業(yè)、社會組織和公眾共同參與，形成多方合作和共治的局面，以推動網(wǎng)絡意識形態(tài)治理朝著更加科技化、開放化、民主化的方向發(fā)展。同時，網(wǎng)絡意識形態(tài)治理現(xiàn)代化也呈現(xiàn)出治理主體多元化、治理能力現(xiàn)代化、治理方式信息化等新的特征。

（三）生成式人工智能賦能網(wǎng)絡意識形態(tài)治理現(xiàn)代化

習近平總書記指出，要“更加重視運用人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)等現(xiàn)代信息技術手段提升治理能力和治理現(xiàn)代化水平”[4]。從理論上看，生成式人工智能并非客觀中立的產(chǎn)品，具有一定的意識形態(tài)屬性。生成式人工智能的意識形態(tài)性主要體現(xiàn)在如下幾方面：語料庫和數(shù)據(jù)庫的意識形態(tài)性、算法的意識形態(tài)性、應用場景的意識形態(tài)性。從實踐上看，生成式人工智能與網(wǎng)絡意識形態(tài)治理現(xiàn)代化相互關聯(lián)。生成式人工智能技術支持網(wǎng)絡意識形態(tài)治理現(xiàn)代化，網(wǎng)絡意識形態(tài)治理現(xiàn)代化保障生成式人工智能健康發(fā)展。

二、暗藏“危”機：生成式人工智能機遇下網(wǎng)絡意識形態(tài)治理現(xiàn)代化的現(xiàn)實困境

新一輪科技革命的到來，生成式人工智能的爆發(fā)式發(fā)展為網(wǎng)絡意識形態(tài)治理面臨著巨大的新挑戰(zhàn)。因此，面對以ChatGPT 為代表的生成式人工智能帶來的風險挑戰(zhàn)時，我們要樹立明確的網(wǎng)絡意識形態(tài)治理現(xiàn)代化目標，既要全面釋放生成式人工智能帶來的技術紅利和價值，又要精準防范并應對其可能帶來的風險。

（一）排斥風險：算法程序潛藏歧視阻礙了治理深度

算法貌似客觀而中立，但有時卻充滿著歧視，嚴重地阻礙著網(wǎng)絡意識形態(tài)的有效治理，也給社會的發(fā)展帶來消極影響。一是性別歧視。“技術中立論”認為，技術的目的存在于服務使用者，它作為工具是不存在價值屬性的，技術在價值、制度和政治等層面都是中立的，因此在資本主義社會中行之有效的技術將在社會主義社會同樣有效[5]。實踐結(jié)果卻恰恰相反，以“技術中立”自居的算法在輔助或替代人類決策時屢現(xiàn)“性別歧視”的問題，在信息資源、物質(zhì)資源和機會分配中不恰當?shù)仄蚰行裕瑥娀詣e刻板印象，女性的數(shù)字生存面臨著廣泛而系統(tǒng)的算法性別歧視風險[6]。二是種族歧視。算法種族歧視的基因被高度智能化的生成式人工智能所繼承，它可以充分提醒我們數(shù)據(jù)領域反種族歧視規(guī)制的緊迫性與必要性。三是政治偏見。聊天機器人的設計者通常內(nèi)置一些旨在避免回答問題的過濾器，根據(jù)其構造，這些問題旨在引發(fā)政治偏見的回應。盡管其名義上希望避免涉及政治、不發(fā)表政治言論，但稍加使用就會發(fā)現(xiàn)，AI 機器人是有傾向的，或者更加確切地說，即便希望避免政治傾向，恐怕也很難避免。

（二）“喂養(yǎng)”風險：資本操縱存在黑箱擴大了治理難度

生成式人工智能的喂養(yǎng)數(shù)據(jù)質(zhì)量基本依靠研發(fā)公司所制定的規(guī)則和工程師個人來把關，因此，生成式人工智能不可避免地會帶有意識形態(tài)屬性。一是資本喂養(yǎng)數(shù)據(jù)“黑箱”侵擾意識形態(tài)防線。一方面，輸入語料具有意識形態(tài)導向。生成式人工智能輸入具有明顯意識形態(tài)問題的語料，帶著自身價值立場的用戶與其互動，當對話時，不可避免地會受到意識形態(tài)的影響。另一方面，輸出內(nèi)容含有意識形態(tài)成分。因其學習和訓練的語料主要以英語等西方語言文化為基礎，喂養(yǎng)數(shù)據(jù)“黑箱”問題，在進行語義輸出的過程中，也存在傳輸不當內(nèi)容的風險。所以，不可避免地含有意識形態(tài)的成分。二是資本喂養(yǎng)誤導性數(shù)據(jù)危害價值觀塑造。科技無國界，但科技中的意識形態(tài)有顯著的國家邊界。生成式人工智能依靠大量數(shù)據(jù)喂養(yǎng)生成，其中不乏存在誤導性數(shù)據(jù)的雜糅。三是資本喂養(yǎng)虛假性數(shù)據(jù)影響社會穩(wěn)定。生成式人工智能可能被用于制造虛假性的信息，影響公眾輿論和社會穩(wěn)定。ChatGPT 可以根據(jù)不同的目標和意圖，生成各種虛假性的信息，例如新聞、評論、論文、廣告、推文等。這些虛假性的信息很難被公眾辨別和驗證，因為ChatGPT 生成的文本內(nèi)容往往具有很高的專業(yè)性和邏輯性，能夠模仿人類的知識結(jié)構和思維方式，甚至能夠引用或偽造各種數(shù)據(jù)和證據(jù)。這就使得公眾很容易被ChatGPT 所欺騙和誤導，從而影響公眾對于真相和事實的認知和判斷。

（三）解構風險：技術權力弱化主體消解了治理效度

生成式人工智能技術的高速發(fā)展，模糊了主客間界線，僭越了人類中心，弱化了人的主體性。一是生產(chǎn)顛覆主體和客體關系的話語。生成式人工智能顛覆性之處體現(xiàn)在它并非是主客體關系的雙向與多元轉(zhuǎn)換，它直接遮蔽主客體之間的邊界。由于科技的遮蔽性使得主體不知道答案的出處，一旦主體接受這些答案，便使得自身成為實際上的客體，這時主體的話語創(chuàng)造行為便在某種程度上成為客體話語的復制。二是消解主體情感稀釋獨立思考能力。生成式人工智能是當代深度學習能力和神經(jīng)網(wǎng)絡技術強勢發(fā)展的產(chǎn)物，這種算法的語言和思維會不斷靠近智能發(fā)展的“奇點”，甚至有可能具有哥德爾反思能力，從而迫近人類，對人類的主體性地位構成挑戰(zhàn)[7]。生成式人工智能可能會將人類由獨立型形式的思考變?yōu)橐蕾囆托问降乃伎迹纱苏T發(fā)獨立思考能力逐步被稀釋。三是技術過度依賴助長人的異化程度。由于人工智能技術具有空前的自主性，智能物與智能機器人空前地貼近人智，因此它失控的危險，促成異化的程度及對人類主體性的威脅與影響也會空前強烈。在這個不論活動形式和思維方式逐步受工具理性支配的社會里，人們突出主體性的活動等價值理性漸趨匱乏甚至喪失，使人類淪落為技術化非人。

（四）“越獄”風險：安全漏洞挑戰(zhàn)法律限制了治理廣度

生成式人工智能的發(fā)展帶來一系列安全漏洞，然而相關技術對策和法律出臺的滯后性對網(wǎng)絡意識形態(tài)治理的廣度產(chǎn)生了限制。一是泄露隱私風險。生成式人工智能能夠?qū)Ａ繑?shù)據(jù)進行采集與處理，若對其處理不當就有可能造成隱私泄露。非法分子面對利益孤注一擲，鉆系統(tǒng)漏洞，網(wǎng)絡釣魚等手段肆意盜用和買賣個人數(shù)據(jù)。人工智能時代個人隱私保護面臨困境，人類意識主體性受到損害，對當下意識形態(tài)安全造成了極大隱患。二是滋生法律風險。法律往往對于新的事物缺乏治理能力，它需要時間進行調(diào)整。AIGC 行業(yè)的迅速崛起勢必會給各國法律帶來一定的挑戰(zhàn)，這在一定程度上導致生成式人工智能處于法治真空區(qū)。三是攻擊破壞網(wǎng)絡。與網(wǎng)絡相關的各種軟件、硬件、協(xié)議、服務等通常具有一定的安全性和穩(wěn)定性，以保證網(wǎng)絡的正常運行和服務。然而，生成式人工智能的文本內(nèi)容可能會利用其他網(wǎng)絡系統(tǒng)或設備的漏洞或缺陷，繞過或破解認證或授權機制，從而影響或干擾網(wǎng)絡的功能和性能。

三、化“智”為“治”：生成式人工智能賦能網(wǎng)絡意識形態(tài)治理現(xiàn)代化的對策探析

面對全球數(shù)字化變革的國際環(huán)境，應對生成式人工智能發(fā)展過程中暗藏的危機，網(wǎng)絡意識形態(tài)治理現(xiàn)代化需要采取相應的對策措施。

（一）強化算法優(yōu)化：以智能平權破解算法歧視，維護網(wǎng)絡智能正義生態(tài)環(huán)境

事實上，“算法的社會本質(zhì)就是一種權力”[8]。只有進行智能平權對算法進行有效優(yōu)化，生成式人工智能技術才會內(nèi)嵌于網(wǎng)絡意識形態(tài)治理體系建設中，繼而推動網(wǎng)絡意識形態(tài)治理向現(xiàn)代化方向發(fā)展。

1.提升“主體效能”，樹立正確的算法技術發(fā)展觀

生成式人工智能賦能網(wǎng)絡意識形態(tài)治理現(xiàn)代化的前提和基礎是強化人才培養(yǎng)。首先要重視研發(fā)團隊中學科背景多元化的成員構成，以創(chuàng)建交叉學科、開展人工智能教育為主線，注重加強生成式人工智能研發(fā)人員的技術倫理建設和正確引導其價值觀，將正向的價值規(guī)范和主流意識形態(tài)轉(zhuǎn)化為技術語言，并將其融入生成式人工智能開發(fā)設計中，以增強生成式人工智能對主流價值的辨別能力，并積極推動馬克思主義理論、網(wǎng)絡媒介素養(yǎng)和人工智能技術等領域的融合發(fā)展，旨在培養(yǎng)綜合型人才。

2.重視算法問責，在算法中注入主流價值

數(shù)據(jù)正義是實現(xiàn)算法正義的前提，算法正義是實現(xiàn)智能正義的關鍵。算法是大型語言模型成功的重要條件之一。大型語言模型算法具有“不可解釋”“算法黑箱”等特點，易引發(fā)算法偏見和歧視、數(shù)據(jù)投毒等問題。一方面，要及時對大型語言模型中的算法歧視、算法偏見、算法黑箱等進行算法糾偏，消除算法安全隱患；另一方面，促使主流價值與智能算法深度融合，在算法開發(fā)和部署過程中考慮安全性。在算法設計初衷、數(shù)據(jù)選擇、結(jié)果呈現(xiàn)等環(huán)節(jié)植入主流價值的基因，在算法優(yōu)先級中提高主流價值權值的比重，促進“可靠、健壯和值得信賴”的大型語言模型發(fā)展。

3.以一元主導破除“算法中立”，加強馬克思主義意識形態(tài)指導

算法本質(zhì)上是一種認知工具，它不可避免地預設某種意識形態(tài)立場，對此，要加強馬克思主義意識形態(tài)的一元指導，破除“算法中立”。生成式人工智能技術開發(fā)人員基于不同文明、不同社會制度，甚至有時會導致生成式人工智能表達一些錯誤思潮，對于我國網(wǎng)絡意識形態(tài)安全來說面臨新挑戰(zhàn)。因此，要以價值理性來糾正算法工具理性上的不足，堅持以人為本原則發(fā)展生成式人工智能，用馬克思主義理論來引導算法內(nèi)容的配置。

（二）完善資本規(guī)制：以群己共律駕馭資本力量，推動網(wǎng)絡主流意識形態(tài)傳播

生成式人工智能時代，多元主體的交互作用中會生成意識形態(tài)操縱風險。因此，我們應從不同主體入手，通過完善資本規(guī)制，應對生成式人工智能時代意識形態(tài)操縱風險。

1.管控資本價值導向，堅持政府主導企業(yè)驅(qū)動原則

人工智能是全球科技競爭未來的重點。政府要加大對生成式人工智能技術研發(fā)投入，相關企業(yè)加強驅(qū)動發(fā)展。首先，政府要致力于促進政府內(nèi)部數(shù)據(jù)共享，建設政府主導型大數(shù)據(jù)體系。其次，政府要加大對大型語言模型的研發(fā)投入，擴大數(shù)據(jù)集的規(guī)模和覆蓋范圍，提高數(shù)據(jù)集的質(zhì)量和多樣性，進而提高國產(chǎn)大型語言模型的性能和質(zhì)量。最后政府要加大算法問責力度，促使企業(yè)增強算法透明度，探索算法全過程監(jiān)督模式。

2.嚴防資本主義滲透，強化社會主義意識形態(tài)陣地建設

面對西方國家的網(wǎng)絡意識形態(tài)滲透，要在社會主義意識形態(tài)陣地上站穩(wěn)腳跟，堅守我國網(wǎng)絡意識形態(tài)安全防線。首先，要嚴防西方網(wǎng)絡意識形態(tài)滲透。西方輸出自身價值觀念中存在的謬誤，要科學批判進而揭示其本質(zhì)與危害。其次，要加強主流意識形態(tài)引領。堅守馬克思主義意識形態(tài)的思想理論陣地，堅持社會主義核心價值觀，以喜聞樂見的方式開展工作激發(fā)人們思想情感共鳴。

3.加強資本向善建設，積極引導資本服務網(wǎng)絡公共社會

面對資本“喂養(yǎng)”數(shù)據(jù)背后所存在的黑箱，我們要加強資本向善建設，積極引導資本服務網(wǎng)絡公共社會。生成式人工智能在數(shù)據(jù)收集和資源開發(fā)方面具有技術優(yōu)勢，要建立龐大的數(shù)據(jù)模型和資源庫，以便深入挖掘和收集網(wǎng)絡主流意識形態(tài)話語資源。要加強對各類用戶的調(diào)查研究，掌握受眾群體的基本情況及需求特征，并以此作為制定宣傳策略和開展工作的依據(jù)。要構建網(wǎng)絡主流意識形態(tài)資源數(shù)據(jù)庫，其中包含理想信念教育、愛國主義教育、社會主義核心價值觀教育等內(nèi)容，以數(shù)字化、大眾化、符號化的數(shù)據(jù)信息形式呈現(xiàn)網(wǎng)絡主流意識形態(tài)。

（三）引導技術向善：以價值理性匡正工具理性，堅持網(wǎng)絡主體以人為本原則

科技進步是決定未來的戰(zhàn)略制高點。然而在大型語言模型開發(fā)方面，我國與世界相比還存在差距。因此，我們要堅持以人為本原則，以價值理性匡正工具理性，同時要加大核心技術攻關，搶占技術高地，堅決維護國家科技安全，增強網(wǎng)絡主流意識形態(tài)風險防范能力。

1.加大核心技術攻關，增強網(wǎng)絡主流意識形態(tài)風險防范能力

人工智能技術能否安全可靠應用，是決定其能否維護國家安全的關鍵因素。面對意識形態(tài)、境外網(wǎng)絡攻擊的安全風險，建立本土化專用模型將是當前各行業(yè)自然語言處理的主要選擇。加快語言生成模型國產(chǎn)化，才能既保證國內(nèi)社會享有人工智能產(chǎn)業(yè)帶來的技術升級，又能規(guī)避被人卡脖子以及無法管理等問題。面對技術差距背后隱含的意識形態(tài)話語霸權，需要站好自身意識形態(tài)立場，用自己的話語、語料庫、應用場景來抵御其帶來的意識形態(tài)沖擊和風險。

2.以人本邏輯馴化“工具崇拜”，提升公眾網(wǎng)絡意識形態(tài)安全素養(yǎng)

生成式人工智能的發(fā)展給人們的工作學習生活帶來了極大的便利，這種技術的進步使人們過分推崇依賴它，但是人工智能并非無所不能的，我們應堅持以人為本原則，以價值理性來駕馭工具理性，推動人自由而全面發(fā)展。通過多樣化的教育活動，堅持馬克思主義意識形態(tài)主導，筑牢主流價值觀念，傳播人工智能相關安全知識、政策與法律法規(guī)，使人們正確認識和使用生成式人工智能，堅持以人為本和以物為用統(tǒng)一，提升公眾網(wǎng)絡意識形態(tài)安全的素養(yǎng)。

3.以倫理規(guī)則約束“技術主義”，加強網(wǎng)絡空間監(jiān)督和管理

大型語言模型技術帶來的問題復雜多元，可能引發(fā)潛在的法律倫理風險，需要引起高度重視。例如，ChatGPT 沒有道德倫理原則，在回答問題的過程中可能傳播錯誤信息，形成回聲室效應，引發(fā)社會和監(jiān)管問題。倫理規(guī)則的制定和遵守將對確保技術和社會的健康發(fā)展發(fā)揮關鍵作用。同時，要注重加強監(jiān)督和管理。通過制定準則公約等措施，增強企業(yè)責任意識和技術倫理意識，規(guī)范使用生成式人工智能技術。在技術賦能方面，通過建立智能信息預警機制，構建智能輿情應急機制，以及構建立體化的網(wǎng)絡輿情監(jiān)管機制來抑制虛假信息的擴散。

（四）筑牢法治防線：以良法善治維護網(wǎng)絡秩序，加強網(wǎng)絡意識形態(tài)治理保障

習近平總書記強調(diào)，“國無常強，無常弱。奉法者強則國強，奉法者弱則國弱”[9]。伴隨著生成式人工智能在生活中參與度越來越高，越需要健全生成式人工智能相關法律法規(guī)，守住生成式人工智能開發(fā)與應用的底線，防止其造成危害。

1.堅持立法先行

“良法是善治的前提”[10]。首先，生成式人工智能領域立法是大勢所趨。生成式人工智能技術空前發(fā)展，當前相關法律法規(guī)會呈現(xiàn)滯后性。因此，生成式人工智能立法的制定和頒布，應注重結(jié)合當前的《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》等相關法律規(guī)范，我國也最新發(fā)布了《生成式人工智能服務管理暫行辦法》。其次，先行制定相應的管理辦法。為預防生成式人工智能大規(guī)模應用內(nèi)帶來的法律風險，應盡快出臺專門性的管理辦法，以及通過對現(xiàn)有法律規(guī)范進行解釋，以維護法律的穩(wěn)定性、連續(xù)性和價值規(guī)范性。

2.堅持嚴格執(zhí)法

制度的生命力在于執(zhí)行。首先，培養(yǎng)具備網(wǎng)絡執(zhí)法技能的專業(yè)隊伍。加強對網(wǎng)絡執(zhí)法人員進行思想政治教育和職業(yè)道德教育，提高他們在新時代下依法履行社會責任的自覺性、主動性，確保其成為維護國家信息安全的主力軍。隨著互聯(lián)網(wǎng)技術和大數(shù)據(jù)應用的發(fā)展，“網(wǎng)絡安全+政務”將是大勢所趨，需要建設更多具有強大功能、先進水平和國際競爭力的新型網(wǎng)絡安全產(chǎn)品。其次，對網(wǎng)絡執(zhí)法設備進行升級。加強網(wǎng)絡法治建設，必須提高網(wǎng)絡執(zhí)法技術裝備水平。若缺乏核心技術的硬件支撐，執(zhí)法設備的安全性和可控性將難以得到保障。我們需要不斷升級網(wǎng)絡科技手段，攻克網(wǎng)絡執(zhí)法的核心技術難題，為網(wǎng)絡執(zhí)法注入新的活力。

3.凝聚法治共識

只有凝聚法治共識、培育法治意識、提升法治素養(yǎng)，才能使得網(wǎng)絡空間清朗。首先要創(chuàng)新普法形式，增強網(wǎng)民法律意識和法制觀念。隨著時代的發(fā)展，人們的生活節(jié)奏日益加快，越來越傾向于在碎片化的時間中獲取信息。生成式人工智能時代的到來，為我們開展法治宣傳提供了新載體，也帶來了前所未有的挑戰(zhàn)。普法宣講應當順應網(wǎng)民的思維模式和語言習慣，以其喜聞樂見的方式激發(fā)網(wǎng)民對法治思想的熱情，營造人們自覺知法懂法用法的法治氛圍。其次要在法治框架下深入了解生成式人工智能。當前，隨著人工智能技術發(fā)展速度不斷加快，出現(xiàn)了諸如“人工智能+法律”“人工智能+司法”等多種智能應用場景，對傳統(tǒng)法律體系產(chǎn)生巨大沖擊。隨著生成式人工智能逐漸深入人們的日常生活，給人們的生活帶來便利，但面對其誘惑需要了解生成式人工智能的使用權限，在法治框架下合理使用智能化的生成式人工智能。