生成式人工智能服務提供者意識形態風險及其治理

［摘" 要］

生成式人工智能開啟了意識形態傳播的智能化進程。生成式人工智能服務提供者作為信息生產和傳播的核心，具有對大眾感性認知能力的擠壓、對公共領域中算法權力的延展以及對本土社會文化價值的滲透功能。生成式人工智能的進一步運用和發展，會產生割裂本土共同價值、提供虛假信息、削弱自我邏輯思維以及突破法律監管框架等風險。應當通過對齊引領價值、確保內容真實、建構多元治理體系、完善法律監管框架等路徑，不斷推動網絡意識形態治理范式的發展。

［關鍵詞］

生成式人工智能" 服務提供者" 意識形態風險" 類型化

［中圖分類號］" D912.1" ［文獻標識碼］" A" "［文章編號］" 1008—3642（2025）01—0086—08

收稿日期：2024-08-31

作者簡介：

胡新瑞，華東政法大學中國法治戰略研究院博士研究生。

一直以來，技術的廣泛運用在不斷顛覆傳統的技術使用模式，帶來了人們生活、學習和生產方式的變革。目前，技術已發展到人工智能、大數據的全新階段，時間和空間已不再成為人們活動的阻礙。生成式人工智能作為2022年與2023年被大眾廣泛熟知的人工智能模式，以生成連貫文本為顯著特點，已經被運用到了工作、社交、教育等領域。與專用性人工智能不同的是，生成式人工智能有著類似人類的響應，可以更好地被普羅大眾使用。

回顧生成式人工智能的學術研究，我們可以發現，以2023年“生成式人工智能”抑或“ChatGPT”為關鍵詞的學術論文在CSSCI期刊中發表了243篇，涉及多學科和多視角研究，主要圍繞其積極影響、消極風險以及應對策略三個視角展開。一方面，有學者指出“ChatGPT將釋放生產力”［1］，還有學者指出“在理解使用者需求、生成文本內容”等方面存在優勢［2］。另一方面，舒洪水認為ChatGPT可能會導致虛假信息泛濫［3］，周洪宇則認為若生成式人工智能進入教育領域，可能會導致知識異化、數字倫理等風險［4］。在上述研究中，楊章文更深入地關注到了ChatGPT的意識形態屬性以及其導致的風險［5］。我們應當從生成式人工智能服務提供者（以下簡稱“服務提供者”）的切入點對其觀點進行更細致的剖析，以對上述研究進行完善和補充。事實上，目前已有法學學者關注到了服務提供者這一主體，指出了其重要性及其承擔的法律責任。比如，孫祁認為“其是生成式人工智能產品的責任主體”［6］。上述內容作為前沿文獻，或宏觀或細致地指出了服務提供者的不同性質和義務。我們可以從這一主體作為切入點對ChatGPT的意識形態屬性進行更加細致的探討。

本文將生成式人工智能服務提供者的意識形態風險作為核心研究問題，將其拆分為意識形態功能、意識形態風險以及治理路徑建構三個子問題；通過類型化的理論方法進行論證，提出服務提供者的意識形態風險的治理范式，在理論和實踐方面具有重要意義。

一、生成式人工智能內容提供者所具有的意識形態功能

根據我國頒布的《生成式人工智能服務管理暫行辦法》第22條，生成式人工智能服務提供者主要有以下三個特征：一是利用生成式人工智能技術，二是提供服務，包括提供可編程接口，三是具有一定的意識形態功能。

（一）對大眾感性認知能力的擠壓功能

一般來說，服務提供者在提供服務的過程中往往需要建立一個動態的數據語料庫，這類語料庫在前期訓練中可能先使用龐大的訓練集。比如，Chat GPT的訓練集主要來源于“Common Crawl、WebText2、Books、Wikipedia”，內容大概涉及31億個網頁中的內容。之后，再通過上下文對話來擴充原有的訓練集以形成一個語料庫。這種語料庫與概率分布式的輸出形式導致服務提供者在提供服務的過程對大眾感性認知能力造成了擠壓。

這種擠壓有三個重要體現。第一，服務提供者所依賴的技術理性擦抹大眾的價值理性傳統。當前服務提供者提供服務以邏輯和算法作為生成式人工智能輸出回答的技術支撐；也就是說其還是建立在提前預設好的程序框架中，將世界拆解成為數據結構和算法程序，并基于此提供服務。這種建立在高度依賴技術的服務方式缺乏本身的價值指向。根據學者所言，人工智能無法自發地生成意識，且缺乏對情緒的感知能力，并且不具有獨立意志［7］。這種評價無疑是對人工智能缺乏價值理性的有力證明，指出了人工智能還是依賴算法和數據等預設好的訓練集及運算框架，生成式人工智能也不例外。當大眾頻繁使用生成式人工智能作為工作生活的工具時，往往下意識地將人工智能基于技術的回答作為價值判斷的依據，也就是使用技術理性替代了原本基于經驗、情感的價值觀念［8］，從而使得技術的運行方式被廣泛接受。其潛在原因在于大眾個體的感性認知能力在人工智能海量生成內容前被嚴重擠壓［9］。這種海量的生成內容極易使得大眾在使用過程中產生依賴性，原本使用者在作出決策和判斷時所依賴的傳統價值理性往往被生成式人工智能服務者原本依賴的理性漸漸替代。

第二，服務提供者使用擬人化服務將原本復雜的信息簡單化。服務提供者提供的擬人化服務建立在使用機器語言對基于互聯網以及大眾提問與回答的語料庫進行解構和清洗的基礎上，形成概率上出現頻率較高的生成內容。正如學者所言，生成式人工智能中的大語言模型僅僅是統計學層面上計算的概率，但并不理解生成的內容［10］。從上述學者的觀點出發，筆者認為盡管生成式人工智能的服務不僅僅局限在大語言模型，而是覆蓋了圖像、視頻等多元化的輸出邏輯，但其原理并無本質區別，都是根據一些訓練數據，為輸出內容匹配一個概率。因此，盡管作為訓練集的語料庫可能包括了復雜的社會關系及人類情感，但是其在將文本轉換為二進制的機器語言后，這種復雜的關系和情感必然被相對地簡單化，其中蘊含的邏輯和背景被概率匹配的內容取代，使用者接收到的信息是經過簡化的信息，其對復雜關系和情感的感知也受到極大影響。

第三，服務提供者所輸出的碎片化內容破壞使用者原有的系統性感知。一般來說，生成式人工智能所提供的內容往往不是完整的回答，而是通過使用者的提問和基本的語言結構邏輯生成的碎片化內容。這種內容只展示使用者所要求的關鍵信息，可能會隱藏掉原有內容中的核心信息或者對使用者要求展示的信息有重要因果關系的內容。大眾往往通過系統性的感知來對事物作出判斷。若在接受生成式人工智能的過程中只接觸到碎片化的內容，類似“瞎子摸象”的故事，大眾原有的系統性感知會被破壞，從而陷入“信息繭房”的困境。

（二）公共領域中算法權力的延展功能

生成式人工智能在公共領域的應用，是其服務提供者通過數據與算法將其嵌入到社會資本的生產過程，從而使提供者所擁有的算法權力廣泛滲透到公共領域的各個方面。這種算法權力往往建立在與資本的耦合邏輯上，表現為算法權力壟斷。根據學者研究，以資本作為根基的人工智能服務提供者往往借助與使用者信息和技術的不對稱，同時扮演公共領域生成式人工智能運用的立法者與執法者［11］。隨著算法權力在公共領域的不斷擴展，服務提供商的影響力變得更加廣泛隱蔽，人工智能依托算法形成了技術和資本的合謀，看似具有“偽中立性”，即將技術合理作為實現資本合理的前提，卻將其服務提供者的價值立場作為一種意識形態模式［12］。這種蘊含著資本與技術的算法權力壟斷并非單一，而是由多家服務提供商共同實現的，這使得它們對意識形態的影響更加分散。

另外，另一個算法權力的延伸表現即算法歧視的持續化。根據《2023全球生成式AI領軍者TOP60榜單》中對服務提供者的排名，第一名的Open AI以及第二名的Google公司毫無疑問都是西方國家的大型公司，它們在提供服務的同時，也容易受到資本的投資影響。這些公司在服務過程中，不僅通過數據搜集和算法應用實現技術輸出，也輸出了資本主義的意識形態。根據學者的觀點，人工智能時代的算法研發者、開發公司所具有的西方意識形態帶來相當的算法歧視和偏見［13］。這種意識偏見的輸出，一方面受到西方資本主義國家的價值觀和制度框架的影響，另一方面可能還包含了服務提供商初始訓練集中的意識形態偏見。當公眾使用這些生成式服務時，不可避免地會受到服務提供商的意識形態影響，這種影響不僅體現在服務的輸出上，也體現在服務提供商本身的意識形態傾向方面。

（三）對本土社會文化價值的滲透功能

意識形態的功能主要基于政治觀念和敘事話語的傳播并對特定意識形態內容的編排表達方式方面。在生成式人工智能領域，服務提供者所傳達的社會價值有時會與本土社會文化價值發生沖突，這種沖突和滲透會對本土大眾原有的思想觀念造成影響。一方面，國家間在技術領域的競爭也產生了意識形態的競爭。技術的引領性越強，其背后的話語體系和政治觀念越可能被廣泛接受。因此，當生成式人工智能服務擴展到國際領域時，其影響力可能會滲透到使用國的社會文化價值理念中，形成大國間意識形態博弈的新戰場。另一方面，由于服務提供者多受西方社會文化價值的影響，其服務過程中主要使用英文作為輸出語言，這與我國的意識形態和傳統社會文化價值存在割裂。這種服務提供的算法偏見必然帶有西方意識形態色彩，在中西方價值觀存在差異的情況下，可能導致服務內容出現誤導或者論證失誤的情況。

二、類型化視角下生成式人工智能內容提供者的意識形態風險

生成式人工智能將網絡服務提供者、信息生產者的二元藩籬和技術提供者的功能統一到人工智能內容提供者的角色當中［14］。生成式人工智能的服務提供者所具有的意識形態功能很有可能會給當前社會帶來一系列意識形態風險。本節從類型化的視角切入，即以一定標準將論述對象分成不同的集合體， 并通過深描的方式將特征間的聯系論證出來［15］，表現在服務提供者所帶來的意識形態風險上，即將具體風險分為不同的類型，并詳細地對此風險展開論證，包括割裂本土共同價值的風險、提供虛假信息的風險、削弱自我邏輯思維的風險以及突破法律監管框架的風險。

（一）割裂本土共同價值的風險

共同價值與現實生活的統一是共同價值存在的基礎［16］。一般來說，本土共同價值往往基于本土現實存在。但在人工智能時代，生成式人工智能的服務提供者帶來了割裂本土共同價值的風險。盡管生成式人工智能具有信息、智能服務、生產工具等功能，但是其生成式的內容可能與現實生活存在一定的偏差和失真，與之相偏或相違，從而使得公眾個體的意識形態偏離基于本土實踐所產生的本土共同價值。

第一，信息繭房所帶來的隱憂是割裂本土共同價值的風險之一。信息繭房首先出現在傳播學領域，即指大眾往往偏向于選擇的事物和可以得到愉悅的事物［17］。在意識形態領域，信息繭房有著封閉循環的特點。在生成式人工智能的影響下，使用者不斷對算法利維坦進行回應和臣服，再次推動了意識形態的影響。在此過程中使用者難以獲得主流意識形態中本土共同價值引領，出現了意識形態失準的風險，即傳統國家共同價值所主導的主流話語不斷受到生成式人工智能服務的影響；具體來說，生成式人工智能的服務在鏈接西方媒體報道的基礎上，使用者更愿意接觸其選擇的信息或者可以使其愉悅的信息，這些信息往往附帶西方宣揚的普世價值，導致使用者對具有邏輯且基于現實的本土共同價值不感興趣，從而消解了我國本土共同價值的整合能力和權威性。

第二，與資本耦合的算法偏見和歧視影響了使用者的共同價值，即將資本與社會固有的偏見印刻在使用者的意識形態之中。具體來說，資本在追求效益最大化的過程中故意對明顯的算法歧視進行篩選和對算法程序過濾，生成式人工智能的服務提供者可以只讓使用者感知經過篩選的內容。在西方意識形態場域下，算法偏見和歧視成為資本操縱意識形態的產物。此外，服務所依賴的技術帶有設計者的印記，包括了存在于人類社會的固有偏見，舉例而言，此前某公司錯將黑人標注為大猩猩就是具體表現［18］，還有性別歧視的相關例子可以佐證。以上算法偏見和歧視有著難以預測的特點，將使用者的共同價值不斷模糊和替代，帶來了意識形態風險。

第三，生成式人工智能服務的全球化特點使得本土共同價值陷入混亂。生成式人工智能服務具有全球化特點，強調跨境的信息流動，帶來了“數字帝國主義”的影響。全球化隱含了數字帝國主義的價值邏輯，旨在將普世價值進行輸出，從而影響了其他國家尤其是社會主義國家的主流意識形態，破壞了多樣的文化價值。尤其在2024年Sora的出現，僅借助提示詞就能生成流暢的視頻［19］，非本土共同價值很容易受到音頻、視頻等生成式人工智能模型的服務內容影響，尤其是以全球化為表征的西方價值，對我國的本土共同價值形成沖擊，從而帶來共同價值混亂和偏向的風險。

（二）提供虛假信息的風險

生成式人工智能服務提供者所提供的服務往往具有相當的虛假信息，不僅影響了主流意識形態安全，甚至影響了國家文化安全。

第一，從技術層面來說，生成式人工智能服務導致虛假信息在數量和速度上都難以被人工審核。生成式人工智能的服務提供者在提供信息等服務時往往缺少最后的核驗環節；即便有技術檢測環節，技術環節也不能自動識別虛假信息，還增加了人工審核的流程。這類信息有著高度可信賴性，其生成的文本在說服力上不輸于人類所撰寫的文本，甚至更加具有說服力。尤其是2024年Sora的出現帶來了專業生成式人工智能服務的爆發，其可以通過圖像和視頻進一步生成更加逼真的信息，這類信息在表征上與真實信息似乎沒有區別，更容易影響使用者。這種具備高度擬人化風格的虛假信息都裹挾著西方意識形態，其傳播起來無疑是更加隱蔽且效率更高的。例如，2023年生成式人工智能服務在以色列—哈馬斯之間的虛假信息戰中起到了至關重要的作用。

第二，從方式上來說，生成式人工智能服務使得使用者在虛假信息的生成和傳播過程中扮演重要角色，使得虛假信息在意識形態塑造中起到更加深刻、更加復雜的作用。使用者的誘導會是生成虛假信息的成因［20］。比如，語言模型生成的內容與使用者輸入的提示詞相關，在使用者輸入不良提示詞時，若是模型未經對齊微調，就會生成與提示詞有關的不良信息。盡管內容并非正確的，可是其與使用者的聯系相當密切，在傳播過程中可以增進使用者的認知體驗。這種以使用者體驗為基礎的虛假信息傳播方式很可能會降低信息審核的標準，使用者可能會忽視生成內容的意識形態問題，對虛假進行二次傳播。此外，服務提供者不僅可以自動生成虛假信息，造成虛假信息的夸大傳播，還可以使用模型和算法詳細生成細化可行的方案［21］，可以通過凸顯社會中的分歧，對主流意識形態造成干擾，還可以對毫不知情的使用者實現微定向，加深其與虛假信息的聯系，從而達到塑造意識形態的目的。

第三，從內容上來說，虛假信息與真實信息的并存對意識形態造成了更劇烈的沖擊。生成式人工智能的語料庫與當前互聯網相關，但由于互聯網存在相當的虛假信息，盡管生成式人工智能服務覆蓋了政治、社會民生和文化等主題，但其內容中虛假信息與真實信息相互摻雜，服務提供者還可以采用定向推送的形式，將這種半真半假的信息推送至信息前沿，或者運用利用熱搜、榜單等排序方式增加上述信息的曝光量。上述信息有著追求流量、低俗惡俗的特點，而那些真實的、反映現實的信息卻因為具有嚴肅性的特點而被驅逐出信息頭條，導致虛假信息大行其道，善良風俗和主流意識形態所面臨的噪音更多，弱化了主流意識形態的凝聚力，不加以治理將會產生隱患。

（三）削弱自我邏輯思維的風險

對生成式人工智能服務的依賴將削弱使用者的邏輯思維，影響個體對意識形態的辨識能力，具體表現為數據逐漸替代知識。技術性的思維方式替代邏輯性思維方式，可能導致使用者的思維能力下降，逐漸單一化和片面化。第一，削弱自主獨立思考與決策能力。生成式人工智能服務進入生產生活中，將逐漸代替人類思考，導致個體的獨立思考與決策能力退化，甚至帶來人類對其服務的過度依賴，使用者可能不再習慣于獨立解決問題，使得本來的思維訓練和知識建構停滯，本身的信息篩選能力逐步下降。第二，降低批判性思維與信息篩選能力。具體來說，個體在面對復雜或未知情境時，需要經歷信息搜集—信息處理—作出決策的過程，但長期依賴生成式人工智能的服務，擬人化的答案僅需要通過輸入提示詞即可實現，使用者在前兩個過程中不需要經歷現實生活搜集信息，也不需要根據自身思維篩選和處理信息，喪失了對客觀現實的批判與體驗，可能導致使用者不再質疑所接收信息的準確性，弱化批判性思維能力。第三，限制創新能力。一般來說，使用者的創新能力往往來源于自我建構過程中的內在驅動，需要獨立思考和跳出常規的能力，但過度依賴智能技術可能限制個體的創造性思維。使用生成式人工智能服務獲得現成的答案，可能會導致使用者探索問題的主動性和好奇心降低。

（四）突破法律監管框架的風險

生產式人工智能的法律風險涵蓋了輸入—處理—輸出的全過程，還包括了不當利用風險。相對于現有人工智能技術的發展，當前法律并未做到及時回應，法律供給能力相對滯后。2023年《生成式人工智能服務管理辦法（征求意見稿）》的，對服務提供者進行了較為詳細的規范［22］，但仍有力有未逮之處。生成式人工智能服務提供者在提供服務時往往在輸入—處理—輸出的過程中突破現有法律監管框架，逐漸形成新的異化力量，在個人數據、內容標識等方面造成新的法律風險。

首先是個人數據和隱私的泄露問題。當前生成式人工智能服務過程中個人數據和隱私的泄露問題主要表現在語料庫數據和服務過程兩個方面。一方面，其預訓練的語料庫數據大部分未經過作者許可或授權使用。一般來說，生成式人工智能的服務基礎語料庫由預訓練和微調兩種語料庫組成，服務提供者處理數據的正當性來源于合同約定，但如果服務提供者利用技術獲得了個人數據并將其納入預訓練語料庫中，上述方式已然構成了非法獲取。當其數據來源出現個人數據和隱私的泄露時，服務提供者應對此負責。另一方面，服務提供者可能并未經過使用者允許就查詢并保存使用者的個人數據。服務提供者相對使用者來說具有專業技術優勢，使用者在使用過程中可能需要將個人數據使用到輸入其數據庫中，服務提供者可以直接控制使用者的個人數據。這些個人數據可能會被進一步使用到人工智能服務的訓練當中。同時，我國立法以及歐盟相關法案都對個人數據在訓練中的使用作出規定，說明當前相關法律法規尚不能對此問題進行有效規制。

此外，當前制度對內容標識問題的規制也不夠全面，目前人工智能生成內容依舊存在虛假信息與虛構信息，且人工篩查很難對內容進行標識。根據學者觀點，目前人工智能服務內容標識技術可分為兩類：一是根據預定義類別對內容進行分類，二是利用對數概率和隨機擾動的對比進行標識，但是這兩種檢測技術都有力有未逮之處。當前各國機器內容自動標識的監管制度還不成熟，不但不能降低虛假信息的擴散風險，還可能帶來造謠、詐騙等行為［23］。

三、生成式人工智能服務提供者意識形態的治理路徑

面對上述一系列割裂本土共同價值、提供虛假信息、削弱邏輯思維以及突破法律監管框架的風險，應當通過對齊引領價值、確保內容真實、建構多元治理體系、完善法治監管框架等不同路徑，進一步對其意識形態風險進行治理。

（一）對齊服務提供者的共同引領價值

隨著人工智能的發展，因應其意識形態風險的一個重要方式就是給人工智能系統嵌入與人類一致的價值觀。價值對齊作為人工智能治理的重要方式，已經在目前生成式人工智能的實踐中被廣泛應用；具體來說，目前生成式人工智能已經和西方價值觀實現了價值對齊。生成式人工智能服務提供者在提供服務的過程中天然地受到了西方意識形態的社會文化價值的影響，從而帶來了割裂本土共同價值的風險。在這種情況之下，統一服務提供者的引領價值，使得本土文化價值中的統一價值可以引領生成式人工智能服務及其提供者。

馬克思主義理論在意識形態領域的指導地位是不容置疑的，在面對當前服務提供者的意識形態對本土共同價值的割裂時，需要運用理論武器，凸顯主流意識形態的真理性和科學性，需要運用馬克思主義的世界觀和方法論來引導生成式人工智能提供者。首先，要堅持馬克思主義觀點。我們應當堅持馬克思主義理論在意識形態領域的指導地位，以中國特色的馬克思主義理論回應信息繭房和算法偏見等問題對意識形態的割裂，用馬克思主義理論為指導去解決信息傳播不對等、社會黏性喪失等具體問題。其次，強化社會主義核心價值觀的導向作用。需要在生成式人工智能的算法中嵌入核心價值觀，同時使得服務提供者所提供的服務接受核心價值觀的引導。我國《生成式人工智能服務管理暫行辦法》在第4條規定，提供生成式人工智能服務要堅持社會主義核心價值觀，若能確保生成式人工智能服務遵循核心價值的導向，算法的運行不損害核心價值觀生態。我們可以將核心價值觀作為生成式人工智能服務提供的基礎，治理服務提供過程中的意識形態風險，最大限度地確保服務提供者在社會主義核心價值觀指引下提供服務。服務提供者應當將維護社會主義核心價值觀作為服務提供和內容生成的底線，以主流價值觀駕馭算法，實現算法向善。最后，加大對生成式人工智能服務提供者的支持力度，實現核心技術發展。《生成式人工智能服務管理暫行辦法》在總則部分強調了“有效措施鼓勵生成式人工智能創新發展”的內容。風險治理不僅鼓勵利益相關者的參與，還在于在服務提供過程中保護利益相關者的權益。因此，以政府為主導的利益相關者應當共同合作，加強對生成式人工智能服務提供者的支持力度；在此基礎上促進核心技術發展，通過組織專家成立專項小組，加強信息加密、匿名處理技術的發展，最終實現政府引導下生成式人工智能服務的優化升級。我國生成式人工智能服務的提供者也應當通過提升技術創新能力，破解“算法黑箱”，從而實現算法優化的技術升級，規避意識形態風險。

（二）確保服務提供者提供的內容真實

目前我國已經制定了《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》，規定了服務提供者提供的內容應真實。一方面是防止生成違法和不良信息的義務，另一方面是對生成內容進行標識的義務。根據已有規范，當生成式人工智能服務提供者提供虛假信息時，應當從加強語料管理、實現內容控制、建立不實和不良信息的投訴機制三個角度對其生成內容進行更加嚴格核查，確保服務提供者提供的內容真實。

第一，智能服務提供者應當加強語料管理來保障生成內容的真實性。目前僅有服務提供者有權決定語料庫的數據，服務提供者應積極審查數據來源的合法性與真實性。當生成式人工智能的數據來源出現不真實的情況時，作為控制數據的主體應當對此負責［24］。生成式人工智能服務生成的內容是對數據語料庫的概率式輸出，因此其常常會“一本正經的胡說八道”，編造生成看似正確的內容。為此，第一，要保障作為基礎的數據語料庫的真實性。生成式人工智能服務提供者應當確保語料來源的合法性和可追溯性，并對自采語料進行合規性審核。第二，應當實現對生成內容的控制。服務提供者應當采用關鍵詞檢測和分類模型等手段，對用戶輸入進行實時監測，拒絕回答明顯偏激或誘導生成違法不良信息的問題。設置監看人員，并及時根據監看情況提高生成內容的質量和安全性，從而逐步破除意識形態風險，即對人工智能生成內容進行標識，并區分場景規定不同的標識要求［25］。第三，不實和不良信息的投訴機制。建立多種投訴舉報途徑，制定明確的投訴舉報處理規則。并非所有人都能感知人工智能的意識形態風險，因此需要提升使用者的認知能力，確保使用者能評估和判斷潛在的風險。服務提供者可以引導使用者選擇服務的特點并提醒使用者輸入提示語，提升使用者對生成內容的甄別能力，鼓勵使用者向服務提供者反饋有關虛假信息。若服務提供者不作為，可向有關主管部門投訴和舉報［26］。

（三）以服務提供者為核心建構風險防范的多元治理體系

基于服務提供者在當前信息生產與傳播過程中所能發揮的重要作用，風險治理體系需要多元主體協作完成，應當以多元主體的平等性作為基本原則，最終形成以政府為主導、服務提供者為核心、其他利益相關者協同參與的多元意識形態風險防控體系。在具體方式上，按照聯合國教科文組織的相關文件規定，一方面要提倡建立跨部門治理的組織機構，另一方面要加強國家的作用以及其他部門的參與，加強政府與社會組織之間的合作。根據國際經驗以及我國意識形態的具體風險，具體應從治理體系的定位、治理體系的責任內容以及治理體系的協同合作機制三方面出發規避服務提供者所帶來的意識形態風險。

第一，治理體系的定位。治理需要平衡不同主體的利益，需要確定不同主體在治理體系中的定位。在治理體系中，政府負責制定統一的政策以實施服務提供者的監管與促進規劃，推進生成式人工智能基礎設施建設。服務提供者作為核心，必須承擔主體責任，必須著力落實意識形態風險防范作用。使用者在接受生成式人工智能服務的過程中承擔著參與和監督的責任，必須充分發揮其積極作用。明確的治理體系定位是生成式人工智能的意識形態風險防范的客觀要求。第二，治理體系的責任內容。通過明確的責任內容規范確定政府、服務提供者和使用者具體的權責，從縱向、橫向上優化多元治理體系，增強人工智能監管機構對服務提供者的監管能力，提高服務提供者的合規能力，推動行業自律，最終建立多元協同的責任內容矩陣。第三，治理體系的協同合作機制。以主體協作、信息共享為基礎建立高效協調的意識形態風險防范合作治理機制，建立生成式人工智能決策咨詢機構，同時遵循算法的技術規律，將服務提供者提供服務的功能作為合作治理的基本單元，提高意識形態風險防范的整體性成效。

（四）完善法治監管框架

當前我國已經出臺了《中華人民共和國個人信息保護法》《中華人民共和國網絡數據安全法》和《生成式工智能服務管理暫行辦法》等面向服務提供者的法律規范，此外《人工智能法》也在學者討論之中［27］。國際上還有《人工智能倫理建議書》等規范。盡管當前已經有一些針對服務提供者的法律規范，可是正如前文所述，當前人工智能的發展已然突破了法治監管的框架，需要從加快統一法律法規的制定、協調好法律和政策的關系、實現法律和技術治理的統一等方面完善當前的法治監管框架。

首先，加快統一法律法規的制定。面對服務提供者所帶來的意識形態風險，可在《人工智能法》中明確人工智能管理制度和服務提供者所應在承擔的合規義務，要將法律規制的重點放在服務提供者上，通過專章規定服務提供者的權利與義務，并規定其所應承擔的法律責任。其次，實現法律與政策的協調。法律和政策要實現對接，先通過政策進行規范，再通過“政策篩選”的方式，實現政策的法律化。最后，實現法律和技術治理的統一。當前對內容標識、算法和數據的監管已然有了技術的手段。我們可以通過《人工智能法》對服務提供者進行規范，最終實現技術治理的法治化。技術治理不能突破法律監管框架，兩者協同最終能夠實現完善的意識形態風險防范。

結語

總之，生成式人工智能開啟了意識形態傳播的智能化進程。生成式人工智能服務提供者是當前生成式人工智能服務過程中信息生產和傳播的核心。生成式人工智能服務提供者服務提供的過程，會出現對大眾感性認知能力的擠壓、對公共領域中算法權力的延展以及對本土社會文化價值的滲透功能等問題；會帶來割裂本土共同價值、提供虛假信息、削弱自我邏輯思維以及突破法律監管框架的意識形態風險。因此，我們應對齊引領價值、確保內容真實、建構多元治理體系、完善法治監管框架，不斷推動網絡意識形態治理范式的發展。生成式人工智能服務提供者的意識形態風險類型化及其治理是一個開放性話題。理論上的探索能夠將網絡意識形態理論重新“問題化”，引起學界對這一問題的關注和深入的研究。

參考文獻：

［1］ 張夏恒.ChatGPT的邏輯解構、影響研判及政策建議［J］.新疆師范大學學報（哲學社會科學版），2023，44（5）：113-123.

［2］ 楊宗凱，王俊，吳砥，等.ChatGPT/生成式人工智能對教育的影響探析及應對策略［J］.華東師范大學學報（教育科學版），2023，41（7）：26-35.

［3］ 舒洪水，彭鵬.ChatGPT場景下虛假信息的法律風險與對策［J］.新疆師范大學學報（哲學社會科學版），2023，44（5）：124-129.

［4］ 周洪宇，李宇陽.ChatGPT對教育生態的沖擊及應對策略［J］.新疆師范大學學報（哲學社會科學版），2023，44（4）：102-112.

［5］ 楊章文.ChatGPT類生成式人工智能的意識形態屬性及其風險規制［J］.內蒙古社會科學，2024，45（1）：57-64.

［6］ 孫祁.規范生成式人工智能產品提供者的法律問題研究［J］.政治與法律，2023（7）：162-176.

［7］ 劉智慧.民法典視域下人工智能法律規制論綱［J］.學術交流，2023（9）：80-96.

［8］ 胡平仁.法律主體新論［J］.甘肅社會科學，2023（6）：111-127.

［9］ 張凌寒，賈斯瑤.人工智能生成內容標識制度的邏輯更新與制度優化［J］.求是學刊，2024，51（1）：112-122.

［10］ 吳冠軍.大語言模型的技術政治學評析［J］.中國社會科學評價，2023（4）：27-37，155-156.

［11］ 苗逢春.教育人工智能倫理的解析與治理：《人工智能倫理問題建議書》的教育解讀［J］.中國電化教育，2022（6）：22-36.

［12］ 鄧伯軍.人工智能的算法權力及其意識形態批判［J］.當代世界與社會主義，2023（5）：24-32.

［13］ 汪懷君，汝緒華.人工智能算法歧視及其治理［J］.科學技術哲學研究，2020，37（2）：101-106.

［14］ 張凌寒.生成式人工智能的法律定位與分層治理［J］.現代法學，2023，45（4）：126-141.

［15］ 王美舒.類型思維下的金融消費者：從語詞認識到裁判邏輯［J］.法律科學（西北政法大學學報），2019，37（2）：180-192.

［16］ 鄧依晴，程廣云.從文化符號看人類命運共同體構建邏輯［J］.貴州社會科學，2021（8）：60-66.

［17］ 郭永輝，宋磊.挑戰與引領：算法推薦場域新聞主流話語數字傳播的風險治理［J］.未來傳播，2024，31（2）：20-28.

［18］ 陶盈.機器學習的法律審視［J］.法學雜志，2018，39（9）：55-63.

［19］ 陳力丹，榮雪燕.從ChatGPT到Sora：生成式AI浪潮下強化新聞專業意識的再思考［J］.新聞愛好者，2024（4）：4-8.

［20］ 李銘軒，文繼榮.AIGC時代網絡信息內容的法律治理：以大語言模型為例［J］.北京理工大學學報（社會科學版），2023，25（6）：83-92.

［21］ 張欣.生成式人工智能的算法治理挑戰與治理型監管［J］.現代法學，2023，45（3）：108-123.

［22］ 韓兆柱，申帥杰.敏捷治理：人工智能治理新模式［J］.華東理工大學學報（社會科學版），2024，39（1）：105-119.

［23］ 張凌寒，賈斯瑤.人工智能生成內容標識制度的邏輯更新與制度優化［J］.求是學刊，2024，51（1）：112-122.

［24］ 王良順，李想.生成式人工智能服務提供者的數據安全保護義務研究［J］.南昌大學學報（人文社會科學版），2023，54（6）：72-83.

［25］ 李銘軒，文繼榮.AIGC時代網絡信息內容的法律治理：以大語言模型為例［J］.北京理工大學學報（社會科學版），2023，25（6）：83-92.

［26］ 徐磊.生成式人工智能內容風險的一體化規制［J］.出版發行研究，2024（1）：59-66.

［27］ 楊建軍，張凌寒，周輝，等.人工智能法：必要性與可行性［J］.北京航空航天大學學報（社會科學版），2024，37（3）：162-174.

責任編輯：曲崇明