生成式人工智能與國家治理信息機制變革： 以ChatGPT為例

[摘 要] 信息機制是國家治理的基礎。相較于前現代的模糊國家，現代國家的建立意味著社會的清晰化和國家信息能力的提升。其中，技術迭代和發展是推動國家信息機制變革和國家信息能力增長的關鍵變量。隨著智能技術的興起，國家治理的信息機制面臨智能化變革趨勢。ChatGPT等大模型代表著生成式人工智能技術的里程碑式發展。隨著其技術迭代和應用的推進，類ChatGPT生成式人工智能技術將推動國家治理信息機制變革，大幅提升國家信息汲取的準確性、全面性、即時性和深入性；優化國家信息處理的交互反饋、分類挖掘、開放共享；以國家信息應用推動政民互動、政府決策和治理預警。不過，如果生成式人工智能的發展和應用出現異化，也將加劇國家信息污染，侵奪社會信息權利，挑戰政府信息權力，威脅國家信息安全。因此，國家治理信息機制的智能化變革必須正視生成式人工智能帶來的機遇與挑戰，并在完善法律建設、明確使用規范、強化技術監管與推進自主創新等方面提升對生成式人工智能的治理能力。

[關鍵詞] ChatGPT；生成式人工智能；大模型；國家治理；信息機制

[DOI編號] 10.14180/j.cnki.1004-0544.2024.08.010

[中圖分類號] D922.17;TP18 [文獻標識碼] A [文章編號] 1004-0544（2024）08-0082-13

基金項目：國家社會科學基金重點項目“加快數字化發展與建設數字中國的政治保障研究”（21AZD021）；2021年度華東政法大學科學研究項目“當代美國右翼民粹主義的成因及政治影響研究”。

作者簡介：曾森（1990—），男，華東政法大學政府管理學院、政治學研究院助理研究員、師資博士后。

國家治理是作為正式權威結構的國家履行國家意志、發揮國家功能的政治過程。在國家治理過程中，國家與社會的關系是重要的一環。作為國家治理的主體，國家憑借政治權力和資源對社會進行認識、掌控、規訓和塑造，成為普遍的治理邏輯。社會作為國家治理的對象化存在，構成了國家治理活動的基本場域。在國家與社會關系的構建中，信息機制無疑發揮了重要的紐帶性作用。國家只有對有關社會事實和社會動態的信息有了基本的掌握，才能進行合理決策、有效執行、系統評估等活動，才能對社會進行掌控、規訓和改造。不過，國家治理的信息機制有著深刻的技術根源。特定時代的主導性技術手段和技術水平一定程度上決定了國家治理信息機制和國家—社會關系的基本形態。ChatGPT等生成式人工智能技術興起之后，國家治理信息機制的智能化變革在廣度和深度上都有望出現巨大飛躍。那么，ChatGPT等大模型對國家治理信息機制的影響為何？在生成式人工智能時代，國家治理的信息機制面臨哪些機遇與挑戰，這是本文關注的焦點。

一、國家信息機制及其變革

（一）國家信息機制與國家信息能力

信息是國家治理的關鍵資源，建立有效的信息機制是良善國家治理的基礎。正如安東尼·吉登斯（Anthony Giddens）所說，“沒有作為其反身性自我調節手段的信息基礎，民族國家的行政權力就不復存在”1。邁克爾·曼（Michael Mann）也指出，國家“存儲了并可以立即調用有關我們所有人的大量信息”，并認為，國家基礎設施權力最重要的要素之一即是信息2。對于國家治理機制來說，信息發揮著構成性和功能性的作用。在構成性方面，信息機制是國家治理活動的重要體現和構成部分。掌握和處理轄區內有效信息即是國家權威的象征性體現。同時，國家治理活動本就是國家信息汲取、處理和應用的過程。社會信息本質上具有彌散性特征，作為國家治理對象的事實和信息散見于整個社會之中。因此，國家治理活動就是將彌散性的社會信息識別、整合與標準化的過程。例如，在中國古代，國家統治和治理活動往往以文書的形式展開，各項政治行動也以書面記載的方式成為可資后人借鑒的歷史3。到了近代，官僚體制的理性化在某種意義上就是信息流的理性化，官僚主義的主要功能即是對信息進行汲取、加工和協調4。

在功能性方面，對信息資源的掌握和運用很大程度上決定了國家治理的功能性發揮。對于任何組織來說，掌握一定的信息資源是其行動的基礎。著名管理學家赫伯特·西蒙（Herbert Simon）認為，擁有足夠的知識和信息是公共機構合理決策的前提5。對于國家來說，完善的信息機制更是良善治理和合理決策的重中之重。如果說權力是國家治理活動的內核，那么信息就是國家治理體系的神經系統6。一個國家機器如果對其國土上的人口、財產、物產和各項事務缺乏必要的了解，則無法進行征稅、征兵和征徭役，也無法為社會提供必要的公共服務以達成其社會經濟政治目標7。國家“評估和征稅”的權力建立在對轄區人口信息的掌握基礎上。在傳統國家，這些信息一般通過人口普查、地籍圖等資料進行收集和統計8。隨著近代以來國家權力的增長，信息資源成為國家推動經濟發展9、提供公共服務10、應對公共危機11的關鍵和前提。概言之，信息機制事實上是國家維護安全、政治汲取、政治決策、感知社會、政治問責等一系列基本活動的核心機制1。

因此，建立完善的信息機制，提升國家信息能力構成了國家能力建設的內在要求。道格·麥克亞當（Doug McAdam）等人認為，國家能力指的是“國家代理人對其政府領土管轄范圍內的人員、活動和資源的控制程度”2。這種控制建立在國家對社會人員、活動和資源等信息的了解和掌握的基礎之上。托馬斯·布蘭博（Thomas Brambor）等人將收集、處理和發布有關“國家領土管轄范圍內的人員、活動和資源”的可靠信息的能力視為現代國家所依賴的最重要和最普遍的資源3。在研究拉美國家政治運行的過程中，勞倫斯·懷特黑德（Laurence Whitehead）將國家的“認知能力”（cognitive capacity）定義為“收集、處理、分析和提供現代國家所需的社會信息類型，以監測和解釋其政策影響，并在政策失效或適得其反時進行調整或重新制定”4的能力。世界銀行則以“統計能力”（statistical capacity）來代指國家信息能力，并將其定義為“一個國家收集、分析和傳播有關其人口和經濟的高質量數據的能力”?；谶@一定義，世界銀行自2004年以來一直在收集各國“統計能力”的數據5。

在不同時代，由于技術手段和水平的差別，國家的信息能力存在巨大差異。受限于技術發展水平，前現代國家的信息機制極為疏闊，國家對社會信息的了解不夠多。詹姆斯·斯科特（James Scott）在其名著《國家的視角》一書中認為，“前現代國家在許多關鍵方面幾乎是盲人”，其對統治對象的財富、土地及產出、居住地以及身份所知甚少。前現代國家既“缺少任何類似詳細地圖一樣的東西來記載它的疆域和人口”，也“缺少能夠將它所知道的東西進行‘翻譯’的統一標準和度量單位”，因此，前現代國家對社會的干預往往是粗劣和自相矛盾的6。易言之，前現代社會的“可讀性”（legibility）甚低7。一方面，受到交通和技術條件的限制，前現代國家的統治輻射范圍有限，對廣大邊緣地帶的統治相對薄弱。為了彌補信息不足帶來的治理困境，前現代國家往往通過限縮國家功能和借助地方代理人的方式進行統治。在中世紀的西歐國家，國王的統治必須仰賴貴族和領主的才能，因此產生了較高的委托代理成本8。相較而言，中國是一個“早熟”的國家9，很早就建立起相對完善的信息機制。據記載，中國從夏朝開始就展開了大規模的人口統計，之后的歷朝歷代都進行過全國性的人口和土地調查登記，建立了編戶齊民、魚鱗冊和皇冊等信息化機制。同時，中國較早出現姓氏制度，這被認為是人口清晰化治理的一大發展。不過，相比于現代國家，中國古代的國家信息機制仍然是有限的，其權力觸角無法抵達最基層，而常常以“道德化治理”來取代“數目字管理”1?！盎蕶嗖幌驴h”2很大程度上源于技術所限導致的中央難以掌握足夠多的地方信息，而必須仰賴地方士紳和宗族來治理鄉村事務。

隨著民族國家的構建和技術水平的提升，國家信息能力伴隨著國家權力不斷增長。按照弗朗西斯·福山（Francis Fukuyama）的觀點，政治現代化的過程很大程度上伴隨著國家的構建和國家能力的擴張3。這種國家構建和國家能力的擴張與現代國家信息機制的建立密不可分。隨著國家構建的推進，“信息國家”于17世紀開始形成4。正如吉登斯所說，現代性制度的基本維度之一，即是建立在信息基礎上的（直接的和間接的）監控能力。因此，現代國家的協調性行政控制，與對“官方數據”的理性監測是緊密相關的5。邁克爾·曼（Michael Mann）將現代國家的權力分為專斷性權力和基礎性權力，并認為，現代國家不斷獲取治理知識和信息，推動社會事實清晰化，其實就是為了獲得調節、干預和介入治理對象的能力，從而發展基礎性權力6。歐樹軍認為，現代國家為了獲取社會信息，推動社會的清晰化，建立起國家認證制度7。同時，為了強化對所治理轄區的人口和土地等數據的掌握，國家逐漸發展出“制圖術”這一治理工具8。經過農業革命、工業革命和信息革命的歷史變遷，在信息技術和傳播機制革新的推動下，國家“視力”日漸清晰9。

（二）技術變革與國家信息機制

在國家信息機制轉型和國家能力提升的過程中，技術發展無疑發揮著至關重要的作用。在過去一百多年間，每一次國家信息機制的轉型都建立在技術革命的基礎上。第一次科技革命之后，以報紙為代表的大眾傳播技術興起，建立在廣土眾民基礎上的代議制度成為早發國家治理的基本形式。第二次科技革命驅動了專業化分工和“流水線”生產模式的形成，推動了電臺廣播傳播方式的崛起，隨之而來的是各國建立起韋伯意義上的科層制結構。以計算機技術為代表的第三次科技革命則推動了電視媒體的興起，并在西方國家助推了包括電子政務、數字政府在內的新公共管理改革，從而實現了對傳統科層制和信息機制的自我更新和調試。20世紀末期以來，數字和智能技術興起并得到廣泛應用，人類社會進入第四次科技革命的前夜，國家治理的信息機制面臨重大變革和挑戰。一方面，現代社會具有高度復雜性、風險性和不確定性，增加了國家準確、全面、即時地掌握社會信息的難度。隨著后工業化和全球化的推進，人類已經進入一個高度復雜化的社會，從而給社會治理帶來新的挑戰10。用社會學家齊格蒙·鮑曼（Zygmunt Bauman）的話說，未來社會將不再是“確定性的王國”11。取其首字母，基于技術發展所形成的社會易變性（Volatility）、不確定性（Uncertainty）、復雜性（Complexity）和模糊性（Ambiguity）的時代特征被稱為“烏卡（VUCA）”。烏卡時代的到來導致治理風險的疊加和蔓延，推動國家治理價值的轉型1，增加了國家信息治理的難度。另一方面，現代數字智能技術的發展也為國家治理信息機制的變革帶來新的機遇。通過嵌入國家治理進程，數字智能技術有助于提升國家治理的數字能力2，增強國家對社會的數字可讀性，推動國家治理信息機制的數字化和智能化。

具體來說，在數智時代，國家治理面臨的信息態勢發生了以下幾個方面的變革：

第一，隨著現代社會信息的幾何級增長，國家治理面臨著信息爆炸的局面?，F代社會的高度復雜性和活躍性，通信和傳播技術的廣泛應用，大大提高了信息產生與傳播的速度和廣度，從而導致現代社會出現信息爆炸（Information Explosion）。進入信息時代以來，人類生產信息的速度呈幾何級數增長3。據統計，2020年，人類每隔幾個小時產生的信息量差不多等于從人類文明誕生到2003年間所產生的所有信息量4。同時，技術水平的增長也賦予人類存儲和處理海量數據的能力。根據摩爾定律，人類的信息處理能力每兩年就可以翻一番。算力的增長使得存儲和處理這些海量數據成為可能。

第二，在數智時代，國家治理信息變得高度數據化。進入數字時代，特別是智能時代之后，地球上大部分信息都被數據化了。無論是靜態的山川河流還是動態的衣食住行，大部分物體和活動都被人類轉換為機器可讀的二進制代碼5。隨著大數據、人工智能、云計算和5G技術的快速發展、迭代與滲透，人類社會正快速地走向信息化和數字化。這種數字化轉型不可避免地影響到國家治理進程，國家治理的信息機制也開始迅速地以數字化的形式呈現出來。在我國，政府的數字化轉型走過了從電子政務到數字政府建設的發展歷程，國家治理活動日趨數字化。利用各項數字技術，國家試圖將復雜的社會事實全部簡化為可讀的符號或代碼，使整個社會變成可感知、可閱讀和可分析的對象6。最重要的是，在數字時代的國家治理中，作為治理客體的人本身也被數字化了。按照尼古拉·尼葛洛龐帝（Nicholas Negroponte）的看法，數字時代的人類很大程度上是“數字化生存”的7。通過物聯網技術、智能家居系統和智能穿戴設備，人類的各項活動都以數字化、全景化的形式呈現出來，成為可供分析和解讀的對象。在智能時代，甚至連人類最深層次的身體信息（DNA信息）都可以做到數據化8，而成為治理信息的一部分。

第三，數據和數字技術成為國家治理的重要抓手。一方面，通過掌握數據，國家可以實現對社會活動、治理對象的完整性、統攝性掌握。例如，在數字時代，國家治理的重要對象——人口——常常是以數字化的方式呈現的。在傳統時代，對人口數據的掌握往往需要通過定期的人口普查來獲得。到了數字時代，人口信息和活動可以完全以數字化的方式呈現在治理者面前。作為數字時代治理對象的身體，本就是最為靈敏的社會傳感器。通過追蹤其“數字足跡”（digital footprints），國家可以實時掌握治理對象大量的時間、空間和行為數據。另一方面，通過掌握和運用數字技術，包括國家在內的治理主體可以高效地實行治理活動。邁克爾·沃爾澤（Michael Walzer）認為，權力的實施需要通過特定媒介來展開，即“支配總是以一套被稱為‘主導物品’的社會物品為中介”。在資本主義社會，資本是占主導地位的物品，并可以輕易地轉化為權力1。到了數字時代，占主導地位的物品將是數字技術，權力的實施很大程度上是以數字技術為基礎的。大衛·弗林特（David Flint）認為，在現代國家的“委托—代理”體制下，數字和文字作為審計工具有助于降低代理偏離委托人利益的風險2。進入智能時代，國家甚至可以通過大數據訓練機器學習人工智能系統，以預測和控制被治理者的觀念和行為，從而達到特定的治理目標。

二、國家治理信息機制的智能化變革：從生成式人工智能到GPT技術

2022年11月30日，美國OpenAI公司發布新一代聊天機器人程序ChatGPT。ChatGPT本質上是一種大型語言模型（LLM），能夠在海量數據和語料庫的基礎上進行自主機器學習，并智能地生成文字內容。作為基于深度學習和超強算力的大模型，ChatGPT具有非常強大的功能和廣闊的應用場景，可以被用來即時聊天、創作故事、撰寫新聞、書寫代碼等。因此，ChatGPT一經推出，很快風靡網絡，迅速引起了全球性的現象級關注熱潮。僅僅兩個多月，ChatGPT的用戶數量就超過了一億，其爆紅程度遠超Twitter、Tik Tok等以往的社交媒體。2023年3月14日，OpenAI發布了更為智能的GPT-4。相較于ChatGPT，GPT-4在抽象、理解、視覺、編碼、數學、醫學、法律、理解人類的動機和情感等方面所表現出的卓越能力，令人更為驚嘆。一些學者甚至認為，ChatGPT及GPT-4代表著人工智能技術的里程碑式發展，打開了人類通往通用人工智能時代的大門。

作為一種新的信息媒介，從生成式人工智能到GPT的一系列技術發展預示著人類社會正在出現一場新的信息革命。加拿大政治經濟學家哈羅德·伊尼斯在其名著《傳播的偏向》中指出，傳播媒介是有偏向的，新的主導型媒介將推動新文明的誕生3。ChatGPT、GPT-4等大模型不僅作為聊天機器人而存在，且將作為核心技術嵌入到下游互聯網平臺中，進而成為支撐起整個科技、社會、文化、商業、經濟甚至政治的基礎性平臺4。在未來，隨著生成式人工智能和大模型技術的應用場景逐漸拓展，必然會重塑人類社會的信息機制。以GPT技術為代表的生成式人工智能技術有望重塑國家治理信息機制，并對國家治理的信息汲取、信息處理和信息應用產生革命性的影響。

本文擬以ChatGPT技術為例，圍繞生成式人工智能技術對國家治理信息機制所帶來的變革進行前瞻性的分析。生成式人工智能（Generative AI）技術，指的是一種基于大數據集訓練的深度學習模型來創建新內容的人工智能技術。國家治理信息機制是國家治理過程中的信息獲取、處理、存儲和運用等構成的統一體。從內涵來看，國家治理信息機制的概念體現出治理導向和社會互動的特征：一方面，與國家信息機制的一般性概念相比，國家治理信息機制是國家信息在國家治理活動和實踐中發揮作用的機制，體現出強烈的治理導向。那些不具有治理導向的信息機制并不在此概念的關注范疇內。另一方面，國家治理信息機制體現出國家與社會互動的特征。社會是國家治理的對象，也是國家治理信息的主要來源。國家治理信息機制不但關注國家本身的信息動態，也關注社會、國家與社會之間互動所產生的海量信息。在具體的國家治理實踐中，國家治理信息機制包括信息汲取、信息處理、信息應用三個方面。本文擬從這三個方面闡述生成式人工智能對國家治理信息機制變革所帶來的影響。

（一）信息汲取

信息汲取是國家治理的前提。信息汲取致力于解決信息稀缺難題。只有建立穩定、有效的信息汲取機制，國家治理活動才有可能。因此，具備一定的信息汲取能力是現代國家的必備條件。人工智能技術的興起和應用大大提升了國家的信息汲取能力。在智能技術的加持下，國家對社會的信息汲取在廣度和深度上都達到了史無前例的程度。以ChatGPT為代表的生成式人工智能技術的興起更是大大提升了國家信息汲取的智能化和高效化水平。本質上，大模型就是信息汲取的產物。主要的生成式人工智能大模型都建立在海量數據的基礎之上。數據的生成、存儲、學習和利用是生成式人工智能迭代發展的主要動力源1。例如，ChatGPT-3包含1750億個參數，其迭代版本GPT-4的參數量已達到百萬億級2。隨著GPT技術的迭代，其技術模型參數和數據量也在不斷倍增。

就成本而言，生成式人工智能和大模型技術大幅降低了國家信息汲取的時間、人力和物力成本。傳統意義上的國家信息汲取必須耗費大量的人力物力財力，并通過強大官僚體制的推動才能完成。例如，全國性的人口普查被稱作“和平時期最大的社會動員”。據統計，2020年中國進行的第七次人口普查動員了700多萬名普查員和普查指導員3。僅山東一省，就安排了9.3億元預算進行此次人口普查行動4。相較而言，智能化的人口信息采集大大降低了成本。通過構建多智能體的城市人口分布模型，治理主體可以對其轄區的人口數量和空間分布具有更高精度的認識5，并可以對未來人口分布動態進行模擬和預測6。ChatGPT 模型作為大型智能信息采集總中心，可以通過自動抓取、精確識別、自動分類和高度模擬系統，采集海量的數據，降低人口數據收集的成本。

就效率而言，生成式人工智能技術的應用將克服國家治理信息的失準、片面、滯后和膚淺等問題，提高國家治理信息的準確性、全面性、即時性和深入性。

第一，準確性。傳統的信息收集機制往往是以人為主體，不可避免地帶有人的主觀性。不過，ChatGPT、GPT-4等智能化大模型系統是自動化的，信息提供者直接向智能機器人和智能系統提供信息。在用戶與大模型的直接交互過程中，用戶輸出的信息毫無過濾地被收集。在國家治理的過程中，國家依托的大模型系統可以準確地采集社會各項信息，避免信息被扭曲或篡改。

第二，全面性。隨著生成式人工智能的發展和應用，信息形式開始急遽多樣化。除了傳統以文字為主的信息形式大幅增加，圖片、視頻、聲音等信息也逐漸成為信息汲取的重要對象。多樣化的信息形式有助于發掘隱沒于傳統信息機制中的信息，消除國家治理的盲區。

第三，即時性。傳統的信息采集機制帶有強烈的事后采集的特點，信息采集往往滯后于信息產生的過程。到了人工智能時代，在強大算力的支撐下，信息采集和信息產生幾乎是同時發生的。在這種情況下，國家治理的信息汲取過程不僅是靜態的，也是動態的。生成式人工智能有助于國家對動態信息和即時信息的掌握。在未來，即時信息系統可能與生成式人工智能系統深度融合，從而提高國家信息采集機制的即時性。

第四，深入性。智能化的國家系統對社會的信息汲取深度遠勝于傳統時代。通過無處不在的電子監控設備和傳感裝置，社會的各方面信息幾乎都處于智能技術掌握者的凝視之下。在未來，ChatGPT等大模型有可能接入傳感器裝置，并實時地收集最為隱秘的社會信息。

（二）信息處理

信息處理是國家治理的核心環節。進入數字時代之后，如何將汲取的海量信息進行高效的數字化保存、分類、整合和共享成為現代國家治理的重要議題。生成式人工智能與GPT技術的興起為國家治理信息處理的智能化發展帶來新的機遇。以ChatGPT為代表的生成式人工智能技術將有效提升國家治理信息的交互反饋、分類挖掘、開放共享水平。

ChatGPT等大模型能夠推動國家治理信息交互反饋的智能化和全過程化。在運行過程中，ChatGPT等生成式大模型體現出強烈的人機交互的特征1，有助于推動人機內容共創2。根據用戶的輸入需求，大型語言模型自動生成智能化的答案。因此，用戶輸入的需求是其訓練的內容和依據。ChatGPT根據有監督學習（事先標注數據）和無監督學習（事先無標注數據）的混合訓練，識別人類偏好并不斷進行自動模仿，自動生成和輸出符合用戶需求的答案。通過反復的人機交互和強化學習反饋機制，大型語言模型輸出的信息越發智能化和個性化。在國家治理過程中，依托于生成式大模型的治理系統的信息交互和反饋是循環往復的。通過多次人機交互，治理相關信息將得到質量上的提升，并轉化為國家治理的信息資源。

ChatGPT等生成式人工智能技術將推動國家治理信息的自動分類和有效挖掘。面對規模龐大、排序散亂的國家治理數據，生成式大模型可以建立相應的處理機制，對海量數據進行自動分類和標記。同時，大模型也可以用于分析文本數據，幫助政府部門更好地發掘和利用關鍵信息。隨著生成式人工智能技術的多模態應用，對圖片、音頻和視頻等數據的信息挖掘也成為可能。在國家治理領域，生成式人工智能技術有助于國家從紛繁復雜的社會信息中發掘有益信息和潛在議題，從而提升國家治理的水平和能力。

類ChatGPT應用有助于打破政府各部門之間的信息壁壘，推動信息開放和共享。以往由于人力資源的短缺和數據壁壘的廣泛存在，政府部門對數據的開發利用不足。數字技術興起之后，數字化平臺之間的數據共享成為新的難題3。大模型的出現有助于紓解傳統的信息壁壘和信息孤島問題，推動國家治理信息的共享4。作為一個集聚海量數據和信息的巨型平臺，ChatGPT可以突破傳統“平臺化”的信息收集和處理模式，一改以往互聯網平臺的信息壟斷。例如，ChatGPT與Bing融合形成的New Bing瀏覽器具有超強數據整合能力，這給最大搜索引擎Google帶來了巨大的挑戰。一方面，ChatGPT、GPT-4等大模型的超強語言學習能力將有效化解跨部門信息交換的困難。依托于同一個大模型的政府各部門可以通過平臺共建的方式打破部門間的信息壁壘，整合各部門之間的數據信息，推動政務信息的橫向和縱向流動。另一方面，ChatGPT、GPT-4等大模型將推動政府數據向大眾開放。一旦大模型得到社會大眾的廣泛使用，大眾獲取政務信息的門檻將大大降低，公民可以通過政府支持的大模型平臺獲得豐富和無差別的知識與信息。

（三）信息應用

信息應用是國家治理的終端。利用已掌握的有效治理信息，推動國家治理結構的轉型、國家治理效能的提升以及國家治理體系和能力的現代化，是現代國家治理的實踐目標。類ChatGPT大模型將在增強政民互動、強化政府決策和提升預警能力三個方面推動國家治理信息應用的智能化。

在政民互動方面，類ChatGPT應用可以提升公眾與政府的互動效能1。隨著互聯網時代到來，電子政務出現新形態，互聯網+政務服務呈現多樣化發展。目前，政府主要通過建立相應的交互平臺來推動政民互動。然而，當下廣為盛行的政府門戶網站、政府APP、政務微博、政務微信、政務小視頻等大多屬Web2.0甚至Web1.0時代，體現出強烈的單一性傾向。因此，在實際運行過程中，都存在回應性低、系統滯后、需求單一化的問題。大模型的產生將帶來政民互動的革命。一方面，ChatGPT、文心一言等大模型的超強語言處理、理解和生成能力意味著其可以同時處理大量的公眾訴求和咨詢而不至于出現系統崩潰和滯后。另一方面，ChatGPT、文心一言等大模型的高度擬人化特征可以提升政民互動的溫度和多樣化回應能力。因此，黃璜將提供此類智能服務的生成式人工智能稱為“數字客服官”（digital customer service，DCS）2。

在政府決策方面，ChatGPT等生成式人工智能可以提升政府決策的智能化水平和效率。在社會應用中，ChatGPT逐漸表現出解決通用問題的能力。通過對海量數據的處理和分析，ChatGPT等大模型可以歸納出特定的政策選項并分析各種選項的機遇和風險。在國家治理過程中，大模型憑借更大的語料庫、更高的計算能力、更強的自我學習能力，可以充當政府的智能化政策顧問，提供全面、真實和有效的政策分析，優化政策選項，從而提升政府決策的質量和效率3。例如，在人口政策制定方面，大模型可以高效整合世界各地歷年的人口政策和人口變化狀況資料，并通過比對和分析，得出人口趨勢的一般性規律，從而歸納出適宜中國國情的人口政策。

在監測預警方面，憑借對既有海量數據的處理和分析，ChatGPT還具備預測未來社會發展和推知公眾訴求的能力，從而為政府提前主動應對新問題、回應新訴求提供參考。這種預測功能在危機管理中發揮的作用特別顯著，可以提升政府危機應急管理的能力。通過對多模態數據（文字、語音、圖像和視頻等）的識別、匯集和整理，ChatGPT等大模型可以賦能公共管理者，提升對風險和危機的監測及預警能力。

三、國家治理信息機制的智能化風險與挑戰

人工智能背后隱含的算法歧視、算法偏見、算法黑箱將給國家信息機制帶來一系列的風險與挑戰。以ChatGPT為代表的新一代生成式人工智能技術有著更為強大的功能和更為廣闊的應用場景，因此有可能引發更為復雜的政治社會風險4。在相關法律法規和監管機制缺失的情況下，ChatGPT與生成式人工智能技術的快速發展和應用可能放大國家治理信息機制的風險。因此，在生成式人工智能技術的應用過程中，國家治理信息機制必須在信息生成與信息污染、國家凝視與社會權利、平臺權力與政府治理、技術霸權與國家安全之間尋求平衡。

（一）自動生成加劇國家信息污染

以ChatGPT為代表的生成式人工智能具有強大的信息生成能力。然而，與這種強大的信息生成能力相伴而生的是信息污染問題的加劇5。其一，大型語言模型和生成式人工智能的知識生產源于被“投喂”海量數據，而這些數據的質量難以保證。在實踐中，用于預訓練模型的數據來源可能未經篩選，夾帶著大量的有害信息。帶有歧視性、偏見和誤導性的信息可能輸入到大模型之中，從而對信息生產造成污染。其二，在大模型訓練過程中，數據的主要把關者可能夾帶偏見和歧視。大模型訓練需要標注人員和研究人員的介入，而他們在數據標注和處理中難免會帶入自己的主觀偏好。這就導致在其客觀的信息整合和闡釋架構的表面背后，隱蔽著ChatGPT等大模型的預設立場和偏見。其三，生成式人工智能降低了生成虛假信息的成本，極易導致信息污染的泛濫。生成式人工智能大模型具備較強的理解能力和生成能力，可以生成高度“仿真”、真偽難辨的內容。這種強大而擬人化的生成能力極易造成信息的泛濫和污染，從而擾亂國家的信息機制：

第一，對ChatGPT和生成式人工智能自動生成功能的濫用將造成潛在的社會危害，從而為國家治理帶來挑戰。不法之徒可以利用生成式人工智能大模型，高效地偽造文本、圖片、音頻與視頻信息，并從事詐騙、恐嚇、誹謗等犯罪行為1?；诖竽Ｐ偷纳疃葌卧欤╠eep fake）技術將會增強內容生成和傳播效率，強化其內容的迷惑性2。目前，利用生成式人工智能進行違法犯罪的行為層出不窮。例如，利用生成式人工智能合成不雅圖片和視頻的行為日益猖獗，各界已經展開討論以尋求妥善治理。

第二，以ChatGPT為代表的生成式人工智能技術在政府信息治理中的廣泛應用將對政府信息的真實性和權威性構成挑戰，從而影響政府公信力3。在未來，由于其高效、擬人化和個性化服務，生成式人工智能將在政府的信息發布和政民互動中發揮重要作用。然而，隨之而來的問題是，一旦生成式人工智能成為信息發布與互動的主體，如何保障其內容交互的真實性和權威性就成為關注焦點。

第三，具備強大而高度擬人化信息生產功能的生成式人工智能可能淪為輿論戰的工具。在智能化與產業化的基礎上，謠言“武器化”的趨勢日益凸顯。在國際舞臺上，謠言甚至可能成為國際對立和對抗的工具，對國家安全構成挑戰4。例如，敵對國家可以將大模型和生成式人工智能用于生產“智能水軍”，批量生產真假難辨的虛假信息，以達到混淆輿論導向，制造思想混亂的目的。同時，生成式人工智能給極端主義分子制造和傳遞極端和煽動性信息，從而進行“數據投毒”提供了新的工具。

（二）過度收集侵奪社會信息權利

正如前文所述，ChatGPT等大模型的開發離不開海量數據的支撐，其高效運行也離不開對信息數據的廣泛收集。隨著國家將大模型和生成式人工智能技術融入國家治理過程，國家對信息的收集能力將大大增強。然而，這將加劇長期以來社會對信息被過度采集的擔憂。國家獲取社會信息的邊界在哪里？這一問題在生成式人工智能時代更加引人深思。在生成式人工智能技術的加持下，國家對公民和社會信息的過度采集現象極有可能發生。在未來，如果生成式人工智能與各類傳感器連接起來，信息收集的觸角將伸向社會最隱秘的角落。例如，一旦生成式人工智能與人體的穿戴設備連接，人類最為私密的身體信息也將被納入批量信息收集的范疇，成為國家凝視的對象。

因此，隨著信息收集的范圍和深度不斷延展，可能誘發信息隱私問題。生成式人工智能大模型的訓練需要大量數據，這些數據中難免存在一些私密和敏感信息，如醫療記錄、財務數據、個人照片等。更為嚴重的是，在大模型領域，關于隱私保護的法律和制度仍未確立。這導致生成式人工智能驅動的信息收集存在著潛在的信息濫用與信息泄露的風險。一旦大模型與科技公司受到黑客攻擊，大模型的發展和信息收集將帶來極大的隱私風險1。

對信息的過度采集和運用將賦予信息掌握者巨大的權力，這可能會對社會權利產生侵害危險。如果未來國家加強與科技巨頭企業的合作，并將信息過度采集與算法控制結合起來，可能造就?？碌热怂O想的全景式監控社會。在數字化時代，平臺算法和數據控制下的用戶交互將面臨更為嚴密的監控和規訓，構成數字時代的生命政治問題2。通過將個人數據和信息上傳至虛擬世界，人類可能陷入一種被凝視和規訓的生存狀態之中。因此，國家對社會信息的過度掌握及其帶來的社會控制可能導致公權力的膨脹，強化其重塑社會的信心，從而造成“烏托邦式”計劃3的災難。

（三）數字平臺挑戰政府信息權力

人工智能時代以前的國家是社會信息的主要收集者、加工者和儲存者，也是權力的主要掌控者。不過，在人工智能時代，數字平臺獲得了巨大的信息與數據優勢，并獲得挑戰國家信息治理地位的影響力。早期關于平臺資本主義的研究探討了數字平臺具有的聚合性、壟斷性和擴張性傾向，揭示了數字平臺可能給國家權力帶來挑戰4。高奇琦將平臺化視為數字革命的基本特征，并認為平臺型企業通過掌握數據資源、助力數字監管、構建算法秩序形成了對國家的競爭性權力形態5。通過基礎設施媒介化和媒介基礎設施化兩大邏輯的相互強化，平臺權力可能形成新的權力中心，推動國家權力“私有化”和主權“協商化”6。例如，通過建立數字化的認證系統，數字平臺為每一位用戶創建統一的標識符，從而構建起與國家相競爭的易讀性系統，挑戰國家的信息權力7。在資本和技術的聯姻下，超級網絡平臺可能形成“超級權力”，侵蝕公權力的界限，異化公權力的實踐8。

到了生成式人工智能時代，數字平臺對國家權力和國家信息治理的挑戰愈加凸顯。國家在信息治理中的核心地位很大程度上被平臺企業所打破。相反，由于人工智能巨頭企業具有的技術優勢，人工智能國家治理體現的算法依賴實質上成為對巨頭企業的依賴9。在生成式人工智能技術的發展和ChatGPT等大型語言模型的開發過程中，主要科技企業（谷歌、微軟、臉書等公司）扮演著關鍵角色。由于其先發效應，平臺企業在信息掌握和存儲方面擁有顯著優勢。目前，一些科技巨頭企業掌握了海量的數據資源，其對信息的掌控甚至超過了很多公權力機構。隨著技術、市場和資本等資源的不斷集中，開發大模型的科技公司及其平臺可能比公權力機構更有能力對治理信息施加影響。有學者據此認為，生成式人工智能將打破Web3.0時代數據權力流散化的趨勢，成為新的網絡集權工具。由于生成式人工智能的出現，以分布式方式散布于用戶手中的數據資源可能重新集聚，這種集聚效應通過生成式人工智能與下游平臺的結合，將逐漸推動新的互聯網寡頭的形成1。

因此，生成式人工智能技術及其背后的科技巨頭企業可能演變為“準數據權力”機關，挑戰國家治理的信息能力。在這種情況下，國家的信息治理實踐必須通過與科技巨頭企業的合作和協同才能完成。相對于國家機構，主要科技巨頭企業擁有技術、人才等方面的優勢，可能在公私權力協同的國家信息治理中扮演主導型角色。傳統的“政府—相對人”的行政法律關系將演變為“ChatGPT—公民”的支配性法律關系2。這種新的國家信息治理結構可能帶來新的價值和主權風險。一方面，由于科技企業本身的逐利性，生成式人工智能驅動的國家信息機制可能被資本力量綁架，導致公共價值的削弱甚至瓦解。另一方面，由于目前主導型的科技巨頭企業（谷歌、臉書）主要是以美國企業為主，這極有可能帶來新的主權和安全難題。這些美國科技公司可能將經濟活動政治化，將掌握和壟斷信息轉化成政治施壓的武器，以達到干涉發展中國家的政治運作和國家治理的目的。

（四）技術霸權威脅國家信息安全

目前，西方（特別是美國）在大模型和生成式人工智能技術發展上處于領先地位。早在2015年，美國Open AI公司就基于自主研發的近端策略優化（proximal policy optimization）算法推出了大型語言模型GPT-1。隨后數年，Open AI公司對大模型進行了四次迭代，陸續開發出神經網絡（Jukebox）、圖像神經網絡（CLIP）、人工智能系統（DALL·E）等多項前沿技術，并在2023年推出更為強大的GPT-4。相較而言，國內對大型語言模型的開發起步較晚，技術不夠成熟，在GPT技術的賽道上處于追趕階段3。中國主要科技公司如百度、騰訊、阿里等于2019年才開始涉入這一領域。隨著ChatGPT的大火，資本市場嗅到了投資機會，國內主要科技公司紛紛涉足大模型的開發。文心一言、通義千問、混元大模型、360智腦、天工3.5、日日新SenseNova等國內大模型紛紛涌現。不過，目前國內的主要大模型在參數量、算力基礎、自然語言理解和生成等方面與GPT大模型仍然存在一定的差距。

美國在大模型和生成式人工智能技術上的領先地位構成了技術霸權風險。在中美博弈的大背景下，這種技術壟斷將給我國的國家安全，特別是國家數據主權帶來挑戰。一方面，作為一家美國公司，Open AI開發的GPT大模型進行的語言交互帶有很強的西方價值觀色彩，可能給我國的意識形態安全造成負面影響。雖然ChatGPT宣稱自己是中立而無價值偏向的，但卻內嵌了強烈的美國自由主義價值觀4。ChatGPT鮮明的意識形態立場源于其開發者群體的政治傾向和語料庫的西方主導性。傾向于西方價值觀導向的ChatGPT在全球的流行為西方國家提供了新的意識形態輸出工具，有助于強化其意識形態霸權，從而給包括中國在內的發展中國家帶來意識形態風險。另一方面，美國在大模型技術的領先地位可能帶來數據主權威脅。在數據權利和跨境數據流動普遍性規則尚未確立的時代，如果將GPT技術接入到我國國家治理和數字政府平臺中，意味著GPT平臺及其背后的Open AI公司將在很大程度上獲得我國國家治理“關鍵性基礎信息”的收集權、儲存權、處理權和應用權。這將給我國數據主權安全帶來嚴峻挑戰。

四、結語

著名經濟學家約瑟夫·熊彼特（Joseph Schumpeter）認為，創新意味著不斷地從內部革新經濟結構，不斷在結構上破舊立新，這就是“創造性破壞”（Creative Destruction）理論①。以ChatGPT為代表的生成式人工智能技術也將給人類社會帶來“創造性破壞”效應②。作為國家治理的基礎，國家治理信息機制正面臨著智能化的變革趨勢。GPT和生成式人工智能技術的發展在推動國家治理信息機制變革的同時，也帶來諸多挑戰。一方面，GPT等生成式人工智能技術將大幅提升國家信息汲取的準確性、全面性、即時性和深入性；優化國家信息處理的交互反饋、分類挖掘、開放共享；以國家信息應用推動政民互動、政府決策和治理預警。另一方面，生成式人工智能的自動生成機制可能加劇國家信息污染，信息過度收集則會侵奪社會信息權利，數字平臺崛起將會挑戰政府信息權力，美國的技術壟斷極有可能威脅我國的國家信息安全。

面對生成式人工智能技術給國家治理信息機制帶來的挑戰，需從以下方面采取相應的對策：第一，完善相應的法律法規建設。生成式人工智能的發展帶來新的法律難題和挑戰。由于技術的先行性，傳統的法律法規針對生成式人工智能帶來的知識產權、虛假信息、信息濫用以及技術壟斷等方面的難題存在一定程度上的空白和缺失。目前，關于生成式人工智能的相關法律法規正在逐步確立。如中國國家網信辦2023年4月發布的《生成式人工智能服務管理辦法（征求意見稿）》、美國國家標準與技術研究院（National Institute of Standards and Technology，NIST）2023年1月發布的《人工智能風險管理框架》等。第二，明確生成式人工智能技術的應用范圍，確立相應的應用規范。各相關部門應展開討論，對大模型和生成式人工智能的使用場景、應用領域、作用邊界作出規定。例如，當涉及到國家關鍵核心信息的收集、處理和應用時，對大模型和生成式人工智能的使用應遵循審慎安全的原則。第三，強化技術監管，對大模型平臺和生成式人工智能的信息機制進行全流程監管。針對生成式人工智能信息采集、信息處理和信息應用的全過程，監管部門應在健全法律法規的基礎上確立相應的監管細則。當生成式人工智能技術和大模型平臺出現違規行為之后，應采取適當的方式進行處罰和清單管理等。第四，推動自主科技創新，打破技術壟斷。在科技發展方面，中國的新型舉國體制具有一定的優勢，但也存在著瓶頸。在未來，生成式人工智能和大模型技術的發展需發揮國家的引領作用，在政府統籌的基礎上形成合力，并致力于推動數據整合、算力提升、算法突破，打造可供中國國家治理使用的大模型平臺和生成式人工智能應用。

責任編輯 申 華

技術編輯 王文浩