AI大模型背景下數字治理的技術創新與風險應對研究

AI大模型發展起源于自然語言處理領域。AI大模型可從參數規模、從模態支持以及從應用領域四個方面來進行劃分，其中，從參數規模上看，經歷了預訓練模型、大規模預訓練模型、超大規模預訓練模型三個階段；從模態支持上看，AI大模型可分為自然語言處理大模型，CV大模型、科學計算大模型等；從應用領域上看，大模型可分為通用大模型和行業大模型兩種。AI大模型具備數據巨量、通用泛化、多態融合、自監督學習等核心特征。

當前，我國城市治理進入全新階段，治理理念、治理技術、治理空間、治理數據化等正發生顯著變化。但隨著互聯網的快速發展，傳統的治理模式已無法滿足需求，變革治理模式迫在眉睫，AI大模型的關鍵技術及核心特征為解決以上問題提供了新思路。

一、我國數字治理發展現狀

當前我國數字治理呈現出四大態勢：治理理念轉向服務、治理技術不斷創新、治理空間去邊界化、治理數據化態勢明顯。治理理念轉向服務，現階段的城市治理更關注市民的個性化需求，“管理+服務”雙融合的場景在不斷衍生與創新。治理技術不斷創新，新一代信息技術快速發展，推進城市治理從數字化到智能化到智慧化的不斷升級，實現了從問題式治理向預防式治理的轉變。治理空間去邊界化，在數字化時代，城市內和城市間的概念模糊，城市間實體和虛擬聯系度更加高效，要素流動更加頻繁，高速流動在增強了社會發展活力的同時，也加劇了社會治理的復雜度。治理數據化態勢明顯，數據正在重新定義城市，城市的交通、能源、商業等運行模式正在被數據重塑，數據正在重新優化和配置城市的發展空間與資源要素。

當前城市數字治理建設取得了積極成效，但也面臨著一些困難和挑戰。一是城市擴張帶來的治理問題；二是城市數字治理過程中衍生的新問題。從城市發展來看，“城市病”嚴重制約著城市的可持續發展，衍生出系列現實問題，加重了城市治理的任務與壓力；數字治理過程中，存在著“信息孤島”“數據煙囪”等問題，內容不互通、數據不兼容，難以進行有效整合并發揮作用。此外，還包括個人隱私保護、數據倫理等問題。

二、AI大模型賦能數字治理創新發展路徑

AI大模型賦能城市數字治理可以總結為“1+3+4”模式，從“模型+平臺+應用” 三個層級分別發力，形成良性循環的智能化生態共同體。3大模型能力引擎：主要包含基礎、任務、行業大模型。1大核心賦能平臺：GPTAl應用賦能平臺將大模型落地研發標準化，推動AI廣泛落地，提高場景應用精度；4類AI賦能應用：圍繞產業升級、公共服務、數字政府、城市治理等四大領域，發展各類AI特色應用。

推進AI大模型+公共服務，精準推送“一站式”服務。依托plugin，打造市民服務“一語通辦”。依托AI大模型的文字、語音和圖片處理的多模態能力，以及政務大數據底座，在上下文學習、人類反饋強化學習和第三方服務Plugin技術的加持下，提供政務服務“一語通辦”。AI大模型賦能政策精準觸達。運用大數據精準匹配“政策要求-個體條件”，對滿足條件的個體實行“免申即享”，以反饋促進激勵調整，以評估推動政策優化。AI大模型賦能智慧旅游。搭建“蟻群算法”規劃景區最優路線，利用“分層聚類分析算法” 推薦景點、餐飲、住宿，利用“時間序列分析算法”預測景區人數。

推進AI大模型+平安城市，健全完善“無死角”安防。構建CityGPT城市大模型應用平臺，實現城市運行狀態的多尺度、高仿真、動態化、交互式的精細模擬，提供核心技術使能、資源融合共享、模型靈活配置、數據分析研判等應用支撐能力。AI繪制城市“運行畫像”，整合城市中多樣元素的實時狀態，探索繪制城市“運行畫像”場景，并進行可視化展示，實時反映城市發展過程中的問題。構建“城市慧眼”實現“云端統覽”，定制物品識別、區域識別、時間識別等多種算法，針對單張圖片或實時視頻流，快速識別出多個場景，精準鑒別違規事件并報警。探索城區更新“未來之眼”，選擇試點區域，整合形成規劃管控“一張圖”，運用平臺模擬規劃建成后的社區運行狀態，歸納總結規劃意圖實現程度和缺陷，基于體檢結果及時改進規劃設計方案。AI助力城市“雙碳”行動，通過深度學習、運籌學等綜合技術構建AI綜合能源調度中心，優化整體能源管理，使能源使用達到“快、準、優”的效果。

推進AI大模型+數字政府，打造“更聰明”政務體系。AI助力智能公文處理，在公文生成、公文審批、公文閱讀等環節嵌入AI技術，實現智能糾錯、智能批辦、輔助批注、自動總結等，持續優化公文處理流程。RPA助力“最多報一次”。建立標準化的報表編制、審核規則，利用RPA技術將編制、審核規則及標準化流程寫入報表機器人程序中，實現催報的全覆蓋、自動化處理，審核的全流程、智能化核驗。推進AI數字人+政務服務互動，綜合計算機視覺、音頻識別、語音識別等技術打造虛擬人平臺，為用戶展示各類信息，實現人機互動。

推進AI大模型+經濟運行，充當產業升級“倍增器”。以AI大模型推進智慧金融，打通金融機構數據、征信機構數據、政府部門數據、大型企業數據等，利用大數據與機器學習模型綜合量化評價客戶風險，形成審批決策。AI大模型精準服務企業，生成樓宇經濟“一張圖”，基于全量數據構建企業風險評估“冒煙指數”模型，及時掌握市場主體經營行為、規律與特征。

三、AI大模型數字治理風險分析和應對策略

人工智能技術在推動政府數字化轉型的同時，在技術、應用及倫理等方面尚存在一定的風險挑戰。一是算法濫用引發安全風險，人工智能技術仍處于初級階段，可能存在技術漏洞；二是算法歧視引發公平風險，人工智能算法中可能內嵌“歧視”，致使決策結果有失公允；三是過度依賴導致“信息繭房”，同時，人工智能應用伴生的主體責任難認定風險。

（一）探索構建一套倫理約束體系

遵循“公平正義、造福人類”理念，探索構建一套人工智能倫理規范體系，明晰道德邊界，構建AI倫理的落地機制和體系，引導人工智能創新。探索發揮倫理規范對人工智能社會關系的調整功能，對機器人預設道德準則，為產品本身進行倫理指引；規定人工智能技術研發及應用的道德規范，對科研人員進行倫理約束。探索制定《機器人倫理章程》，設計倫理框架，為機器人預設道德準則；強化科技專家的社會責任，為人工智能研發、應用提供道德指引。

（二）探索構建一套技術應對手段

建立綜合治理機制，一是對AI治理推進精準敏捷監管。對人工智能技術設定“紅線”區，嚴格研制開發底線，并進行應用的限定。其次，在對AI應用分級分類的基礎上，采取分散化、差異化的監管，針對算法推薦服務、深度合成、自動駕駛等不同AI應用分別制定監管規則。

（三）探索建立一套法律制度規范

在頂層規劃層面，統籌規劃、系統構建AI產業規范及保障體系，強化數據產權問題研究，規范數據權屬、使用、交易、共享機制，解決數據所有權、使用權、收益權等問題。在行業應用層面，推動自動駕駛、智能醫療、智能制造、服務機器人等重點領域及應用場景的規則指定，加強對產品和服務的風險檢測，構建AI責任劃分體系，探索有效的監管路徑。在AI監管方面，建立和暢通人工智能產品的投訴舉報等監管機制，鼓勵第三方機構依托標準開展評測。

（四）探索構建一套多元共治模式

積極探索打造多元主體參與、協同共治的治理機制，鼓勵政府、企業、行業組織、學術團體、用戶或消費者、社會公眾等多元主體共同參與。政府層面要承擔起對人工智能技術及服務監管管理的職責，為人工智能營造良好的發展環境；行業組織可以通過制定技術標準、倡導行業自律等方式推動人工智能規范發展；科技企業實現自我治理和自律管理，積極落實“倫理先行”理念；公眾是治理過程中的重要參與者，可以適當介入到治理監督過程中，維護自身合法權益。

作者單位：寧波市數據服務中心