全球人工智能治理的目標、挑戰與中國方案

【關鍵詞】人工智能治理??全球秩序??機制復合體??中國方案

2023年7月，聯合國秘書長古特雷斯呼吁成立實體機構負責人工智能安全治理，并召集成立“人工智能高級別咨詢委員會”進行探討，拉開了全球人工智能治理的序幕。2023年2月和11月，荷蘭與英國分別舉辦了全球性的人工智能峰會，發布了《軍事領域負責任使用人工智能行動倡議》和《布萊切利宣言》。2023年10月，中國國家主席習近平在第三屆“一帶一路”國際合作高峰論壇開幕式上的主旨演講中提出《全球人工智能治理倡議》，向國際社會展示中國在人工智能治理方面的政策主張。此外，聯合國互聯網治理論壇、世界經濟論壇等國際組織也陸續提出有關全球人工智能治理的倡議。據不完全統計，目前全球關于人工智能的倡議已有50多個，這標志著全球人工智能治理進入了全面發展的新階段。

開啟全球人工智能治理的新篇章

全球人工智能治理是指國家、市場和技術社群等行為體為實現人工智能在全球的安全發展與和平利用而共同制定和落實一系列原則、規范和制度的過程。人工智能作為一項戰略性技術，具有改變全球格局和人類發展進程的潛力。其中，人工智能技術發展與應用所涉及的廣泛行為體和行業領域遠遠超出了常規技術，是最復雜也是影響力最大的戰略技術。正因為人工智能涉及議題領域廣泛、行為體眾多，如果缺乏規則和秩序，各方在倫理、規范和安全領域的很多分歧都難以解決，必將導致更多的沖突。可以說，較之于核武器與網絡安全，人工智能治理對于國際體系的安全與發展具有更重要的戰略性和全局性意義。當前，全球人工智能治理進程正在不斷加速，并且形成了復合型的機制建構路徑。

首先，安全發展與和平利用已經成為全球人工智能治理的新秩序。開展全球人工智能治理，需要在已有的治理實踐之上進一步明確人工智能治理的秩序和制度體系。目前，人工智能可以參考的治理秩序主要有二：一個是在核武器領域成功構建的以“戰略穩定”為基礎的秩序，另一個是在網絡安全領域以“負責任國家行為準則”為目標但卻未能實現的秩序構建?！皯鹇苑€定”為核大國提供了制定核政策、應對危機及軍備競賽的秩序框架，而“負責任國家行為準則”則由于未能有效減少各國在網絡安全上面臨的挑戰和沖突而舉步維艱。導致這一結果的主要原因在于各方對網絡安全秩序的目標和制度體系設計沒有達成共識。人工智能的戰略性、全局性較核武器和網絡安全有過之無不及，因此對建立共同遵守的規范和秩序的需求也更高。

人工智能全球秩序的內涵就是安全發展與和平利用。就技術本身而言，構成人工智能的模型、算法、數據具有較大的安全隱患，存在著“黑箱操作”和“失控”風險。人工智能的安全風險一部分源自算法自身的“黑箱”，開發者缺乏對人工智能決策機制的理解；另一部分是由于人類對于人工智能能力的理解不足，存在濫用風險。如果不加預防，一旦出錯便可能產生災難性影響。因此，如何確保人工智能的安全使用至關重要，任何人工智能技術的發展也都應當以安全為前提。國際社會應當對此形成共識，共同推動人工智能安全發展。

2023年7月18日，美國紐約，聯合國安理會舉行主題為“人工智能給國際和平與安全帶來的機遇與風險”高級別公開會。這是安理會首次就人工智能問題舉行會議。

從技術應用角度看，人工智能在軍事與情報領域具有巨大的發展潛力，但也帶來極大的潛在風險。倘若人工智能在戰場上被濫用，將有可能造成無法挽回的損失。例如，利用人工智能武器對核武器裝置發起攻擊很可能會打破“戰略穩定”，而核武器裝置采用的人工智能控制系統本身也可能存在不可控的風險。因此，禁止人工智能武器化的呼聲在國際社會得到廣泛支持。為此，應當明確在沖突中應用人工智能的目的是為了和平而非戰爭。此外，人工智能作為一項戰略性技術已經成為世界主要軍事大國競相爭奪的新戰略制高點。一些國家在人工智能軍備方面投入大量資金，用于情報、監視和偵察（ISR），保障網絡安全，指揮和控制各種半自動和自動駕駛車輛以及提高日常工作效率，包括后勤、招聘、績效、維護等。將和平利用人工智能作為前提可有效地避免其過度軍事化，管控人工智能驅動的軍備競賽。

其次，機制復合體建構成為全球人工智能治理的實現路徑。全球人工智能的治理機制對于管控分歧、尋求共識、實現治理目標至關重要。不同于原則性的秩序，基于解決某一類問題而專門設計的治理機制更加具體也更具約束性。人工智能作為通用型技術，其涉及的治理領域極為廣泛，需要有一系列松散耦合的機制來共同形成全球治理機制復合體。每一個治理機制都有明確的議題、參與行為體、互動模式。全球關于人工智能治理的倡議、規范和機制已經超過50個，其治理實踐涉及普適性的道德和倫理、國家行為規則、技術標準、行業應用實踐等多個層面，覆蓋國際組織、各國政府、私營部門、技術社群和公民團體等多個層次的參與主體。

從議題角度來看，當前人工智能治理主要關注倫理、規范和安全三個領域。人工智能發展與治理始終是相伴相隨的，人工智能治理是對技術和應用所帶來問題和挑戰的回應，隨著技術進步和應用突破，治理的議題在不斷拓展，能力也應不斷提升。早期人工智能治理關注倫理問題，主要是機器與人之間的關系，提出了保持人對機器的控制這一理念。隨著無人機等軍事人工智能應用的突破，規范成為治理的焦點。負責任地使用軍事人工智能不僅涉及如何將已有的國際規范落實到軍事人工智能領域，也包括如何構建新的規范來進一步約束不負責任地使用軍事人工智能的行為。隨著大語言模型的突破，針對模型、算法和數據的安全治理成為新的重大議題。

這些不同治理機制之間雖然目標不同，但鑒于人工智能的戰略性和全局性，“各自為政”的治理模式有可能帶來更多沖突，不利于解決問題。例如，由于人工智能的軍民兩用性，在安全治理中被視為合理要求的信息共享，有可能成為軍事人工智能領域的國家安全風險。統籌不同機制之間的關系有助于行為體在參與人工智能全球治理的進程中，作出相對理性、全面的決策。此外，人工智能各個治理機制之間的關聯程度要比其他治理領域更高。由于人工智能技術在不同議題上都扮演了重要角色，因此，其作為一根主線貫穿在全球人工智能治理機制復合體之中，具體體現在不同議題之間的關聯度以及行為體之間的互動模式上。這使得人工智能的治理理念、模式需要作出相應的調整。例如，更加突出多利益攸關方的治理作用，要解決技術上的問題就離不開企業和技術社群的參與。

全球人工智能治理面臨的挑戰

全球人工智能治理作為一項新興議題面臨雙重挑戰，即人工智能安全發展與和平利用的秩序面臨地緣政治的干擾，機制復合體的治理路徑面臨政治、市場、技術三種治理邏輯之間的沖突。這些挑戰折射出參與治理的主體對人工智能安全、發展和利用過程中不同的價值判斷、路徑偏好以及利益設定。

一方面，地緣政治因素制約人工智能全球秩序的構建。全球治理與地緣政治之間是一對矛盾。全球治理尋求對議題的共同理解和治理過程的共同參與，地緣政治的目標是民族國家權力的擴張，背后受到地理環境、意識形態以及軍事、經濟和科技實力等因素的影響。[1]全球治理的目標是建立共同遵守的秩序，地緣政治的目標則是獲得國家戰略收益。[2]因此，全球人工智能治理能否取得成功，一定程度上取決于能否克服地緣政治博弈所帶來的挑戰。

地緣政治沖突首先體現在由誰來主導規則制定平臺。聯合國作為全球人工智能治理主渠道遇到了美國主導的所謂“理念一致國家同盟”的挑戰。美國和一些西方國家從地緣政治的角度出發，認為隨著以中國為代表的新興市場國家在聯合國中的影響力大增，聯合國已經不能反映西方的意愿和關切。因此，他們更加傾向于將傳統網絡治理中大力推行的所謂“理念一致國家聯盟”運用到人工智能治理上，堅持以意識形態劃線，塑造戰略競爭對手，打造人工智能治理“小圈子”，并加強在軍事人工智能領域的互操作性。[3]例如，美國推動下的全球人工智能合作伙伴（GPAI）、七國集團（G7）“廣島人工智能進程”等機制將西式“人權”“自由”“民主”等價值理念作為“負責任的人工智能”的參考標準，美英澳三邊安全伙伴關系（AUKUS）更是在加快推動人工智能軍事運用的互操作性。這類排他性和安全性的聯盟正在加劇全球人工智能治理安全化和軍事化。

以中國為代表的新興市場國家和發展中國家認為，維護聯合國的合法性和權威性是領導全球人工智能治理的先決條件。從聯合國的角度來看，如果不能在人工智能這樣的關鍵領域發揮重要作用，未來聯合國在國際上的影響力和權威性會進一步喪失。2018年以來，聯合國相繼成立數字合作高級別小組、發布“數字合作路線圖”、創辦人工智能高級別咨詢委員會，倡導開發“可信賴、基于人權、安全和可持續并促進和平”的人工智能。聯合國下屬機構也將人工智能視為實現可持續發展目標的工具，發布了各項人工智能治理倡議。聯合國秘書長古特雷斯于2023年7月提出的“新和平綱領”政策報告，明確闡述了聯合國引領的“基于多邊”“彌合鴻溝”“平等參與”的人工智能治理原則。

此外，人工智能領域的實力地位影響了國家對待人工智能的治理態度。在規則的寬嚴度上，以美國為首的部分西方國家傾向于制定非約束性的規范治理，實力較弱的國家希望制定具有法律約束力的規則。這兩者的差異在于，強國更加希望利用非約束性的規范空間來實現多元的戰略目標。弱國目標相對單一，希望通過規則來約束各方的行為從而獲取國際安全保障。特別是在軍事人工智能等關鍵議題上，強國和弱國的訴求差異更加明顯。強國希望在保持人工智能發展的同時，也獲得安全方面的戰略優勢；弱國缺乏軍事實力，更希望禁止人工智能軍事化應用。

另一方面，全球人工智能治理機制復合體實現路徑始終面臨復雜的政治、市場、技術邏輯之間的分歧，并且已經貫穿在倫理、安全和技術治理的每一個層面。政治介入的合法性在于人工智能的安全失靈隱患需要政府來加強監管。由于人工智能是一項資金密集型高端技術，市場和技術在推動人工智能產業發展的過程中發揮著極為重要的作用。理想中的全球人工智能治理機制復合體需要國家與市場、技術等方面參與治理行為體明晰彼此的界限，并從各自的角度為治理提供解決方案。實際上，國家和市場、技術之間的界限模糊，并且存在著復雜的利益關系，使得全球人工智能治理體系難以形成統一的機制復合體。[4]

國家行為體與非國家行為體在治理中的邊界模糊，對治理的關注點也不盡相同。政府部門普遍關注人工智能相關的高政治領域，市場和技術行為體則更加關注技術、標準開發過程中的治理。政治視角與市場和技術視角之間不僅關注的議題領域不同，也暗含著復雜的博弈關系。政府更加關注軍事、安全風險，將自己凌駕于市場和技術之上。例如，美國發布《關于負責任地軍事使用人工智能和自主技術的政治宣言》、英國召開首屆人工智能安全峰會，都體現了政府對人工智能引發軍事安全風險的擔憂。不僅如此，國家行為體還強調自身的監管作用，通過立法和制定戰略來賦予自身領導權。以歐盟為例，其發布《人工智能政策》《人工智能白皮書：通往卓越與信任的歐洲之路》《人工智能公約》等政策文件，以確保人工智能的設計、部署和使用都符合歐洲委員會關于人權、民主和法治的標準。2024年3月通過的歐盟《人工智能法案》成為世界上首部全面監管人工智能的法律，致力于構建具有強約束力的人工智能監管框架，引領全球人工智能治理進程。

2023年10月30日，美國華盛頓，美國總統拜登簽署一項關于人工智能的行政命令。

在市場和技術視角看來，人工智能技術復雜，迭代速度極快，政府在一定程度上離技術較遠，因而其干預并不符合技術發展的邏輯，在很大程度上會阻礙技術發展。企業和市場在人工智能全球治理中應當扮演更加重要的角色。目前，微軟、OpenAI、Anthropic、阿里巴巴、騰訊、百度等人工智能領域領先企業紛紛發布了全球人工智能治理相關倡議。這些倡議認為，技術開發環節的治理是確保人工智能安全的關鍵，強調算法和模型的透明度和負責任的研發、人工智能在價值上與人類對齊等。不僅如此，市場和技術代表還組成聯盟共同參與全球治理進程。如由蘋果、亞馬遜、DeepMind、谷歌、臉書等科技公司成立的人工智能伙伴關系（PAI），積極支持與人工智能倫理和治理相關的緊迫問題研究，促進教育項目和實用工具的開發，建立人工智能事件數據庫等。市場和技術在全球治理層面的積極投入是為了在技術發展過程中追求更為寬松的監管環境，通過自愿承諾或標準制定等進行自我監督。市場和技術的主動作為是企業責任的一部分，但客觀上也分散了政府的權力?？傮w而言，隨著技術與市場在人工智能全球治理中的作用與影響不斷增加，政治、市場與技術三者之間的博弈也會愈加激烈。

全球人工智能治理的中國方案

2023年10月，隨著《全球人工智能治理倡議》的提出，中國向世界系統闡述了自身關于全球人工智能治理的立場、主張和建議。這份來自中國的治理方案是對當前全球人工智能治理中的問題、難點的系統性回應，展現了中國在推動全球人工智能發展和治理合作方面的積極態度與務實行動。

首先，中國的治理方案順應了當前人工智能技術發展的趨勢，及時回應了治理需求。從議程內容來看，當今的主流人工智能治理進程主要涉及安全發展與和平利用兩大主題。中國的《全球人工智能治理倡議》同樣把握住了這兩大主題，提出“堅持安全和發展并重的原則，促進人工智能技術造福于人類”，并進一步從技術倫理、科技向善、風險評估、隱私和數據安全、算法治理、發展賦能等具體議題角度對這兩個主題進行充分詮釋，重申全球人工智能治理中的重點問題。中國的主張回應了聯合國《特定常規武器公約》框架下的“致命性自主武器系統”（LAWS）人工智能軍事化治理進程。

2023年7月8日，上海，2023世界人工智能大會舉行。圖為華為展臺展示的AI大模型。

中國方案在充分參考全球各類倡議和治理進程的基礎上，發出了人工智能領域加強治理合作的呼吁。具體而言，中國的治理方案從核心架構上看，需要各國秉持共同、綜合、合作、可持續的安全觀，堅持發展和安全并重的原則，通過對話與合作凝聚共識，構建開放、公正、有效的治理機制；從治理主體上看，需要各國政府、國際組織、企業、科研院校、民間機構和公民個人等各類主體秉持共商共建共享的理念，協同推進；從治理手段上看，倡導建立人工智能倫理準則、建立風險等級評估體系、建立健全法律規章、開發風險防范技術以及對發展中國家的援助合作機制，從而推動人工智能治理倡議的落實；從治理目標上看，希望人工智能技術進一步造福人類，推動構建人類命運共同體。

從全球趨勢上看，中國的治理方案與其他人工智能雙多邊治理進程共同體現了當前人工智能治理“喜憂參半”的特征。一方面，各類進程在人工智能治理的大原則和大方案上形成了一定共識，基本都將“科技向善”“風險防控”“和平利用”等大原則納入議程設計的核心，在原則實施的具體方案上認可必須加強合作、凝聚共識，并充分發揮多利益攸關方的作用等。這些宏觀性的原則和方案確立了全球人工智能治理的準繩和方向。但另一方面，各類機制在原則細化和方案落實方面存在困難。從聯合國教科文組織（UNESCO）發布的《人工智能倫理問題建議書》到英國人工智能安全峰會提出的《布萊切利宣言》，多數進程仍然難以在具體的議程領域取得突破性進展，遑論設立明確的、具有約束力的標準框架或行動指南。這既是人工智能技術不確定性帶來的客觀挑戰，也是由各國不同的價值倫理和戰略需求造成的主觀困難，主客觀因素疊加阻礙了全球人工智能治理進程的有序推進。

2023年11月9日，浙江烏鎮， 世界互聯網大會烏鎮峰會發布大會成果之一——《發展負責任的生成式人工智能》研究報告及共識文件。

其次，中國的治理方案進一步完善了全球人工智能治理原則和理念。中國的治理方案不僅遵循全球人工智能治理中較為普遍的原則和實踐策略，還對當前全球人工智能治理中出現的一些片面、狹隘的提法作出了一定的修正和完善，推動全球人工智能治理進程朝著更加安全、公平的方向發展。

一是完善人工智能倫理中的人權觀。中國在《全球人工智能治理倡議》中強調，人工智能發展必須堅持“以人為本”理念。這一原則雖然在各種治理進程中也很常見，但是中國對其作出了更加豐富的詮釋，即人工智能技術的發展不僅需要尊重和維護個人權利，更應該以增進人類共同福祉為目標，以保障社會安全、尊重人類權益為前提，使人工智能始終朝著有利于人類文明進步的方向發展。從這個意義上來講，中國的方案不僅有別于西方狹隘的人權思想，為人工智能技術的道德規范和發展方向提供了框架，更提出了深刻的倫理立意，倡導構建一個平衡各方利益、共同應對人類挑戰的全球人工智能治理新模式。

二是強調人工智能發展中的平等觀。面對發展中國家在人工智能全球治理中普遍“失聲”的問題，中國作為發展中大國，通過充分發揮自身影響力，將發展中國家普遍關注的問題帶入更加廣泛的國際討論中，提出各國人工智能發展與治理的“權利平等”“機會平等”“規則平等”原則，并倡導需要開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。這將從能力、意愿與平臺開放度等方面破解發展中國家在全球人工智能治理中的邊緣化難題，[5]通過進一步兼顧南北國家立場和聲音構建公平合理的國際規則。

三是更新人工智能治理合作觀。美西方國家雖然積極開展人工智能國際合作，但不論是軍事防務領域的人工智能防務伙伴關系，還是產業與發展領域的美歐貿易和技術委員會（TTC），都有著極強的排他性和競爭性，從長遠來看并不利于推動全球性的人工智能治理進程。中國方案明確提出人工智能發展需要跨越“小圈子”，反對特定國家將全球治理機制工具化、私物化。[6]中國提出各國無論大小、強弱，無論社會制度如何，都有平等發展和利用人工智能的權利；強調要建立更加廣泛的人工智能合作機制，共同推動人工智能治理進程。

最后，中國的治理方案為統籌當前全球范圍內松散的治理機制提供了一個綜合性框架。當前，全球人工智能治理進程雖然在加速推進，但是在各個功能領域，治理機制的耦合程度仍然較弱，導致在執行力和協調性方面存在明顯不足。這一方面是由于各類機制的代表性不足，導致其治理標準不能為更廣泛的國家所接受，另一方面則是由于議題的涵蓋度不廣，導致對于人工智能領域綜合性較強的軍事化問題、系統安全問題與發展合作問題的回應較弱。

中國的《全球人工智能治理倡議》則對以上問題進行了針對性補充。中國方案將不同意識形態、不同發展階段的國家納入同一個治理框架中，賦予各國平等參與和討論的機會，強調多邊主義和共同利益。通過這一方式，中國方案試圖解決現有治理機制代表性不足的問題，促進全球人工智能治理標準的普遍接受和應用。同時，中國方案也擴大了治理議題的范圍，將人工智能安全、發展、和平、合作等主題下多個治理議題納入討論范圍，旨在構建一個更加全面和綜合的全球人工智能治理體系，為全球人工智能治理的有效實施和未來發展奠定堅實基礎。

因此，中國的人工智能治理方案具有廣闊的實踐前景。中國可攜手國際社會利用聯合國未來峰會等機遇，推動《全球人工智能治理倡議》中的關鍵主張在聯合國層面獲得認可。中國還可以積極加強同其他治理機制的多層級合作，通過原則協商、資源共享等方式，進一步加強國際技術交流和政策對接。此外，中國還可以圍繞《全球人工智能治理倡議》搭建更多具體而有實踐性的治理機制，在發展與安全、變革與穩定等多重維度之間尋找合理的平衡點，進而為解決當前全球人工智能治理中的代表性和廣泛性難題提供良策。

[1]?蔡翠紅：《全球科技發展：迭代加速與地緣政治化》，載《人民論壇》2023年第24期，第24-29頁。

[2]?魯傳穎：《全球數字地緣政治的戰略態勢及其影響》，載《當代世界》2023年第5期，第37-43頁。

[3]?郎平：《網絡空間安全治理的全球性困境與中國對策》，載《國家治理》2022年第22期，第31-35頁。

[4]?Lewin?Schmitt，?“Mapping?Global?AI?Governance：?A?Nascent?Regime?in?A?Fragmented?Landscape，”?AI?and?Ethics，?Vol.2，?No.2，?2022，?pp.303-314.

[5]?門洪華：《中國三大全球倡議的戰略邏輯》，載《現代國際關系》2023年第7期，第5-21頁。

[6]?魯傳穎：《＜全球人工智能治理倡議〉中的中國智慧》，中國社會科學網，2024年1月23日，https：//www.cssn.cn/gjgc/lbt/202401/t20240124_5730523.shtml。