人工智能治理國際合作：現狀、挑戰與方向

陳超 張小可

【關鍵詞】人工智能治理；國際合作治理體系

隨著人工智能技術的迅猛發展和廣泛應用，全球人工智能治理成為當前科技發展的重要議題之一。目前，全球各國和國際組織紛紛開始制定人工智能治理的相關政策和法規，以確保人工智能的可持續發展和社會利益的最大化。同時，全球范圍內也出現了一些人工智能治理的倡議和合作機制，旨在加強國際間的合作與交流，共同應對人工智能治理中的挑戰。然而，人工智能治理的發展仍面臨著許多困難。首先，針對人工智能技術的兩大重要基礎——大數據和算法，很難形成以國家為界的封閉式治理，其天然涉及一系列跨境治理議題。其次，人工智能的治理問題涉及眾多利益相關方的利益平衡，需要建立起多方參與的合作機制。最后，全球范圍內的人工智能治理存在著國家與地區差異。因此，全球人工智能治理的發展急需各國家和國際組織共同努力，加強合作與交流，制定適應人工智能發展的全球性治理模式，以推動人工智能的可持續發展并最大化社會利益。本文梳理中、美、歐等全球主要國家和地區的人工智能治理合作現狀，分析人工智能治理國際合作當前所面臨的挑戰，提出有關推進人工智能國際合作的幾點思考。

一、人工智能治理國際合作現狀

自2016年以來，全球主要國家和地區政府和有關國際組織相繼開始圍繞人工智能發展存在的風險挑戰展開全面而系統的討論，并相繼提出多元化的治理理念和治理路徑。整體來看，中國、美國、歐盟在人工智能技術與應用方面處于世界前列，其對人工智能的監管探索也成為全球人工智能治理發展風向標。分析上述三個國家及地區的人工智能治理合作現狀，發現治理主體和治理原則正不斷趨同，但立法進程和法律法規差異體現出不同治理理念。政府間國際組織和行業組織在協調全球人工智能治理中扮演著重要角色。

（一）政府成為治理核心主體

全球人工智能治理已經普遍從宏觀規劃走向具體落地。整體來看，國家政府在人工智能治理中發揮著領導性作用，中國國務院、美國白宮、歐盟委員會在國家層面統領人工智能技術研發與治理框架搭建；科技部、國防部等政府部門積極推動對應政策法規出臺，成為人工智能核心治理主體。此外，中美歐三方政府部門下均設立人工智能委員會或相似專業管理機構，為相關政策及法律法規制定提供咨詢建議和必要支持，監督和管理人工智能發展標準及規則（表1）。

美國成立高級別管理機構較多，分別聚焦軍事、技術研發等方面的監督管理。其在2018年成立“人工智能特別委員會”，成員涵蓋多部門政府官員，為人工智能戰略規劃提供政策建議。同年成立的“人工智能國家安全委員會”負責協調政府、企業與研究機構合作，成員由政府官員、知名學者、企業高管等組成，作為聯邦咨詢機構為人工智能發展提供建議。

歐盟更加關注經濟、產業方面的監管議題，注重數據治理與保護。其于2018年組建“人工智能高級別專家組”，成員包括學術界、工商界和民間社會組織，指導歐盟人工智能治理工作，推動了《可信人工智能道德準則》《建立以人為本的可信人工智能》《算法責任與透明治理框架》《人工智能白皮書——通往卓越和信任的歐洲路徑》等治理政策文件的制定。專家組通過“歐洲人工智能聯盟”與更廣泛的利益相關者密切合作，廣泛吸取社會各界對治理政策的反饋與建議。

中國科技部2019年成立“國家新一代人工智能治理專業委員會”，委員會成員由來自學術機構、科研單位、科技企業的專家學者組成，發布了《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能倫理規范》等文件，系統性闡述中國人工智能治理框架和行動指南。

（二）治理原則整體趨同

迄今已有包括中國、美國、歐盟在內的40多個機構或組織提出了各自的人工智能倫理原則（表2）?？傮w來看，中美歐就人工智能倫理原則已基本達成共識，主要可概括為五大方面。第一，包容性增長、可持續發展和福祉。這一原則要求人工智能通過促進包容性、公平性、可信賴的道德行為，為人類和社會發展帶來助益。其中包括激發人類創造能力，促進包容性增長，降低經濟社會不平等程度，保護生態自然環境，推動未來科技向增進人類社會福祉的方向發展。

第二，以人為本的價值觀和公平公正。人工智能各階段參與者應堅持以人為本的價值觀，其中包括尊重自由、維護尊嚴、保護隱私、平等公平、倡導多樣性、激發社會正義、保護國際公認的勞工權利等。在各種情況和技術水平下，考慮人類的決定能力，采取相對應的以人為本機制和保障措施。

第三，透明度和可解釋性。人工智能系統應保持透明和負責任的對外資料披露，促進公眾對系統輸入和輸出內容的理解。對于受到人工智能系統不利影響的利益相關方而言，了解其背后因素信息和服務邏輯，能幫助其更好地理解系統運行，必要時維護自身權益。

第四，穩健性和安全性。人工智能系統應保證運行過程的穩健、安全和可靠，即使被誤用也能維持正常運行，避免產生不合理不必要的安全風險。因此，保證人工智能系統生命周期中的數據集、流程和決策的可追溯性十分必要，參與者應采取與人工智能發展階段相適應的系統風險管理方法，解決隱私、數字安全、偏見等相關風險。

第五，可追責性。人工智能系統在運行過程中，能夠對其決策和行為負責，并能夠接受監督和追溯。

（三）法律法規體現治理理念差異

當前中美歐在人工智能領域立法進程存在差異，法律法規內容也充分體現出各國家/地區間不同治理理念（表3）。

美國聯邦政府在立法方面態度較為審慎，沒有專門針對人工智能監管的全面聯邦立法，堅持突出市場作用、針對特定問題進行監管，由州層面進行分散探索，體現發展“有益的人工智能”理念。在法律法規制定過程中，采用分段方法制定法律法規，以幫助掃清技術應用障礙、促進產業發展為目的，主要為人工智能在特定部門和具體場景的應用進行監管，遵循基于應用的人工智能治理范式。2021年《無生物識別障礙住房法》要求住房和城市發展部向國會提交報告，說明這項面部和生物識別技術如何在公共住房部門及其租戶中相互作用；《面部識別和生物識別技術暫停法案》對面部識別及其他生物技術使用進行限制；《算法公正和在線平臺透明度法案》規定在線平臺算法公正性和透明性；《過濾氣泡透明度法案》對自動內容選擇機制與方法進行規制。2022年共有17個州引入有關人工智能法案，各州的相關立法主要涉及人工智能大模型中的歧視與偏見、大模型的透明度、人工智能于生物識別領域的應用等。在2023年的立法會議上，至少25個州在今年引入人工智能法案。需要指出的是，在人工智能和大數據滲透的時代，美國的分段方法不利于安全防范和數據保護。由于每條法律都局限于自己的領域，因此在不同部門和應用中可能出現差距和不一致。

中國對人工智能采取發展與安全并重的監管方法，法律法規突出信息內容領域垂直治理，體現發展“負責任的人工智能”理念。算法是人工智能的核心要素之一，在過去的幾年里，中國推出了一些全球首批針對生成式人工智能算法的具有全國約束力的法規，如《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》。監管重點著重于內容安全，強調生成式AI所產生的文本、圖片、聲音、視頻、代碼的真實性、準確性、客觀性。中國的垂直人工智能監管方法有助于監管機構在出現具體問題時迅速解決問題，但缺點是，監管機構必須為每一項新的人工智能應用發布新的監管規定，迫使監管機構跟上不斷發展的行業步伐。

歐盟明確提出引領人工智能全球立法規制的監管目標，以基本人權為底層邏輯，側重保障個人權利，體現發展“以人為本的人工智能”理念。推動人工智能立法，依照法律規范進行治理是歐盟人工智能監管的特征之一，歐盟人工智能治理也因此獲得了國際領先優勢。2020年2月，歐盟委員會發布《人工智能白皮書》，在全球率先提出風險分級監管概念，人工智能治理由以原則討論為主進入以政策討論為主的治理階段。2021年，隨著歐盟《人工智能法案》（草案）的發布，全球人工智能監管的序幕正式拉開，全球人工智能治理從此由“軟法”引領轉向“硬法”規制。2023年6月14日，歐洲議會投票通過《人工智能法案》授權草案，該法案將成為全球首部人工智能管制法律，對其他國家和地區的人工智能治理具有重要借鑒意義。歐盟要求人工智能系統考慮人的能力和技能范圍，支持人類能動性和監督性以實現發展，而不是減少或限制人類?！锻ㄓ脭祿Ｗo條例》賦予了歐盟居民對個人數據的更多控制權，并試圖澄清在線服務商在收集、利用歐洲用戶個人數據的規則和責任。

（四）國際協作機制發揮重要作用

政府間國際組織在全球人工智能治理中扮演著推動者的角色，組織引導形成大國共識，推動治理規則全球共享。經濟合作與發展組織（OECD）成員國在2019年5月批準全球首個政府間人工智能標準——《OECD人工智能原則》，具體包括包容性增長、以人為本、透明性、穩健性、責任等元素。二十國集團（G20）于2019年6月發布《G20人工智能原則》，提出人工智能研究與開發、建立生態系統、創造有利政策環境、培養勞動力能力等具體細則。七國集團于2018年啟動人工智能全球合作組織（GPAI），GPAI是一個由國家主導的多方利益相關者倡議，現在有18個國家和歐盟加入。2021年“美國—歐盟貿易和技術委員會”（TTC）成立，該委員會基于民主治理、公平競爭、法治、尊重人權，共容性增長等共同價值，探討機制和方法以協調美國和歐盟在關鍵技術領域的合作。2021年聯合國教科文組織發布《人工智能倫理問題建議書》，這是全球層面首個人工智能倫理的規范框架，旨在促進智能技術造福人類、社會、環境以及生態系統。

行業組織作為整合資源、促進合作的社會團體，也逐漸在協調人工智能治理國際合作、推動人工智能產業標準制定等領域發揮更加重要的角色。國際電氣與電子工程師協會（IEEE）2019年發布《人工智能設計倫理準則》，通過倫理學研究和設計方法論，倡導人工智能領域的人權、福祉、數據自主性、有效性、透明、問責、知曉濫用、能力性等價值要素。2022年國際標準化組織（ISO）和國際電工委員會（IEC）正式發布標準詳細描述與人工智能領域相關的概念和術語，2023年用于人工智能管理體系認證的標準已經進入批準階段。

二、人工智能治理國際合作面臨挑戰

盡管當前全球在人工智能治理領域已出現一定程度趨同，但由于各國在文化信仰、經濟結構、法律傳統、人工智能比較優勢等方面存在固有差異，達成更深層次的治理共識、構建國際合作治理體系和機制仍面臨諸多挑戰。

（一）原則理解存在差異

當前全球就人工智能發展原則已基本達成共識。然而，人工智能倫理中提出的原則清單通常過于寬泛和模糊，忽略了概念的復雜性和群體差異，無法明確指導行動。原則具有高度概括性，其抽象出重要道德主體以適用于廣泛場景，但忽略了人與人之間重要和合理的價值觀差異。以“公平”為例，雖然每個人都可能在原則上同意“公平”很重要，但對于究竟什么是公平存在深刻的政治分歧。公平應該包括確保每個人都有平等的機會獲得某種利益，還是我們應該以最小化對最弱勢群體的傷害為目標？即使統一的價值觀也可能帶來沖突，因為不同群體對同樣價值觀的排序存在差異。例如，西方和東方文化建立在不同的哲學傳統之上，在數據隱私等關鍵問題上可能存在重大且無法解決的價值差異，更多的個人主義文化可能比更多的集體主義文化更重視個人隱私。使原則更加實用的一個重要步驟是將其細化為更具體的原則。例如，業界承諾不開發自主武器技術，這是一個具體的、能指導行動的原則，可以用來問責。但與此同時，過于細化的原則意味著其相關性僅限于某一領域，并且可能招致反對。

（二）監管力度強弱不一

當前全球人工智能治理呈現強監管、弱監管、適度約束三種代表性傾向。歐洲人工智能政策以個人安全為核心目標指向，是強監管政策的積極倡導和推行者?！度斯ぶ悄芊ò浮纷鳛槿蚴撞繉ｉT針對人工智能的綜合性立法，具有強烈限制約束傾向。其現有條文主要涉及禁止和監管兩大部分，明確了一系列禁止的人工智能行為，對高風險人工智能系統應遵守的要求、風險管理、數據治理、提供者和使用者以及其他各方義務與違法責任等進行了明確規定。美國人工智能政策旨在積極促進技術發展和科技創新，采用審慎監管方式支持人工智能技術自由發展，以充分釋放人工智能技術潛力。其主張“除非有充分案例證明其危害性，否則任何新技術和新商業模式都被允許”的事后補救式監管方式。中國人工智能政策遵循適度約束原則，積極引導負責任的人工智能研發與應用活動，強調人工智能技術應助力人類發展，充分正視預判技術發展可能帶來的問題與不確定性?！渡墒饺斯ぶ悄芊展芾頃盒修k法》明確提出，要強調保護，前瞻性地明確了“法律、行政法規沒有規定的”不當行為的處理方式。

（三）人工智能概念碎片化

各國根據自身需要和實際提出了多種人工智能概念。中國立足人工智能與人類福祉，強調發展“負責任的人工智能”。中國的人工智能發展原則以增進全人類的共同福祉為目標，旨在確保人工智能符合人類價值觀和倫理道德，在保證安全可靠可控的前提下服務人類社會文明進步。美國注重平衡個人和企業發展與治理需求，更加強調“有益的人工智能”。其在原則中強調人工智能應獲取公眾信任、增加公眾參與、保證公眾信任。同時，在開發監管和非監管方法時，以私營部門為主導，注重收益和風險平衡，幫助公司在公平的環境中競爭；采用靈活方法及管理，促進人工智能創新與增長。歐洲則重視人的積極影響，關注人類可控，發展“以人為本的人工智能”。其治理原則要求AI系統考慮人的能力和技能范圍，支持人類能動性和監督性以實現發展，而不是減少或限制人類。特別的，治理原則要求公民對自己生產數據保持控制權。多種人工智能概念在完善人工智能治理不同維度的同時也造成了概念碎片化的問題，亟待具有全球對話基礎的及更具包容性的人工智能概念。

（四）地緣競爭削弱合作意愿

隨著人工智能技術的發展，其對地緣緊張局勢的潛在影響巨大，尤其是中美關系。中國已經成功創建人工智能生態系統，并正在某些領域趕超美國。美國將此視為全球秩序的重新調整和國家安全威脅，中國也自然被其視為人工智能領域的頭號競爭對手。美國政府近年相繼推出《無盡前沿法案》等法案，并修訂了針對中國企業的投資禁令，意在切斷美國與中國在人工智能等敏感領域的資金技術交流，應對中國等國家“在軍事、情報、監視或網絡能力等重要敏感技術和產品方面的進步所帶來的威脅”。受市場競爭和政治壓力影響，歐盟自2020年初連續出臺系列政策文件，加大對技術主權和科技自主性的關注，并將此作為長期目標。美國遏制中國人工智能發展的意愿，歐美科技保護主義浪潮的興起，加劇了地緣競爭局勢，增加了誤解與不信任，限制人工智能監管的全球合作。這種情形下，尋找新的國際解決方案來協調人工智能監管并進行立法，可能會因此變得更加復雜。

（五）安全威脅造成“囚徒困境”

人工智能的發展拓寬了國家主權邊界，帶來了非傳統主權安全領域的新議題。具體而言，人工智能算法革命的出現，以及主權邊界向數字空間的延伸，擴展了國家安全的內涵，國家政治安全需要將數據隱私安全、互聯網空間管轄權、網絡意識形態安全等新要素納入統籌。主權安全概念的寬泛化使其變得更加敏感和脆弱，意味著人工智能時代的國家政治安全更易受到威脅，加劇人工智能領域國際合作難度。人工智能技術推動各國政治安全議題相互嵌套，國家安全維護的自均衡模式正在向國家間安全維護的體系均衡模式轉變。各國都不愿限制自身在軍事等國家安全領域的人工智能應用，以免給競爭對手帶來優勢，這種“囚徒困境”常常成為國家間合作的障礙。即使人工智能治理合作可能給雙方帶來長期合作利益，但參與者更傾向于追求更短期利益，選擇不合作。

三、關于加強人工智能治理國際合作的思考

鑒于人工智能技術的跨國界性和其擁有的廣泛影響力，協調更加連貫的全球應對措施治理人工智能，對于確保安全穩定、包容互聯的全球格局，抵御國家間不斷擴大的數字碎片化至關重要。面對當前國際合作所面臨的挑戰，各國應秉持開放尊重心態，堅持求同存異方針，擴大交流對話領域，不斷推進人工智能全球治理邁向新階段。

（一）開放尊重，尋找共同價值基礎

推進人工智能國際治理，需要充分認識現存差異，保持開放包容心態，在尊重不同的基礎上尋找共同價值基礎。當前各國人工智能治理面臨的差異至少有三方面：一是各國所處發展階段和文化信仰差異，導致價值層面排序不一，例如對于公民權利和基本權利的權衡；二是各國人工智能技術發展階段差異，導致發展和治理優先級不同，例如美國在人工智能基礎性技術開發方面領先；三是各國基本國情存在差異，導致人工智能應用具體場景不同，例如人臉識別技術在中國具有巨大應用市場。只有在尊重差異的基礎上，建立廣泛對話，正視差異領域，尋找共同價值基礎，才能真正實現人工智能領域的國際治理。就現階段而言，人類命運共同體思想具有彌合價值觀差異與不同利益關切的重大價值，其主張追求世界范圍內的共同繁榮和發展。中國應秉持人類命運共同體的治理理念，倡導以人為本、智能向善、多元參與、開放對話、共建共享、合作共贏，積極參與人工智能治理國際準則制定，推進國內與國際制度間協調統一，為建設持久和平、普遍安全的世界作出積極貢獻。

（二）求同存異，推進分維度合作共建

人工智能全球性合作治理框架和體系在短期內難以成熟，需要求同存異，在不同維度尋求不同程度一致性。全球人工智能合作應分維度進行：第一個維度是橫向的，旨在確定覆蓋人工智能整個社會技術環境的最低要求，包括形成國際共認的人工智能定義和兼容性的國際原則等。在這一維度下應遵循包容、彈性的治理理念，盡量保持技術中立，確保方案兼容性，加深國際共識。例如，歐盟對在市場運行的高風險人工智能系統提出了相對嚴格的監管要求，但在《人工智能法案》指出，“擬議的最低要求已經與其他國際建議和原則基本一致，確保擬議的人工智能框架與歐盟國際貿易伙伴采用的框架兼容。第二個維度是垂直的，旨在圍繞特定領域開展合作。特定領域的監管可以確保更高水平的確定性和對現有業務模式、產品和服務的遵守，例如在致命自主武器系統、衛生保健、運輸和一般人工智能安全等領域建立和確定人工智能治理機制和標準。這些領域需要更量身定制的技術方法和監管方案。在這些領域，國際社會可能只需建立一個狹窄的監管框架，而不是實施一個涵蓋人工智能及其應用各個方面的大框架，具有較高共識度的中微觀層面的全球治理機制可能在以上領域加速形成。

（三）交流對話，發揮社會組織積極作用

人工智能全球化治理需要打造多元主體參與、多措并舉、協同共治的治理機制。人工智能技術浪潮催生社會治理體系和機制的變革，人工智能治理正在從傳統的政府主導的權威式管理走向多元主體協同共治的新范式，其重要特征之一是治理主體的多元化、治理手段的多樣化。推動人工智能全球合作，依賴于包括國際組織、政府、行業協會、企業、公眾等眾多利益攸關方的共同努力。各方需要根據自身角色和能力，選擇最佳手段，形成人工智能在國際范圍內的協同共治。國際社會已在核軍控和氣候變化等領域形成領先經驗，上述難題首先在學界和工業界中被廣泛討論和推動，最終上升為國際共識，形成有效的治理原則和制度。因此，在官方治理合作陷入僵局之時，各國企業、學界、非政府組織等主體間的行業學術交流對話可發揮“二軌外交”的有效功能，凝聚社會共識并推動其向官方共識轉化，讓人工智能為全人類發展帶來助益。