中美歐AI監管與治理：新進展和啟示

當前人工智能治理逐步從原則探討步入具體規范，自ChatGPT出現及應用以來，中美歐紛紛探索將生成式人工智能納入現有的監管和治理框架中。歐盟通過世界首部人工智能監管法律《人工智能法》草案，并納入生成式人工智能相關議題；美國推出《人工智能風險管理框架》，為企業提供通用、非強制性的風險管理工具；中國采取行業規制的方式實現敏捷治理，出臺針對生成式人工智能的首部專門法規。但目前我國尚未形成通用立法或監管框架，針對具體領域的規范可操作性不強，未來可借鑒歐美人工智能治理經驗，加速完善我國人工智能治理體系。

中美歐人工智能治理的現狀與新進展

當前人工智能技術發展日新月異，中美歐人工智能領域的競爭日益激烈，人工智能治理也逐步從原則探討步入具體規范。自ChatGPT出現及應用以來，由生成式人工智能（AIGC）所引發的與數據、算法、應用、對社會經濟影響有關的多重風險引起政府和社會公眾的廣泛關注和擔憂，中美歐紛紛探索將生成式人工智能納入現有的監管和治理框架中。

1.歐盟：在全球范圍內率先啟動立法，分級立法監管人工智能

歐盟通過世界首部人工智能監管法律——《人工智能法案》（AI Act）草案（下文簡稱“草案”），采用“基于風險”的治理框架，對人工智能系統（下文簡稱“AI系統”）進行分級立法監管。2020年2月，歐盟委員會頒布《人工智能白皮書》，《人工智能白皮書》的出臺意味著歐盟對AI的監管從倫理指引轉向了立法監管。2023年6月14日，歐盟議會通過了《人工智能法》草案，是世界上首部人工智能監管法律，最早構建了人工智能的治理框架。歐盟《人工智能法》的主要思路是將AI系統劃分為不同的風險組，對數據管理、記錄保存、透明度和人為控制提出不同的監管要求。

草案將AI系統劃分為不可接受的風險、高風險、有限風險和極小風險四級，對應不同的監管要求。其中高風險人工智能的使用必須受到嚴格監管，系統提供者和使用者都要遵守數據管理、記錄保存、透明度、人為監管等規定，以確保系統穩定、準確和安全。對于違反規定者，草案設定了最高3000萬歐元或全球年營業額6%的罰款。值得關注的是，在最新草案中，實時遠程生物識別技術從“高風險”級別調整為“不可接受的風險”級別，這意味未來企業被禁止使用AI技術在歐盟國家公共場合進行人臉識別。

隨著生成式AI的爆發，草案重點引入了針對大模型的風險監管。2023年6月，歐洲議會針對生成式AI的治理作出了應對，在數據管理、算法透明度和版權規則方面引入針對大語言通用模型的規則。

一是大模型的提供者必須評估和減輕可能的風險（對健康、安全、基本權利、環境、民主和法治的風險），并在向歐盟市場發布模型之前在歐盟數據庫中注冊。在數據管理方面，大模型底層的訓練數據處理將會受到更多重視，包括訓練數據的篩選流程、底層訓練數據的存放模式以及訓練數據的安全規范等。

二是在算法透明度方面，基于大模型的生成式人工智能系統，如ChatGPT，必須遵守透明度要求（向用戶披露其內容是人工智能生成的），并確保防止生成非法內容。

三是在版權規則方面，用于模型訓練的受版權保護的數據的詳細摘要也必須公開。此外，按照目前的草案框架，對于閉源公司的大算力模型將會受到更為嚴格的監管，這將提供給開源模型以及垂直行業的人工智能應用更大的發展空間。

2.美國：為企業提供通用的AI風險管理框架和操作指南

美國商務部下屬國家標準與技術研究院（NIST）發布《人工智能風險管理框架》（AI RMF），為企業提供通用的人工智能風險管理框架和詳細的操作指南。2023年1月，NIST正式發布第一版AI RMF ，并于3月發布完整版AI RMF Playbook.AI RMF將風險管理框架分為四個核心功能，即治理、映射、測量和管理（Govern，Map，Measure，Management），在這四個具體模塊下又進行了分類和子分類，并分解成具體的行動和結果。

總體而言，AI RMF為企業提供了一個結構化、可量化的框架，幫助企業識別人工智能風險，并制定具體的風險管理策略。相較于歐盟采取的立法監管，雖然NIST的AI RMF框架并不具有法律強制性，但由于其自愿性、靈活性、通用性、可操作性強的特征，該框架更容易在應用中實現更新迭代并增強其影響力，有可能成為未來人工智能國際治理的標準。美國也正在積極推動AI RMF成為替代人工智能法規中規定的自我評估的一種合規手段，作為人工智能全球標準和認證的基礎。

此外，NIST將成立新的工作組重點關注生成式AI相關的風險。2023年6月25日，美國商務部宣布，NIST將成立一個新的人工智能公共工作組，致力于在AI RMF的基礎上，解決AI技術日新月異帶來的新問題，將重點關注與生成式AI有關的風險。NIST為工作組制定了短期、中期和長期目標。短期內，工作組將制定指導意見，說明如何利用AI RMF來支持生成式AI的開發。中期內，工作組將支持NIST開展與生成式AI相關的測試和評估工作。長期來看，工作組將探索如何利用生成式AI，解決健康、環境及氣候變化等社會問題。

3.中國：出臺針對生成式人工智能的世界首部專門法規

針對人工智能治理，中國頒布了一系列綱領性文件，并針對算法推薦、深度合成領域推出針對性立法，采取行業規制的方式使監管部門迅速回應算法與人工智能在特定領域、行業引發的問題。2017年以來，中國先后發布《新一代人工智能發展規劃》《新一代人工智能治理原則——發展負責任的人工智能》和《新一代人工智能倫理規范》，明確人工智力的基本原則與思路。由于我國尚未出臺綜合型通用人工智能立法，伴隨著特定技術引發的監管問題，如算法推薦、深度合成領域引發系列社會問題，我國結合算法及人工智能場景應用的具體場景和目的，制定了專門性的管理規定及時回應，如《互聯網信息服務算法推薦管理規定》（“《算法推薦規定》”）重點治理以“大數據殺熟”為代表的算法歧視性決策；《互聯網信息服務深度合成管理規定》（“《深度合成規定》”）秉持“辨偽求真”的愿景，以深度合成技術作為規制客體。

ChatGPT在全球掀起熱潮以來，生成式AI伴隨的與數據、算法、應用、對經濟社會影響有關的多重風險引起監管部門的重視。網信辦及時響應市場需求，于2023年4月11日發布《生成式人工智能服務管理辦法（征求意見稿）》。在廣泛征求社會各界意見后，2023年7月13日，網信辦會同七部委聯合發布《生成式人工智能服務管理暫行辦法》（“《暫行辦法》”，將于2023年8月15日正式生效），成為全球首部針對生成式人工智能的法規。《暫行辦法》確立了鼓勵創新與規范發展的原則理念，實行包容審慎和分類分級監管，對生成式AI模型訓練、數據標注、模型輸出、用戶使用等關鍵環節進行了規范。

我國人工智能治理存在的問題

1.尚未出臺頂層通用性人工智能立法

當前我國人工智能監管規則趨于分散，現有法規多是針對某一特定技術或領域，缺乏整體性和通用性。目前我國人工智能監管規則主要由幾大部委共同推進，分別從不同領域推動人工智能領域的規范和發展，并具有應時性特征，往往在特定技術出現后作出專門性管理規定，如旨在規范互聯網信息服務算法推薦活動的《互聯網信息服務算法推薦管理規定》，針對深度合成技術的《互聯網信息服務深度合成管理規定》，以ChatGPT為代表的AIGC呈爆發式增長后推行的《生成式人工智能服務管理暫行辦法》等。

相比之下，歐盟于2018年頒布《一般數據保護條例（GDPR）》對于數據收集、儲存、處理與紕漏可能帶來的風險制定規制，2019年頒布《算法問責及透明度監管框架》，就算法及其在自動化決策系統中的應用快速增長提出了全面的監管框架，2023年通過《人工智能法案》，針對人工智能不同階段的過程風險進行分級分類規制，形成了針對“數據—算法—人工智能”的全過程風險監管體系，具有高度的整體性和通用性。

誠然人工智能具有場景差異化的特點，但從立法思路上來講，針對人工智能場景化應用領域進行分散式立法的同時，仍需要一部專門法統攝分散式法律。

2.針對AIGC領域的規范可操作性不強

目前我國針對AIGC率先出臺了《暫行辦法》，但在規范的精細度上尚有欠缺。如《暫行辦法》第三條規定，國家“對生成式人工智能服務實行包容審慎和分類分級監管”，第十六條要求有關主管部門“完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引”，但目前我國尚未制定完善的人工智能分級制度。針對這一方面，歐盟《人工智能法案》中的四類分級規定或可參考。

3.缺乏針對企業的人工智能風險管理工具

目前美歐針對人工智能的治理體系日趨完善，下一步很可能通過美歐技術與貿易委員會（TTC）等合作平臺形成可互認的國際規則和技術標準，這意味著我國人工智能企業進入歐美市場將面臨合規問題。而目前我國尚未形成面向企業的人工智能風險管理工具。美國的AI RMF或具有一定參考價值，AI RMF為企業提供了一套通用的人工智能風險管理框架和操作指南，具有很強的可操作性，我國可參考相關內容制定面向企業的用于自我評估的風險管理框架。

啟示與建議

1.推動人工智能精細化治理

針對我國目前缺乏通用人工智能立法、針對AIGC領域的規范操作性不強的問題，可參考美歐人工智能治理經驗，推動人工智能精細化治理。一是加快出臺我國人工智能綜合性法規。二是借鑒歐盟《人工智能法》，建立人工智能分級監管制度，制定人工智能系統的分級分類清單。

2.加快推出人工智能風險管理工具包

針對若歐美治理經驗上升為國際規則和技術標準，而我國缺乏針對企業的人工智能風險管理工具的問題，我國要加快推出人工智能風險管理工具包。一是借鑒美國AI RMF做法，建立人工智能風險評估機制和框架。二是為中國企業應對人工智能治理提供可負擔、操作性強的工具選擇，輔助企業符合國際規則和技術標準的要求。三是通過RCEP、G20等機制構建互認的人工智能風險評估機制。