歐盟《人工智能法案》對我國的啟示

張苑??陳秋萍

習近平總書記指出，“加快發展新一代人工智能是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體躍升的重要戰略資源”。在共同促進全球人工智能健康、有序、安全發展的過程中，學習全球主要經濟體發展和監管人工智能產業的有益經驗，有助于我國更好把握產業發展大勢，提升治理水平。歐洲議會、歐盟委員會和27個成員國代表在36個小時艱難談判之后，就歐盟《人工智能法案》（以下簡稱《法案》）達成里程碑式協議。其中，平衡發展與監管是談判的焦點，形成的部分成果值得參考借鑒。

歐盟《人工智能法案》的歷史性進展

自2016年起，歐盟不斷探索推進對人工智能技術應用的監管體系建構（表1），并于2021年開始逐步設計和推進《法案》的總體框架和具體細節。在2022年11月ChatGPT問世后，這一進程明顯提速：2023年6月通過了《法案》談判授權草案；12月9日，在經歷了36個小時“馬拉松式”談判后，歐洲議會、歐盟委員會和27個成員國的談判代表就歐盟《人工智能法案》達成歷史性政治協議。本次協議的細節內容尚未公布，從歐洲議會和歐盟委員會發布的新聞稿內容看，重大進展主要包括四個方面。

第一，鞏固了基于風險分類的人工智能監管方法。此次協議首先明確了以經濟合作與發展組織（OECD）制定的全球公認標準來界定“人工智能系統”，即“基于機器的系統，為了或明確或隱含的目標，通過其接收到的輸入信息來生成諸如預測、內容、建議和決策等輸出內容”，定義較2021年版本有所收窄。《法案》在沿用風險分類思路的基礎上，將人工智能系統四個風險類別（不可接受風險、高風險、有限風險以及最小/無風險）中的不可接受風險和高風險兩個類別進行了更為詳盡的規定（表2）。在不可接受風險中，僅有一類應用可獲得豁免，即執法機關利用相關技術打擊犯罪，比如通過生物信息識別技術尋找被拐賣的兒童、捉拿重罪犯人等，這一情況在法院授權的情況下可被允許。

第二，取得了生物識別技術和通用人工智能模型（GPAI）監管的暫時性共識。對生物識別技術和通用人工智能模型（包括基礎模型）監管的爭論是本次談判的焦點，歐盟試圖將新的人工智能技術以及尚未開發的未來技術納入立法范圍。在生物識別技術方面，本次協議并未全面禁止，而是提出除非事先獲得司法授權且針對特定犯罪，否則將禁止在公共場所使用遠程生物識別（RBI）系統，即自動面部識別（AFR）系統；出于特定的執法目的，例如防止迫在眉睫的恐怖威脅或調查嚴重犯罪，該類技術的某些應用可能是允許的，但每種應用都受到嚴格的條件限制。在ChatGPT等通用人工智能模型方面，本次協議比起最初的提案新增了透明度要求和防護措施等內容。三方談判的核心分歧是基礎模型的監管方式，德、法、意在內的至少5個成員國認為，不應對基礎模型施加任何監管，但最終為了達成本次協議而妥協。雖然大語言模型等基礎模型本身并未被納入“高風險”之中，但法案要求開發者對其透明度義務負責，這意味著開發者必須公布他們訓練模型時使用的內容細節，確保遵守了歐盟的知識版權法律。此外，還引入了通用人工智能的防護措施，要求可能造成“系統性風險”的AI模型承擔與管理風險和監控嚴重事件以及執行模型評估和對抗性測試相關的額外約束性義務。

第三，推出了人工智能監管沙盒等支持創新和中小企業的措施。由于2018年開始生效的歐盟《通用數據保護條例》對個人數據保護過于嚴苛，不利于創新發展。本次協議吸取經驗，突破性提出采取沙盒措施，在人工智能系統開發和上市前階段建立受控的實驗和測試環境以促進創新，并進一步規范沙盒準入標準、申請程序、選擇與退出沙盒以及參與沙盒各方的權利與義務等事宜，體現了技術監管的同時兼顧人工智能技術的發展和對個人基本權利的保障，一定程度上將降低初創企業和中小企業的進入門檻。

第四，明確了執法框架和部分處罰細節。本次協議提出：將在歐盟委員會內設置歐洲人工智能辦公室這一新機構，承擔各種行政、標準制定和執行任務，包括通用AI模型的新規則等；由歐盟成員國代表組成的歐洲人工智能委員會將繼續作為協調平臺和咨詢機構服務于《法案》的實施；利益相關者咨詢論壇將成立，為人工智能委員會提供技術專業知識。預計《法案》將主要通過各成員國的國家主管市場監督機構執行，違反《法案》可能會導致750萬歐元到3500萬歐元不等的罰款，具體金額取決于違規行為，但對中小企業和初創企業的行政罰款放寬了比例上限。

歷史性協議達成的標桿意義

本次歐盟急于達成《人工智能法案》政治臨時協議的主要原因有兩方面：一方面，由于歐盟內部希望在2024年6月歐盟選舉前完成相關立法的重要程序，以防止立法完全失效或推遲到2025年；另一方面，法國作為2024年奧運會的主辦國，正在大力推動合法利用人工智能打擊犯罪和恐怖主義。本次協議允許在《法案》通過后分階段生效，包括禁止使用規則允許6個月，透明度和治理要求12個月，所有其他要求24個月。《法案》由歐盟官方發布后成為法律，所有條款將在未來兩年內逐步生效，即全部法律效力可能要到2026年才能完全實現。本次協議的達成，更多意味著歐盟對人工智能監管和治理框架輪廓的逐步清晰。歐盟率先推出橫向綜合性人工智能監管和治理規則體系，體現了其試圖引領塑造全球范圍內的人工智能監管和治理共識、規則和標準的雄心，必將引發全球主要經濟體在人工智能監管話語權和影響力的新一輪競爭。其標桿意義主要有三個方面。

第一，樹立全球人工智能的橫向立法標桿。近年來，歐盟放大數字經濟立法領域“布魯塞爾效應”（指歐盟通過其單方面的市場規制能力，在無需其他國家、協作的情況下，制定出全球市場遵循的規章制度。這種規則制定能力引領了全球商業環境的形成，導致全球商業許多重要方面的“歐洲化”）的趨勢進一步增強。《法案》歷史性協議達成，有助于歐盟進一步利用“布魯塞爾效應”，對全球人工智能技術和產業發展產生直接影響。此外，歐盟《法案》的立法推進速度已明顯早于美國國會，有助于歐盟通過聯合國、G20和G7等多邊合作平臺，積極推廣自身理念規則，增強該法案的國際影響力。《法案》采取了橫向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統，可以覆蓋金融、醫療、教育、能源、運輸、司法等各個行業領域，這與美國更加偏好的區分行業領域的垂直立法模式有著顯著區別。作為全球第一個全面、橫向且具有約束力的人工智能法規，不僅會改變歐洲人工智能行業的“游戲規則”，而且可能會大大增強全球跨司法管轄區域監管人工智能的勢頭。

第二，樹立分類監管和保持彈性的監管標桿。《法案》采用風險分類分級的監管方法，在規定統一監管框架的基礎上，識別和評估人工智能系統可能引發的風險，各類風險對應不同的應用場景和監管措施，基本涵蓋了目前所有涉及的人工智能系統，有效避免了籠統規范化的合規義務帶來的治理失焦問題，并為多種風險的復雜場景提供了較為清晰的解決思路。同時，采取動態調整的監管方式，允許監管機構將新的應用領域不斷納入現有的風險類別，既能夠保持橫向統一性和協調性，又能加快監管創新措施的落地實效。

第三，樹立平衡創新與監管的路徑標桿。本次協議試圖同時達到將更廣泛的人工智能技術納入監管，以及促進產業和技術創新兩方面目標。為了平衡監管與創新，本次協議提出鼓勵中小企業技術創新的舉措、設置新的監管機構，重視監管沙盒的規劃和建設，并對部分情況進行豁免。比如，歐盟立法機構明確對人工智能的研發、對處理敏感特殊數據予以豁免等，體現立法過程中試圖給技術創新更多的開放空間，盡可能減少規制的負面效應。

對我國平衡人工智能發展與監管的啟示

本次達成的《法案》政治協議繼承了歐盟利用規則兼顧人工智能可信可控和創新發展、著力維護歐盟技術主權的思路，相關規則與舉措值得借鑒與參考。

第一，把握我國人工智能發展與監管的“平衡術”。建議找準我國人工智能科技創新與政策監管的平衡點，促進相關產業的合規健康發展。一方面，持續壯大國家戰略科技力量，促進智能芯片、通用人工智能模型等關鍵核心技術攻關，積極推進大模型自主創新技術的成果轉化和產業化應用，加快打造人工智能原創理論和技術的重要策源地。另一方面，可參考《法案》中算法透明度、通用人工智能護欄、禁止使用的場景劃分等內容，根據我國人工智能產業發展特點，動態優化監管重點、豁免邊界以及監管方式等。

第二，探索監管沙盒等“創新招”。西班牙、法國等歐盟國家已經開始人工智能技術監管沙盒試點，并與挪威、瑞士試點國家互通有無；新加坡推出人工智能驗證（AI verify）工具包；IBM則開發使用人工智能情況說明（AI Factsheets）查看模型和部署詳細信息，并實現商業化。這些均為國際前沿創新治理舉措，已產生一定國際影響力。建議重視人工智能技術監管沙盒的整體謀劃，在參考借鑒國際前沿實踐的基礎上，加強監管沙盒治理和治理措施的創新布局，妥善推動安全與創新發展。

第三，幫助企業筑起國際競爭的“護城河”。本次協議明確了域外適用原則，對非歐盟組織在歐盟市場上使用的人工智能產品或服務具有域外適用性，這不僅對歐盟成員國國內的產品應用和發展提出了明確的法律要求，也對非歐盟國家的企業在歐盟市場上的人工智能產品和服務產生影響。如《法案》生效通過，“長臂管轄”條款會促使其在全球層面上影響人工智能規則的制定。我國人工智能企業若要進入或維持在歐盟市場的業務，將面臨該法案的合規挑戰。特別是對于高風險AI系統，可能需要重大的技術和運營調整。建議主管部門及早梳理涉歐業務的人工智能企業清單，幫助企業及早應對。

本文作者張苑為上海市科學學研究所高級經濟師；陳秋萍為上海市科學學研究所助理研究員

《法案》

采取了橫向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統，可以覆蓋金融、醫療、教育、能源、運輸、司法等各個行業領域，這與美國更加偏好的區分行業領域的垂直立法模式有著顯著區別。