歐盟推出全球首部AI法案，會形成效應(yīng)還是陷阱？

魯傳穎

2024年1月16日，世界經(jīng)濟(jì)論壇2024年年會在瑞士達(dá)沃斯舉行，“人工智能推動經(jīng)濟(jì)社會發(fā)展”為關(guān)鍵議題，以“善治”促“善智”成為各方共同呼聲。

2月2日，歐盟27國代表投票一致支持《人工智能法案》（以下簡稱“法案”）文本。法案仍需提交歐洲議會批準(zhǔn)，如果成功獲批，相關(guān)規(guī)則將分階段實(shí)施。該法案是全球首個全面監(jiān)管人工智能（AI）的綜合性法規(guī)，旨在為人工智能的開發(fā)、使用和推廣提供一個基于風(fēng)險識別分析的法律框架，以保護(hù)信息安全、公民基本權(quán)利和公共利益。在加強(qiáng)監(jiān)管的同時，也尋求在促進(jìn)人工智能的創(chuàng)新和競爭力方面做出平衡。

眾所周知，歐盟在新興技術(shù)領(lǐng)域的監(jiān)管一直處于全球領(lǐng)先地位。2001年制定的《布達(dá)佩斯網(wǎng)絡(luò)犯罪公約》和2016年制定的《通用數(shù)據(jù)保護(hù)條例》對全球網(wǎng)絡(luò)安全和數(shù)據(jù)安全治理產(chǎn)生了重要影響，也是各國學(xué)習(xí)和參考的主要對象。因此，這種由歐盟單方面制定的規(guī)則對國際規(guī)則和各國國內(nèi)政策產(chǎn)生重要影響的現(xiàn)象被稱為“布魯塞爾效應(yīng)”。法案是人工智能治理領(lǐng)域的一個里程碑事件，受到了國際社會的廣泛關(guān)注。一方面，法案的監(jiān)管思路和創(chuàng)新舉措對各國都具有一定的參考價值；另一方面，法案因可能對技術(shù)進(jìn)步和產(chǎn)業(yè)發(fā)展產(chǎn)生制約，也受到了廣泛質(zhì)疑。因此，法案最終是“布魯塞爾效應(yīng)”還是“布魯塞爾陷阱”，還有待時間檢驗(yàn)。

富有創(chuàng)新性的嚴(yán)格監(jiān)管框架

法案延續(xù)了歐盟一貫的監(jiān)管思路，以保護(hù)人權(quán)和價值觀為基本原則，旨在尋求人工智能的安全與發(fā)展。歐盟一直堅(jiān)持公民在物理世界中所擁有的權(quán)力，在數(shù)字空間中必須得到同樣的保障。人工智能系統(tǒng)如果存在嚴(yán)重違反《歐盟基本權(quán)利憲章》中基本人權(quán)的風(fēng)險，就應(yīng)該完全被禁止。對于其他涉及可能會對人權(quán)和社會帶來風(fēng)險的重要領(lǐng)域，應(yīng)當(dāng)施加重點(diǎn)監(jiān)管，并且對所開發(fā)的人工智能系統(tǒng)先行開展評估，通過后才能上市。

法案有三個較為重要的創(chuàng)新之處。第一是開啟了人工智能橫向監(jiān)管進(jìn)程。在這之前，人工智能的監(jiān)管一般都是縱向監(jiān)管。例如，美國在金融和無人駕駛領(lǐng)域已經(jīng)出臺了相關(guān)監(jiān)管措施。縱向監(jiān)管涉及的領(lǐng)域相對專業(yè)，群體較小，比較容易開展監(jiān)管。橫向監(jiān)管是適用于所有部門和應(yīng)用的法律規(guī)則，覆蓋所有領(lǐng)域和人群，因此對法律的要求也更高，更難以達(dá)成共識。這也是法案在強(qiáng)調(diào)嚴(yán)格監(jiān)管的同時也注重監(jiān)管創(chuàng)新的原因，例如鼓勵各國開展“沙盒測試”，給中小企業(yè)提供更多的便利和支持等。

第二是建立了基于風(fēng)險等級的監(jiān)管體系。歐盟以人權(quán)和安全為基準(zhǔn)，將人工智能風(fēng)險分為四個等級：禁止的行為、高風(fēng)險系統(tǒng)、有限風(fēng)險系統(tǒng)和最低風(fēng)險系統(tǒng)。不同類別的人工智能系統(tǒng)需要遵守不同的監(jiān)管要求。禁止的行為是指利用人工智能進(jìn)行操縱、社會評分或?yàn)E用生物特征識別等可能嚴(yán)重侵犯人的尊嚴(yán)、自由或民主的行為。高風(fēng)險系統(tǒng)是指那些涉及重要的社會或經(jīng)濟(jì)領(lǐng)域，如醫(yī)療、教育、交通、就業(yè)和司法等，可能對人的生命、健康、安全或基本權(quán)利造成重大影響的系統(tǒng)，法案要求這類系統(tǒng)在上市前進(jìn)行強(qiáng)制性的合格評估，并遵守一系列的質(zhì)量、透明度、人工干預(yù)、監(jiān)督和糾正等原則和義務(wù)。有限風(fēng)險系統(tǒng)是指那些可能對人的行為或選擇產(chǎn)生影響，或?qū)θ说碾[私或其他權(quán)利造成影響的系統(tǒng)，如深度偽造、情感識別等，法案要求這類系統(tǒng)提供充分的信息披露和透明度，以便用戶能夠理解和控制這類系統(tǒng)。最低風(fēng)險系統(tǒng)是指對人的權(quán)利和利益沒有或只有極小影響的系統(tǒng)，如娛樂、游戲等，法案對這類系統(tǒng)沒有特別的監(jiān)管要求，但鼓勵遵守一些自愿的行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐。

第三是為配合法案落地，建立了一整套的執(zhí)法體系和多層次的監(jiān)督和執(zhí)行機(jī)制，包括歐盟人工智能委員會、歐盟成員國的國家監(jiān)管機(jī)構(gòu)、歐盟委員會和歐洲數(shù)據(jù)保護(hù)委員會等。歐盟人工智能委員會是一個由歐盟成員國代表組成的專家委員會，負(fù)責(zé)協(xié)調(diào)和促進(jìn)歐盟成員國之間的合作，以及就人工智能的風(fēng)險分類、合格評估和標(biāo)準(zhǔn)制定等提供建議和指導(dǎo)。歐盟成員國的國家監(jiān)管機(jī)構(gòu)是負(fù)責(zé)監(jiān)督和執(zhí)行法案的主要機(jī)構(gòu)，要求每個成員國至少需要設(shè)立一個國家監(jiān)管機(jī)構(gòu)，負(fù)責(zé)檢查和審核人工智能系統(tǒng)的合規(guī)性，以及對違反法案的行為進(jìn)行調(diào)查和處罰。歐盟委員會和歐洲數(shù)據(jù)保護(hù)委員會則負(fù)責(zé)在歐盟層面進(jìn)行監(jiān)督和協(xié)調(diào)，以及處理跨境或跨部門的人工智能相關(guān)問題和爭議。

尚面臨多重質(zhì)疑

法案的推出只是歐盟開展人工智能監(jiān)管的第一步，后續(xù)的配套技術(shù)標(biāo)準(zhǔn)和成員國如何落實(shí)監(jiān)管要求尚未啟動。因此，法案的最終效力如何還有待生效后才能更好地進(jìn)行評估。僅從文本角度來看，各方對法案的質(zhì)疑主要包括以下三個方面。

首先，法案沒能完全反映人工智能技術(shù)的復(fù)雜性。法案所追求的確定性與人工智能技術(shù)存在的不確定性之間存在一定的矛盾。對于一個快速發(fā)展的戰(zhàn)略性技術(shù)，盡管安全至關(guān)重要，但將過多的資源投入到安全中會影響技術(shù)的進(jìn)步。法案提出了一系列的技術(shù)性安全要求，包括風(fēng)險管理體系、技術(shù)文檔、數(shù)據(jù)質(zhì)量、人工干預(yù)、透明度、準(zhǔn)確性、魯棒性和安全性等，試圖通過這些舉措來確保人工智能系統(tǒng)的可信賴性和安全性，保護(hù)人類的基本權(quán)利和價值。事實(shí)上，在現(xiàn)有的技術(shù)條件下，即使都滿足上述要求的人工智能系統(tǒng)，也無法完全杜絕風(fēng)險的出現(xiàn)。從本質(zhì)上而言，人工智能的風(fēng)險具有量子思維中的不可預(yù)測、難以測量等特質(zhì)。

其次，法案的監(jiān)管思路和范疇跟不上快速迭代的人工智能技術(shù)。盡管法案是以風(fēng)險等級劃分來實(shí)施監(jiān)管，但技術(shù)的進(jìn)步會不斷打破不同風(fēng)險等級之間的界限。人工智能技術(shù)的快速進(jìn)步可能導(dǎo)致投入大量人力、物力的法案尚未生效就已經(jīng)落后。法案曾因ChatGPT3.0的誕生而延遲發(fā)布，并且增加了關(guān)于生成式人工智能的監(jiān)管內(nèi)容。但是，生成式人工智能僅是人工智能眾多發(fā)展路線中的一條而已。未來，在模型、算力和算法不斷取得突破的驅(qū)動下，各類人工智能技術(shù)將會齊頭并進(jìn)，法案可能處于落后于技術(shù)發(fā)展的尷尬境地。

2024年2月14日，第一屆人工智能節(jié)在意大利米蘭舉辦，這一國際節(jié)日積極致力于開發(fā)人工智能世界。圖為當(dāng)日展出的機(jī)器狗。

最后，監(jiān)管和創(chuàng)新之間的平衡問題。法案主要針對高風(fēng)險的人工智能系統(tǒng)，這些要求給人工智能的開發(fā)和創(chuàng)新帶來一定的負(fù)擔(dān)和障礙。對于大企業(yè)而言，面臨著消極和積極兩個方面的影響。消極面是大量合規(guī)要求會阻礙技術(shù)的進(jìn)一步發(fā)展和市場拓展，積極面則是合規(guī)門檻高企會阻止更多企業(yè)進(jìn)入人工智能領(lǐng)域，有助于形成壟斷，但這可能會對一些中小型人工智能企業(yè)或研究機(jī)構(gòu)造成不公，它們難以承擔(dān)相應(yīng)的合規(guī)成本和風(fēng)險。強(qiáng)監(jiān)管一直被認(rèn)為是歐盟數(shù)字技術(shù)發(fā)展受限的主要原因之一。因此，法案的出臺將可能導(dǎo)致歐盟人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的進(jìn)一步滯后。法國、德國和意大利等國一直對法案可能限制未來人工智能產(chǎn)業(yè)發(fā)展高度警惕。

應(yīng)更加理性地看待“布魯塞爾效應(yīng)”

法案的出臺是“布魯塞爾模式”的又一重要實(shí)踐。作為全球規(guī)范性力量的代表，歐盟正試圖通過其在監(jiān)管政策和標(biāo)準(zhǔn)規(guī)則方面的努力，來打造自身在數(shù)字時代和智能時代的國際競爭力與話語權(quán)。然而，由于法案存在的不足和挑戰(zhàn)，其是否能夠引領(lǐng)全球人工智能治理尚存疑問。

歐盟率先推出橫向監(jiān)管，對全球人工智能安全治理具有重要的探索和實(shí)踐意義。無論是從國際機(jī)制還是從國內(nèi)監(jiān)管的角度，各國都會高度關(guān)注法案以及后續(xù)配套設(shè)施建設(shè)情況。但是，由于法案本身的原創(chuàng)性內(nèi)容并不如《布達(dá)佩斯網(wǎng)絡(luò)犯罪公約》和《通用數(shù)據(jù)保護(hù)條例》那么多，很多內(nèi)容更多地是借鑒其他領(lǐng)域的成功實(shí)踐或已有的共識。因此，歐盟要想在全球人工智能治理領(lǐng)域取得更大的影響力，就需要在后續(xù)執(zhí)法過程中檢驗(yàn)法案的有效性和可操作性。由于歐盟具備全球領(lǐng)先的立法和執(zhí)法能力，在這一點(diǎn)上仍值得期待。

然而，從監(jiān)管對象看，法案主要針對人工智能系統(tǒng)的開發(fā)者，這與《通用數(shù)據(jù)保護(hù)條例》涉及的廣泛數(shù)據(jù)收集者、存儲者和處理者相比，門檻要高得多。因此，法案的監(jiān)管對象更像是歐盟《數(shù)字服務(wù)法》中所指出的“守門人”。按此推理，需要接受監(jiān)管的企業(yè)主要是Open AI、Anthropic、微軟、Meta和谷歌等少數(shù)歐盟和中國的大型語言模型開發(fā)者和提供者。美國和中國都有發(fā)展技術(shù)和產(chǎn)業(yè)的需求，不會跟風(fēng)對人工智能實(shí)施強(qiáng)監(jiān)管。因此，人工智能技術(shù)會在歐盟之外以更快的速度發(fā)展。

此外，在監(jiān)管效果角度上，法案僅僅是一個開始，其落地舉措還需要大量技術(shù)標(biāo)準(zhǔn)和最佳實(shí)踐的支持。目前，人工智能領(lǐng)域的技術(shù)標(biāo)準(zhǔn)仍在快速制定中，國際標(biāo)準(zhǔn)化組織（ISO）、國際電信聯(lián)盟（ITU）和電氣與電子工程師協(xié)會標(biāo)準(zhǔn)協(xié)會（IEEE SA）等國際標(biāo)準(zhǔn)組織都在加快人工智能安全標(biāo)準(zhǔn)制定。也就是說，法案最終落地還要依靠國際標(biāo)準(zhǔn)組織的成果，這也影響了“布魯塞爾效應(yīng)”的發(fā)揮。

（作者為上海國際問題研究院公共政策與創(chuàng)新研究所副所長、研究員）