歐盟人工智能安全治理的路徑與前景

摘要：歐盟是最早開展人工智能安全治理的地區(qū)合作組織，并長(zhǎng)期致力于通過(guò)推廣歐盟人工智能安全治理的理念和價(jià)值標(biāo)準(zhǔn)，塑造其在該領(lǐng)域的全球影響力。“倫理優(yōu)先，以人為本”是歐盟人工智能安全治理的核心理念，旨在實(shí)現(xiàn)創(chuàng)新發(fā)展與技術(shù)監(jiān)管的平衡。但在實(shí)踐中存在內(nèi)部協(xié)調(diào)難度較大、制度規(guī)范與產(chǎn)業(yè)發(fā)展存在矛盾等現(xiàn)實(shí)問(wèn)題與挑戰(zhàn)。深入研究歐盟人工智能安全治理的發(fā)展歷程、特點(diǎn)與問(wèn)題，有助于為進(jìn)一步實(shí)現(xiàn)人工智能治理過(guò)程中監(jiān)管和創(chuàng)新的平衡具有十分重要的借鑒意義。

關(guān)鍵詞：歐盟；人工智能安全治理；治理路徑

中圖分類號(hào)：D815" " " "文獻(xiàn)標(biāo)識(shí)碼：A" " " " 文章編號(hào)：1003-8477（2024）12-0032-10

作為未來(lái)經(jīng)濟(jì)科技發(fā)展的重要推動(dòng)力，人工智能逐漸成為大國(guó)競(jìng)爭(zhēng)的關(guān)鍵領(lǐng)域。在人工智能實(shí)力相對(duì)落后于世界領(lǐng)先國(guó)家的前提下，歐盟一直努力通過(guò)制定人工智能治理規(guī)范，樹立并強(qiáng)化在全球人工智能治理領(lǐng)域的領(lǐng)導(dǎo)力和影響力，于2024年5月發(fā)布全球首份《人工智能法案》。本文嘗試深入分析歐盟人工智能安全治理的發(fā)展歷程、路徑特點(diǎn)和風(fēng)險(xiǎn)挑戰(zhàn)，以期通過(guò)系統(tǒng)把握歐盟人工智能安全治理的發(fā)展脈絡(luò)，為進(jìn)一步提升我國(guó)人工智能安全治理提供有益參考。

一、歐盟人工智能安全治理的發(fā)展歷程

人工智能技術(shù)在國(guó)家間競(jìng)爭(zhēng)中的重要性的日益凸顯。相對(duì)美國(guó)和中國(guó)通過(guò)技術(shù)升級(jí)迭代所取得的技術(shù)優(yōu)勢(shì)，歐盟則將構(gòu)建全面、有效的人工智能安全治理體系作為塑造和強(qiáng)化其影響力和話語(yǔ)權(quán)的重要抓手和關(guān)鍵領(lǐng)域。

2015年1月歐盟議會(huì)法律事務(wù)委員會(huì)（JURI）決定成立專門研究機(jī)器人和人工智能發(fā)展相關(guān)法律問(wèn)題的工作小組。該小組于2016年5月發(fā)布《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告草案》，這份文件作為歐洲乃至全球第一份專門規(guī)制人工智能的政策文件，標(biāo)志著歐盟參與構(gòu)建全球人工智能安全治理體系的開端。2024年8月1日，歐盟《人工智能法案》正式生效，這是全球首部針對(duì)人工智能的專門性法律，也意味著歐盟構(gòu)建全球人工智能安全治理體系的實(shí)踐取得標(biāo)志性成果，全球人工智能安全治理也隨之邁入新的時(shí)代。

近10年來(lái)，歐盟構(gòu)建全球人工智能安全治理體系的發(fā)展歷程，大致可以分為兩個(gè)階段：

（一）2015—2020年：通過(guò)“軟”性約束，構(gòu)建以人為本的人工智能倫理和治理框架

起初，歐盟對(duì)人工智能安全的監(jiān)管和治理主要體現(xiàn)為對(duì)技術(shù)發(fā)展的憧憬以及由此可能產(chǎn)生的安全隱患的擔(dān)憂。2016 年 5 月，歐盟發(fā)布《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告草案》，呼吁加強(qiáng)民事法律監(jiān)督，明確人工智能的權(quán)利和義務(wù)，提出人工智能機(jī)器人的使用責(zé)任歸屬、倫理規(guī)則，以及對(duì)人類自身和財(cái)產(chǎn)造成傷害的賠償?shù)缺O(jiān)管原則”。2017年5月，歐洲經(jīng)濟(jì)與社會(huì)委員會(huì)（EESC）發(fā)布了一份關(guān)于人工智能治理的意見書，指出人工智能在倫理、安全、隱私等11個(gè)領(lǐng)域帶來(lái)的機(jī)遇和挑戰(zhàn)，倡議歐盟制定人工智能倫理規(guī)范，建立人工智能監(jiān)控和認(rèn)證的標(biāo)準(zhǔn)系統(tǒng)。2018年4月25日，歐盟委員會(huì)發(fā)布政策文件《歐盟人工智能》，這份文件提出以人為本的人工智能發(fā)展路徑，意在推動(dòng)歐盟人工智能的科研和產(chǎn)業(yè)發(fā)展，應(yīng)對(duì)人工智能在技術(shù)、倫理、法律等領(lǐng)域帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)。

隨著人工智能技術(shù)的快速發(fā)展，歐盟逐漸將人工智能治理中抽象的倫理規(guī)范與技術(shù)和產(chǎn)業(yè)發(fā)展密切結(jié)合起來(lái)。2019年4月，歐盟先后發(fā)布《可信的人工智能倫理指南》（Ethics Guidelines for Trustworthy AI）《算法責(zé)任于透明治理框架》（A Governance Framework for Algorithmic Accountability and Transparency）兩份重要文件，具體明確了歐盟人工智能戰(zhàn)略提出的“建立適當(dāng)?shù)膫惱砗头煽蚣堋钡囊蟆！犊尚诺娜斯ぶ悄軅惱碇改稀诽岢觯戏ㄐ浴⒎蟼惱怼⒎€(wěn)健性是可信的人工智能的三個(gè)主要特征。從符合社會(huì)發(fā)展要求的角度，人工智能在開發(fā)、部署和使用過(guò)程中還應(yīng)當(dāng)遵守四項(xiàng)倫理原則，即：（1）尊重人類自主性原則，人工智能系統(tǒng)應(yīng)當(dāng)遵循以人為本的理念，服務(wù)人類，增強(qiáng)人類的認(rèn)知并提升人類的技能；（2）防止損害原則，人工智能系統(tǒng)不能給人類帶來(lái)負(fù)面影響；（3）公平原則，人工智能系統(tǒng)的開發(fā)、部署和使用既要堅(jiān)持實(shí)質(zhì)公平也要保證程序公平，確保利益和成本的平等分配、個(gè)人及群體免受歧視和偏見；（4）可解釋原則，人工智能系統(tǒng)的功能和目的必須保證公開透明，人工智能決策過(guò)程在可能的范圍內(nèi)需要向受決策結(jié)果直接或間接影響的人解釋。

2020年，歐盟發(fā)布了首份《人工智能白皮書》，[1]提出了以人類利益和福祉為核心的人工智能生態(tài)系統(tǒng)構(gòu)建計(jì)劃，其中涉及人權(quán)保護(hù)和安全責(zé)任制度等內(nèi)容。同年，歐盟發(fā)布《歐洲數(shù)據(jù)戰(zhàn)略》，提出要解決包括企業(yè)間共生數(shù)據(jù)共享和建立數(shù)據(jù)池的安全和信任問(wèn)題。[2]

可見，當(dāng)其他國(guó)家對(duì)于人工智能的倫理構(gòu)建還處于對(duì)抽象價(jià)值的提煉和尋求共識(shí)的時(shí)候，歐盟已開始探索構(gòu)建將人工智能倫理規(guī)范貫穿于整個(gè)技術(shù)和產(chǎn)業(yè)發(fā)展全過(guò)程的治理框架。

（二）2021—2024年：建立“硬”性法規(guī)，推動(dòng)構(gòu)建“全要素”和“全過(guò)程”的人工智能安全治理體系

從2021年開始，歐盟人工智能安全治理正式進(jìn)入立法階段，并著重從要素治理和過(guò)程治理兩個(gè)方面完善人工智能立法。

一方面，從人工智能要素治理角度，歐盟分別針對(duì)數(shù)據(jù)、算法和算力三大要素，加強(qiáng)安全化規(guī)范的立法。

在數(shù)據(jù)治理方面，2020 年起，歐盟先后出臺(tái)《歐洲數(shù)據(jù)戰(zhàn)略》《歐洲數(shù)據(jù)治理法案》《數(shù)字服務(wù)法案》《數(shù)字市場(chǎng)法案》等系列法案，制定并實(shí)施全面的數(shù)據(jù)資源開發(fā)與利用戰(zhàn)略框架，旨在建立對(duì)全球開放的單一歐洲數(shù)據(jù)空間。通過(guò)營(yíng)造一個(gè)具有吸引力的政策環(huán)境，并構(gòu)建一個(gè)健全的數(shù)據(jù)生態(tài)系統(tǒng)，以確保歐盟在全球數(shù)據(jù)經(jīng)濟(jì)的未來(lái)競(jìng)爭(zhēng)中能夠占據(jù)有利地位。

在算法治理方面，法透明度和可解釋性是確保人工智能系統(tǒng)可信度和公正性的關(guān)鍵。歐盟要求人工智能系統(tǒng)的算法應(yīng)是透明的，并且能夠提供有關(guān)其決策過(guò)程的解釋。這有助于用戶理解算法的工作原理，并能夠?qū)ζ溥M(jìn)行評(píng)估和驗(yàn)證。可解釋性人工智能可以提供細(xì)節(jié)和決策的依據(jù)，能夠被用戶簡(jiǎn)單清晰地認(rèn)識(shí)和理解。2020年12月，歐盟公布《數(shù)字市場(chǎng)法案》和《數(shù)字服務(wù)法案》兩份法律草案，將大型平臺(tái)企業(yè)稱為“市場(chǎng)守門人”，因?yàn)槠渚哂兄贫ㄊ袌?chǎng)準(zhǔn)入門檻的能力，并針對(duì)這類平臺(tái)提出了“守門人法規(guī)”。2021年4月，歐盟公布《關(guān)于“歐洲議會(huì)和理事會(huì)條例：制定人工智能的統(tǒng)一規(guī)則（人工智能法案）并修訂某些聯(lián)盟立法”的提案》，該提案規(guī)定了平臺(tái)企業(yè)和政府應(yīng)如何合理規(guī)范使用平臺(tái)算法，是迄今為止在該方面涉及范圍最廣泛的條例之一。

在算力治理方面，歐盟進(jìn)行對(duì)人工智能市場(chǎng)的碎片化整合，統(tǒng)籌協(xié)調(diào)各成員國(guó)的方案政策和技術(shù)資源，確保資金和共識(shí)的形成，從而抓住全球人工智能領(lǐng)域快速發(fā)展的機(jī)遇。這項(xiàng)計(jì)劃以《通用數(shù)據(jù)保護(hù)條例》為基礎(chǔ)，建立一個(gè)包括公共部門在內(nèi)的歐洲數(shù)據(jù)空間，解決數(shù)據(jù)訪問(wèn)和非個(gè)人數(shù)據(jù)流動(dòng)等關(guān)鍵問(wèn)題；依托“歐洲高性能計(jì)算計(jì)劃”（Euro HPC）和“歐洲處理器計(jì)劃”，為人工智能的發(fā)展提供強(qiáng)大的技術(shù)支撐；制定具有全球視野的倫理準(zhǔn)則，確保相關(guān)法律框架既能促進(jìn)創(chuàng)新，又能保障人工智能應(yīng)用和基礎(chǔ)設(shè)施的安全，同時(shí)促進(jìn)國(guó)際的安全合作。歐洲理事會(huì)還強(qiáng)調(diào)增強(qiáng)關(guān)鍵技術(shù)項(xiàng)目的協(xié)同效應(yīng)，利用《恢復(fù)與韌性設(shè)施條例》等工具，確定并開展“多國(guó)項(xiàng)目”的投資。支持有關(guān)歐洲數(shù)據(jù)空間的高影響力項(xiàng)目，包括數(shù)據(jù)共享架構(gòu)、治理機(jī)制以及云到邊緣基礎(chǔ)設(shè)施建設(shè)，計(jì)劃2021—2027年總投資40億至60億歐元。通過(guò)這一系列措施，歐盟希望在人工智能領(lǐng)域建立一個(gè)全面、協(xié)調(diào)的發(fā)展環(huán)境，以保持其在全球科技競(jìng)爭(zhēng)中的領(lǐng)先地位。

另一方面，隨著人工智能技術(shù)和產(chǎn)業(yè)發(fā)展，歐盟更加注重人工智能發(fā)展的全過(guò)程安全治理。

2024年8月，歐盟《人工智能法案》正式生效，這部法案首次嘗試對(duì)人工智能采取全范圍、全過(guò)程的監(jiān)管模式，適用于在歐盟市場(chǎng)上投放或使用的幾乎所有的人工智能系統(tǒng)和應(yīng)用，從新的人工智能系統(tǒng)開發(fā)完畢一直到準(zhǔn)入市場(chǎng)和整個(gè)運(yùn)行期間都要接受相關(guān)機(jī)構(gòu)的橫向監(jiān)管。

在覆蓋群體方面，法案中規(guī)定了與人工智能系統(tǒng)相關(guān)的各類行為體，包括提供者、進(jìn)口者、分銷者、授權(quán)代表、部署者等。在人工智能系統(tǒng)運(yùn)營(yíng)的全生命周期中，監(jiān)管措施貫穿于前期、中期和后期三個(gè)階段。在事前監(jiān)管階段，運(yùn)營(yíng)者需重視系統(tǒng)研發(fā)和風(fēng)險(xiǎn)評(píng)估流程。首先，確保系統(tǒng)訓(xùn)練數(shù)據(jù)庫(kù)的數(shù)據(jù)來(lái)源遵守管理規(guī)范且透明公開，并進(jìn)行必要的數(shù)據(jù)篩選，確保數(shù)據(jù)具有準(zhǔn)確性和代表性；其次，人工智能系統(tǒng)必須存在自動(dòng)記錄功能，對(duì)技術(shù)文件和研發(fā)過(guò)程進(jìn)行監(jiān)控并備案，以確保可追溯性；最后，確保人工智能系統(tǒng)的透明度、安全性和網(wǎng)絡(luò)安全性，使其輸出結(jié)果既符合人類需求又保障使用過(guò)程中的安全。事中監(jiān)管階段主要關(guān)注CE標(biāo)識(shí)（歐洲共同安全市場(chǎng)標(biāo)識(shí)）的實(shí)施。各人工智能運(yùn)營(yíng)者應(yīng)在其系統(tǒng)中明確標(biāo)注CE標(biāo)識(shí)，公開其安全性信息，以便用戶能夠根據(jù)法律規(guī)范性文件的規(guī)定，判斷系統(tǒng)的安全性和準(zhǔn)確性是否達(dá)標(biāo)。事后監(jiān)管則側(cè)重于售后檢測(cè)和反饋。在人工智能系統(tǒng)正式投入市場(chǎng)并運(yùn)營(yíng)后，研發(fā)者或控制者應(yīng)依據(jù)技術(shù)文件中的入市后監(jiān)測(cè)計(jì)劃，建立統(tǒng)一的售后數(shù)據(jù)檢測(cè)體系，對(duì)運(yùn)營(yíng)過(guò)程中的潛在風(fēng)險(xiǎn)進(jìn)行分析。在出現(xiàn)重大安全事故或發(fā)現(xiàn)潛在風(fēng)險(xiǎn)時(shí)，應(yīng)及時(shí)向監(jiān)管機(jī)構(gòu)報(bào)告并采取產(chǎn)品召回等必要措施，并建立外部問(wèn)責(zé)機(jī)制。其中在懲罰措施方面更是展現(xiàn)了硬法的特點(diǎn)，對(duì)不遵守規(guī)定的公司將采取高額罰款。對(duì)違反被禁止的人工智能應(yīng)用程序的罰款可能高達(dá)全球年?duì)I業(yè)額的7%，對(duì)違反其他義務(wù)的罰款最高可達(dá)3%，對(duì)提供錯(cuò)誤信息的罰款最高可達(dá)1.5%。

二、歐盟人工智能安全治理的路徑

（一）建立垂直式的治理框架，確保歐盟對(duì)成員國(guó)人工智能安全治理的領(lǐng)導(dǎo)力

一直以來(lái)，垂直式的治理框架，是歐盟在推進(jìn)人工智能安全治理不斷完善和強(qiáng)化的框架模式。早期，為確保歐盟人工智能安全治理對(duì)各成員國(guó)的優(yōu)先適用性行業(yè)直接效力，歐盟以《通用數(shù)據(jù)保護(hù)條例》為基礎(chǔ)，試圖構(gòu)建起以歐盟為最高治理決策層，以歐盟為具體監(jiān)管機(jī)構(gòu)，以各成員國(guó)設(shè)立的為具體執(zhí)行機(jī)構(gòu)，覆蓋各社會(huì)部門和私營(yíng)企業(yè)的“自上而下”的治理框架。

在《人工智能法案》公布以后，歐盟又以該法案為藍(lán)圖，采取三層垂直治理結(jié)構(gòu)。首先在歐盟層面，設(shè)立了人工智能辦公室和歐洲人工智能委員會(huì)兩個(gè)機(jī)構(gòu)，并以此為核心，構(gòu)建歐盟的人工智能治理架構(gòu)。人工智能委員會(huì)主要用于協(xié)調(diào)監(jiān)管各國(guó)人工智能政策和建議法案的實(shí)施，而人工智能辦公室主要負(fù)責(zé)歐委會(huì)制定的法案實(shí)施和執(zhí)法，作為歐委會(huì)的內(nèi)部部門隸屬于通信網(wǎng)絡(luò)、內(nèi)容和技術(shù)總局。在成員國(guó)層面，各國(guó)應(yīng)以《人工智能法案》為指導(dǎo)核心，指定國(guó)家主管機(jī)構(gòu)和單一聯(lián)絡(luò)點(diǎn)，國(guó)家主管機(jī)構(gòu)由通知部門和市場(chǎng)監(jiān)管部門構(gòu)成，而單一聯(lián)絡(luò)點(diǎn)則需指定一個(gè)市場(chǎng)監(jiān)管部門履職。國(guó)家主管機(jī)構(gòu)應(yīng)每?jī)赡晗驓W委會(huì)提交人力財(cái)力情況報(bào)告，并由歐委會(huì)將相關(guān)材料轉(zhuǎn)交至人工智能委員會(huì)進(jìn)行討論交流。在企業(yè)和社會(huì)公共機(jī)構(gòu)層面，歐盟是“政策先行”，在歐盟層面設(shè)定統(tǒng)一的人工智能治理框架后，私營(yíng)部門和民間社會(huì)參與其中，歐盟與私營(yíng)部門的聯(lián)系以“人工智能聯(lián)盟”為代表的官方公私伙伴關(guān)系平臺(tái)為主。[2]歐盟設(shè)立人工智能聯(lián)盟、人工智能數(shù)據(jù)中心等官方的公私伙伴關(guān)系平臺(tái)，以此作為橋梁加強(qiáng)歐盟與公眾和企業(yè)的政策對(duì)話，與相關(guān)私營(yíng)部門在監(jiān)管和發(fā)展人工智能技術(shù)上成為合作伙伴，更好地監(jiān)控風(fēng)險(xiǎn)產(chǎn)生的可能情況，促進(jìn)發(fā)展可信的人工智能和加強(qiáng)對(duì)于基層的人工智能治理。

（二）對(duì)內(nèi)構(gòu)建單一數(shù)字市場(chǎng)與對(duì)外推行歐盟標(biāo)準(zhǔn)相結(jié)合，塑造歐盟人工智能安全治理的全球影響力

2015年歐盟發(fā)布《單一數(shù)字市場(chǎng)戰(zhàn)略》，旨在建立一個(gè)所有企業(yè)和個(gè)人都可以進(jìn)行無(wú)線訪問(wèn)和在線活動(dòng)的單一數(shù)字市場(chǎng)，通過(guò)相關(guān)的法律法規(guī)整合歐盟數(shù)字市場(chǎng)，為數(shù)字產(chǎn)業(yè)營(yíng)造良好的發(fā)展環(huán)境，并促進(jìn)歐盟內(nèi)部和跨行業(yè)數(shù)據(jù)的自由流動(dòng)。隨后，在“數(shù)字單一市場(chǎng)”戰(zhàn)略和數(shù)字監(jiān)管協(xié)同的目標(biāo)下，歐洲立法者不斷加強(qiáng)部署數(shù)字領(lǐng)域的統(tǒng)一立法，以消除跨境在線貿(mào)易、數(shù)字基礎(chǔ)設(shè)施服務(wù)、知識(shí)產(chǎn)權(quán)與個(gè)人信息保護(hù)方面的法律壁壘，建立中立、兼容、標(biāo)準(zhǔn)的法律和技術(shù)規(guī)范，促進(jìn)要素自由流通和市場(chǎng)公平競(jìng)爭(zhēng)。[4]2018年，歐盟為推進(jìn)構(gòu)建單一數(shù)字市場(chǎng)發(fā)布了《2019—2024優(yōu)先計(jì)劃》，成為在人工智能、數(shù)據(jù)治理、網(wǎng)絡(luò)安全等領(lǐng)域立法的綱領(lǐng)性文件，包括出臺(tái)《人工智能法》《數(shù)字服務(wù)條例》《數(shù)字市場(chǎng)條例》《歐洲芯片條例》等多項(xiàng)立法措施。歐盟憑借建立相應(yīng)的數(shù)字法規(guī)，確立其在關(guān)鍵領(lǐng)域的技術(shù)主權(quán)，通過(guò)實(shí)現(xiàn)監(jiān)管協(xié)同，推進(jìn)單一數(shù)字市場(chǎng)的戰(zhàn)略，改善歐盟內(nèi)部人工智能領(lǐng)域發(fā)展的生態(tài)環(huán)境，促進(jìn)各國(guó)和企業(yè)的數(shù)據(jù)流通，減少壁壘。

盡管歐洲在人工智能技術(shù)發(fā)展和實(shí)力落后于世界領(lǐng)先國(guó)家，但其優(yōu)勢(shì)在于善于推廣自己的理念和價(jià)值標(biāo)準(zhǔn)，從而將其塑造成為規(guī)則制定的模范和領(lǐng)先者。與此同時(shí)，歐盟通過(guò)制定全球性規(guī)則，降低了本土企業(yè)的適應(yīng)成本和規(guī)則損耗，促進(jìn)了歐盟科技企業(yè)的發(fā)展，進(jìn)而創(chuàng)造出一個(gè)良性循環(huán)的內(nèi)外部發(fā)展生態(tài)環(huán)境。為達(dá)到這一目標(biāo)，歐盟有意在立法過(guò)程中引入“充分性認(rèn)定”概念并細(xì)化其法律適用范圍。例如，充分性審查要求建立數(shù)據(jù)跨境白名單制度，歐盟會(huì)對(duì)申請(qǐng)的國(guó)家和企業(yè)進(jìn)行全面的數(shù)據(jù)審查和評(píng)估，只有在獲得了歐盟的充分性認(rèn)定后，域外國(guó)家和企業(yè)才能夠更好地進(jìn)入歐洲市場(chǎng)，與歐洲企業(yè)進(jìn)行合作。例如在數(shù)據(jù)流動(dòng)和傳輸過(guò)程中，域外國(guó)家在獲得歐盟的充分性認(rèn)定后可直接與當(dāng)?shù)仄髽I(yè)進(jìn)行跨境數(shù)據(jù)傳輸，無(wú)須再向歐盟申請(qǐng)額外授權(quán)。但是，即便域外國(guó)家和企業(yè)獲得歐盟的充分性認(rèn)定后，歐盟還是有權(quán)對(duì)域外國(guó)家的數(shù)據(jù)保護(hù)水平進(jìn)行每四年一次的審查，這為歐盟持續(xù)性監(jiān)管域外國(guó)家數(shù)據(jù)提供了法律依據(jù)。總體而言，充分性認(rèn)定促使域外國(guó)家對(duì)歐盟設(shè)立的相關(guān)標(biāo)準(zhǔn)和法規(guī)進(jìn)行傳統(tǒng)法律移植，以求獲得進(jìn)入歐洲市場(chǎng)的“準(zhǔn)入許可”。目前《通用數(shù)據(jù)保護(hù)條例》等規(guī)則已經(jīng)被許多國(guó)家納入本國(guó)立法，并對(duì)歐盟境外數(shù)字企業(yè)的經(jīng)營(yíng)行為產(chǎn)生了一定約束力，深刻影響了大型數(shù)字平臺(tái)在歐盟乃至全球范圍內(nèi)的業(yè)務(wù)標(biāo)準(zhǔn)，使非歐盟企業(yè)為了進(jìn)入歐盟市場(chǎng)被迫主動(dòng)遵守歐盟的規(guī)則，由此間接擴(kuò)大了歐盟規(guī)則的影響力。[5]

此外，善用“布魯塞爾效應(yīng)”推廣歐盟標(biāo)準(zhǔn)，有助于歐盟成為全球規(guī)則制定者和單邊全球監(jiān)管者。歐盟的“布魯塞爾效應(yīng)”是歐盟在建立內(nèi)部單一市場(chǎng)規(guī)制時(shí)，由于市場(chǎng)強(qiáng)制的推動(dòng)作用，產(chǎn)生的外溢效應(yīng)。歐洲市場(chǎng)對(duì)于域外國(guó)家和企業(yè)有巨大的吸引力，并且歐盟推出的相關(guān)法律法規(guī)和標(biāo)準(zhǔn)也符合多數(shù)國(guó)家的心理預(yù)期和價(jià)值判斷，這就導(dǎo)致許多國(guó)家借鑒甚至直接移用歐盟設(shè)置的標(biāo)準(zhǔn)。也就是說(shuō)，當(dāng)全球統(tǒng)一標(biāo)準(zhǔn)帶來(lái)的利益大于多個(gè)監(jiān)管標(biāo)準(zhǔn)，并且一個(gè)國(guó)家能夠通過(guò)市場(chǎng)機(jī)制將其標(biāo)準(zhǔn)外部化時(shí)，單邊監(jiān)管全球化就產(chǎn)生了。對(duì)歐盟本土企業(yè)而言，歐盟標(biāo)準(zhǔn)的全球化，能使歐洲科技企業(yè)獲得更加良好的生態(tài)環(huán)境。對(duì)域外國(guó)家和跨國(guó)公司而言，他們難以輕易放棄歐盟市場(chǎng)，因此必須采用歐盟標(biāo)準(zhǔn)來(lái)?yè)Q取市場(chǎng)準(zhǔn)入，這也同時(shí)降低了域外國(guó)家企業(yè)為遵守多國(guó)監(jiān)管制度而產(chǎn)生的合規(guī)成本。這樣一來(lái)，域外國(guó)家企業(yè)就成為在全球范圍內(nèi)推廣歐盟標(biāo)準(zhǔn)的動(dòng)力，從而產(chǎn)生“布魯塞爾效應(yīng)”。正如歐盟在2022年發(fā)布的《歐盟標(biāo)準(zhǔn)化戰(zhàn)略》中提到的，要在芯片認(rèn)證和數(shù)據(jù)標(biāo)準(zhǔn)等戰(zhàn)略領(lǐng)域的標(biāo)準(zhǔn)化中凸顯其民主價(jià)值觀，通過(guò)制定全球標(biāo)準(zhǔn)輸出歐盟價(jià)值觀并為歐盟公司創(chuàng)造先發(fā)優(yōu)勢(shì)。[6]

（三）將產(chǎn)業(yè)發(fā)展與人工智能安全風(fēng)險(xiǎn)防范緊密結(jié)合，相輔相成，形成全球競(jìng)爭(zhēng)力

整體提升歐盟在人工智能技術(shù)和產(chǎn)業(yè)發(fā)展過(guò)程中的全球競(jìng)爭(zhēng)力，是歐盟構(gòu)建人工智能安全治理體系的根本目標(biāo)和最大動(dòng)力。為了實(shí)現(xiàn)這一目標(biāo)，歐盟通過(guò)立法不斷強(qiáng)化人工智能安全治理中的風(fēng)險(xiǎn)分級(jí)與防控。

在風(fēng)險(xiǎn)防控方面，歐盟《人工智能法》采取了人工智能安全風(fēng)險(xiǎn)類型化防控策略，提出要“遵循一種明確定義的基于風(fēng)險(xiǎn)的方法，為人工智能系統(tǒng)引入一套成比例和有效的約束規(guī)則。這種方法應(yīng)該根據(jù)人工智能系統(tǒng)可能產(chǎn)生的風(fēng)險(xiǎn)的強(qiáng)度和范圍來(lái)調(diào)整此類規(guī)則的類型和內(nèi)容”。[7]歐盟建立相應(yīng)的風(fēng)險(xiǎn)防控分類和等級(jí)制度，主要分為：（1）違反歐洲價(jià)值觀的人工智能活動(dòng)。（2）人工智能系統(tǒng)。對(duì)人工智能系統(tǒng)進(jìn)行風(fēng)險(xiǎn)等級(jí)分類，進(jìn)行不同程度的監(jiān)管和規(guī)制。（3）通用人工智能模型。其通用性導(dǎo)致適用于各種不同的場(chǎng)景和軟件，會(huì)造成較廣泛的影響，歐盟對(duì)其可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行單獨(dú)的監(jiān)控。再加之，歐盟內(nèi)部缺少人工智能科技巨頭，所以歐盟為了防范域外大型科技企業(yè)帶來(lái)的競(jìng)爭(zhēng)和風(fēng)險(xiǎn)，通過(guò)《人工智能法案》加強(qiáng)監(jiān)管硬度和執(zhí)法力度，從而打造歐盟在數(shù)字科技領(lǐng)域的防御體系。歐盟對(duì)超大型平臺(tái)展開全方位的監(jiān)控，這些平臺(tái)除了需要遵守法案的相關(guān)規(guī)定，還需結(jié)合《數(shù)字服務(wù)法》的規(guī)制，涵蓋風(fēng)險(xiǎn)評(píng)估和風(fēng)險(xiǎn)緩解、獨(dú)立審計(jì)等義務(wù)。并且，對(duì)于超大型平臺(tái)來(lái)說(shuō)，應(yīng)當(dāng)將《數(shù)字服務(wù)法》所指定的機(jī)構(gòu)當(dāng)作執(zhí)法機(jī)構(gòu)。基于此，一旦依據(jù)《數(shù)字服務(wù)法》被認(rèn)定為超大型平臺(tái)，《數(shù)字服務(wù)法》等相關(guān)的歐盟條例都將聚合起來(lái)適用、進(jìn)行多方面同時(shí)規(guī)制。所以，超大型平臺(tái)在歐盟市場(chǎng)的運(yùn)作必須要在合規(guī)層面滿足多個(gè)維度的不同要求，否則就會(huì)面臨巨額的處罰。而這主要就是為了促進(jìn)歐盟內(nèi)部市場(chǎng)的中小型科技企業(yè)發(fā)展，通過(guò)限制域外超大型企業(yè)的進(jìn)入和采取強(qiáng)監(jiān)管模式，創(chuàng)造一個(gè)適合歐盟本土科技企業(yè)生長(zhǎng)的良好生態(tài)環(huán)境，并且給予歐盟內(nèi)部中小型企業(yè)較多優(yōu)惠政策和采取更靈活的措施，目的就是為了培育自身的科技企業(yè)，以更好地促進(jìn)歐盟的人工智能產(chǎn)業(yè)發(fā)展。

在產(chǎn)業(yè)發(fā)展方面，歐盟發(fā)布的一篇題為《歐洲人工智能雄心》的報(bào)告指出，2018—2020年期間，歐盟在人工智能領(lǐng)域?qū)τ谒綘I(yíng)企業(yè)和公共部門的投資目標(biāo)為200億歐元，并在未來(lái)10年里，每年都將對(duì)該領(lǐng)域投資200億歐元。歐盟委員會(huì)承諾在2018—2020年將歐盟資助的研究和創(chuàng)新投資增加到15億歐元，在2021—2027年增加到每年10億歐元。[8]并且在2017年塔林?jǐn)?shù)字峰會(huì)之后，歐洲理事會(huì)認(rèn)識(shí)到歐盟需要進(jìn)行數(shù)字創(chuàng)新，因此歐盟委員會(huì)于2018年4月提出《歐洲人工智能戰(zhàn)略》，該戰(zhàn)略的目標(biāo)是讓歐盟“走在人工智能技術(shù)發(fā)展的前沿，并確保其在歐盟經(jīng)濟(jì)中迅速普及”。[9]同年歐盟委員會(huì)通過(guò)了一項(xiàng)《歐洲制造人工智能發(fā)展和使用協(xié)調(diào)計(jì)劃》，其總體目標(biāo)是讓歐盟在頂尖、倫理和安全的人工智能領(lǐng)域成為世界領(lǐng)先的地區(qū)。[10]歐盟于2022年通過(guò)《十年數(shù)字政策計(jì)劃》（Digital Decade Policy Programme）進(jìn)一步加強(qiáng)了歐盟成員國(guó)之間的數(shù)字轉(zhuǎn)型和投資協(xié)調(diào)，并制定了歐盟數(shù)字目標(biāo)，即到2030年，有75%的企業(yè)使用人工智能。歐盟的另一項(xiàng)數(shù)字目標(biāo)是到2030年培育出500家估值超過(guò)10億美元的歐洲獨(dú)角獸企業(yè)。歐盟推動(dòng)人工智能技術(shù)企業(yè)的增長(zhǎng)有助于促進(jìn)數(shù)字研發(fā)領(lǐng)域的投資，并增強(qiáng)在人工智能領(lǐng)域的競(jìng)爭(zhēng)力。歐盟的目標(biāo)主要是通過(guò)相關(guān)的數(shù)字計(jì)劃改善人工智能發(fā)展生態(tài)系統(tǒng)。在2018年的計(jì)劃中，歐盟委員會(huì)從地平線2020研究計(jì)劃中撥款25億歐元用于2014—2020年的人工智能研發(fā)（2018—2020年為15億歐元）。而歐盟在2021年計(jì)劃通過(guò)數(shù)字歐洲計(jì)劃[11]和地平線歐洲研究計(jì)劃[12]向人工智能領(lǐng)域在2021—2027年撥款70億歐元，主要包括建設(shè)歐洲數(shù)據(jù)空間、人工智能算法庫(kù)、超級(jí)計(jì)算機(jī)以及人工智能創(chuàng)新的測(cè)試和實(shí)驗(yàn)設(shè)施。

三、歐盟人工智能安全治理的特點(diǎn)

（一）推動(dòng)建立“倫理優(yōu)先，以人為本”的治理標(biāo)準(zhǔn)

歐盟在新興技術(shù)領(lǐng)域一直強(qiáng)調(diào)倫理規(guī)范的重要性，致力于通過(guò)高標(biāo)準(zhǔn)的倫理和監(jiān)管政策引領(lǐng)全球新技術(shù)的發(fā)展。“倫理優(yōu)先”原則是歐盟推動(dòng)人工智能安全治理的突出特點(diǎn)。鑒于在技術(shù)層面與中美存在差距，歐盟試圖借助強(qiáng)調(diào) “倫理優(yōu)先”原則在人工智能安全治理領(lǐng)域占據(jù)一席之地。2018 年 3 月，歐洲政治戰(zhàn)略中心發(fā)布《人工智能時(shí)代：確立以人為本的歐洲戰(zhàn)略》報(bào)告，明確提出歐盟要構(gòu)建符合歐洲價(jià)值觀的 “以人為本” 全球標(biāo)準(zhǔn)，以此縮小與中美在技術(shù)上的差距。[13]隨后，歐盟委員會(huì)組建了由高級(jí)別專家構(gòu)成的獨(dú)立人工智能小組，負(fù)責(zé)起草歐盟人工智能倫理準(zhǔn)則草案。2019 年 4 月，《可信人工智能倫理準(zhǔn)則》正式發(fā)布。該準(zhǔn)則旨在為人工智能技術(shù)的開發(fā)與應(yīng)用提供價(jià)值指引，推動(dòng)人工智能可持續(xù)、負(fù)責(zé)任且可信的發(fā)展。該準(zhǔn)則將 “以人為本” 作為人工智能技術(shù)發(fā)展的核心原則，強(qiáng)調(diào)人工智能并非發(fā)展的終極目標(biāo)，而是促進(jìn)人類繁榮、增進(jìn)個(gè)人和社會(huì)福祉、推動(dòng)人類共同利益實(shí)現(xiàn)以及創(chuàng)新進(jìn)步的有力手段。具體而言，《可信人工智能倫理準(zhǔn)則》提出了覆蓋人工智能系統(tǒng)完整的生命周期，包括研發(fā)者、操作者、終端用戶以及社會(huì)大眾各類群體的七大重要原則：堅(jiān)持人的自主和監(jiān)管、保持技術(shù)穩(wěn)健與安全、重視隱私與數(shù)據(jù)治理、維護(hù)透明度原則、堅(jiān)持多樣性、非歧視與公平性原則、維護(hù)環(huán)境與社會(huì)福利以及堅(jiān)持可追責(zé)性原則。并且在同年，歐盟發(fā)布試行方案《試行“可信人工智能倫理準(zhǔn)則評(píng)估清單”》作為操作工具，旨在確保人工智能遵守倫理規(guī)范，用戶能夠從人工智能當(dāng)中受益。

（二）呈現(xiàn)泛安全化和數(shù)字保護(hù)主義的趨勢(shì)

隨著科技產(chǎn)業(yè)革命的迅猛發(fā)展和大國(guó)競(jìng)爭(zhēng)的日益激烈，歐盟在全球科技產(chǎn)業(yè)競(jìng)爭(zhēng)中的差距日益明顯。尖端科技的進(jìn)步重塑了經(jīng)濟(jì)產(chǎn)業(yè)格局，也深刻影響著大國(guó)間的戰(zhàn)略競(jìng)爭(zhēng)態(tài)勢(shì)。在此背景下，歐盟將提升外部風(fēng)險(xiǎn)防御能力、確保在全球科技競(jìng)爭(zhēng)中保持領(lǐng)先，作為核心目標(biāo)，進(jìn)而將人工智能領(lǐng)域視為高新技術(shù)防范的關(guān)鍵。針對(duì)全球范圍內(nèi)安全問(wèn)題的不斷滲透、泛化以及人工智能技術(shù)的特殊性等問(wèn)題，歐盟的人工智能戰(zhàn)略在規(guī)范性關(guān)切、制度性約束和權(quán)力性行動(dòng)三個(gè)維度提升了“泛安全化”監(jiān)管程度。[14]2020年6月歐盟發(fā)布名為《數(shù)字服務(wù)新發(fā)展》的報(bào)告，目的就是為了配合歐盟的“數(shù)字主權(quán)”政策，其中提到“建立與歐盟價(jià)值觀配套的網(wǎng)絡(luò)防火墻”，[15]意在構(gòu)建屬于歐盟的數(shù)字保護(hù)主義，促進(jìn)本土的科技產(chǎn)業(yè)發(fā)展。為重新奪回人工智能等新興尖端科技發(fā)展的優(yōu)勢(shì)地位，歐盟還通過(guò) “PPP 政策”（即促進(jìn)、保護(hù)和協(xié)作）提出了詳細(xì)的解決路徑，包含十一項(xiàng)后續(xù)落實(shí)舉措。[16] 2023 年 10 月，歐盟發(fā)布包含十個(gè)技術(shù)領(lǐng)域的關(guān)鍵技術(shù)清單，人工智能技術(shù)被認(rèn)定為最易引發(fā)技術(shù)安全和技術(shù)泄漏風(fēng)險(xiǎn)的領(lǐng)域。[17] 2024年1月，為應(yīng)對(duì)當(dāng)前國(guó)際形勢(shì)的復(fù)雜變化，歐盟發(fā)布“經(jīng)濟(jì)安全五項(xiàng)措施”，即歐盟需對(duì)外國(guó)直接投資審查機(jī)制進(jìn)行優(yōu)化，強(qiáng)化對(duì)軍民兩用技術(shù)出口的管控措施，細(xì)化對(duì)外投資的審查流程，推動(dòng)軍民兩用技術(shù)的研發(fā)工作，并確保科研活動(dòng)的安全性。這些舉措的實(shí)施，實(shí)際上標(biāo)志著歐盟打著“安全”與“降低風(fēng)險(xiǎn)”的旗幟，正逐步轉(zhuǎn)向更加干預(yù)主義和保護(hù)主義的立場(chǎng)。

（三）以把握創(chuàng)新發(fā)展與監(jiān)管的平衡作為主要抓手

為實(shí)現(xiàn)科技發(fā)展和風(fēng)險(xiǎn)外溢之間的平衡，各國(guó)都提出以實(shí)驗(yàn)性規(guī)制的方式來(lái)監(jiān)管快速發(fā)展的科技產(chǎn)業(yè)。實(shí)驗(yàn)性規(guī)制的實(shí)現(xiàn)進(jìn)路是以質(zhì)疑創(chuàng)新者的方式來(lái)測(cè)試全新規(guī)則，在不確定的環(huán)境中進(jìn)行反復(fù)的風(fēng)險(xiǎn)測(cè)試與規(guī)則重構(gòu)，以實(shí)現(xiàn)保障創(chuàng)新性的同時(shí)進(jìn)行更有效率、更加科學(xué)監(jiān)管的目的。[18]所以在此情形下，面對(duì)不斷更新迭代的人工智能技術(shù)，歐盟在《人工智能法案》中提出監(jiān)管沙盒機(jī)制，建立監(jiān)管沙盒的目標(biāo)包括：經(jīng)過(guò)不同測(cè)試，分享最佳實(shí)踐提升技術(shù)能力；創(chuàng)造良好的人工智能發(fā)展生態(tài)環(huán)境，推進(jìn)歐盟內(nèi)部中小企業(yè)快速發(fā)展，增強(qiáng)競(jìng)爭(zhēng)力；提升法律確定性，加強(qiáng)合規(guī)監(jiān)管；推動(dòng)人工智能系統(tǒng)更好地進(jìn)入歐盟市場(chǎng)，尤其是歐盟本土的中小型及初創(chuàng)科技企業(yè)。主要措施是由公共機(jī)構(gòu)建立一個(gè)在特定時(shí)間內(nèi)，為人工智能系統(tǒng)安全開發(fā)、測(cè)試驗(yàn)證和投入市場(chǎng)的受控環(huán)境，在限定時(shí)間內(nèi)按原計(jì)劃運(yùn)行人工智能程序，對(duì)其可能造成的風(fēng)險(xiǎn)程度和安全性進(jìn)行測(cè)試分析。一旦在“沙盒”中發(fā)現(xiàn)預(yù)投用的人工智能系統(tǒng)存在虛假陳述、歧視性輸出等威脅人類基本權(quán)利的“行為”，要及時(shí)對(duì)系統(tǒng)進(jìn)行規(guī)制與調(diào)試，必要時(shí)應(yīng)當(dāng)延緩?fù)度胧褂玫挠?jì)劃，重新開發(fā)與編寫一套安全的算法程序， 以降低人工智能系統(tǒng)在“監(jiān)管沙盒”模擬環(huán)境下出現(xiàn)的潛在風(fēng)險(xiǎn)。[19]歐盟對(duì)于監(jiān)管沙盒中的懲罰較為寬松，只要企業(yè)遵守相應(yīng)規(guī)定，并且在出現(xiàn)問(wèn)題后及時(shí)改正，將不會(huì)被問(wèn)責(zé)，但依然要對(duì)消費(fèi)者負(fù)責(zé)，不得損害消費(fèi)者的利益。通過(guò)沙盒測(cè)試的創(chuàng)新方式可以幫助各種類型的科技企業(yè)在遵守法規(guī)的同時(shí)繼續(xù)更新技術(shù)，這有助于在不影響創(chuàng)新發(fā)展的同時(shí)，提高人工智能的信任，實(shí)現(xiàn)監(jiān)管與創(chuàng)新的動(dòng)態(tài)平衡。

四、歐盟人工智能安全治理面臨的問(wèn)題與挑戰(zhàn)

（一）從治理目標(biāo)上看，歐盟的人工智能治理實(shí)力與其全球發(fā)展目標(biāo)存在差距

根據(jù)歐洲政策研究中心發(fā)布的題為《邁向歐洲大規(guī)模人工智能倡議》的報(bào)告，歐盟在近幾年缺乏對(duì)人工智能領(lǐng)域的投資和管理，導(dǎo)致歐洲逐漸失去戰(zhàn)略自主性和發(fā)展空間。[20]歐盟作為數(shù)字科技領(lǐng)域幼兒的現(xiàn)實(shí)，難以匹配其成為全球監(jiān)管巨人的構(gòu)想。歐盟通過(guò)率先制定人工智能治理規(guī)制以爭(zhēng)取人工智能領(lǐng)域全球領(lǐng)導(dǎo)力的理想實(shí)現(xiàn)難度較大。第一，歐洲人工智能技術(shù)的依賴性。歐洲在人工智能技術(shù)方面表現(xiàn)不佳，在過(guò)去4年中一直落后于中美這兩個(gè)人工智能競(jìng)賽領(lǐng)導(dǎo)者。根據(jù)2023年《全球人工智能指數(shù)》報(bào)告，歐盟在人工智能領(lǐng)域最具競(jìng)爭(zhēng)力的國(guó)家是德國(guó)和芬蘭，但它們?nèi)赃h(yuǎn)遠(yuǎn)落后于中國(guó)和美國(guó)。[21]歐洲在人工智能領(lǐng)域的落后的根本原因是它在關(guān)鍵技術(shù)組件（如半導(dǎo)體）以及用于半導(dǎo)體生產(chǎn)的關(guān)鍵原材料和云計(jì)算方面的依賴性。歐洲在產(chǎn)業(yè)鏈和關(guān)鍵科技元件上競(jìng)爭(zhēng)力較弱，在人工智能產(chǎn)業(yè)鏈和價(jià)值鏈上也落后于世界領(lǐng)先國(guó)家。根據(jù)聯(lián)合國(guó)發(fā)布的《2021數(shù)字經(jīng)濟(jì)報(bào)告》，中國(guó)和美國(guó)占全球50%的超大規(guī)模數(shù)據(jù)中心和所有人工智能初創(chuàng)企業(yè)募集資金的94％，占世界上最大數(shù)字平臺(tái)市值的90%。[22]半導(dǎo)體是人工智能模型背后的中央處理器（CPU）和圖形處理器（GPU）所必需的，但沒(méi)有一個(gè)歐洲公司能夠與美國(guó)科技巨頭英偉達(dá)（NVIDIA）生產(chǎn)的最先進(jìn)芯片相競(jìng)爭(zhēng)。[23]所以歐洲在發(fā)展人工智能系統(tǒng)和技術(shù)上難以做到自給自足，很多時(shí)候都需要美國(guó)提供相應(yīng)的芯片和硬件設(shè)施。并且云計(jì)算在人工智能模型的訓(xùn)練中也起著關(guān)鍵作用，很多歐盟開發(fā)者不得不租用美國(guó)的云空間和計(jì)算技術(shù)以獲得足夠的計(jì)算能力。以致在云計(jì)算的市場(chǎng)當(dāng)中，歐盟公司也無(wú)法占據(jù)主導(dǎo)地位。[24]第二，缺乏足夠的人工智能技術(shù)人才。除了技術(shù)上的差距外，歐洲也急需解決其“軟性”差距。2021年，至少有62%的公司在招聘信息技術(shù)人才（ICT）方面面臨挑戰(zhàn)。隨著人工智能技術(shù)的快速發(fā)展，這一難題只會(huì)加劇，因?yàn)橄嚓P(guān)技術(shù)人才很難跟上步伐。[25]歐洲除了在企業(yè)方面缺乏相關(guān)技術(shù)人才，在研發(fā)領(lǐng)域的科學(xué)家和創(chuàng)新者也數(shù)量較少。歐洲在科學(xué)、技術(shù)、工程和數(shù)學(xué)領(lǐng)域（STEM）的高等教育畢業(yè)生人數(shù)相當(dāng)?shù)汀３酥猓?jīng)合組織（OECD）指出，歐洲的STEM人才主要流向了如美國(guó)這些全球創(chuàng)新領(lǐng)先的國(guó)家。[26]這種人才外流是由于歐洲在研發(fā)設(shè)施上的投資不足，以及某些歐盟國(guó)家低工資和糟糕的工作條件造成的。綜上所述，歐盟內(nèi)部面對(duì)著人工智能人才流失和生態(tài)環(huán)境難以改善的情況，從而導(dǎo)致對(duì)外部產(chǎn)生依賴性，難以提升其戰(zhàn)略獨(dú)立性和自主性，也因此歐盟如果在不提升自身人工智能實(shí)力的前提下，難以僅通過(guò)制定規(guī)制而獲取在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者地位。

（二）從治理環(huán)境看，歐盟內(nèi)部統(tǒng)一協(xié)調(diào)難度較大

歐盟想采取統(tǒng)一的治理方式在歐洲推進(jìn)人工智能治理，然而在真正執(zhí)行過(guò)程中卻發(fā)現(xiàn)協(xié)調(diào)難度大，難以實(shí)現(xiàn)真正的統(tǒng)一執(zhí)行。

首先，歐盟雖在各成員國(guó)建立專家組作為獨(dú)家管理機(jī)構(gòu)，但并沒(méi)有很好利用專家組對(duì)各國(guó)進(jìn)行協(xié)調(diào)。主要原因是歐盟沒(méi)有對(duì)專家組進(jìn)行全面的高層授權(quán)，導(dǎo)致專家組職權(quán)范圍過(guò)小，并且在計(jì)劃執(zhí)行過(guò)程中沒(méi)有及時(shí)跟進(jìn)后續(xù)工作。對(duì)2018—2022年專家組工作的審查表明，各成員國(guó)的專家組幾乎沒(méi)有協(xié)調(diào)或討論計(jì)劃的研究議程。與此同時(shí)，歐盟的專家組正在為“地平線歐洲”計(jì)劃研究相關(guān)戰(zhàn)略，然而歐盟與各成員國(guó)之間的專家組沒(méi)有任何聯(lián)系與協(xié)調(diào)。[27]（p1-30）" 其次，各國(guó)發(fā)布人工智能戰(zhàn)略時(shí)間不統(tǒng)一。在2018年歐盟人工智能計(jì)劃設(shè)定的截止日期（即2019年6月）之前，只有10個(gè)成員國(guó)發(fā)布了各自國(guó)家的人工智能戰(zhàn)略。[28]到2023年年中，還有四個(gè)成員國(guó)尚未采納此戰(zhàn)略，分別是：保加利亞、克羅地亞、希臘和羅馬尼亞。各國(guó)交錯(cuò)啟動(dòng)本國(guó)的國(guó)家戰(zhàn)略導(dǎo)致歐盟難以統(tǒng)一協(xié)調(diào)人工智能政策。第三，歐盟沒(méi)有建立一個(gè)框架來(lái)確保歐盟與各國(guó)戰(zhàn)略和措施執(zhí)行的一致性。歐盟多年來(lái)一直在推進(jìn)具體的人工智能項(xiàng)目，旨在通過(guò)建立“AI Watch”“AI4EU聯(lián)盟”和現(xiàn)在的“AI on Demand”等平臺(tái)實(shí)現(xiàn)統(tǒng)一協(xié)調(diào)與合作。然而，這些項(xiàng)目的實(shí)施效果并沒(méi)有達(dá)到理想水平，通過(guò)這些項(xiàng)目收集的信息通常很少、不完整且過(guò)時(shí)。各國(guó)之間缺乏合作的根本問(wèn)題是歐盟國(guó)家傾向于以個(gè)體主義的方式行事。具體來(lái)說(shuō)，各國(guó)都在各自的“孤島”中制定人工智能戰(zhàn)略，這導(dǎo)致一共產(chǎn)生了27種不同的人工智能戰(zhàn)略，極大地削弱了歐盟推動(dòng)協(xié)調(diào)的力度。因此，歐盟不清楚各國(guó)將使用多少資金來(lái)推動(dòng)歐盟的人工智能投資目標(biāo)，并且只有9個(gè)成員國(guó)設(shè)定了多年份的人工智能公共支出目標(biāo)。[29]正如《紐約時(shí)報(bào)》的文章指出的那樣，由于法案的執(zhí)行依賴27個(gè)成員國(guó)的共同努力，考慮到這需要政府在財(cái)政緊張的情況下增加相關(guān)預(yù)算，其執(zhí)行情況恐怕不甚理想。該文章還援引了愛(ài)爾蘭公民自由委員會(huì)的專家克里斯·施里沙克（Kris Shrishak）的評(píng)論，稱“如果沒(méi)有強(qiáng)有力的執(zhí)行，那這份協(xié)議就沒(méi)有任何意義”。[30]因此在具體執(zhí)行過(guò)程中，各國(guó)都會(huì)根據(jù)自身情況不同調(diào)整相應(yīng)政策，這就讓歐盟難以進(jìn)行統(tǒng)一協(xié)調(diào)，共同推進(jìn)政策。總體而言，因?yàn)闅W盟的人工智能計(jì)劃沒(méi)有對(duì)成員國(guó)設(shè)定具有約束力的義務(wù)，所以各國(guó)總是會(huì)依據(jù)本國(guó)國(guó)情來(lái)制定本土的人工智能戰(zhàn)略。因此，盡管隨著《人工智能法》的通過(guò)，使歐盟各國(guó)達(dá)成了表面上的妥協(xié)，但這些爭(zhēng)議背后的矛盾和差異在執(zhí)法層面一定會(huì)加倍顯現(xiàn)，所謂的“法律確定性”和“規(guī)則的統(tǒng)一性”可能只是一種幻覺(jué)。[31]

（三）從治理手段看，歐盟人工智能安全治理的立法手段與產(chǎn)業(yè)發(fā)展需求之間存在矛盾

歐盟采取“硬”治理的方式，對(duì)發(fā)生的風(fēng)險(xiǎn)加強(qiáng)規(guī)制，但可能會(huì)阻礙產(chǎn)業(yè)發(fā)展，導(dǎo)致歐洲人工智能產(chǎn)業(yè)被迫向外轉(zhuǎn)移，進(jìn)而加重歐洲人工智能領(lǐng)域發(fā)展滯后的問(wèn)題。歐盟這次在人工智能領(lǐng)域的立法走在世界前列，推出《人工智能法案》強(qiáng)調(diào)嚴(yán)格的全程監(jiān)管和問(wèn)責(zé)機(jī)制，并對(duì)違反規(guī)定的企業(yè)提出高昂的懲罰措施，這將使人工智能企業(yè)在歐洲承擔(dān)過(guò)高的成本，而且大部分的合規(guī)要求對(duì)現(xiàn)在快速迭代的人工智能技術(shù)來(lái)說(shuō)過(guò)于嚴(yán)苛，讓很多成員國(guó)和企業(yè)總充滿擔(dān)憂。首先歐盟追求人工智能治理的確定性和穩(wěn)健性，要求發(fā)展可信的人工智能技術(shù)，但是歐盟對(duì)這一技術(shù)的復(fù)雜多變性還是過(guò)于樂(lè)觀，因?yàn)槿斯ぶ悄艿陌l(fā)展具有量子思維中的不可預(yù)測(cè)性，所以完全規(guī)避人工智能潛在風(fēng)險(xiǎn)的設(shè)想過(guò)于理想化。實(shí)際上，就算是人腦決策，也存在大量主觀差異和不穩(wěn)定性。來(lái)自美國(guó)行政會(huì)議的一篇報(bào)告證明，相比算法，人腦決策可能更加復(fù)雜和不透明。[32]如果一味地將大量的監(jiān)管資源投入到風(fēng)險(xiǎn)規(guī)制上，可能會(huì)得不償失，阻礙技術(shù)的發(fā)展創(chuàng)新。比利時(shí)智庫(kù)歐洲國(guó)際政治經(jīng)濟(jì)中心的一項(xiàng)研究分析了對(duì)科技公司事前監(jiān)管的成本，以2018年的數(shù)據(jù)為基準(zhǔn)，事前監(jiān)管導(dǎo)致高達(dá)850億歐元的GDP損失和1000億歐元的消費(fèi)者福利損失。[33]所以在此情況下，可能會(huì)出現(xiàn)歐洲的科技企業(yè)外逃至人工智能領(lǐng)域世界領(lǐng)先國(guó)家的現(xiàn)象，正如中美兩國(guó)現(xiàn)在也在大力發(fā)展人工智能科技產(chǎn)業(yè)，且監(jiān)管環(huán)境較為寬松，投資力度更大，企業(yè)優(yōu)惠更多，對(duì)于創(chuàng)新人工智能技術(shù)的生態(tài)環(huán)境更優(yōu)越，這樣就會(huì)促使歐洲企業(yè)外流到這些國(guó)家進(jìn)行發(fā)展，從而加劇歐洲人工智能實(shí)力落后的現(xiàn)象。其次，法案主要針對(duì)高風(fēng)險(xiǎn)的人工智能系統(tǒng)，這些要求給人工智能的開發(fā)和創(chuàng)新帶來(lái)一定的負(fù)擔(dān)和障礙。[34]歐盟對(duì)于人工智能治理采取的強(qiáng)監(jiān)管一直被認(rèn)為是抑制該技術(shù)發(fā)展的關(guān)鍵，不論是大型企業(yè)還是中小型企業(yè)，都會(huì)受《人工智能法案》等法規(guī)提出的大量合規(guī)要求和監(jiān)管條件影響，對(duì)大型企業(yè)來(lái)說(shuō)，會(huì)影響其科技創(chuàng)新和拓展市場(chǎng)。對(duì)中小型和小型企業(yè)來(lái)說(shuō)，由于本身公司體量就不如大型企業(yè)，更加容易受到風(fēng)險(xiǎn)沖擊，再加之還要遵守許多合規(guī)要求，會(huì)加大其規(guī)則成本和資金損耗，像一些初創(chuàng)企業(yè)可能難以生存。據(jù)《金融時(shí)報(bào)》報(bào)道，歐洲大陸科技行業(yè)的意見領(lǐng)袖塞西莉亞·博內(nèi)菲爾德-達(dá)爾（Cecilia Bonefeld-Dahl）認(rèn)為這份法案用來(lái)防范人工智能風(fēng)險(xiǎn)所付出的代價(jià)太大，“新的監(jiān)管要求會(huì)讓公司投入大量資源來(lái)雇傭律師而非AI工程師，以達(dá)到合規(guī)目的”。[35]包括很多歐洲大型科技企業(yè)如空客、西門子等都認(rèn)為這一法案的規(guī)則太過(guò)嚴(yán)格，不利于培養(yǎng)歐洲本土企業(yè)創(chuàng)新發(fā)展，尤其是在與中美等科技企業(yè)競(jìng)爭(zhēng)的基礎(chǔ)上。即使歐盟推出了如監(jiān)管沙盒等創(chuàng)新的實(shí)驗(yàn)機(jī)制，但是依然難以尋求監(jiān)管與發(fā)展的平衡。

結(jié)語(yǔ)

從總體上看，歐盟在人工智能安全治理方面采取了一系列綜合且具有前瞻性的舉措，取得了一定的成效，其主要目的還是為了實(shí)現(xiàn)對(duì)中美等國(guó)在人工智能領(lǐng)域的彎道超車，從而另辟蹊徑成為人工智能立法的先行者，以求通過(guò)規(guī)制先行推動(dòng)構(gòu)建單邊全球化監(jiān)管，奪取人工智能領(lǐng)域的戰(zhàn)略高地。但歐盟的人工智能治理還存在許多亟待解決的問(wèn)題，包括歐盟的人工智能技術(shù)發(fā)展較為滯后，實(shí)力不足以支撐其成為全球監(jiān)管者；歐洲各國(guó)內(nèi)部存在分歧，歐盟難以統(tǒng)一協(xié)調(diào)；歐盟推出的《人工智能法案》對(duì)監(jiān)管和創(chuàng)新的平衡很難把握得當(dāng)?shù)取５珰W盟提出的人工智能治理方案，對(duì)全球構(gòu)建人工智能監(jiān)管架構(gòu)也有一定的啟發(fā)，其治理模式和標(biāo)準(zhǔn)可能成為其他國(guó)家和地區(qū)借鑒的范例，從而提升全球人工智能治理水平。

參考文獻(xiàn)：

[1]European Commission. White Paper： On Artificial Intelligence to Excellence and Trust [R/OL].https：//commission.europa.eu/system/files/2020-02/commission-white-paper-artificial-intelligence-feb 2020_en.pdf， 2020-02-19/2024-06-07.

[2]European Commission. The European Data Strategy： Shaping Europes Difital Future [R/OL]. https：//ec.europa.eu/commission/presscorner/api/files/attachment/862109/European_data_strategy_en.pdf.pdf， 2020-02-03/2024-06-07.

[3]嚴(yán)少華，楊昭.歐美人工智能治理模式比較及啟示[J].戰(zhàn)略決策研究，2024，15（3）.

[4]European Commission Communication. A Digital Agenda for Europe[R/OL]. https：//eur-lex.europa.eu/LexUriServ/LexUriServ.do？uri=COM：2010：0245：FIN：EN：PDF， 2010-05-19/2024-06-09.

[5]金晶.數(shù)字時(shí)代經(jīng)典合同法的力量——以歐盟數(shù)字單一市場(chǎng)政策為背景[J].歐洲研究，2017，（6）.

[6]鄭春榮，金欣.歐盟數(shù)字主權(quán)建設(shè)的背景、路徑與挑戰(zhàn)[J].當(dāng)代世界與社會(huì)主義，2022，（2）.

[7]European Commission. An EU Strategy on Standardisation Setting Global Standards in Support of A Resilient，Green and Digital EU Single Market[R/OL]. https：//ec.europa.eu/docsroom/documents/48598/attachments/2/translations/en/renditions/native， 2022-02-02/2024-08-11.

[8]皮勇.歐盟《人工智能法》中的風(fēng)險(xiǎn)防控機(jī)制及對(duì)我國(guó)的鏡鑒[J].比較法研究，2024，（4）.

[9]European Court of Auditors. EU Artificial Intelligence Ambition ： Stronger Governance and Increased， More Focused Investment Essential Going Forward[R/OL]. https：//op.europa.eu/o/opportal-service/download-handler？identifier=a064c772-1ef3-11ef-a25 1-01aa75ed71a1amp;format=pdfamp;language=enamp;production System=cellaramp;part=，2024-05-30/2024-08-13.

[10]European Commission. Artificial Intelligence for Europe[R/OL]. https：//eur-lex.europa.eu/legal-content/EN/TXT/PDF/？uri=CELEX：52018DC0237， 2018-04-25/2024-08-13.

[11]European Commission. Coordinated Plan on Artificial Intelligence[R/OL]. https：//eur-lex.europa.eu/resource.html？uri=cellar：22ee84bb-fa04-11e8-a96d-01aa75ed71a1.0002.02/DOC_1amp;format=PDF， 2018-12-07/2024-08-13.

[12]宋黎磊，戴淑婷.科技安全化與泛安全化：歐盟人工智能戰(zhàn)略研究.[J].德國(guó)研究，2022，（ 4 ）.

[13]European Parliament. Directorate-General for Internal Policies of The Union. New Developments in Digital Services ： Short - （2021）， Medium - （2025） and Long - term （2030） Perspective and The Implications for the Digital Services Act[R/OL]. https：//data.europa.eu/doi/10.2861/853318， 2020-12-15/2024-08-15.

[14]European Commission. European Economic Security Strategy[R/OL]. https：//eur-lex.europa.eu/legal-content/en/TXT/？uri=CELEX：52023JC0020， 2023-06-20/2024-08-16.

[15]European Commission. Commission Recommendation On Critical Technology Areas for the EU’s Economic Security for Further Risk Assessment with Member States [R/OL]. https：//defence-industry-space.ec.europa.eu/document/download/31c246f2-f0ab-4cdf-a338-b00dc16abd36_en？filename=C_2023_6689_1_EN_ACT_part1_v8.pdf， 2023-10-03/2024-08-16.

[16]董新義，梅貽哲.“人工智能法總則”建構(gòu)原則與理念——?dú)W盟立法經(jīng)驗(yàn)之鏡鑒[J].數(shù)字法治，2024，（2）.

[17]Centre for European Policy Studies. Towards A European Large-scale Initiative on Artificial Intelligence [R/OL]. https：//cdn.ceps.eu/wp-content/uploads/2024/07/2024-10_ID-A_Towards-a-European-large-scale-initiative-on-Artificial-Intelligence.pdf， 2024-07-11/2024-08-19.

[18]Tortoise Media. The Global AI Index[DS/OL]. https：//www.tortoisemedia.com/data/global-ai， 2023-07-28/2024-08-19.

[19]United Nations Conference on Trade and Development （UNCTAD）. Cross-border Data flows and Development： For Whom The Data Flow， 2021[R/OL]. https：//unctad.org/system/files/information-document/Concept_note_DER21_at_TDB_June_2022.pdf， 2022-06-13/2024-08-20.

[20]The Economist. Why Do Nvidias Chips Dominate The AI Market？ [N/OL]. https：//www.economist.com/the-economist-explains/2024/02/27/why-do-nvidias-chips-dominate-the-ai-market， 2024-02-27/2024-08-20.

[21]Synergy Research Group. European Cloud Providers Continue to Grow but Still Lose Market Share[R/OL]. https：//www.srgresearch.com/articles/european-cloud-providers-continue-to-grow-but-still-lose-market-share， 2022-09-27/2024-08-20.

[22]Eurostat. Competition In Urban Hiring Markets： Evidence From Online Job Advertisements[R/OL]. https：//ec.europa.eu/eurostat/en/web/products-statistical-working-papers/-/ks-01-21-430， 2021-12-13/2024-08-21.

[23]OECD. How Can Europe Catch Up On Its Digital Backlog？[R/OL].https：//oecdecoscope.blog/2022/05/17/how-can-europe-catch-up-on-its-digital-backlog/，2022-05-17/2024-08-22.

[24]European Commission. Digital， Industry and Space[EB/OL]. https：//ec.europa.eu/transparency/expert-groups-register/screen/expert-groups/consult？lang=enamp;groupID=100283， 2021-07-16/2024-08-22.

[25]European Commission. AI Watch – National Strategies on Artificial Intelligence： A" European Perspective in 2019[R/OL]. https：//ai-watch.ec.europa.eu/publications/ai-watch-national-strategies-artificial-intelligence-european-perspective-2019_en， 2020-12-17/2024-08-23.

[26]Official Journal of the European Union. Decision of The European Parliament and of The Council of Establishing the Digital Decade Policy Programme 2030[EB/OL]. https：//eur-lex.europa.eu/legal-content/EN/TXT/PDF/？uri=CELEX：32022D2481， 2022-12-19/2024-08-25.

[27]The New York Times. EU Agrees On Landmark Artificial Intelligence Rules[N/OL]. https：//www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html， 2023-12-08/2024-08-25.

[28]王天凡.人工智能監(jiān)管的路徑選擇——?dú)W盟《人工智能法》的范式、爭(zhēng)議及影響[J].歐洲研究，2024，42（3）.

[29]Administrative Conference of the United States. A Framework for Government Use of Machine Learning[EB/OL]. https：//www.acus.gov/sites/default/files/documents/Coglianese%20ACUS%20Final%20Report%20w%20cover%20page.pdf， 2020-12-08/2024-08-27.

[30]曾雄，梁正，張輝.歐盟人工智能的規(guī)制路徑及其對(duì)我國(guó)的啟示——以《人工智能法案》為分析對(duì)象[J].電子政務(wù)，2022，（9）.

[31]魯傳穎.歐盟推出全球首部AI法案，會(huì)形成效應(yīng)還是陷阱？[J].世界知識(shí)，2024，（6）.

[32]Financial Times. EU Agrees Landmark Rules on Artificial Intelligence[J/OL]. https：//www.ft.com/content/d5bec462-d948-4437-aab1-e6505031a303， 2023-12-09/2024-8-29.

責(zé)任編輯" "唐" "偉