他山之石：歐盟人工智能監(jiān)管的經(jīng)驗(yàn)與啟示

雷 挺，吳義熔

（1.北京師范大學(xué)政府管理學(xué)院，北京 100875；2.北京師范大學(xué)人文和社會(huì)科學(xué)高等研究院，廣東珠海 519087）

1 研究背景

人工智能（artificial intelligence，AI）基于計(jì)算機(jī)技術(shù)模擬人類智能，能夠使計(jì)算機(jī)像人一樣感知、理解、推理、思考、學(xué)習(xí)并參與社會(huì)活動(dòng)，其發(fā)展歷程可以追溯到20 世紀(jì)50 年代［1］。近年來(lái)，隨著互聯(lián)網(wǎng)和移動(dòng)設(shè)備的普及，人工智能技術(shù)已經(jīng)廣泛應(yīng)用于圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理、機(jī)器翻譯、智能客服、自動(dòng)駕駛、氣候環(huán)境監(jiān)測(cè)、公共服務(wù)供給和農(nóng)業(yè)生產(chǎn)等領(lǐng)域，通過(guò)改進(jìn)預(yù)測(cè)、優(yōu)化運(yùn)營(yíng)和改善資源分配以及個(gè)性化服務(wù)交付，帶來(lái)了廣泛的經(jīng)濟(jì)效益和社會(huì)效益［2］。然而，人工智能技術(shù)在提升社會(huì)效益與經(jīng)濟(jì)效益的同時(shí)，也帶來(lái)了不可忽視的風(fēng)險(xiǎn)和挑戰(zhàn)：在公共決策層面，人工智能技術(shù)本質(zhì)上是基于數(shù)據(jù)和算法的，其行為和決策具有高度的復(fù)雜性和不確定性，缺乏相應(yīng)的監(jiān)管措施，會(huì)因?yàn)樗惴ㄆ`出現(xiàn)決策偏差，從而給人類社會(huì)帶來(lái)不良后果［3］；在個(gè)人隱私與數(shù)據(jù)安全方面，人工智能技術(shù)需要大量的數(shù)據(jù)支持，缺乏嚴(yán)格的數(shù)據(jù)保護(hù)措施會(huì)導(dǎo)致個(gè)人隱私泄露、數(shù)據(jù)被濫用等問(wèn)題［4］；在社會(huì)倫理方面，人工智能技術(shù)還存在算法歧視、不符合人類價(jià)值觀等社會(huì)倫理問(wèn)題［5］。建構(gòu)人工智能監(jiān)管體系不僅能夠保證人工智能技術(shù)被安全可靠地使用，還能夠促進(jìn)人工智能技術(shù)健康發(fā)展，以維護(hù)公眾利益和社會(huì)穩(wěn)定。建構(gòu)完善的人工智能監(jiān)管體系，確保人工智能技術(shù)的應(yīng)用符合相關(guān)法律法規(guī)和倫理標(biāo)準(zhǔn)，已經(jīng)成為新的全球共識(shí)［6］。

在全球化浪潮中，中國(guó)政府與歐盟委員會(huì)都在積極嘗試使用以法律、行政等手段對(duì)人工智能發(fā)展加以規(guī)制，建構(gòu)符合中國(guó)與歐盟人工智能發(fā)展策略的監(jiān)管體系，以推動(dòng)人工智能產(chǎn)業(yè)的蓬勃發(fā)展。近年來(lái)，中國(guó)政府陸續(xù)出臺(tái)了《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018—2020 年)》《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》等多項(xiàng)政策，以確保人工智能技術(shù)的研究和應(yīng)用符合人類社會(huì)的倫理規(guī)范和法律法規(guī)［7］。2023 年4 月11 日，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室頒布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。自2015 年以來(lái)，歐盟委員會(huì)也陸續(xù)發(fā)布《歐盟人工智能》（Artificial Intelligent for Europe）、《人工智能協(xié)調(diào)計(jì)劃》（Coordinated Plan on Artificial Intelligence）、《可信人工智能倫理指南》（Ethics Guidelines for Trustworthy Artificial Intelligence）、《人工智能法案》（Artificial Intelligence Act）提案、《人工智能協(xié)調(diào)計(jì)劃2021年審查》（Coordinated Plan On Artificial Intelligence 2021 Review）等一系列與人工智能監(jiān)管相關(guān)的政策文件，以確保歐盟人工智能技術(shù)發(fā)展和應(yīng)用的安全性、可靠性［8］。然而，中國(guó)目前還沒(méi)完整的人工智能監(jiān)管體系，現(xiàn)有人工智能監(jiān)管體系已經(jīng)滯后于中國(guó)突飛猛進(jìn)的人工智能發(fā)展。當(dāng)前，歐盟在人工智能監(jiān)管體系建構(gòu)方面已收獲了諸多成功經(jīng)驗(yàn)并發(fā)布了全球首部人工智能法案提案，對(duì)完善中國(guó)人工智能監(jiān)管體系具有重要借鑒價(jià)值。

國(guó)內(nèi)現(xiàn)有關(guān)于人工智能監(jiān)管研究多集中于對(duì)人工智能監(jiān)管的內(nèi)涵界定、現(xiàn)實(shí)價(jià)值、頂層設(shè)計(jì)進(jìn)行探究，缺乏國(guó)際視野的比較研究。針對(duì)既有研究的不足和中國(guó)現(xiàn)實(shí)情景，本研究力圖解析歐盟人工智能監(jiān)管的成功經(jīng)驗(yàn)對(duì)中國(guó)的啟示。

2 文獻(xiàn)回顧

2.1 人工智能監(jiān)管與人工智能治理

人工智能技術(shù)已經(jīng)深入到人們生活的方方面面，對(duì)經(jīng)濟(jì)、社會(huì)和政府治理產(chǎn)生了深遠(yuǎn)的影響。現(xiàn)有文獻(xiàn)中以“人工智能監(jiān)管”作為主題詞的研究不斷涌現(xiàn)，然而關(guān)于人工智能監(jiān)管的清晰釋義卻鮮少可見(jiàn)。以“人工智能監(jiān)管”和“Artificial Intelligence Regulation”分別作為檢索詞，在中文社會(huì)科學(xué)引文索引（CSSCI）和Web of Science 核心合集等文獻(xiàn)數(shù)據(jù)庫(kù)中檢索到中文文獻(xiàn)8 篇、英文文獻(xiàn)51 篇（檢索日期為2023 年6 月18 日）。梳理檢索所得文獻(xiàn)發(fā)現(xiàn)，當(dāng)前學(xué)術(shù)界主要從內(nèi)涵界定、現(xiàn)實(shí)價(jià)值、頂層設(shè)計(jì)等方面展開(kāi)人工智能監(jiān)管方面的研究，尚未形成完整的理論分析框架，“人工智能監(jiān)管”概念內(nèi)涵界定也尚未達(dá)成統(tǒng)一。在人工智能監(jiān)管的內(nèi)涵界定層面，學(xué)者們分別從4 個(gè)視角進(jìn)行了詮釋：（1）技術(shù)監(jiān)管視角。從該視角出發(fā)的學(xué)者們認(rèn)為人工智能監(jiān)管是對(duì)人工智能技術(shù)的研發(fā)、部署和應(yīng)用進(jìn)行監(jiān)督和管理，確保其符合技術(shù)規(guī)范和安全要求。這包括對(duì)算法、數(shù)據(jù)集、模型和系統(tǒng)的審查、測(cè)試和認(rèn)證，以保證其可靠性、安全性、透明度和穩(wěn)定性。（2）行為監(jiān)管視角。從該視角出發(fā)的學(xué)者們認(rèn)為人工智能監(jiān)管是對(duì)從事人工智能開(kāi)發(fā)、運(yùn)營(yíng)和使用的個(gè)人及組織的行為進(jìn)行監(jiān)督和管理，防止其違反法律、道德和倫理原則，保障公眾的隱私安全和個(gè)人權(quán)益。這包括對(duì)數(shù)據(jù)收集、使用、處理和分享的監(jiān)管，以及對(duì)人工智能應(yīng)用的社會(huì)、經(jīng)濟(jì)和環(huán)境影響的評(píng)估和管控。（3）法律監(jiān)管視角。從該視角出發(fā)的學(xué)者們認(rèn)為人工智能監(jiān)管是對(duì)人工智能的技術(shù)創(chuàng)新、實(shí)踐應(yīng)用進(jìn)行法律審查和規(guī)范，確保其符合法律法規(guī)和相關(guān)政策。這包括對(duì)人工智能的知識(shí)產(chǎn)權(quán)、責(zé)任、隱私安全和道德等方面的法律規(guī)定，以及對(duì)人工智能系統(tǒng)在特定領(lǐng)域的法律適用規(guī)范。（4）機(jī)構(gòu)監(jiān)管視角。從該視角出發(fā)的學(xué)者們認(rèn)為人工智能監(jiān)管是建立和完善人工智能監(jiān)管機(jī)構(gòu)、體系，對(duì)人工智能的技術(shù)開(kāi)發(fā)、使用行為進(jìn)行監(jiān)督管理，并提供技術(shù)、法律和倫理的指導(dǎo)與支持。包括對(duì)人工智能監(jiān)管機(jī)構(gòu)的組織結(jié)構(gòu)、職責(zé)、權(quán)力和責(zé)任進(jìn)行界定，以及對(duì)人工智能監(jiān)管機(jī)構(gòu)的監(jiān)督和評(píng)估。在人工智能監(jiān)管的現(xiàn)實(shí)價(jià)值層面，Almeida 等［9］、Fortes 等［10］學(xué)者認(rèn)為通過(guò)研究人工智能監(jiān)管可以制定和完善相關(guān)法規(guī)準(zhǔn)則，應(yīng)對(duì)人工智能技術(shù)發(fā)展所帶來(lái)的法律、倫理和社會(huì)問(wèn)題，保護(hù)個(gè)人隱私、確保算法公正和決策透明，以促進(jìn)可持續(xù)和負(fù)責(zé)任的人工智能應(yīng)用，從而維護(hù)公眾利益和社會(huì)價(jià)值。在頂層設(shè)計(jì)方面，Robert 等［11］認(rèn)為人工智能監(jiān)管面臨著技術(shù)復(fù)雜性、數(shù)據(jù)隱私和數(shù)字公平性等挑戰(zhàn)，但同時(shí)也提供促進(jìn)創(chuàng)新、保護(hù)數(shù)據(jù)隱私和建立信任的機(jī)遇，我們可以通過(guò)制定適用于人工智能監(jiān)管的法律框架、倫理準(zhǔn)則、救濟(jì)機(jī)制和追責(zé)機(jī)制，最大程度地實(shí)現(xiàn)人工智能應(yīng)用的益處。

“人工智能治理”和“人工智能監(jiān)管”是兩個(gè)相關(guān)但又有區(qū)別的概念，它們共同關(guān)注著對(duì)人工智能的管理和規(guī)范。為了進(jìn)一步明晰人工智能治理的內(nèi)涵，以“人工智能治理”和“Artificial Intelligence Governance”分別作為檢索詞，在中文社會(huì)科學(xué)引文索引（CSSCI）和Web of Science 核心合集等文獻(xiàn)數(shù)據(jù)庫(kù)中檢索到中文文獻(xiàn)532 篇、英文文獻(xiàn)913 篇（檢索日期為2023 年6 月18 日）。梳理檢索所得文獻(xiàn)發(fā)現(xiàn)，當(dāng)前國(guó)內(nèi)外學(xué)界關(guān)于人工智能治理的研究成果頗豐，主要聚焦于人工智能治理內(nèi)涵界定、機(jī)遇挑戰(zhàn)、治理實(shí)踐等方面。在人工智能治理概念的內(nèi)涵界定層面，學(xué)界也尚未達(dá)成統(tǒng)一，多位學(xué)者從技術(shù)視角、治理視角對(duì)人工智能治理的內(nèi)涵展開(kāi)了探究。站在技術(shù)視角，賈開(kāi)等［12］學(xué)者認(rèn)為人工智能治理是指對(duì)人工智能技術(shù)的應(yīng)用和發(fā)展進(jìn)行規(guī)范、管理和監(jiān)督的過(guò)程，它涵蓋了對(duì)人工智能技術(shù)的倫理、法律、政策等方面進(jìn)行審視和調(diào)整，以確保人工智能的應(yīng)用符合公共利益、道德原則和社會(huì)價(jià)值觀；站在治理視角，Kuziemski 等［13］學(xué)者則認(rèn)為人工智能治理可以理解為針對(duì)人工智能技術(shù)在公共部門中應(yīng)用的管理過(guò)程。在人工智能治理帶來(lái)的機(jī)遇與挑戰(zhàn)層面，陳少威等［14］學(xué)者認(rèn)為人工智能技術(shù)的迅猛發(fā)展為社會(huì)治理提供了機(jī)會(huì)，新的算法、模型和技術(shù)工具能夠輔助科學(xué)公共決策，但是同時(shí)也帶來(lái)隱私保護(hù)、倫理問(wèn)題、公平性和透明度等新的社會(huì)問(wèn)題。在人工智能治理實(shí)踐層面，Dixon 等［15］學(xué)者對(duì)來(lái)自中國(guó)、歐盟和美國(guó)的人工智能治理實(shí)踐進(jìn)行了比較分析，總結(jié)了其發(fā)展人工智能產(chǎn)業(yè)的成功經(jīng)驗(yàn)，提出了7 項(xiàng)具有普適性的人工智能治理政策建議。

結(jié)合以上研究文獻(xiàn)，相較于人工智能監(jiān)管而言，人工智能治理的內(nèi)涵更為廣泛，涵蓋了與人工智能相關(guān)的各種問(wèn)題，包括技術(shù)發(fā)展、道德考量、社會(huì)影響等方面；人工智能監(jiān)管的內(nèi)涵則較為集中，聚焦于確保人工智能系統(tǒng)的合規(guī)性和安全性，包括數(shù)據(jù)隱私保護(hù)、算法公平性、透明度等方面。人工智能治理注重于建立原則、準(zhǔn)則和規(guī)則，以引導(dǎo)人工智能的發(fā)展和應(yīng)用，它關(guān)注的是制定適當(dāng)?shù)闹笇?dǎo)方針，確保人工智能的發(fā)展與社會(huì)道德價(jià)值相一致；而人工智能監(jiān)管更注重對(duì)人工智能系統(tǒng)進(jìn)行監(jiān)督和控制，確保其遵守法律、道德和安全標(biāo)準(zhǔn)。因而，人工智能監(jiān)管內(nèi)涵可以歸納為主管機(jī)構(gòu)以技術(shù)、法律、行政等手段對(duì)人工智能的技術(shù)創(chuàng)新、實(shí)踐應(yīng)用和使用者行為進(jìn)行監(jiān)督、管理和規(guī)范的活動(dòng)，其目的是保障公眾的權(quán)益、利益，確保人工智能系統(tǒng)的安全性、透明度、公正性、道德性和合規(guī)性，并促進(jìn)人工智能的可持續(xù)發(fā)展［16］。隨著人工智能技術(shù)的創(chuàng)新發(fā)展、應(yīng)用場(chǎng)景的不斷擴(kuò)大，建構(gòu)人工智能監(jiān)管體系將成為保障社會(huì)穩(wěn)定和可持續(xù)發(fā)展的重要基石。

2.2 技術(shù)-組織-環(huán)境（TOE）框架

技術(shù)-組織-環(huán)境（TOE）框架是一個(gè)廣泛應(yīng)用于組織行為和信息技術(shù)領(lǐng)域的理論模型，其發(fā)展歷程可以追溯到20 世紀(jì)80 年代，當(dāng)時(shí)的學(xué)者們開(kāi)始關(guān)注組織對(duì)信息技術(shù)采納的問(wèn)題，并且嘗試建立一個(gè)理論模型來(lái)解釋這個(gè)現(xiàn)象［17］。最初的模型只包括技術(shù)和組織兩個(gè)要素，但隨著研究的不斷深入，完整的TOE 框架于2003 年提出［18］。完整的TOE框架主要包括以下3 個(gè)要素：（1）技術(shù)（technology），指信息技術(shù)及其相關(guān)產(chǎn)品、服務(wù)和應(yīng)用程序。技術(shù)要素包括硬件、軟件、通信設(shè)備、網(wǎng)絡(luò)、數(shù)據(jù)庫(kù)等。（2）組織（organization），指實(shí)施和使用信息技術(shù)的組織，例如公司、政府機(jī)構(gòu)、非營(yíng)利組織等。組織要素包括組織結(jié)構(gòu)、文化、策略、資源等。（3）環(huán)境（environment），指影響信息技術(shù)采納和使用的外部環(huán)境因素，例如法律、市場(chǎng)、行業(yè)競(jìng)爭(zhēng)、政策等。環(huán)境要素包括政治、經(jīng)濟(jì)、社會(huì)、技術(shù)、法律等方面。TOE 框架的主要觀點(diǎn)是，這3 個(gè)要素之間的相互作用是影響信息技術(shù)采納和使用的主要因素。具體來(lái)說(shuō)，技術(shù)因素影響了信息技術(shù)的可行性和可用性，組織因素影響了信息技術(shù)的接受程度和使用效果，環(huán)境因素影響了信息技術(shù)采納與使用的意愿和條件［19］。當(dāng)前，TOE 框架已廣泛應(yīng)用于人工智能研究領(lǐng)域，例如張樂(lè)樂(lè)等［20］學(xué)者利用TOE理論框架分析了人工智能在教育領(lǐng)域創(chuàng)新擴(kuò)散的影響因素，并提出了人工智能嵌入教育領(lǐng)域的政策建議；Stenberg 等［21］學(xué)者使用TOE 框架分析了政府部門使用人工智能的影響因素，結(jié)果表明有影響力的因素包含相對(duì)優(yōu)勢(shì)、兼容性、管理支持、官僚能力、監(jiān)管環(huán)境和合作等。因此，TOE 框架將為本研究作為分析歐盟人工智能監(jiān)管體系建構(gòu)的分析框架，從技術(shù)、組織、環(huán)境等層面剖析歐盟人工智能監(jiān)管措施以及這些措施之間的相互作用，全面探究歐盟人工智能監(jiān)管體系建構(gòu)過(guò)程。

2.3 文獻(xiàn)評(píng)述

人工智能作為一項(xiàng)快速發(fā)展的技術(shù)，對(duì)社會(huì)、經(jīng)濟(jì)和政治領(lǐng)域產(chǎn)生了深遠(yuǎn)影響，然而，隨著人工智能技術(shù)的廣泛應(yīng)用，人工智能監(jiān)管的問(wèn)題日益凸顯。現(xiàn)有相關(guān)研究雖然對(duì)人工智能監(jiān)管的內(nèi)涵界定、現(xiàn)實(shí)價(jià)值和頂層設(shè)計(jì)進(jìn)行了一定探究，并對(duì)人工智能監(jiān)管與人工智能治理的內(nèi)涵進(jìn)行了區(qū)分，但是仍然存在很多不足。主要是：其一，對(duì)人工智能監(jiān)管的內(nèi)涵學(xué)界尚未達(dá)成統(tǒng)一，對(duì)人工智能監(jiān)管體系的構(gòu)建尚未嘗試構(gòu)建理論分析框架展開(kāi)分析；其二，集中于從宏觀視角討論人工智能監(jiān)管的意義價(jià)值與頂層設(shè)計(jì)，缺乏對(duì)世界各國(guó)先進(jìn)經(jīng)驗(yàn)的總結(jié)和分析；其三，利用TOE 框架探究人工智能監(jiān)管的研究還相對(duì)較少。

針對(duì)現(xiàn)有研究不足，本研究將從兩方面對(duì)現(xiàn)有研究進(jìn)行拓展：一方面，在明確了人工智能監(jiān)管內(nèi)涵基礎(chǔ)上，對(duì)人工智能監(jiān)管主體、方式和邊界進(jìn)行初探，并結(jié)合信息管理領(lǐng)域常用的TOE 框架構(gòu)建分析框架，為人工智能監(jiān)管研究進(jìn)行了一定程度的理論鋪墊；另一方面，利用分析框架對(duì)歐盟人工智能監(jiān)管體系建構(gòu)進(jìn)行詳細(xì)剖析，并總結(jié)其成功經(jīng)驗(yàn)對(duì)中國(guó)的啟示，以便進(jìn)一步豐富人工智能監(jiān)管的研究?jī)?nèi)容。

3 歐盟人工智能監(jiān)管政策演變

隨著人工智能技術(shù)的迅速發(fā)展和應(yīng)用范圍不斷擴(kuò)大，越來(lái)越多的國(guó)家和地區(qū)開(kāi)始意識(shí)到人工智能監(jiān)管的重要性。如圖1 所示，歐盟在人工智能監(jiān)管領(lǐng)域居于全球領(lǐng)先地位，其有關(guān)領(lǐng)導(dǎo)機(jī)構(gòu)陸續(xù)出臺(tái)了多項(xiàng)人工智能監(jiān)管政策文件，不斷完善人工智能監(jiān)管的政策框架體系。

圖1 歐盟人工智能監(jiān)管政策演進(jìn)路徑

首先，歐盟委員會(huì)（European Commission）［22］于2018 年4 月25 日發(fā)布了《歐洲人工智能戰(zhàn)略》，該文件是歐盟首部涉及人工智能監(jiān)管的規(guī)劃文件，不僅提出了歐盟人工智能未來(lái)發(fā)展的戰(zhàn)略規(guī)劃，還提出了保障公眾利益、確保可靠性和安全性、促進(jìn)透明度等人工智能監(jiān)管的基本原則。這份報(bào)告被視為歐盟人工智能監(jiān)管政策的一個(gè)里程碑，為歐盟制定后續(xù)的人工智能監(jiān)管政策奠定了基礎(chǔ)。

其次，為了推進(jìn)歐盟成員國(guó)之間在人工智能領(lǐng)域的協(xié)調(diào)發(fā)展、協(xié)同監(jiān)管，歐盟委員會(huì)［23］于2018年12 月7 日正式發(fā)布了《人工智能協(xié)調(diào)計(jì)劃》，旨在建立一個(gè)共享和可持續(xù)的數(shù)據(jù)生態(tài)系統(tǒng)，提高歐盟在人工智能領(lǐng)域的創(chuàng)新能力，同時(shí)強(qiáng)調(diào)制定符合倫理規(guī)范的人工智能政策，確保人工智能被合法公正和可靠地使用。該計(jì)劃標(biāo)志著歐盟開(kāi)始對(duì)人工智能進(jìn)行統(tǒng)一和協(xié)調(diào)的監(jiān)管，以進(jìn)一步推動(dòng)歐盟人工智能的發(fā)展。

再次，為了進(jìn)一步實(shí)現(xiàn)人工智能可信任發(fā)展、防范發(fā)展風(fēng)險(xiǎn)，歐盟委員會(huì)［24］于2019 年4 月8 日發(fā)布了由人工智能專家委員會(huì)撰寫的《可信人工智能倫理指南》，旨在為人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用提供指導(dǎo)、約束，推動(dòng)人工智能技術(shù)的可持續(xù)、負(fù)責(zé)任和可信發(fā)展。該指南圍繞尊重人類自主權(quán)、預(yù)防傷害、公平公正和可解釋性等4 個(gè)核心原則展開(kāi)，提出了7 個(gè)實(shí)踐原則的關(guān)鍵要求：（1）人類代理與監(jiān)督；（2）技術(shù)穩(wěn)健性和安全性；（3）隱私與數(shù)據(jù)保護(hù)；（4）透明性；（5）多樣性、非歧視和公平；（6）環(huán)境保護(hù)和社會(huì)福祉；（7）問(wèn)責(zé)制。該指南是歐盟目前最為完備、最具操作性的人工智能倫理指南，為歐盟人工智能監(jiān)管體系建構(gòu)指明了原則方向。

此外，為了明確人工智能的定義、范疇、應(yīng)用場(chǎng)景及其對(duì)社會(huì)和經(jīng)濟(jì)的影響，推動(dòng)人工智能提升經(jīng)濟(jì)效益與社會(huì)效益，歐盟委員會(huì)［25］于2020 年2月19 日發(fā)布了《人工智能白皮書(shū)——?dú)W洲卓越和信任方法》，提出了人工智能發(fā)展和監(jiān)管的一系列政策措施，并介紹了歐盟委員會(huì)與其成員國(guó)，及與歐洲議會(huì)、歐洲數(shù)據(jù)保護(hù)監(jiān)督機(jī)構(gòu)、國(guó)際組織和私營(yíng)部門等在人工智能發(fā)展方面的合作。該白皮書(shū)旨在讓所有歐盟民眾有信心接受基于人工智能的解決方案，同時(shí)鼓勵(lì)企業(yè)開(kāi)發(fā)人工智能，讓人工智能成為人們的工具、成為社會(huì)中的向善力量，以不斷增加人類福祉。

最后，為了系統(tǒng)全面地規(guī)范人工智能發(fā)展，歐盟委員會(huì)［26］于2021 年4 月21 日正式提出了全球首部《人工智能法案》提案，確立了以風(fēng)險(xiǎn)分級(jí)為核心的人工智能監(jiān)管體系。該提案將人工智能技術(shù)分為4 類，分別是最小或無(wú)風(fēng)險(xiǎn)AI、有限風(fēng)險(xiǎn)AI、高風(fēng)險(xiǎn)AI 和不可接受風(fēng)險(xiǎn)AI，并針對(duì)不同風(fēng)險(xiǎn)類別的人工智能提出了不同程度的監(jiān)管和管理辦法。該提案還對(duì)人工智能系統(tǒng)運(yùn)行過(guò)程中的可解釋性、透明度、責(zé)任機(jī)制和個(gè)人隱私保護(hù)進(jìn)行了規(guī)范說(shuō)明，旨在通過(guò)制定一系列法律和政策，規(guī)范管理歐盟人工智能技術(shù)的發(fā)展應(yīng)用，保護(hù)歐盟公民的權(quán)益和安全，促進(jìn)歐盟人工智能技術(shù)的創(chuàng)新。

4 歐盟人工智能監(jiān)管體系分析

4.1 分析框架

在澄清人工智能監(jiān)管內(nèi)涵的基礎(chǔ)上，以技術(shù)-組織-環(huán)境（TOE）框架為基礎(chǔ)建構(gòu)分析框架，剖析歐盟人工智能監(jiān)管體系。分析框架詳細(xì)內(nèi)容如圖2 所示，其中人工智能監(jiān)管的技術(shù)措施是指通過(guò)技術(shù)手段，確保人工智能系統(tǒng)的安全性、透明度、可解釋性、隱私保護(hù)等方面的要求得到滿足。這些技術(shù)包括但不限于：（1）人工智能系統(tǒng)的安全保障技術(shù)，如加密、數(shù)字簽名等，可以確保人工智能系統(tǒng)不受到黑客攻擊或其他安全威脅的影響；（2）人工智能系統(tǒng)的透明度和可解釋性技術(shù)，如透明度測(cè)試、可解釋性算法等，可以讓人們更好地理解人工智能系統(tǒng)的決策過(guò)程和結(jié)果；（3）人工智能系統(tǒng)的隱私保護(hù)技術(shù)，如數(shù)據(jù)隱私保護(hù)算法、身份認(rèn)證技術(shù)等，可以保護(hù)個(gè)人隱私不被人工智能系統(tǒng)濫用。人工智能監(jiān)管的組織措施是指通過(guò)機(jī)構(gòu)采用政策和行業(yè)標(biāo)準(zhǔn)等手段，確保人工智能技術(shù)的應(yīng)用得到監(jiān)管和規(guī)范。這些組織包括但不限于：（1）政府監(jiān)管機(jī)構(gòu)，如國(guó)家信息安全管理機(jī)構(gòu)、工業(yè)和信息化部門等，可以確保人工智能技術(shù)應(yīng)用符合國(guó)家法規(guī)；（2）行業(yè)協(xié)會(huì)、標(biāo)準(zhǔn)化組織等，如電氣與電子工程師協(xié)會(huì)（Institute of Electrical and Electronics Engineers，IEEE）、國(guó)際標(biāo)準(zhǔn)化組織（International Organization for Standardization，ISO）等，可以制定行業(yè)標(biāo)準(zhǔn)、指南和規(guī)范，以確保人工智能技術(shù)得到規(guī)范應(yīng)用。人工智能監(jiān)管的環(huán)境措施是指影響人工智能技術(shù)監(jiān)管的社會(huì)、政治、經(jīng)濟(jì)等手段。這些因素包括但不限于：（1）社會(huì)文化因素，如對(duì)人工智能技術(shù)的認(rèn)知、接受程度、信任度等，可以影響人工智能技術(shù)的應(yīng)用和監(jiān)管；（2）政治因素，如政策制定者的態(tài)度、立場(chǎng)和政策方向，可以影響人工智能技術(shù)的監(jiān)管和規(guī)范；（3）經(jīng)濟(jì)因素，如人工智能技術(shù)的商業(yè)價(jià)值和經(jīng)濟(jì)影響，可以影響人工智能技術(shù)的應(yīng)用和監(jiān)管。

圖2 分析框架

4.2 技術(shù)層面的人工智能監(jiān)管措施

4.2.1 可解釋性人工智能技術(shù)使用

歐盟尤為重視可解釋性人工智能技術(shù)在人工智能監(jiān)管領(lǐng)域的使用。歐盟委員會(huì)在《人工智能法》提案中指出可解釋性應(yīng)作為人工智能監(jiān)管的一項(xiàng)關(guān)鍵要求；此外，該提案還指出必須保證人工智能系統(tǒng)的可追溯性和可審查性，以便監(jiān)管機(jī)構(gòu)和獨(dú)立的第三方能夠?qū)ζ溥M(jìn)行審查和監(jiān)管。同時(shí)，《可信人工智能倫理指南》也指出需要特別關(guān)注人工智能和自動(dòng)化決策方面的透明度。

依據(jù)多項(xiàng)法規(guī)規(guī)定，歐盟委員會(huì)要求其各成員國(guó)對(duì)一些高風(fēng)險(xiǎn)的人工智能應(yīng)用（如醫(yī)療、交通、公共財(cái)政等領(lǐng)域）進(jìn)行審查，要求這些應(yīng)用必須使用可解釋的算法，以確保決策過(guò)程的透明性和可理解性。可解釋性人工智能技術(shù)在德國(guó)、捷克、意大利等歐盟成員國(guó)的人工智能監(jiān)管中廣泛被使用，通過(guò)提供人工智能決策背后的邏輯和推理過(guò)程，使人們能夠理解和審查人工智能的決策，從而實(shí)現(xiàn)人工智能監(jiān)管。歐盟在人工智能監(jiān)管中通過(guò)使用可解釋性人工智能技術(shù)，有效提高人工智能系統(tǒng)的透明度和可解釋性，使得人工智能系統(tǒng)的決策過(guò)程更加透明和可靠，從而提高人工智能系統(tǒng)的信任度和接受度［27］。

4.2.2 數(shù)據(jù)保護(hù)技術(shù)使用

在推進(jìn)數(shù)字化轉(zhuǎn)型進(jìn)程中，數(shù)據(jù)保護(hù)一直是根植于歐盟核心價(jià)值觀的重要議題。2018 年5 月25 日生效的《一般數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation）對(duì)歐盟數(shù)據(jù)保護(hù)進(jìn)行了全面規(guī)范。在歐盟人工智能監(jiān)管體系中，數(shù)據(jù)保護(hù)也是尤為重要的內(nèi)容。歐盟人工智能高級(jí)別專家組撰寫的《可信人工智能倫理指南》中著重強(qiáng)調(diào)了數(shù)據(jù)保護(hù)準(zhǔn)則，《人工智能法》提案中也將數(shù)據(jù)保護(hù)作為人工智能監(jiān)管中的關(guān)注重點(diǎn)。

歐盟各成員國(guó)政府在人工智能監(jiān)管中強(qiáng)化了數(shù)據(jù)加密、數(shù)據(jù)脫敏、數(shù)據(jù)匿名化、數(shù)據(jù)訪問(wèn)控制等技術(shù)的使用，以幫助保護(hù)歐盟公民的數(shù)據(jù)隱私，防止人工智能技術(shù)侵犯公民的隱私權(quán)。此外，歐盟多個(gè)各成員國(guó)還強(qiáng)調(diào)在人工智能監(jiān)管中使用區(qū)塊鏈技術(shù)和量子通信技術(shù)，以建立透明、不可篡改的數(shù)據(jù)記錄系統(tǒng)，提升數(shù)據(jù)傳輸過(guò)程的保密性，提高數(shù)據(jù)的可信度、可靠性，從而進(jìn)一步增強(qiáng)人工智能監(jiān)管效果［28］。

4.3 組織層面的人工智能監(jiān)管措施

4.3.1 成立利益相關(guān)者組織

人工智能監(jiān)管涉及政府部門、企業(yè)組織、學(xué)術(shù)專家、從業(yè)人員、非政府組織和公民等諸多利益相關(guān)者，這些利益相關(guān)者在人工智能監(jiān)管體系中扮演著不同的角色，需要相互協(xié)作和溝通，共同維護(hù)人工智能的應(yīng)用安全和可持續(xù)發(fā)展。歐盟委員會(huì)組織成立了諸多利益相關(guān)者組織，以便高效便捷展開(kāi)利益相關(guān)者咨詢與協(xié)作，進(jìn)而完善人工智能監(jiān)管體系。首先，歐盟委員會(huì)首先在2018 年4 月成立了人工智能高級(jí)別專家組，由52 名分別來(lái)自學(xué)術(shù)界、工業(yè)界和民間社會(huì)的專家代表組成。該專家組的重要任務(wù)之一是為歐盟委員會(huì)制定人工智能倫理準(zhǔn)則提供咨詢，以確保人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用符合倫理原則和法律法規(guī)。人工智能高級(jí)別專家組的工作還包括評(píng)估現(xiàn)有政策法規(guī)的適應(yīng)性、有效性以及提出改進(jìn)建議，以便歐盟可以更好地應(yīng)對(duì)人工智能技術(shù)發(fā)展的挑戰(zhàn)和機(jī)遇。其次，歐盟委員會(huì)在同年推動(dòng)成立了歐洲人工智能聯(lián)盟，旨在鼓勵(lì)來(lái)自不同部門的利益相關(guān)者就歐洲人工智能的開(kāi)發(fā)、應(yīng)用進(jìn)行對(duì)話與合作。該聯(lián)盟由來(lái)自業(yè)界、學(xué)術(shù)界、民間社會(huì)組織的大約4 000 名利益相關(guān)者組成，其目標(biāo)是提供一個(gè)分享歐洲人工智能開(kāi)發(fā)和應(yīng)用信息的平臺(tái)；同時(shí)，該聯(lián)盟為其每位成員提供在線研討會(huì)、在線培訓(xùn)等一系列活動(dòng)，以建構(gòu)利益相關(guān)者協(xié)作網(wǎng)絡(luò)，進(jìn)而推動(dòng)歐洲人工智能產(chǎn)業(yè)的協(xié)同發(fā)展。

4.3.2 設(shè)立歐盟人工智能委員會(huì)

專業(yè)的人工智能管理機(jī)構(gòu)對(duì)推動(dòng)人工智能發(fā)展事半功倍。依據(jù)歐盟《人工智能法案》提案，歐盟將成立一個(gè)全新的人工智能管理機(jī)構(gòu)——?dú)W盟人工智能委員會(huì)（European Artificial Intelligence Board，EAIB）。該機(jī)構(gòu)由歐盟成員國(guó)人工智能監(jiān)管機(jī)構(gòu)代表（由該機(jī)構(gòu)的負(fù)責(zé)人或同等高級(jí)官員代表）和歐盟數(shù)據(jù)保護(hù)專員代表組成，是類似于《通用數(shù)據(jù)保護(hù)條例》（GDPR）的監(jiān)督機(jī)構(gòu)，旨在確保人工智能技術(shù)在歐盟內(nèi)部、歐盟與外部合作伙伴間的使用都遵守相關(guān)法律法規(guī)和倫理標(biāo)準(zhǔn)，加強(qiáng)歐盟對(duì)人工智能發(fā)展和應(yīng)用的監(jiān)管，保護(hù)歐盟公民、企業(yè)免受人工智能系統(tǒng)帶來(lái)的潛在威脅。EAIB 將協(xié)調(diào)歐盟各成員國(guó)的人工智能監(jiān)管工作，確保所有人工智能系統(tǒng)符合歐洲的監(jiān)管標(biāo)準(zhǔn)和道德準(zhǔn)則。此外，EAIB 還將提供技術(shù)和政策咨詢，推動(dòng)歐盟人工智能技術(shù)的可持續(xù)發(fā)展和創(chuàng)新，違反歐盟人工智能監(jiān)管法規(guī)的企業(yè)行為將面臨EAIB 的罰款，企業(yè)罰款最高可達(dá)全球營(yíng)業(yè)額的6%，個(gè)人罰款最高可達(dá)30 萬(wàn)歐元。這項(xiàng)規(guī)定旨在確保企業(yè)在人工智能的開(kāi)發(fā)、部署和使用中遵守歐洲的監(jiān)管標(biāo)準(zhǔn)和道德準(zhǔn)則。罰款制度的實(shí)施為EAIB 提供更多的監(jiān)管工具和權(quán)力，促使企業(yè)更加自覺(jué)地遵守人工智能監(jiān)管規(guī)則，同時(shí)也會(huì)對(duì)那些不遵守規(guī)則的企業(yè)施加足夠的懲罰，以保護(hù)歐盟公民和企業(yè)的利益。

4.4 環(huán)境層面的人工智能監(jiān)管措施

4.4.1 基于風(fēng)險(xiǎn)分級(jí)的人工智能監(jiān)管思路

紛繁復(fù)雜的人工智能系統(tǒng)已經(jīng)嵌入社會(huì)生活的方方面面，為了確保監(jiān)管的靈活性、有效性，歐盟委員會(huì)在《人工智能法案》提案中確立了基于風(fēng)險(xiǎn)分級(jí)的人工智能監(jiān)管思路（如表1 所示），為歐盟人工智能系統(tǒng)的開(kāi)發(fā)、投放市場(chǎng)和使用制定了相應(yīng)監(jiān)管規(guī)則，并在意大利、德國(guó)、西班牙等國(guó)家已成功展開(kāi)。風(fēng)險(xiǎn)分級(jí)監(jiān)管思路可以根據(jù)不同的風(fēng)險(xiǎn)程度集中資源，對(duì)人工智能技術(shù)實(shí)施差異化的監(jiān)管措施，從而確保人工監(jiān)管的有效性和靈活性，并可以減少對(duì)低風(fēng)險(xiǎn)人工智能技術(shù)的過(guò)度監(jiān)管和限制，為人工智能技術(shù)的創(chuàng)新和發(fā)展提供更多的空間和機(jī)會(huì)。

表1 歐盟人工智能監(jiān)管的風(fēng)險(xiǎn)等級(jí)劃分

4.4.2 明確人工智能倫理準(zhǔn)則

明晰的人工智能倫理準(zhǔn)則被歐盟委員會(huì)視為歐盟人工智能發(fā)展的起始點(diǎn)。歐盟委員會(huì)在《可信賴的人工智能倫理準(zhǔn)則》《Ethics Guidelines for Trustworthy AI》明確澄清了人工智能發(fā)展的倫理準(zhǔn)則，包含以下4 個(gè)方面：（1）尊重人的自主性原則。確保尊重人的自由和自治是歐盟締結(jié)成立的核心目標(biāo)，該原則要求人工智能系統(tǒng)的設(shè)計(jì)應(yīng)該遵循以人為本的設(shè)計(jì)選擇，公民在與人工智能系統(tǒng)交互時(shí)必須確保其能夠充分有效地自我決定，人工智能系統(tǒng)不應(yīng)該毫無(wú)道理地引導(dǎo)、脅迫、欺騙、操縱、制約人類行為，人工智能系統(tǒng)的使用應(yīng)是為了增強(qiáng)、補(bǔ)充人類的認(rèn)知、社會(huì)技能和文化知識(shí)。（2）預(yù)防傷害原則。該原則要求人工智能系統(tǒng)不應(yīng)該以各種方式對(duì)人類產(chǎn)生不利影響，人工智能系統(tǒng)運(yùn)行環(huán)境必須安全可靠，在技術(shù)上必須穩(wěn)健，并且確保人工智能系統(tǒng)不會(huì)被惡意使用，關(guān)注弱勢(shì)群體，預(yù)防人工智能使用過(guò)程中因權(quán)力或信息不對(duì)稱造成的不利影響（3）公平原則。該原則強(qiáng)調(diào)人工智能系統(tǒng)的開(kāi)發(fā)、部署和使用必須遵循公平原則，確保個(gè)人和群體免受偏見(jiàn)、歧視和污名化，人工智能應(yīng)該促進(jìn)獲得教育、接受服務(wù)和學(xué)習(xí)技術(shù)方面的平等機(jī)會(huì)，同時(shí)保證人工智能參與公共決策過(guò)程的公正。公平原則還意味著人工智能從業(yè)者應(yīng)該尊重手段與目的相稱對(duì)的原則，平衡競(jìng)爭(zhēng)利益。（4）可解釋性原則。該原則意味著人工智能系統(tǒng)運(yùn)轉(zhuǎn)過(guò)程的公開(kāi)透明化、在可能的范疇內(nèi)向利益相關(guān)者解釋決策產(chǎn)生機(jī)制，尤其要注意在“黑盒”算法場(chǎng)景下也要保證人工智能系統(tǒng)運(yùn)行的可追溯性和可審計(jì)性。

4.4.3 設(shè)置人工智能監(jiān)管沙盒

人工智能是一個(gè)快速發(fā)展的技術(shù)家族，歐盟尤其重視人工智能技術(shù)的創(chuàng)新和發(fā)展。2022 年秋季，在歐盟委員會(huì)的支持下，西班牙展開(kāi)了全球首個(gè)人工智能監(jiān)管沙盒（AI regulatory sandbox）試點(diǎn)。人工智能監(jiān)管沙盒是指為了促進(jìn)人工智能技術(shù)的創(chuàng)新和發(fā)展，同時(shí)保護(hù)公眾利益和個(gè)人隱私，由監(jiān)管機(jī)構(gòu)提供的一種實(shí)驗(yàn)平臺(tái)。人工智能監(jiān)管沙盒是連接創(chuàng)新者和監(jiān)管機(jī)構(gòu)并為他們提供合作受控環(huán)境的一種方式，能為相關(guān)領(lǐng)域未來(lái)的監(jiān)管規(guī)則制定提供參考。在西班牙人工智能監(jiān)管沙盒中，人工智能技術(shù)的開(kāi)發(fā)者和使用者可以在一定程度上規(guī)避現(xiàn)有的法規(guī)和監(jiān)管要求，以測(cè)試和驗(yàn)證新技術(shù)或業(yè)務(wù)模式的可行性及有效性，同時(shí)西班牙政府部門和監(jiān)管機(jī)構(gòu)也可以更好地了解和監(jiān)測(cè)這些新興技術(shù)的發(fā)展趨勢(shì)與潛在風(fēng)險(xiǎn)，并及時(shí)制定相應(yīng)的監(jiān)管政策和措施［29］。人工智能監(jiān)管沙盒也為西班牙有關(guān)監(jiān)管機(jī)構(gòu)提供了一個(gè)了解各類利益相關(guān)者（如企業(yè)、學(xué)術(shù)機(jī)構(gòu)、公民、社會(huì)組織等）關(guān)于人工智能技術(shù)發(fā)展的訴求和意見(jiàn)的平臺(tái)，以便更好地制定相應(yīng)的政策和規(guī)范。監(jiān)管機(jī)構(gòu)和創(chuàng)新者之間的這種合作，有利于促進(jìn)人工智能系統(tǒng)的開(kāi)發(fā)、測(cè)試和驗(yàn)證符合人工智能監(jiān)管法規(guī)的要求。此外，人工智能監(jiān)管沙盒還能夠促進(jìn)特定技術(shù)解決方案的出臺(tái)和合規(guī)程序的測(cè)試，同時(shí)支持企業(yè)（特別是中小企業(yè)）避免不確定性和不必要的負(fù)擔(dān)。

5 歐盟人工智能監(jiān)管體系建構(gòu)對(duì)中國(guó)的啟示

5.1 人工智能監(jiān)管技術(shù)層面的啟示

強(qiáng)化可解釋性人工智能技術(shù)使用。人工智能已經(jīng)嵌入中歐社會(huì)的方方面面，在金融領(lǐng)域應(yīng)用于信用評(píng)估、智能客服和投資建議，在醫(yī)療健康領(lǐng)域應(yīng)用于疾病診斷、藥物研發(fā)、醫(yī)療影像識(shí)別和健康管理，在交通運(yùn)輸領(lǐng)域應(yīng)用于自動(dòng)駕駛技術(shù)、智能交通管理、交通預(yù)測(cè)，在教育領(lǐng)域應(yīng)用于個(gè)性化教育、在線教育、智能教學(xué)，在零售領(lǐng)域應(yīng)用于智能推薦、智能客服、自動(dòng)化庫(kù)存管理。在這些人工智能社會(huì)場(chǎng)景應(yīng)用中，歐盟尤為重視可解釋性原則的落地，要求其各成員國(guó)將可解釋性人工智能技術(shù)嵌入其中。結(jié)合中國(guó)的社會(huì)現(xiàn)狀而言，嵌入社會(huì)的人工智能系統(tǒng)擁有可追溯性和可解釋性對(duì)維護(hù)社會(huì)公平、減少算法歧視極為重要。借鑒歐盟成功經(jīng)驗(yàn)，在技術(shù)層面，中國(guó)可以強(qiáng)化可解釋性人工智能技術(shù)的使用以增強(qiáng)人工智能監(jiān)管。首先，在使用人工智能模型進(jìn)行社會(huì)預(yù)測(cè)時(shí)，應(yīng)該使用便于解釋決策的模型，可以通過(guò)可視化方式展示輸入的特征及其與輸出之間的關(guān)系，幫助用戶理解模型進(jìn)行決策的過(guò)程［30］。其次，在選擇算法時(shí)盡量?jī)?yōu)先選擇可解釋性算法，同時(shí)盡可能地為人工智能系統(tǒng)提供較多的數(shù)據(jù)集，以便人工智能系統(tǒng)更好地理解用戶的需求和應(yīng)用場(chǎng)景，作出更符合實(shí)際需求的決策，減少不可解釋的誤差［31］。

5.2 人工智能監(jiān)管組織層面的啟示

5.2.1 建構(gòu)人工智能監(jiān)管的利益相關(guān)者合作機(jī)制

各利益相關(guān)者對(duì)人工智能技術(shù)的認(rèn)知和理解不同，他們對(duì)人工智能監(jiān)管的期望和需求也不同，建立合作機(jī)制可以讓各方的聲音得到充分表達(dá)，從而提高人工智能監(jiān)管的針對(duì)性和有效性。歐盟《人工智能法》提案中強(qiáng)調(diào)了利益相關(guān)者參與人工智能系統(tǒng)開(kāi)發(fā)和部署的重要性，并由歐盟委員會(huì)于2018 年組織成立了人工智能高級(jí)別專家組和歐洲人工智能聯(lián)盟等利益相關(guān)者組織，協(xié)同利益相關(guān)者們進(jìn)行交流合作，從而形成共識(shí)、推動(dòng)人工監(jiān)管政策的完善和實(shí)施。當(dāng)前中國(guó)人工智能監(jiān)管的利益相關(guān)者合作機(jī)制還不甚完善，中國(guó)政府可以借鑒歐盟經(jīng)驗(yàn)構(gòu)建人工智能監(jiān)管的利益相關(guān)者合作機(jī)制。首先，可以由政府牽頭構(gòu)建利益相關(guān)者合作平臺(tái)，將來(lái)自工業(yè)界代表、學(xué)術(shù)界代表和民眾代表聚集在一起，通過(guò)利益相關(guān)者合作平臺(tái)建言獻(xiàn)策，共同完善人工智能法規(guī)；其次，可以在人工智能監(jiān)管領(lǐng)域建立專家組織，匯聚行業(yè)內(nèi)的專家學(xué)者，為人工智能監(jiān)管提供專業(yè)性支持和指導(dǎo)；再次，可以在人工智能監(jiān)管領(lǐng)域建立行業(yè)協(xié)會(huì)，以阿里巴巴、騰訊、字節(jié)跳動(dòng)和百度為代表的企業(yè)組織在人工智能技術(shù)的研發(fā)和應(yīng)用中占據(jù)了重要角色，聯(lián)合這些企業(yè)建立行業(yè)協(xié)會(huì)以規(guī)范行業(yè)標(biāo)準(zhǔn)并監(jiān)督企業(yè)行為的合法性。利益相關(guān)者在人工智能監(jiān)管中都有著不同的角色和職責(zé)，構(gòu)建利益相關(guān)者合作機(jī)制能夠促進(jìn)利益相關(guān)者共同維護(hù)人工智能技術(shù)的安全和可持續(xù)發(fā)展。

5.2.2 設(shè)立央地協(xié)同的人工智能監(jiān)管機(jī)構(gòu)

人工智能監(jiān)管是一項(xiàng)紛繁復(fù)雜的工程，設(shè)立人工智能監(jiān)管機(jī)構(gòu)尤為必要。歐盟《人工智能法案》提案提出設(shè)立歐盟人工智能委員會(huì)，以協(xié)同推動(dòng)歐盟內(nèi)外部人工智能產(chǎn)業(yè)的創(chuàng)新發(fā)展，并確保歐盟人工智能發(fā)展的可靠性、安全性。中國(guó)目前還沒(méi)有專門的人工智能監(jiān)管機(jī)構(gòu)，可以參考?xì)W盟經(jīng)驗(yàn)并結(jié)合中國(guó)實(shí)際，設(shè)立央地協(xié)同的人工智能監(jiān)管機(jī)構(gòu)。首先，可以由國(guó)務(wù)院牽頭成立中央人工智能監(jiān)管機(jī)構(gòu)，主要負(fù)責(zé)人工智能監(jiān)管的政策制定、統(tǒng)籌協(xié)調(diào)和指導(dǎo)管理等工作；其次，在地方政府層面，各省、自治區(qū)、直轄市可以根據(jù)自身實(shí)際情況建立相應(yīng)的人工智能監(jiān)管機(jī)構(gòu)，負(fù)責(zé)本地區(qū)的人工智能監(jiān)管工作。中央人工智能監(jiān)管機(jī)構(gòu)和地方人工智能監(jiān)管機(jī)構(gòu)之間應(yīng)建立起協(xié)作機(jī)制，加強(qiáng)信息共享、技術(shù)支持、政策銜接和工作協(xié)調(diào)等方面的合作；同時(shí)，央地政府在制定人工智能監(jiān)管法規(guī)時(shí)充分考慮央地協(xié)同的需求和實(shí)際情況制定監(jiān)管標(biāo)準(zhǔn)和規(guī)范，以確保監(jiān)管工作有效開(kāi)展。

5.3 人工智能監(jiān)管環(huán)境層面的啟示

5.3.1 借鑒風(fēng)險(xiǎn)分級(jí)監(jiān)管思路，完善人工智能監(jiān)管法律框架

歐盟近年來(lái)陸續(xù)出臺(tái)了一系列人工智能監(jiān)管政策法規(guī)，并在2021 年提出了全球首部《人工智能法案》提案。中國(guó)作為世界人工智能發(fā)展的先驅(qū)力量，雖然已陸續(xù)出臺(tái)了《新一代人工智能發(fā)展規(guī)劃》《國(guó)家人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展戰(zhàn)略》《人工智能標(biāo)準(zhǔn)化白皮書(shū)》等政策法規(guī)以促進(jìn)人工智能發(fā)展，但是這些政策法規(guī)僅僅對(duì)人工智能發(fā)展原則和監(jiān)管有部分涉及，目前還沒(méi)有一部全面的全國(guó)性人工智能法案和人工智能監(jiān)管的專門法案。中國(guó)可以根據(jù)自身情況和發(fā)展需求，積極吸取歐盟在人工智能監(jiān)管方面的經(jīng)驗(yàn)和做法，完善人工智能監(jiān)管法律框架，以建立一個(gè)可持續(xù)、安全可信的人工智能生態(tài)系統(tǒng)。2023 年4 月1 日，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，并向全社會(huì)公開(kāi)征求意見(jiàn)。中國(guó)可以根據(jù)其自身情況，制定一部全面的全國(guó)性《人工智能法案》和借鑒風(fēng)險(xiǎn)分級(jí)思路的人工智能監(jiān)管專門法案，這些政策法規(guī)應(yīng)該涵蓋從人工智能的研發(fā)、測(cè)試到商業(yè)化應(yīng)用的全過(guò)程。

5.3.2 開(kāi)展人工智能監(jiān)管沙盒試點(diǎn)

人工智能監(jiān)管沙盒試點(diǎn)可以提供一個(gè)相對(duì)靈活和包容的監(jiān)管環(huán)境，讓各類企業(yè)可以在一定程度上自由地探索和試驗(yàn)新的人工智能技術(shù)；同時(shí)，人工智能監(jiān)管沙盒試點(diǎn)還可以收集數(shù)據(jù)和經(jīng)驗(yàn)，為制定更加有效的人工智能監(jiān)管政策提供參考。借鑒歐盟成功經(jīng)驗(yàn)，中國(guó)可以開(kāi)展人工智能監(jiān)管沙盒試點(diǎn)工作，以促進(jìn)人工智能技術(shù)的規(guī)范發(fā)展和創(chuàng)新。中國(guó)的人工智能監(jiān)管沙盒試點(diǎn)可以從以下4 個(gè)步驟完成：（1）人工智能監(jiān)管部門應(yīng)該制定明確的監(jiān)管沙盒試點(diǎn)方案，明確試點(diǎn)的目的、范圍、實(shí)驗(yàn)條件、實(shí)驗(yàn)過(guò)程和評(píng)估指標(biāo)等內(nèi)容，確保試點(diǎn)的合法性和有效性。（2）人工智能監(jiān)管部門可以實(shí)行人工智能監(jiān)管沙盒試點(diǎn)資格申請(qǐng)制，企業(yè)或機(jī)構(gòu)需要向監(jiān)管部門提交試點(diǎn)申請(qǐng)材料，這些材料包括企業(yè)或機(jī)構(gòu)的基本信息、試點(diǎn)方案、技術(shù)方案、隱私保護(hù)方案等，監(jiān)管部門則根據(jù)試點(diǎn)申請(qǐng)材料評(píng)估試點(diǎn)范圍和實(shí)驗(yàn)條件，為試點(diǎn)企業(yè)或機(jī)構(gòu)提供必要的支持和指導(dǎo)，確保企業(yè)或機(jī)構(gòu)在試點(diǎn)過(guò)程中遵守法律法規(guī)和倫理原則。（3）試點(diǎn)企業(yè)或機(jī)構(gòu)應(yīng)該在中國(guó)人工智能監(jiān)管部門的指導(dǎo)下實(shí)施試點(diǎn)方案，并對(duì)試點(diǎn)過(guò)程進(jìn)行實(shí)時(shí)監(jiān)測(cè)和記錄，及時(shí)反饋試點(diǎn)結(jié)果和問(wèn)題，以便監(jiān)管部門對(duì)技術(shù)效果、隱私保護(hù)、風(fēng)險(xiǎn)管理、倫理問(wèn)題等方面進(jìn)行試點(diǎn)成效評(píng)估。（4）監(jiān)管部門在試點(diǎn)過(guò)程中根據(jù)實(shí)際情況及時(shí)調(diào)整監(jiān)管措施，確保試點(diǎn)過(guò)程中的合法性、有效性和安全性，為后續(xù)試點(diǎn)提供參考。

5.3.3 加強(qiáng)人工智能監(jiān)管的區(qū)域與國(guó)際合作

隨著全球化的發(fā)展，加強(qiáng)人工智能監(jiān)管的區(qū)域與國(guó)際合作已成為全球共識(shí)，歐盟極為重視人工智能監(jiān)管區(qū)域國(guó)際合作對(duì)人工智能產(chǎn)業(yè)發(fā)展的意義。中國(guó)作為負(fù)責(zé)任的區(qū)域性大國(guó)，可以通過(guò)展開(kāi)人工智能監(jiān)管的區(qū)域與國(guó)際合作，促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展。中國(guó)加強(qiáng)人工智能監(jiān)管的區(qū)域和國(guó)際合作具體措施包含：（1）加強(qiáng)人工智能監(jiān)管的國(guó)際標(biāo)準(zhǔn)制定與合作。中國(guó)應(yīng)該積極參與人工智能監(jiān)管的國(guó)際標(biāo)準(zhǔn)制定，推動(dòng)全球一致的人工智能標(biāo)準(zhǔn)體系建立，與其他國(guó)家和地區(qū)開(kāi)展緊密合作，分享成功經(jīng)驗(yàn)和優(yōu)秀實(shí)踐，這有助于降低國(guó)際間的監(jiān)管壁壘，提高人工智能應(yīng)用的國(guó)際安全性，促進(jìn)全球人工智能技術(shù)的健康發(fā)展。（2）推動(dòng)跨國(guó)企業(yè)人工智能應(yīng)用合規(guī)。在全球化發(fā)展背景下，跨國(guó)企業(yè)在人工智能領(lǐng)域的活動(dòng)也日益增多，中國(guó)可以通過(guò)加強(qiáng)與其他國(guó)家的交流協(xié)作，推動(dòng)跨國(guó)企業(yè)在人工智能應(yīng)用領(lǐng)域的規(guī)范化，引導(dǎo)這些企業(yè)的行為符合人工智能的跨國(guó)監(jiān)管標(biāo)準(zhǔn)，維護(hù)公平競(jìng)爭(zhēng)和民眾權(quán)益。（3）加強(qiáng)人才交流和合作。人工智能監(jiān)管需要具備跨學(xué)科的知識(shí)和技能，涉及倫理、法律、技術(shù)等多個(gè)領(lǐng)域，加強(qiáng)與其他國(guó)家和地區(qū)的人才交流合作有助于提升中國(guó)人工智能監(jiān)管部門的專業(yè)素養(yǎng)，以更好地應(yīng)對(duì)人工智能監(jiān)管挑戰(zhàn)。

6 結(jié)論

隨著人工智能技術(shù)在日常生活和社會(huì)生產(chǎn)中不斷嵌入，構(gòu)建健全的人工智能監(jiān)管體系以防范人工智能發(fā)展風(fēng)險(xiǎn)已成為全球共識(shí)。歐盟陸續(xù)出臺(tái)了《歐洲人工智能戰(zhàn)略》《人工智能協(xié)調(diào)計(jì)劃》《可信人工智能倫理指南》《人工智能白皮書(shū)——?dú)W洲卓越和信任方法》等多項(xiàng)人工智能監(jiān)管政策文件，并于2021 年4 月21 日正式提出了全球首部《人工智能法案》，不斷完善人工智能監(jiān)管的政策框架體系。中國(guó)作為世界人工智能發(fā)展的先驅(qū)力量，也已陸續(xù)出臺(tái)了《新一代人工智能發(fā)展規(guī)劃》《國(guó)家人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展戰(zhàn)略》《人工智能標(biāo)準(zhǔn)化白皮書(shū)》等政策法規(guī)以促進(jìn)人工智能發(fā)展，但目前還沒(méi)有一部全面的全國(guó)性人工智能法案和人工智能監(jiān)管的專門法案。因此，本研究在梳理國(guó)內(nèi)外人工智能監(jiān)管相關(guān)研究基礎(chǔ)上，進(jìn)一步澄清了人工智能監(jiān)管內(nèi)涵，并結(jié)合信息管理領(lǐng)域常用的TOE 框架構(gòu)建分析框架，對(duì)歐盟人工智能監(jiān)管體系進(jìn)行了詳細(xì)剖析。其技術(shù)層面的人工智能監(jiān)管措施主要包括可解釋性人工智能技術(shù)和數(shù)據(jù)保護(hù)技術(shù)的使用；組織層面的人工智能監(jiān)管措施主要包括成立利益相關(guān)者組織和設(shè)立歐盟人工智能委員會(huì)；環(huán)境層面的人工智能監(jiān)管措施主要包括基于風(fēng)險(xiǎn)分級(jí)的人工智能監(jiān)管思路、明確人工智能倫理準(zhǔn)則和設(shè)置人工智能監(jiān)管沙盒。依據(jù)歐盟經(jīng)驗(yàn)，結(jié)合中國(guó)實(shí)際，分別從上述3 個(gè)層面對(duì)完善中國(guó)人工智能監(jiān)管體系提出了具體的政策建議。