歐盟發布最嚴格AI監管立法草案

貢水

歐委會提出一項針對人工智能的法律草案

為了對人工智能（以下簡稱AI）的應用進行規范和限制，保護公民日常生活和正當權利不受侵害，歐盟委員會（以下簡稱歐委會）不久前提出一項針對AI的法律草案。此外，還公布了針對機器人和3D打印機的AI機器條例以及AI協調計劃。

嚴加監管不懈怠

AI技術正在改變世界，重塑人類社會。然而隨著該項技術的發展，算法黑箱、泄露人類隱私和技術濫用等一系列問題日趨嚴重。以算法黑箱為例，它是指由于技術本身的復雜性以及媒體機構、技術公司的排他性商業政策，算法猶如一個未知的“黑箱”，用戶并不清楚算法的目標和意圖，也無從獲悉算法設計者、實際控制者以及機器生成內容的責任歸屬等信息，更談不上對其進行評判和監督。歐委會的這項法律草案長達81頁，該草案不允許使用AI系統建立社會征信體系，禁止一些對個人隱私構成“高風險”的AI應用。這意味著未來不符合準入標準的AI系統，可能無法進入歐盟。

法律草案將重塑AI公司的資產價值，歐盟投資者將根據新規制定投資決策，或以新規為基準重新審視已投項目。如果不這樣做，他們的一些投資項目可能會被降低估值。與此同時，歐盟還力圖創造一個有利于投資和創新的環境，以平衡新規帶來的風險。若有商家不遵守規定，首先會受到警告，然后產品可能被下架，如屢犯不改則可罰沒其年收入的6%。這意味著歐盟將對AI領域的懲罰力度提升至競爭（反壟斷）領域的維度，后者是歐盟境內執法力度最大的領域。

歐委會按照風險高低，將AI應用場景分為“最低、有限、高、不可接受”四個風險等級，其中等級越高的應用場景受到的限制越嚴格。風險等級最低的應用場景包括基于AI的電子游戲和垃圾郵件識別軟件等，目前歐盟絕大部分AI系統都屬于該類別，歐委會提出的法律草案對此不做約束。高風險的應用場景指可能對人們生命和生活造成嚴重影響的場景，涉及交通設備、教育培訓、醫療輔助、入職就業和信用評級等公共服務，以及貸款和邊境管制等公民權利的應用。如果AI應用使公民的生命與安全處于危險之中、剝奪公民獲得教育和職業課程的機會、影響旅行證件的真實性，這些應用將被判定為高風險。人臉識別所基于的所有遠距離生物識別系統都被認定為具有高風險，禁止執法部門在公共場合使用這一技術。只有少數情況例外，如尋找失蹤兒童或防止個別恐怖襲擊、甄別犯罪分子和可疑人員等，這類應用需得到司法部門或獨立機構授權。不可接受風險的場景包括某些明顯威脅民眾安全和生活以及侵犯民眾權利的系統，利用人類行為來誤導用戶、違反其自由意志的應用，如使用語音助手誘導未成年人做出危險行為的玩具等，這類應用必須禁止。

積極醞釀立法程序

近年來，歐委會在支持創新的同時，確保AI技術不侵犯歐盟超過5億人口的隱私，試圖在兩者之間尋求適當的平衡。在此次發布法律草案之前，歐盟對AI監管的計劃已經醞釀了幾年的時間。

2018年4月25日，歐委會發布了一份題為《歐盟人工智能》的政策文件，描述了歐盟在AI競爭中的地位，并制定了歐盟AI行動計劃。政策文件提出三大目標：一是增強歐盟的技術與產業能力，推進AI應用。要增進投資，以加強基礎研究，實現科學突破，升級AI科研基礎設施，開發針對醫療和交通等關鍵部門的AI應用，促進AI的應用及數據的獲取。同時通過公私合作增加AI研發投資，到2020年整個歐盟的投資至少應達到200億歐元，并在接下來10年里每年爭取投資超過200億歐元。二是做好迎接社會經濟變革的準備。為支持成員國的勞動力與教育政策，歐委會制定專門的（再）培訓計劃，涵蓋企業、工會、高等教育機構和公共機構，以應對可能被自動化取代的職業。歐洲社會基金將為此提供支持。三是確立合適的倫理和法律框架。與歐洲科學和新技術倫理小組合作，設立一個面向利益相關方的歐洲AI聯盟的框架，開發AI倫理指南草案，并充分考慮基本權利。

2019年4月8日，歐委會公布AI道德準則，這是在2018年12月公布的AI道德準則草案的基礎上演變而來的。這份準則提出了實現可信賴AI的7個要素：1.人的能動性和監督。AI系統應通過支持人的能動性和基本權利以實現公平，而不是減少、限制或錯誤地指導人類自治。2.穩健性和安全性。值得信賴的AI要求算法足夠安全、可靠和穩健，以處理AI系統所有生命周期階段的錯誤或不一致。3.隱私和數據管理。公民應該完全控制自己的數據，同時與之相關的數據不會被用來傷害或歧視他們。4.透明度。應確保AI系統的可追溯性。5.多樣性、非歧視性和公平性。AI系統應考慮人類能力、技能和要求的總體范圍，并確保可接近性。6.社會和環境福祉。應采用AI系統來促進積極的社會變革，增強可持續性和生態責任。7.問責。應建立機制，確保對AI系統及其成果負責。

白皮書提出一系列AI研發和監管的政策措施，并提出建立“可信賴的AI框架”，以確保AI仍然值得信賴，并尊重歐盟的價值觀和原則。

2020年2月19日，歐委會在布魯塞爾發布《人工智能白皮書》（以下簡稱白皮書），以促進歐洲在AI領域的創新能力，推動道德和可信賴技術在歐洲經濟領域的發展和應用。根據白皮書，在接下來的5年中，歐委會將專注于數字化的三個關鍵目標：為人民服務的技術、公平競爭的經濟和開放、民主與可持續的社會。

2020年10月20日，歐洲議會通過了有關歐盟如何更好地監管AI的三份立法倡議報告，期望推動AI的立法進程，以促進創新、道德標準和技術信任。本次立法倡議報告主要包括三大部分：一，AI倫理框架。該立法倡議為AI、機器人以及相關技術（包括利用人工智能生成的軟件、算法和數據）確立了一系列倫理原則。該立法建議的核心在于識別“高風險”（含有歧視，或有違隱私保護）的AI技術，并采用嚴格的倫理規范標準加以限制。二，AI民事責任。該立法試圖構建一個民事框架，專門針對AI對自然人（包括法人）生命安全、精神健康以及物質財產造成的損害，對運營者進行追責。該建議同樣區分AI是否為高風險，并對高風險AI實施更為嚴格的責任原則。三，知識產權。倡議報告分別列出了一些知識產權的關鍵原則，比如需要區分AI輔助的人類作品與AI自生成的作品等，倡議明確AI不應具有法律人格，與AI有關的一切知識產權的所有權都應歸屬于人類。

意義深遠影響大

據歐盟白皮書和《歐洲創新記分牌》等文件所提供的數據，歐盟對AI行業的監管走在世界前列。在市場份額方面，歐盟成員國呈現整體強、個體弱的特點。如果以整體計算，歐盟所占全球市場份額為22%，位列全球第二。如果以個體成員國計算，歐盟所有成員國均落后于美國、中國、以色列。在投資方面，近5年來，歐盟在該領域的投資金額僅為美國的30%左右。在創新能力方面，歐盟的平均創新水平領先于美國，但落后于加拿大、韓國、澳大利亞和日本。

歐委會稱，上述法律草案首先規范了AI行業和高風險AI企業在產品上市前將承擔的相應義務，其次解決了AI應用所帶來的社會風險問題，引起了全球各國的關注。可以預料，它將像2018年5月25日正式全面施行的《歐盟通用數據保護條例》（GDPR）一樣，對其他國家產生重大的影響。GDPR是近30年來歐委會數據保護立法的最大變動，旨在加強對歐盟境內居民的個人數據和隱私保護，同時通過統一數據和隱私條例來簡化對跨國企業的監管框架。該保護條例取代了1995年頒布的《數據保護指令》，它通過監管機構和法院執行，加大了行政處罰的力度，根據案情情況最高可罰款2000萬歐元，或公司年營業額的4%。

有美國媒體援引分析觀點認為，上述法律草案內容過于模糊，存在太多漏洞。歐委會解釋說，對AI企業罰款僅僅是監管的一方面。從另一方面來看，還需關注供應商如何投入金錢和人力成本以實現合規。草案迫使AI企業重新思考應該如何設計和應用AI技術。至于法律框架將給歐盟以外的AI企業帶來優勢的說法，歐盟數據創新中心政策分析師穆勒指出：“雖然法律草案將提高歐洲AI企業的成本，也會拖累研發速度，為美國和亞洲企業帶來機遇，但是如果這些企業想在歐洲開展業務，或成為一些產品的供應商，將面對相應的監管規則。”

上述立法草案在成為法律之前還有很長的路要走，此類法律在歐盟必須得到代表歐盟27國政府的歐洲理事會和直接選舉產生的歐洲議會的批準，整個過程可能需要數年時間。未來幾個月歐委會將就如何實際遵守這些規則和如何真正構建對高風險AI應用的監管等問題，廣泛聽取AI企業和用戶的意見。如果該項立法草案獲得通過，那么歐洲將成為世界上首個以法律形式規范AI數據采集使用的地區，將會對其他國家和地區AI監管法規的出臺起到示范作用。

編輯：夏春暉 386753207@qq.com