人工智能治理：從科技中心主義到科技人文協作

摘 要： 隨著人工智能技術的發展應用，算法推薦、深度合成、人臉識別、自動駕駛汽車、人工智能醫療等成為現實，但也引發了人們對隱私保護、算法歧視、安全與責任、技術濫用、社會倫理等問題的擔憂。呼吁加強人工智能治理成為2019年人工智能發展的主線之一，各國陸續出臺政策或立法對人工智能技術及其應用進行必要的監管。人工智能監管需要采取科技人文協作的方式，構建多層次的治理體系，符合比例原則和利益平衡，確保實現安全、可信、負責任的人工智能。

關鍵詞： 人工智能;治理;倫理;跨學科

中圖分類號：TP18文獻標識碼：A文章編號：1004-8634（2020）05-0098-（10）

DOI：10.13852/J.CNKI.JSHNU.2020.05.011

作為有望引領第四次工業革命、重塑經濟社會發展形態的新興技術，人工智能（AI）已經成為全球科技競爭的焦點。2017年以來，全球30多個國家（如中、美、日、德、英等）和地區（如歐盟）已出臺了AI戰略，搶占技術、應用和產業高地。（Future of Life Institute， “National and International AI Strategies”， Retrieved from https：//futureoflife.org/national-international-ai-strategies/？cn-reloaded=1.）在此背景下，人工智能作為底層技術（如深度學習、強化學習）、功能性應用（如人臉識別、語音識別）和應用領域（如安防、交通、醫療）組成的產業生態系統，正從互聯網領域加速擴張滲透到實體經濟等諸多領域和各行各業，并與大數據、云計算、物聯網（IoT）等深度融合，推動經濟社會數字化、智能化發展，并塑造新的經濟和社會形態。中國作為全球最大的互聯網市場，為人工智能的發展提供了肥沃的土壤，在數字世界與物理世界融合、人工智能與實體經濟融合、從數字化到智能化轉型等背景下，人工智能新技術給中國經濟社會的高質量、可持續發展提供了前所未有的機遇，需要適宜的制度土壤來孕育面向未來的產業格局和國家競爭力。

但在另一方面，人工智能的廣泛應用，也引發了社會各界對人工智能的法律、倫理和社會影響的持續關注和激烈討論，呼吁重視AI倫理，加強AI治理，踐行科技向善，發展安全可信、負責任的人工智能。回顧2019年，AI倫理原則和AI倫理審查，以及AI算法決策、深度偽造和合成內容、人臉識別、自動駕駛汽車和“城市空中出行”（UAM）、AI醫療等細分領域監管，是全球人工智能治理的焦點話題，表明國內外對人工智能治理的持續高度重視。總結各國經驗，對人工智能需要采取多方主體共同參與的多元、多層次治理模式，從而構筑適宜技術創新和產業發展的制度土壤，以打造面向未來的科技引擎。

一、AI倫理和治理成基本共識，各界探索落地機制

1.中美歐采取不同的AI路徑，創新與倫理平衡是AI治理的關鍵

全球來看，中美歐是AI領域的主要“玩家”，代表著不同的發展路徑。互聯網等數字技術發展薄弱、在數字經濟領域顯著落后于美國的歐盟，采取了更加側重立法和監管的路徑，其AI戰略的三大支柱之一即“建立與人工智能發展和應用相適應的法律和倫理框架”。（曹建峰、方齡曼：《歐盟人工智能倫理與治理的路徑及啟示》，《人工智能》2019年第4期。）《通用數據保護條例》（General Data Protection Regulation，簡稱GDPR）影響著全球個人信息保護立法，歐盟希望在AI立法和監管上成為全球的領導者。2019年歐盟不僅提出了系統性的倫理框架，而且開始醞釀人工智能的相關立法，以2019年4月發布的《可信AI倫理指南》和《關于構筑對以人為本的人工智能的信任的通訊》等政策文件為代表。但歐盟對立法和監管的過度強調，能否最終轉化為其在AI技術、產業上的國際競爭力，是值得深入探討的。另外，就像通過GDPR、數字稅、互聯網反壟斷調查等一系列舉措來限制美國大型互聯網企業一樣，歐盟希望通過AI政策提升其自身競爭力的意圖也是不言而喻的。

相反，美國作為AI領域的領頭羊，采取了輕監管、促創新的路徑，以政策不阻礙AI技術和產業發展、降低創新的門檻和成本為優先考慮，并在發展過程中采取漸進式監管而非激進的監管，來應對新出現的問題。目前美國已在積極廢除或修訂交通、醫療等重點應用領域內限制、阻礙AI技術發展應用的既有監管規則。2019年2月，美國正式出臺AI戰略（其中提出制定AI監管指南并設定AI治理標準）。而且美國提出了聯邦政府參與、主導AI標準的系統性計劃。美國的國家人工智能戰略雖然姍姍來遲，但為表明在人工智能領域維持并鞏固其全球領導地位的決心，預計其將采取一系列措施和行動。例如，為了推動實施美國AI戰略，2020年1月美國聯邦政府發布了《人工智能應用的監管指南》，要求聯邦政府在針對人工智能技術和相關產業采取監管和非監管措施時，要以減少AI技術應用的障礙、促進技術創新為宗旨，《指南》同時提出了管理人工智能應用的十大原則，并呼吁更多采用行業細分的政策指南或框架、試點項目和實驗（如為AI應用提供安全港）、自愿性的行業標準等非監管的措施。因此可以預見，相比草率地推行強硬的立法和監管，未來美國的AI政策會更加側重標準、指南等敏捷靈活的方式。

就中國而言，除了密集出臺促進人工智能發展的產業政策外，中國也已開始加強AI倫理、標準等方面的建設，《新一代人工智能治理原則——發展負責任的人工智能》回應了國際社會對中國不重視AI倫理和治理的質疑，國務院副總理劉鶴在2019年重慶智博會上提出了發展智能技術需要堅持四個原則并呼吁“科技向善”。未來在AI治理上，中國需要結合自身產業發展實際，遵循促創新、促發展的路徑，同時采取多元化的方式防范技術的倫理風險，避免偏向歐盟的強監管模式給技術創新和產業發展形成掣肘。

2.國際社會探索建立廣泛認可的AI倫理原則，推進敏捷靈活的AI治理

國際層面，AI領域的競爭已從技術和產業應用擴張到國際規則的制定，尤其是AI倫理和治理規則的制定。2019年5月，經濟合作與發展組織（OECD）成員國批準了全球首個由各國政府簽署的AI原則——《負責任地管理可信AI的原則》，包括包容性增長、可持續發展和福祉原則，以人為本的價值觀和公平原則，透明性和可解釋性原則，穩健性和安全可靠原則，以及責任原則。這些原則已被G20采納，今后有望成為AI領域的國際準則。

整體而言，從聯合國的“AI向善國際峰會”（AI for Good Global Summit）和推動建立“AI倫理國際對話”的努力到OECD和G20人工智能原則，國際層面的AI治理已進入實質性階段，初步確立了以人為本、安全可信、創新發展、包容普惠等基調，以及敏捷靈活的治理理念。

此外，根據世界知識產權組織（WIPO）的報告，科學知識和創新呈現出越來越全球化的趨勢。（WIPO， “World Intellectual Property Report （WIPR） 2019”， Retrieved from https：//www.wipo.int/wipr/en/2019/.）在此背景下，為了實現可持續發展目標，AI領域的國際合作尤其重要。所以需要包容性、全球化的路徑。中國需要積極參與、主導AI領域的國際治理和國際規則制定，輸出AI倫理和治理理念，增強話語權。

3.科技行業日益重視AI倫理，但落地機制仍需探索行業共識

行業層面，互聯網、人工智能等數字技術的影響日益廣泛、縱深和復雜，對“科技向善”的呼吁已經成為行業共識。在此背景下，微軟、谷歌、騰訊等國內外主流科技公司紛紛提出各自的AI倫理原則，積極防范AI濫用風險并緩解AI應用可能引發的負面問題。例如，騰訊在國內率先提出“科技向善”理念，將其與“用戶為本”一起作為新的使命愿景，并提出人工智能研究與應用需要遵循的“四可”（可用、可靠、可知、可控）原則。

但對于以什么樣的方式和標準來落地AI倫理原則和要求，行業缺乏共識。倫理審查委員會作為科技行業開始探索的一種機制，目前存在較大爭議。2019年3月，谷歌成立外部顧問性質的AI倫理委員會，但由于引發了較大爭議，不久之后便被解散。2019年谷歌子公司DeepMind也遣散了其AI醫療部門的倫理審查委員會。微軟則成立了內部的AI倫理委員會，旨在制定內部政策，確保AI業務和AI平臺符合其核心價值和原則并造福社會。中國已在組建國家科技倫理委員會，科技行業除在制定AI倫理原則外，還需要探索更具體的舉措，讓倫理原則真正落地到AI研究與應用活動中，對技術和產業發展形成正向引導和規范。

二、細分領域監管持續推進，立法需合理平衡風險防范與發展訴求

1.歐盟探索AI算法分類分級監管機制，避免過度規制商業領域應用

AI算法自動化決策系統在數字內容分發、在線廣告、電子商務、金融等領域的廣泛應用，可以提高決策的效率、準確性或者避免人類決策者自身可能持有的偏見，但也引發了社會各界對歧視、隱私、安全等問題的關注。中國和歐盟、加拿大等已在立法上對這些問題予以了回應。

中國《數據安全管理辦法》《個人信息安全規范》《網絡信息內容生態治理規定》等立法，針對定向推送、算法推薦、個性化展示、信息系統自動決策提出了要求，規范算法系統的應用。（參見《數據安全管理辦法草案》第23條，《網絡信息內容生態治理規定》第12條，《個人信息安全規范的最新修訂草案》7.5、7.7。）例如，對于定向推送或個性化展示，要求標明“定推”字樣或通過不同的欄目、板塊、頁面分別展示，并提供退出選項和信息刪除;開展定向推送活動禁止歧視、欺詐等;對于滿足條件的信息系統自動決策，建立個人信息安全影響評估和用戶投訴機制;個性化算法推薦體現主流價值導向，建立人工干預機制。

歐盟的《通用數據保護條例》，從個人信息保護的角度，針對不存在人為干預的完全自動化決策（包括畫像）做出了規定，但其賦予個人拒絕權僅限于產生法律效果或類似重大效果的應用場景，而非針對所有的應用場景，因此并不約束新聞、廣告等數字內容的算法推薦。其后，歐盟進一步調整監管思路，2019年4月發布的《算法責任與透明治理框架》提出建立分類分級監管機制，且不要求對算法進行公開或解釋。具體而言，在算法監管方面，分類即針對政府和公共部門使用的算法系統和商業領域的算法系統建立不同的監管，前者需要建立“算法影響評估”（Algorithmic Impact Assessment）機制;分級即對一般的商業算法系統采取事后追究法律責任的方式，但對具有與政府和公共部門算法系統應用類似的重大影響的商業算法系統可考慮建立“算法影響評估”機制。這種做法能避免給企業帶來不成比例的成本和管理負擔，有助于人工智能的發展應用。2020年2月歐盟發布的《人工智能白皮書》呼吁，進一步建立人工智能監管框架，對“高風險”的人工智能應用進行較強監管。（曹建峰：《歐美收緊人工智能監管，中國企業將如何應對？》，載微信公眾號“騰訊研究院”，2020年3月2日上傳。）

在算法透明方面，歐盟立法者認為，技術透明不等于“對算法的每一個步驟、算法的技術原理和實現細節進行解釋”，簡單公開算法系統的源代碼也不能提供有效的透明度，反倒可能威脅數據隱私或影響技術安全應用。考慮到AI的技術特征，理解AI系統整體是異常困難的，對理解AI做出的某個特定決策也收效甚微。因此，對于現代AI系統，通過解釋某個結果如何得出而實現透明，將面臨巨大的技術挑戰，也會極大地限制AI的應用;相反，在AI系統的行為和決策上實現有效透明，會更可取，也能提供顯著的效益。因此，考慮到人工智能的技術特征，GDPR并沒有要求對特定自動化決策進行解釋，而僅要求提供關于內在邏輯的有意義的信息，并解釋自動化決策的重要性和預想的后果。除了監管之外，歐盟立法者認為，還應通過教育、新聞報道、揭秘等方式提高公眾的算法素養。

全球來看，“算法影響評估”機制得到越來越多的討論。除歐盟外，加拿大、美國等也在探索相關措施。例如，2019年2月5日加拿大出臺的《自動化決策指令》（Directive on Automated Decision-making），將算法監管的重心放在政府部門，《指令》針對政府部門在做出行政行為的過程中使用自動化決策系統（Automated Decision System），提出了算法影響評估、透明度（例如決策前通知、決策后提供解釋、軟件準入許可、公布源代碼等）、質量保證（如測試和監測結果、數據質量、同行審查、員工培訓、意外事故處置、安全、合規、人類干預等）、救濟、報告等要求。2019年4月美國國會議員提出的《算法責任法案》則要求針對符合條件的主體的高風險自動化決策系統，建立自動化決策系統影響評估機制（Automated Decision System Impact Assessment），評估自動化決策系統及其開發過程（包括系統的設計和訓練數據），以評估其在準確性、公平、偏見、歧視、隱私、安全等方面的影響。然而在現階段，“算法影響評估”機制這一新倡議在全球范圍內存在巨大爭議，仍有很多落地問題懸而未決，需要理性對待。

2.深度偽造和合成內容引監管關注，立法防范風險同時留出發展空間

深度偽造（Deepfake）和合成內容隨著生成對抗網絡（GAN）等機器學習技術的發展而出現，其最常見的方式是AI換臉，如deepfake、face2face等技術，此外還包括語音模擬、人臉合成、視頻生成等，這些技術統稱為深度偽造或者說深度合成。深度偽造及相關的AI技術在文娛、教育、醫療等諸多領域具有積極的應用價值，如實現虛擬主播、替身演出、虛擬歌手、戲仿和自我表達（如AI換臉應用“ZAO”讓普通人實現明星夢）、醫療數據生成等，但也給網絡平臺治理提出了新的挑戰，主要表現為利用深度學習等AI技術制作高度逼真且真假難辨的圖片、音頻、視頻等深度偽造內容來從事各種欺騙和欺詐活動，將網絡攻擊場景和信息安全問題帶到一個全新的層面，如色情報復、敲詐勒索、假冒身份、散布虛假信息等，給個人和企業利益以及公共安全帶來威脅。（張欽坤、曹建峰：《從〈網絡信息內容生態治理規定〉看互聯網新技術的治理》，《信息安全與通信保密》2020年第2期。）而且深度偽造生成方法開源軟件的增多，極大地降低了操縱、偽造音視頻的門檻。報告顯示，網上的深度偽造視頻的總數比2018年12月翻了一番，達到近15000個，其中偽造的色情視頻占比高達96%。

美國最早對深度偽造進行規制，2020年以來，美國尤其擔心深度偽造對大選和國家安全的影響，開始探索立法應對措施，防范潛在的濫用風險。（曹建峰、方齡曼：《“深度偽造”的風險及對策研究》，《信息安全與通信保密》2020年第2期。）2019年6月，美國國會先后提出了《深度偽造責任法案》和《2019年深度偽造報告法案》。此外，美國加州、德州、馬薩諸塞州、弗吉尼亞州等也陸續推出了相關立法。這些立法提出的主要措施包括：

第一，劃定應用邊界，禁止政治干擾、色情報復、假冒身份等非法目的的深度偽造，否則可能構成刑事犯罪。例如，美國加州的法律草案規定，禁止在投票選舉前60日內傳播明知是偽造或合成的候選人視頻，除非包含視頻屬于偽造的免責聲明。美國得克薩斯州2019年9月1日生效的一項法案，把在選舉前30日內制作、散布深度偽造視頻意圖傷害候選人或影響選舉結果的行為認定為刑事犯罪。此外，美國弗吉尼亞州2019年7月1日生效的反色情復仇修正法案，把“制作、傳播虛假的裸體或性視頻、圖像”意圖脅迫、騷擾或恐嚇他人的行為認定為刑事犯罪。《深度偽造責任法案》規定，利用深度偽造技術實施數字冒名頂替行為也應被視為假冒身份行為。

第二，設置披露義務，要求制作者、上傳者以適當方式披露、標記合成內容，如采取嵌入數字水印、文字、語音標識等方式。《深度偽造責任法案》規定，利用深度偽造技術合成虛假內容放置網絡上傳播的，制作者應當采用嵌入數字水印、文字、語音標識等方式披露合成信息。違反披露義務的制作者或者惡意刪除披露信息的行為人需承擔民事責任，行為惡劣、造成嚴重后果的還會面臨罰金、人身監禁等刑事處罰。

第三，加強技術攻防，呼吁開發檢測識別技術和反制技術。《深度偽造責任法案》要求成立深度偽造特別小組，其職責包括：研究開發針對包括深度偽造在內的圖像、音視頻操縱技術的檢測識別和反制技術;為研究此類技術的其他政府部門提供行政和科學支持;與私營企業或學術機構合作開發檢測識別工具等。此外，《2019年深度偽造報告法案》要求美國國土安全部（DHS）定期發布關于深度偽造技術的評估報告。

中國相關立法也開始關注深度偽造問題，制定中的《數據安全管理辦法》以及已出臺的《民法典人格權編》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等都做出了相應規定，側重人格侵權和內容安全。（參見《民法典人格權編》第799條，《數據安全管理辦法草案》第24條，《網絡信息內容生態治理規定》第23條，《音視頻信息服務管理規定》第11—13條。）具體包括：禁止利用信息技術手段偽造的方式侵犯他人的肖像權和聲音;針對自動合成的信息內容標明“合成”字樣;禁止利用深度偽造等新技術從事禁止性活動。

從國外監管趨勢來看，規范深度偽造和合成內容的應用，需要政府、企業、公眾、用戶等多方主體共同參與，除分類分場景監管外，還可采取制定行業公約和技術標準、研發視頻鑒偽和溯源技術、提高公眾的警惕防范意識和數字素養等多元化的方式，同時鼓勵行業探索更多運用場景，引導技術向善發展，提振產業發展信心。未來需要加強源頭治理，構建以制作者的標注、標記義務為核心的治理機制，同時鼓勵發展應用鑒別對抗技術。

在源頭治理方面，如前所述，當前美國的做法主要是要求制作者、上傳者對深度偽造內容進行標注，從而從源頭上對深度偽造進行規范。這一源頭治理的做法具有合理性，因為沒有標注的深度偽造內容一旦傳播出去，第三方就很難鑒別，檢測技術的開發、成熟也面臨著諸多困難，而且難以跟上深度偽造技術進化的步伐。所以，開發溯源技術并進行源頭標記是最有效的措施。此外，考慮到行業內當前還沒有通用的、高準確率的視頻鑒偽網絡，相應的鑒偽技術也尚在起步階段，還有很長一段路要走，所以美國并未強制要求平臺對用戶上傳的或第三方的視頻是否屬于“深度偽造”或“自動合成”進行檢測識別，也未以此為由要求平臺承擔責任，因為這將給企業帶來不成比例的管理負擔和成本。

在技術對抗方面，當前谷歌、Facebook、騰訊等國內外主流科技公司都開始通過多種舉措，發展甄別深度偽造和合成內容、對抗深度偽造技術濫用的方法和工具，包括：構建并開放深度偽造數據集，為研究、開發檢測識別技術提供基準;支持、發起深度偽造檢測挑戰賽，與行業攜手推動檢測技術的研究與開發;開發深度偽造檢測識別和標注工具;培訓專門的合成內容審查人員，加強對視頻內容的真實性審核。可見，面對人工智能等新技術的潛在風險，行業內越來越重視自律性質的風險管理措施。

3.人臉識別引發法律和倫理爭議，政策選項在于規范而非禁止

2019年，人臉識別技術廣泛應用，從設備解鎖、刷臉核身、刷臉支付到安檢、安防、犯罪偵查等，在帶來效率、便利并增進社會福祉的同時，也不斷引發歧視偏見、隱私保護、個人自由、倫理邊界等諸多爭議。例如，Facebook因使用照片自動標記功能而招致潛在賠償額高達350億美元的人臉識別集體訴訟，可能改寫美國隱私訴訟要求有形損害的規則（無形損害也可作為提起隱私訴訟的理由）。據悉，Facebook已同意和解該案，將向原告支付5.5億美元和解費。此外，2019年8月瑞典數據保護機構針對當地一所高中利用人臉識別記錄學生出勤的行為，開出了GDPR生效以來的第一張人臉識別罰單，認為學校的數據收集行為違反必要性原則且缺乏正當性依據。中國也出現了相關訴訟，郭兵訴杭州野生動物世界被認為是國內人臉識別第一案。

隨著相關爭議的不斷發酵，美歐開始推進人臉識別立法，嘗試為政府部門使用人臉識別技術建立較高的法律門檻。2019年以來，美國已有多個城市（如舊金山、薩默維爾以及奧克蘭）禁止政府部門使用人臉識別技術;美國國會提出了《商業人臉識別隱私法案》，要求使用人臉識別技術前須獲得終端用戶的“明確同意”（Affirmative Consent）。然而，美國個別城市的“保守”態度引發了美國商會（CTEC）的擔憂，CTEC認為過早禁止人臉識別技術將阻礙技術的利用和創新，并會沖擊相關產品的市場。為此，2019年12月CTEC起草了《面部識別政策原則》（Facial Recognition Policy Principles），期望協助政策制定者在平衡技術與隱私的前提下制定監管提案，建議國會在減少面部識別技術相關風險的基礎上，確保人臉識別技術能得到安全開發和有效監管。

英國對人臉識別技術的態度較為理性，在R （Bridges） v The Chief Constable of South Wales一案中，英國高等法院判決認為警方對實時人臉識別技術（LFR）的使用是合法的;英國信息專員公署（ICO）發布的《關于執法部門在公共場所使用實時人臉識別技術的建議》則呼吁政府針對實時人臉識別技術的部署和使用，建立強行性規則和較高的法律門檻，充分平衡各方利益，即執法部門必須提供充分的證據來證明在每一個特定的場景下使用人臉識別技術是嚴格必需的、有效的且符合利益平衡原則和比例原則。（ICO， “Blog： Live Facial Recognition Technology – Police Forces Need to Slow Down and Justify Its Use”， Retrieved from https：//ico.org.uk/about-the-ico/news-and-events/blog-live-facial-recognition-technology-police-forces-need-to-slow-down-and-justify-its-use/.）此外，歐盟也在推進制定人臉識別技術的特殊監管規則，如2020年1月被媒體披露的歐盟人工智能監管政策白皮書中已針對人臉識別技術提出了潛在監管方案，其中一項即為“在評估人臉識別技術影響的方法和風險管理措施被開發出來之前，可能會暫時（3-5年）禁止在公共場所使用該項技術”。但2020年2月的《歐盟人工智能白皮書》透露出歐盟對人臉識別技術的態度已經大為緩和，并未禁止人臉識別技術的使用，但規定了限定使用情形，并要求建立安全措施，即必須確保特定使用情形是合法正當的，符合比例原則，并采取充分的安全措施。而對于在公共場所使用人臉識別技術，歐盟委員會后續將討論確定正當的使用場景以及共同的安全措施。

在中國，AI換臉應用“ZAO”收集人臉信息、人臉識別技術進課堂、北京地鐵擬利用人臉識別技術對乘客進行分類安檢等爭議性事件引發社會各界的激烈討論。從實時人臉識別到分析步態、預測情緒的AI技術的快速進步，給監管提出了更多挑戰。結合國外監管趨勢來看，科學理性的政策選擇在于規范而非禁止，明確合法性依據和合規要求是應有之意。政策制定者應當看到人臉識別的積極價值，在權衡利弊的基礎上對其進行適度監管和規范，在人臉識別技術的發展上尋求科技創新與隱私保護的“最大公約數”，而非一刀切地予以禁止或者放任不管。更進一步而言，鑒于人臉作為個人生物識別信息的敏感性，人臉識別技術的妥善應用需要明確技術應用的法律和倫理邊界，建立法規標準。一方面需要針對不同的應用場景配置不同的監管要求，明確人臉識別技術應用的合法性依據和利益平衡、比例原則等問題;另一方面需要消除算法系統中的歧視和偏見，以合理平衡個人權利保護、公共利益和產業發展。就中國而言，行業的健康有序發展離不開標準和規范的支持，中國目前已在制定人臉識別國家標準，確保人臉識別系統功能、性能及安全要求，保障算法與應用的準確率，引導人臉識別技術健康發展。

4.立法助推自動駕駛汽車落地，“城市空中出行”呼吁監管革新

當前，全球多國已將發展自動駕駛汽車技術上升為國家戰略，通過立法、標準、技術指南、倫理準則等全方位舉措加速推進其應用落地。（曹建峰、祝林華：《多國出臺政策法規：為自動駕駛創新發展保駕護航》，《機器人產業》2018年第2期。）2019年是自動駕駛汽車從測試逐步走向商業化應用的一年，谷歌旗下自動駕駛技術公司Waymo等行業領頭羊開始推出自動駕駛出租汽車服務，立法和監管政策也在加速這一發展趨勢。例如，美國加州已于2018年允許自動駕駛汽車客運服務試點項目。2019年6月，美國佛羅里達州制定的自動駕駛立法，不僅將在道路上操作自動駕駛汽車合法化，而且提出了“自動駕駛汽車共享網絡”這一全新的客運交通服務，為自動駕駛汽車的應用普及奠定了堅實的法律基礎。美國國家層面，在2018年未能最終通過自動駕駛汽車法案后，2019年美國國會繼續推動相關立法，以期通過法律和監管創新來加速自動駕駛汽車的商業化發展，終于在2020年1月美國交通部發布了《自動駕駛汽車政策4.0：確保美國在自動駕駛汽車技術上的領導地位》（Ensuring American Leadership in Automated Vehicle Technologies： Automated Vehicles 4.0），其在過去發布的三版自動駕駛汽車政策指南的基礎上，系統提出了美國政府對自動駕駛汽車技術的監管原則，表明了美國大力推動自動駕駛汽車技術發展落地、搶占國際制高點的決心。（US Department of Transportation， “Ensuring American Leadership in Automated Vehicle Technologies： Automated Vehicles 4.0”， Retrieved from https：//www.transportation.gov/av/4.）

就中國而言，在2018年出臺《智能網聯汽車道路測試管理規范（試行）》允許路測后，各地已在出臺推動智能網聯汽車應用落地的政策。2019年9月，《上海市智能網聯汽車道路測試和示范應用管理辦法（試行）》的出臺，使得上海成為國內首個為企業頒發智能網聯汽車示范應用牌照的城市，并推動測試牌照區域互認。北京、廣州、長沙、武漢等城市已允許載人、載物、編隊行駛等測試情形，如2019年12月13日北京出臺《北京市自動駕駛車輛道路測試管理實施細則（試行）》，允許載人及載物測試、編隊行駛測試等。智能網聯汽車向商業化和市場化邁進了一步。長遠來看，中國自動駕駛汽車技術和產業發展普及需要在安全標準、道路測試、商業試點、高精地圖、責任保險等多方面配套推進政策措施，并積極廢除或修改阻礙自動駕駛汽車發展應用的既有法規和標準，才能確保在制造業、信息與通信技術（ICT）融合的自動駕駛汽車領域搶占全球高地。

此外，以電動垂直起降航空器（eVTOL）為核心的未來“城市空中出行”（UAM）也呼吁監管革新。未來交通領域的變革不限于自動駕駛汽車，商用的電動垂直起降航空器，即所謂的“飛行汽車”，也已成為美歐的重點布局。目前Uber Elevate、Airbus、Lilium、Volocopter等航空制造商已在嘗試推出“空中出租車”服務。城市交通未來將有更大的想象空間，到2030年城市空中出行行業的市場價值有望達到79億美元。美歐已在從無到有地建立城市空中出行監管，需要解決很多監管挑戰，如設備設計認證、適航管理等。2019年7月，歐洲航空安全局（EASA）出臺了針對小型eVTOL航空器操作的特殊規定，針對這類新的飛行設備建立了基本的監管框架。美國FAA也在推進制定合適的安全立法，并已于2019年4月就無人機送貨服務向谷歌子公司Wing頒發了第一個適航認證。eVTOL作為新生事物，在中國存在諸多監管障礙和法律空白。長遠來看，為了應對eVTOL帶來的監管挑戰并推動其應用普及，需要加快建立eVTOL設計和操作的監管框架，并可考慮建立一套以UAM為核心的新體系，兼顧安全、公共利益和行業發展訴求。

5.人工智能賦能醫療健康產業發展，應用落地離不開監管革新

在醫療健康領域，人工智能正被廣泛應用于醫學影像、輔助診療、疾病預測、藥物研發、健康管理等，有望變革醫療健康行業。全球醫療市場對“AI醫療”的需求巨大，據互聯網數據中心（IDC）統計，到2025年人工智能應用市場規模將達到1270億美元，其中醫療健康行業將占市場規模的五分之一。

但AI醫療的發展面臨著AI醫療設備準入和審批、醫療數據庫建設與共享、責任承擔、隱私保護等諸多問題。美國、日本、印度、新加坡等已在探索制定促進AI醫療服務應用落地的法律和監管規則。例如，由于AI技術可不斷利用新獲取的數據來精進算法，AI模型的自主性、適應性和持續迭代成了監管難點，給傳統的醫療設備監管框架提出了挑戰。因此，美國食品藥品監督管理局（FDA）已為AI醫療設備提出了新的監管框架，從而允許AI醫療設備在獲得審批、投入市場之后不斷迭代改進。

就中國而言，2019年6月發布的《深度學習輔助決策醫療器械軟件的審評要點及相關說明》，進一步明確了AI醫療設備的審批標準。可以預見，AI醫療領域的市場準入、數據共享與數據安全、責任承擔等問題將極大影響產業走向，呼吁監管革新。一方面，AI醫療分級監管與審批已成為國際趨勢，在行業發展探索階段，對部分風險較小的細分領域加快審批速度，優先發展，有利于提供更多實踐經驗。另一方面，中國豐富的醫療數據資源亟待整合，加快數據平臺建設實現醫療數據的結構化與標準化，構建醫療數據分享與利用機制，可能成為中國下一階段AI醫療發展的重要優勢。

三、合理有效的人工智能治理離不開科技人文協作

近幾年來，各國對人工智能的監管及治理均在加強，這是對當今世界技術發展趨勢的積極回應，是以人文之手積極引導技術之力。人工智能有望像歷史上的火種和電力一樣，重塑人類生活和人類社會的未來——加速的自動化和智能化，無處不在的連接，物理與數字世界的融合，甚至人類與技術的融合。我們正在步入高度依賴技術的社會，生物層、物理層、技術層有可能融合成為三位一體。未來，包括企業在內的所有組織機構都會數字化、智能化。目前呈現出來的主要趨勢則是無處不在的數據和算法正在催生新型的人工智能驅動的經濟和社會形式。巨大潛力的背后，是不確定的風險。如前所述，人工智能在隱私、歧視、安全、責任、就業等經濟、倫理和社會方面的問題正在顯現，未來可能出現的通用人工智能和超級人工智能則可能帶來更深遠而廣泛的安全、倫理等問題。

在這樣的背景下，對人工智能等新技術進行更多的人文和倫理思考，就顯得尤為必要且迫切。正如華裔AI科學家李飛飛所言，要讓倫理成為人工智能研究與發展的根本組成部分。基辛格也說，面對人工智能的興起，人們在哲學、倫理、法律、制度、理智等各方面都還沒做好準備，因為人工智能等技術變革正在沖擊既有的世界秩序，我們無法完全預料這些技術的影響，而且這些技術可能最終導致我們的世界所依賴的各種機器為數據和算法所驅動且不受倫理或哲學規范的約束。顯然，在當前人工智能等新技術背景下，我們比歷史上任何時候都更加需要“科技向善”理念，更加需要技術與倫理的平衡，以確保新技術朝著更加有利于人類和人類社會的方向發展。一方面，技術意味著速度和效率，要發揮好技術的無限潛力，要善用技術，追求效率，從而創造出更多的社會效益和經濟效益。另一方面，人性意味著深度和價值，要追求人性，維護人類價值和自我實現，避免技術發展和應用突破人類倫理底線。因此，只有保持警醒和敬畏，在以效率為準繩的“技術算法”和以倫理為準繩的“人性算法”之間實現平衡，才能確保“科技向善”。而這一平衡的實現，離不開科技人文協作。因為現代科學技術與經濟社會以異乎尋常的速度整合和相互建構，但其高度的專業化、知識化和技術化使圈外人很難對其中的風險和不確定性有準確的認知和判斷，沒有來自科學共同體內部的風險預警和自我反思，任何一種社會治理模式都很難奏效。