關于我國人工智能法律與倫理若干問題的思考

【摘要】? ? 人工智能作為當今社會人類活動的重要賦能技術，正在深刻的改變世界。圍繞人工智能的開發與應用，其所引發的倫理風險和法律問題愈發凸顯。本文重點梳理了人工智能的法律與倫理面臨的若干問題，總結了國內外發展現狀，并從有序推動人工智能立法、完善人工智能監管評估、推動人工智能倫理法律綜合治理等方面提出了建議。

【關鍵詞】? ? 人工智能? ? 法律? ? 倫理

引言：

人工智能技術近十年獲得高速發展和廣泛的應用，正在深刻改變人類社會的生產和生活方式，為社會和經濟發展提供了新的技術手段和途徑;另一方面，人工智能在技術轉化和應用時，對社會治理、國防和國家安全等領域產生巨大的沖擊，在法律與倫理方面帶來了諸多風險和挑戰。

當前，世界主要國家都將人工智能的法律倫理問題作為重點內容，逐步加大對其的前瞻探索和研究。本文從人工智能法律和倫理的范疇出發，梳理了當前人工智能法律倫理發展面臨的挑戰，總結了國內外人工智能法律倫理發展的現狀與趨勢，最后提出了未來發展的幾點思考與建議。

一、人工智能法律與倫理涉及的若干問題

（一）人工智能的倫理問題

人工智能不同的發展階段所引發的倫理問題有所不同。在當前強人工智能逐步發展的趨勢下，從倫理安全的角度，近期需要應對人工智能在算法歧視、人工智能技術濫用等風險，遠期需要防范其可能產生超級智能而帶來的不可控性以及對人類主體性的沖擊。

1.算法歧視

算法是人工智能實現各種功能的核心，也是將各類技術結合、運用和創新的關鍵，但算法也包含著可能的安全風險和隱患。特別是人工智能算法存在著有別于傳統軟件程序的邏輯性、關聯性，在輸出上可能會給用戶帶來不透明和難以解釋。同時算法依賴大量訓練或真實的數據，當數據的搜集、整理不夠全面、公正和客觀時，就會產生沖擊道德倫理的輸出結果，從而形成基于宗教信仰、經濟狀況、外貌等形式的算法歧視廣泛存在。

2. 技術濫用

政府部門、公司、個人等主體在使用人工智能技術過程中，由于技術無限制的使用以及管理缺失，如果不能公平、正當守法使用隱私數據，或者在過程中缺乏有效的管理機制，將引發威脅人們隱私保護的風險事件。另一方面，全球的信息技術商業巨頭，在競爭中逐漸形成了資本、人才和技術的優勢和壁壘，并通過這種優勢的“濫用”，一定程度上造成數據壟斷，影響了人工智能技術的拓展應用和數據的廣泛共享。

3. 沖擊人類主體性

隨著人工智能快速發展，特別是具有一定自主性的強人工智能發展，人工智能技術沖擊人類主體性的可能，已不再是遙遠的科幻想象。

在2017全球移動互聯網大會，霍金發表演講時指出：“人類需警惕人工智能發展的威脅。因為人工智能一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由于受到漫長的生物進化限制，將無法與之競爭。[1]” 2018年7月，在國際人工智能聯合會議上，包括馬斯克、谷歌DeepMind三位創始人在內的超過2000名AI學者、企業家共同簽署《致命性自主武器宣言》，宣誓不參與致命性自主武器系統的開發、研制工作。

（二）人工智能的法律問題

1.人格權保護

當前具有模仿人類行為、說話等行為的人工智能產品，在研發時預先植入了人類的聲音、動作、表情和形體等方面的功能。而這些預設功能，往往來自于他人的真實聲音、肖像和肢體動作，如果未經他人允許而擅自采集上述活動并加以使用，就可能構成了對他人人格權的侵害。此外，日常生活中經常使用的聲紋、指紋以及人臉識別技術，在對用戶數據采集的同時，也可能對聲音、肖像等造成侵權風險。

2.知識產權保護

很多人工智能技術經過前期數據訓練與學習，已經能夠音樂、繪畫、寫作等方面具有一定的創作能力，由這些能力所形成的作品將給知識產權保護帶來新的課題。例如，2020 年是世界著名音樂家貝多芬誕辰 250 周年，一個由科研人員和音樂家組成的團隊利用人工智能續寫了貝多芬生前未完成的《第十交響曲》[2]。該作品的著作權是歸屬于人工智能軟件的開發者還是所有者，甚至是人工智能本身，存在著很多爭議。

3. 數據財產保護

人工智能框架和算法需要海量數據加以支撐，這也對數據保護提出了新的挑戰。人工智能的數據往往來自于人類真實的行為和活動，在收集、存儲和利用的過程當中，如何確保數據不被泄露和合規使用，不同于以往存儲于信息系統的數據保護，具有很多現實的問題需要研究。此外，當數據量達到一定程度時，其產生的質變將可能涉及國家安全。例如，大量的用戶個人信息、交易數據、信用數據等，對國家的金融穩定與安全提供具有重要的參考價值，也需要相應的法律制度予以保護。

二、國內外人工智能法律倫理發展概況

（一）國外人工智能倫理發展情況

1.美國

2018年9月，美國眾議院監督和政府改革小組委員會發布《機器崛起：人工智能及對美國政策不斷增長的影響》白皮書，從失業、隱私、偏見和惡意使用4個領域提出了具體建議，包括：改善美國工人的教育、培訓和再培訓，使其在人工智能驅動的經濟中更具競爭力;使用人工智能系統做出相應決策時應確保支持這些系統的算法是可審計和可檢查的;研究如何識別人工智能系統中的偏見，以及如何通過技術更好地消除偏見和如何解釋偏見。2019年2月11日，美國總統特朗普簽署行政令，啟動“美國人工智能倡議”，該倡議的五大重點之一便是制定與倫理有關聯的人工智能治理標準。

2.歐盟

2018年4月8日，歐盟委員會發布《可信賴AI的倫理準則》。《可信賴AI的倫理準則》提出了“可信賴人工智能”的兩個重要組成、四項倫理準則和7個關鍵條件：兩個重要組成包括尊重人權、法律和核心價值觀，應確保技術的安全可靠，避免造成因技術不足而造成無意的傷害;四項倫理準則包括尊重人自主性、預防傷害、公平性和可解釋性。七個關鍵條件包括人的能動性和監督能力、安全性、隱私數據管理、透明度、包容性、社會福祉、問責機制，以確保人工智能足夠安全可靠。

（二）國外人工智能法律布局

目前，國外人工智能進入到立法階段的重點領域是自動駕駛。

1.美國

2013年5月，美國就出臺了《關于自動駕駛汽車法規的意見》，明確規定自動駕駛汽車容許在美國發展和測試，在2017年7月，美國眾議院再次出臺了《自動駕駛法案》。除了國家層面，美國的許多州也對自動駕駛汽車測試、上路行駛紛紛立法，如內華達州、佛羅里達州、加利福尼亞州等。

2.歐盟

在歐洲的大部分國家早在2014年已經對自動駕駛汽車制定和出臺了相關的交通管理法規，英國也與2015年1月出臺相關政策，容許自動駕駛汽車上路測試。測試過程中，自動駕駛汽車必須配有專業的駕駛員，遇到突發情況需要駕駛員及時操縱汽車予以應對。隨后，瑞典、德國等國家也就自動駕駛汽車的路面測試和上路要求做出了類似于英國的規定，無人駕駛技術可謂穩步的在歐洲推進。

（三）我國人工智能法律與倫理發展情況

我國非常重視人工智能技術發展以及帶來的倫理法律問題，強調在大力發展人工智能的同時，必須高度重視可能帶來的安全風險挑戰。 2017年頒布的《新一代人工智能發展規劃》明確指出，“強化數據安全與隱私保護，為人工智能研發和廣泛應用提供海量數據支撐”以及“促進人工智能行業和企業自律，切實加強管理，加大對數據濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度” [3]。中國人工智能產業發展聯盟制定了《人工智能行業自律公約》，至2020年7月，已有50家單位簽署[4]。在強人工智能方面，相對歐美，我國在政策層面更專注于強人工智能可行性技術路線的探索研究，但針對強人工智能安全與健康發展的遠期布局，還需從技術、倫理等方面做更前瞻的統籌安排。

三、幾點思考

科學成果能否造福于人類，除了技術本身的不斷進步之外，還需要充分尊重人類社會的倫理道德和法律邊界。因此，在充分肯定人工智能對解放人類生產力所帶來的重大便利的同時，必須高度重視人工智能技術所帶來的倫理安全風險和法律空白，為未來的人工智能技術構建合理、完整的倫理框架，提供行之有效的倫理指南和法律依據。

（一）持續推動人工智能各領域立法

我國人工智能立法已進入深入推進階段，個人信息保護、數據安全等方面已經有了相應的法律法規。需要進一步根據人工智能新業態新模式的發展，加快對現有法規的調整、修訂和完善。地方、行業與國家在不同層面分別發揮立法支撐作用，在比較成熟的人工智能行業可以先行推出行業標準，地方出臺符合本地實際的正常規定，最后在國家層面及時總結地方和行業實踐經驗，推動相關領域立法。

（二）完善人工智能的監管與評估

加強有關人工智能倫理與法律的理論研究，探索監管評估具體措施。對于事關人類整體安全和人民生命安全的人工智能高端綜合應用系統與平臺（如機器學習平臺、大型數據平臺等）、核心技術和軟硬件（如先進機器學習、魯棒模式識別、低功耗智能計算芯片），完善涉及倫理規則和法律合規的監管。謹慎開展、重點關注具有自我復制或自我改進能力的自主性人工智能的安全問題，持續評估可能出現的失控性風險。

（三）推動人工智能倫理法律的綜合治理

構建算法模型安全、數據安全與隱私保護、基礎設施安全、產品和應用安全、測試評估安全等人工智能安全標準體系與評估規范。加強頂層設計，將人工智能法律倫理層面工作與人工智能開發應用統籌推進，加強各部門、各地區、跨行業的協同合作，健全相應的工作聯動機制和協調程序。建立人工智能的倫理道德規范標準，發揮中國引領作用，積極參與國際法律政策制定。

作者單位：焦陽? ? 信息工程大學洛陽校區

參? 考? 文? 獻

[1] 人工智能：顛覆性創新還是文明終結者？.新華社. http：//opinion.people.com.cn/GB/n1/2017/0829/c1003-29501377.html.2017

[2] 人工智能續寫貝多芬生前未完成的《第十交響曲》.CSDN社區. https：//blog.csdn.net/HyperAI/article/details/103573167

[3]國發〔2017〕35號，《國務院關于印發新一代人工智能發展規劃的通知》

[4] 《人工智能行業自律公約》. 中國人工智能產業發展聯盟. http：//aiiaorg.cn/uploadfile/2019/0808/20190808053719487.pdf