民法典視域下人工智能法律規(guī)制論綱

劉智慧

(中國政法大學 法律碩士學院,北京 100088)

一、人工智能的《民法典》規(guī)制視域

隨著各項技術與互聯網的飛速發(fā)展,人工智能系統(tǒng)在代替人類從事簡單性、重復性以及危險性工作方面存在廣泛的應用價值,目前人工智能與制造業(yè)、物流、交通、金融、醫(yī)療等諸多行業(yè)領域的融合日益深入,并且在精確度和效率上確實已遠超人工。［1］然而,人工智能技術是一把“雙刃劍”,在其給人類帶來產業(yè)升級和便利的同時,也帶來新的社會問題。正如布萊恩·阿瑟所言,“本質上,技術是被捕獲并加以利用的現象的集合,或者說,技術是對現象有目的的編程”［2］。馬丁·海德格爾在其《存在與時間》一書中也指出:“現代技術業(yè)已不是中性中立的,它架構式地滲透、彌散、影響,甚至操控人的現代生活,賦予人新的生命與發(fā)展軌跡。”［3］為此,必須關注人工智能技術應用可能導致的安全風險、對現有法律規(guī)則的沖擊以及技術發(fā)展對法律規(guī)制的急迫需求。

我國《民法典》于2021年1月1日實施。民法典一直被認為具有擔負私權啟蒙、權利教化以及引領社會變革的作用［4］,而我國《民法典》因應時代的發(fā)展,于多個條款中明確規(guī)定或隱含了規(guī)制人工智能的相關內容,本文旨在《民法典》視域下檢視這些條款對人工智能的發(fā)展和應用可能產生的影響,探尋人工智能的法律規(guī)制體系。

(一)引領:相關規(guī)則的類型化

《民法典》因應新時代背景,多個條文為涉人工智能規(guī)制的規(guī)則。整體觀察,除了總則編外,這些規(guī)則在人格權編和侵權責任編的規(guī)定相對比較集中,主要涉及數據與網絡虛擬財產、個人信息保護、隱私權保護、肖像權保護、電子合同、網絡侵權責任承擔等。

總體來看,可以將《民法典》涉人工智能規(guī)制的規(guī)則分為兩類:

一類是規(guī)制人工智能發(fā)展應用場景或者領域的規(guī)則。例如,近些年來,不少商業(yè)或非商業(yè)征信系統(tǒng)是通過用戶畫像技術進行信用評價的,這是人工智能頻繁應用的領域。針對這一領域,《民法典》從基本法層面針對民事主體的信用保護及評價作出了原則性規(guī)定。例如,針對個人信息、隱私權與肖像權保護領域,《民法典》第110條、第111條首先明確了自然人的個人信息、隱私權和肖像權受法律保護的原則。之后第999條規(guī)定了基于公共利益的個人信息合理使用;第1029—1030條則規(guī)定了民事主體與信用信息處理者的權利義務以及處理二者的關系應遵循的法律;第1034—1038條界定了個人信息,明確了個人信息包括生物識別信息、行蹤信息等,將生物識別信息和行蹤信息等納入個人信息法律保護范圍,規(guī)定了處理個人信息的原則、條件、免責事由,以及自然人對個人信息的權利與信息處理者的義務,為生物識別信息的法律保護提供了正當性基礎的同時,也有助于規(guī)制目前已經被廣泛應用的生物識別技術和人工智能追蹤技術的濫用,同時還規(guī)定個人信息中的私密信息保護可以適用隱私權保護的規(guī)則,解決了法律適用問題;第1039條、第1226條則明確了國家機關及其工作人員在履職過程中對于個人信息和隱私的保護義務、醫(yī)療機構及醫(yī)務人員對個人信息和患者隱私的保護義務。這些針對人工智能發(fā)展應用場景或者領域的規(guī)則安排,有助于直接或者間接地實現對于人工智能的規(guī)制。

另一類是規(guī)制人工智能支撐要素的規(guī)則。在互聯網時代,任何一種新技術都離不開數據的產生和保護,而在互聯網服務中,在數據的基礎上創(chuàng)造出了各類網絡虛擬財產,因此,對數據和虛擬財產的保護無疑是規(guī)制人工智能的支撐性要素。為此,針對網絡虛擬財產與數據電文,《民法典》總則編第127條首先明確法律保護數據、網絡虛擬財產的基本態(tài)度,用“法律對數據、網絡虛擬財產的保護有規(guī)定的,依照其規(guī)定”這一轉致的原則性規(guī)定為規(guī)制人工智能提供了很大的立法空間。同時,《民法典》也設計了一些直接規(guī)制具體問題的規(guī)則。例如,《民法典》第137條第2款規(guī)定了以數據電文作出意思表示的生效時間(1)《民法典》第137條第2款:以非對話方式作出的意思表示,到達相對人時生效。以非對話方式作出的采用數據電文形式的意思表示,相對人指定特定系統(tǒng)接收數據電文的,該數據電文進入該特定系統(tǒng)時生效;未指定特定系統(tǒng)的,相對人知道或者應當知道該數據電文進入其系統(tǒng)時生效。當事人對采用數據電文形式的意思表示的生效時間另有約定的,按照其約定。;第469條第3款規(guī)定了可有形地表現內容的數據電文視為書面形式(2)《民法典》第469條第3款:以電子數據交換、電子郵件等方式能夠有形地表現所載內容,并可以隨時調取查用的數據電文,視為書面形式。;第491—492條規(guī)定了數據電文形式訂立合同的成立時間與成立地點;第512條明確了電子合同標的物的交付時間。再如,《民法典》第1018—1019條、第1023條明確了隱私的含義、隱私侵權行為的類型,并針對“深度偽造”(3)“深度偽造”(Deep Fake)是“深度學習”(Deep Learning)與“偽造”(Fake)的組合詞,包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)視頻欺騙技術。雖然“深度偽造”在影視制作、醫(yī)學成像、藝術創(chuàng)作等不少領域具有重要應用價值,但因“深度偽造”技術的濫用具有突出的法律、倫理和政治風險,不少國家和地區(qū)采取措施予以規(guī)制。See MICHAEL C,HARLY C:Blame It on the Machine:A Socio-Legal Analysis of Liability in an AI World, Washington Journal of Law,2018,14(1).肖像侵權和聲音侵權問題,規(guī)定不得利用信息技術手段偽造等方式侵害他人的肖像權,有助于對目前人工智能技術應用于“深度偽造”予以規(guī)制,遏制該項技術被濫用;針對網絡侵權責任,《民法典》第1028條規(guī)定了民事主體有權要求媒體更正或刪除失實報道內容,第1194—1197規(guī)定了網絡服務提供者的侵權責任,與網絡用戶的連帶侵權責任以及網絡用戶侵權救濟程序。

正如有學者所言,“人工智能的研發(fā)、生產和應用應遵循基本人類價值,為相關活動提供安全、可信、公平、可解釋性并保障主體權利等基本價值指引”［5］。在人工智能技術的快速發(fā)展過程中,技術影響著法律規(guī)則的形成［6］,而《民法典》正是立于民事基本法地位,提供了基本的價值指引,這些規(guī)則對于規(guī)制人工智能的后續(xù)立法無疑具有引領意義。

(二)亟待推進:因應人工智能的發(fā)展

人工智能的適用領域不斷擴展和深入,以至在合同法、侵權責任法、人格權法、知識產權法甚至婚姻家庭法等民法各領域,都有了人工智能適用的場景。在發(fā)生這些場景的社會關系中,由于人工智能設計極其復雜,而且存在難以預知的風險,以致既有立法規(guī)則調整產生的法律關系在加入人工智能因素后,變得或者無法適用或者不確定如何適用。再加之人工智能在發(fā)展過程中的不確定性,對法律關系的穩(wěn)定性也造成極大沖擊,以致《民法典》調整的法律關系中,有關合同、知識產權、侵權行為的認定及責任分配、人格權益保護,甚至在婚姻家庭領域等的諸多民事法律關系,因人工智能的介入,均需要給予特殊關注。

在合同法領域,人工智能的參與對合同關系的成立與履行均有重要影響。我國傳統(tǒng)民法調整的合同關系以“當事人”之間合意的達成為基礎,而在運用人工智能參與的交易中,交易過程有時會體現為由人工智能繞開人類的意思表示或者替代人類作出相關決策,有學者甚至將此歸結為“契約的死亡”。［7］如前所述,雖然《民法典》已經對人工智能參與下通過網絡平臺購物時要約與承諾的判斷(4)《民法典》第491條第2款:當事人一方通過互聯網等信息網絡發(fā)布的商品或者服務信息符合要約條件的,對方選擇該商品或者服務并提交訂單成功時合同成立,但是當事人另有約定的除外。、網購商品的交付(5)《民法典》第512條:通過互聯網等信息網絡訂立的電子合同的標的為交付商品并采用快遞物流方式交付的,收貨人的簽收時間為交付時間。電子合同的標的為提供服務的,生成的電子憑證或者實物憑證中載明的時間為提供服務時間;前述憑證沒有載明時間或者載明時間與實際提供服務時間不一致的,以實際提供服務的時間為準。等問題作出原則性回應,但合同以當事人的意思表示為構成要素,在人工智能介入的電子合同中,如何在電子合同訂立和履行過程中確保相關技術的安全性?對因算法形成的錯誤,如何判斷該錯誤是當事人的意思表示錯誤還是操作失誤?對于這些問題,《民法典》規(guī)定闕如。尤其是對隨著區(qū)塊鏈的發(fā)展而勃興的智能合約,這種合約均采取數字代碼的形式呈現內容,在雙方對于智能合約的意思存在理解不一致的情況下,如何解釋這些代碼承載的意思?這些問題均待進一步研究。

在知識產權領域,隨著人工智能的介入,有待進一步研究的問題就更多。例如,谷歌機器人Magenta獨立進行藝術和音樂創(chuàng)作、人工智能“小冰”創(chuàng)作的詩集可以被制作為有音像制品進行出售等消息,又引發(fā)人們對人工智能的創(chuàng)作物是否可以被納入知識產權客體范疇,以及人工智能創(chuàng)作物的著作權應當歸誰所有的爭論。［8］此外,人工智能在運作過程中收集、儲存大量他人已享有著作權的信息是否屬于非法復制他人作品從而構成對他人著作權的侵害?人工智能通過“自我迭代學習”而產生的智力成果是否可以作為知識產權的客體,如果可以,其權利歸屬于程序的設計者,人工智能的開發(fā)者,對智力成果的創(chuàng)作進行過必要安排的安排者,抑或是由這些主體共有?人工智能利用獲取的他人享有著作權的知識和信息創(chuàng)作出的作品是否構成剽竊?在人工智能的行為構成侵害他人知識產權的情形下,如何確定責任承擔者等問題。《民法典》只是在總則編第123條對知識產權作了定義性規(guī)定,涉人工智能的知識產權法律關系的具體處置規(guī)范有待單行法以及司法實踐予以應對。

在侵權法領域,我國《民法典》目前有關產品責任、用人單位責任等的侵權法律制度適用于人工智能侵權領域也面臨困境。例如,特斯拉在無人駕駛狀態(tài)發(fā)生交通事故致人死亡的事件,不僅降低了公眾對無人駕駛技術的信任度,同時也讓司法者產生這種情形下是否可以適用既有的以人類駕駛員為中心的法律規(guī)則的疑問,如自動駕駛汽車能否成為法律主體進而自負其責?使用人沒有駕駛行為是否還需承擔責任?自動駕駛系統(tǒng)的缺陷怎么認定?如何追究生產者一方的產品責任?［9］當人工智能由于偶然性原因造成侵害后果時,無論是使用者自己被侵害還是使用者以外的主體被侵害,無論是人工智能侵害人工智能,還是人工智能侵害人類的人身或者財產,抑或是人類侵害人工智能,如何確定具體可資適用的歸責原則?如何證明侵權行為與損害后果之間的因果關系?是否有相應的免責事由?在可能涉及的人工智能的程序設計者、開發(fā)者、運營者,機器的組裝者、調試者、操作者、所有者等這些本就連身份都難以確定的主體中,鑒于人工智能的高度專業(yè)性和某些情形下的高度自主性,如何確定責任承擔者?是否可能存在共同侵權?如果數人均應當承擔責任,是否應當承擔連帶責任?這些問題目前在無人駕駛領域、互聯網醫(yī)療領域已經亟待達成共識,可以預見的是,其他智能設備的廣泛應用也會產生同樣的問題,必須盡快找到可以兼顧侵權法所追求的公平、正義和效率,從而在充分保護各方主體利益的前提下找到人工智能技術繼續(xù)發(fā)展的解決方案。

在隱私權等人格權權益以及個人信息等的保護問題上,也因為人工智能的介入而變得困難重重。例如,人工智能技術的信息搜集和處理能力在給人類生活帶來便捷的同時,也使得侵害隱私權和個人信息變得相當容易(6)有學者早就描述了這一現象:“亞馬遜監(jiān)視著我們的購物習慣,谷歌監(jiān)視著我們的網頁瀏覽習慣,而微博似乎什么都知道,不僅竊聽到了我們心中的‘TA’,還有我們的社交關系網。”可參閱［英］維克托·邁爾-舍恩伯格,肯尼斯·庫克耶:《大數據時代:生活、工作與思維的大變革》,盛楊燕,周濤譯,浙江人民出版社2013年版,第193頁。,也就增加了對相關權益予以保護的難度;人工智能人臉識別技術等在各領域的應用,也使得肖像權等人格權益的保護面臨新的挑戰(zhàn)等。如前所述,雖然《民法典》對相關問題予以高度重視,除了總則編作出原則性規(guī)定外,在人格權編設專章規(guī)定了“隱私權和個人信息保護”,尤其是對于基因編輯、“深度偽造”技術等帶來的社會問題均予以明確回應;同時對數據和虛擬財產的保護也作了原則性規(guī)定。但是,在適用相關條文時,如何為人工智能的搜集信息行為設定必要的前提和界限(7)吳漢東教授早就提出未來應加強網絡、電訊隱私保護的專門立法。隱私權的保護應以民法保護為基礎,明確隱私權的權利屬性、權能內容、保護方式等;同時以專門法律保護為補充,規(guī)定特定領域的特定主體隱私保護的原則和辦法。參見吳漢東:《人工智能時代的制度安排與法律規(guī)制》,載《法律科學》(西北政法大學學報)2017年第5期,第133頁。,從而在法律層面保證人工智能合法搜集個人信息、保護隱私權?如何在保護被搜集人的個人信息的前提下,保護數據開發(fā)者等民事主體的數據財產權等,這些問題均需要可資適用的具體規(guī)則。

二、人工智能的發(fā)展現狀與法律規(guī)制的社會基礎

從國際社會層面來看,人工智能技術的廣泛應用雖然有助于提高生產力,但為提高生產力,次生的風險就容易被忽視。［10］各國和地區(qū)普遍意識到人工智能技術是今后科技創(chuàng)新、國際競爭的主要領域之一,均在為占據未來科技發(fā)展高地而進行戰(zhàn)略部署。例如,美國于2016年10月就連續(xù)發(fā)布《為人工智能的未來做好準備》和《國家人工智能研究和發(fā)展戰(zhàn)略規(guī)劃》兩份報告,為國家資助的人工智能研究和發(fā)展確定了七項國家長期戰(zhàn)略;日本在智能機器人研究領域居全球領先地位,在2016年1月就提出“社會5.0”(第5個科學與技術基礎五年計劃)戰(zhàn)略,將人工智能作為實現超智能社會的核心,之后又于2017年制定了人工智能產業(yè)化路線圖,計劃分三個階段推進利用人工智能技術;英國在2013年即宣布要力爭成為第四次工業(yè)革命的全球領導者,并于2017年1月宣布了“現代工業(yè)戰(zhàn)略”,增加47億英鎊的研發(fā)資金用在人工智能、“智能”能源技術、機器人技術和5G無線等領域;德國政府則是在其“工業(yè)4.0”中對人工智能發(fā)展作出全面布局,確定了重點研究方向;2013—2018年,歐盟集中發(fā)展人工智能技術與戰(zhàn)略布局,將人工智能確定為優(yōu)先發(fā)展項目,歐盟委員會在2018年4月提交了《歐洲人工智能》報告后,又于2018年12月與其成員國發(fā)布主題為“人工智能歐洲造”的《人工智能協調計劃》。［11］且不說在軍事領域,面對全球人工智能軍事化的發(fā)展浪潮,人工智能在軍事方面的應用在更廣范圍、更深層次上不斷拓展,各國軍政領導人、人工智能專家、國際關系學者已經共同關注如何實現人工智能領域的安全治理、有效應對風險挑戰(zhàn)［12］,即便在民用領域,隨著人工智能技術進入產業(yè)化發(fā)展階段,在各國和地區(qū)大力推動人工智能的社會應用的同時,人工智能也日漸融入社會安全網絡,從而影響社會和經濟權利。

從我國人工智能的發(fā)展情況來看,電子商務、智能家居、自動駕駛、智慧醫(yī)療等,我國經濟社會的很多領域和行業(yè)都選擇了人工智能,人工智能產業(yè)在我國也呈現出蓬勃發(fā)展的態(tài)勢。人工智能在推動我國經濟社會發(fā)展、促進國家治理體系和治理能力現代化,滿足人民日益增長的美好生活需要等方面,發(fā)揮著越來越重要的作用。

從人類社會法律發(fā)展的歷史來看,科學技術的發(fā)展進步往往對傳統(tǒng)法律規(guī)范體系的基礎認知和邏輯、具體規(guī)則架構乃至新的制度建構產生重要的影響。［13］以規(guī)制工業(yè)化社會為目的建立起來的現行法律體系,日益顯示出對人工智能發(fā)展的無所適從。例如,當人工智能能夠獨立創(chuàng)作出柔美的樂曲時,讓司法者頓感保護著作權的知識產權規(guī)則杯水車薪;隨著自動駕駛日益廣泛地被使用,以及人工智能自主決策能力的日益增強,傳統(tǒng)交通致害侵權法律關系以駕駛人為中心予以調整的做法便不足用,立法者不僅要考慮所有與致害有關的利益相關者,甚至車輛、道路這些非主體因素也得納入其考量范圍,這些將直接導致傳統(tǒng)侵權法體系面臨挑戰(zhàn)。

在人工智能的法律規(guī)制方面,各國和地區(qū)已經著手作出努力,且不少國家和地區(qū)人工智能發(fā)展戰(zhàn)略與政策推動的節(jié)奏和步調基本一致。例如,美國于2016年5月成立“人工智能和機器學習委員會”,負責協調全美各界在人工智能領域的行動,探討制定人工智能相關政策和法律,近幾年美國國會接連頒布了《2019年深度偽造報告法案》《2020年未來人工智能法案》［14］《2020年國家人工智能計劃法案》(8)National Artificial Intelligence Initiative Act of 2020.等,這些法案明確了美國人工智能技術的優(yōu)先適用領域,提出了提升人工智能健康發(fā)展的諸多措施。日本于2016年設立“人工智能戰(zhàn)略會議”進行國家層面的綜合管理。德國聯邦參議院于2017年為解決自動駕駛汽車致害問題通過了《道路交通法第八修正案》。2013—2018年,歐盟及其主要成員國日益注重人工智能的技術倫理和各種風險,提出人工智能立法動議,發(fā)布了《歐洲議會機器人民法規(guī)則》(9)European Civil Law Rules on Robotics.等一系列政策文件,其中對從事醫(yī)療服務和護理的人工智能予以特別規(guī)制。值得關注的還有,歐盟于2022年還發(fā)布了《數據法案(草案)》。

我國自2013年就著手發(fā)布有關人工智能發(fā)展的整體性政策文件與治理規(guī)范準則。2017年國務院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,旨在為人工智能的發(fā)展營造政策環(huán)境。該規(guī)劃已經提出警示,“人工智能是影響面廣的顛覆性技術,可能帶來改變就業(yè)結構、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關系準則等問題,將對政府管理、經濟安全和社會穩(wěn)定乃至全球治理產生深遠影響”。該規(guī)劃已經將建設人工智能法律法規(guī)、倫理規(guī)范和政策體系視為在發(fā)展人工智能技術的過程中所必須同步完成的工作,自此我國開始從對偏技術性和產業(yè)化的關注,轉為對關鍵領域高新技術發(fā)展中所伴生的倫理風險和社會影響的關注,強調注重人工智能的社會實用性,從組織推動層面全方位、多維度地進行頂層設計,以期實現人工智能與社會進步的協調融合發(fā)展,將人工智能的風險規(guī)制納入法治化軌道。(10)可參閱清華大學公共管理學院政府文獻中心:《國內外人工智能政策分析報告2018》;清華大學科技政策研究中心:《中國人工智能發(fā)展報告(2018)》。

2018年,我國成立了新一代人工智能發(fā)展規(guī)劃推進辦公室與新一代人工智能戰(zhàn)略協調專家委員會。2019年6月,我國發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》,確立了人工智能社會治理的整體框架與基本原則。(11)該原則提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理八項具有相當倫理性的原則。2022年8月,科技部等六部門聯合印發(fā)了《關于加快場景創(chuàng)新以人工智能高水平應用促進經濟高質量發(fā)展的指導意見》。新近國家互聯網信息辦公室通過的《生成式人工智能服務管理暫行辦法》于2023年8月15日起施行。

在這些政策文件與治理規(guī)范準則之外,我國頒行的《民法典》《網絡安全法》《數據安全法》《個人信息保護法》等法律也確立了不少因應人工智能技術發(fā)展的規(guī)制規(guī)范,且各部委也有針對性地采取過多次專項行動(12)例如,為凈化網絡環(huán)境、打擊利用互聯網的侵權或者犯罪行為,多部委聯合開展的“劍網行動”“凈網行動”“固邊行動”“清源行動”“秋風行動”“護苗行動”等。,但因人工智能的產業(yè)化應用導致的社會亂象和損害事件仍舊頻發(fā)。綜合近年來的相關規(guī)范來看,更多的還是關注人工智能技術可以被應用的領域、方式,以及突破禁令應當承擔的責任,且具體規(guī)則多為綜述性的原則,尚缺乏系統(tǒng)、具體的對民事法律關系的規(guī)制。顯然,傳統(tǒng)的法律對于技術的規(guī)制往往滯后于社會實踐,但人工智能技術的迅速應用和影響之大已經遠超人類想象,如果仍遵循傳統(tǒng)的立法程式,顯然已經無法滿足社會治理的需求。有鑒于既有法律規(guī)制模式和體系面臨挑戰(zhàn)的背景,如何應對人工智能的快速發(fā)展和應用,迫切需要法學研究予以理論回應。

三、人工智能的法律定位:作為法律關系客體予以規(guī)制

進行法律適用需要厘定法律關系各要素,但在對涉及人工智能民事法律關系的各要素進行判斷的過程中,首先就面臨著對人工智能的法律定位問題,即是否可以賦予人工智能獨立的法律人格,使其成為民事主體的問題。

人工智能技術涉及諸多領域,一般認為人工智能作為一門新興的技術科學,包括對模擬、擴展人的智能的理論、技術及應用進行研發(fā)。［15］人工智能的復雜性使得人們對其概念仍存在不同認識,或者被認為是一種顯示智能行為的系統(tǒng)［16］;或者被認為是具有智能的機器［17］;還常被認為是一種理論、方法及技術。［18］我國發(fā)布的《人工智能標準化白皮書(2018版)》給出的定義是:人工智能是利用數字計算機或者數字計算機控制的機器模擬、延伸和擴展人的智能,感知環(huán)境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及其應用系統(tǒng)。［1］顯然這個定義具有相當綜合性。

2010年11月,日本授予寵物機器人“帕羅”(Paro)以戶籍,其發(fā)明人在戶口簿上的身份是父親;2017年10月,沙特阿拉伯宣布授予智能機器人“索菲亞”公民身份［19］;以及2017年歐洲議會法律事務委員會建議可以賦予最精密的自主機器人擁有“電子人”的法律地位,使其承擔相應責任［20］,這些事件不斷引發(fā)人們對機器人到底屬于客體機器還是屬于主體人這一問題的思考。從這個意義上來看,人工智能的法律規(guī)制,應當以對人工智能進行法律定位為邏輯起點。

(一)客體說與主體說之爭

對于是否應當賦予人工智能法律主體資格這一問題,目前的觀點主要有否定說、肯定說以及折中說。否定說與肯定說觀點的支撐理由主要在三個方面存在分歧:

其一,從開發(fā)人工智能的目的出發(fā),否定說將人工智能視為為人類服務的工具,是“服務于人”的客體,認為即使人工智能在某些領域已經具有超越人類的表現,但它依舊是為人類所支配的物。［21］人工智能只是人類為自身之目的而研發(fā)的高級工具,它無法被賦予“權利義務統(tǒng)一性”,難以改變二者之間的主客體關系。［22］肯定說則認為,人工智能是“代理人”,人工智能的所有人、使用人是被代理人,被代理人對人工智能進行控制的權利［23］,賦予人工智能法律主體資格可以更好地保護人類利益,而且是以最小的成本獲得最大利益的保護。［24］

其二,從民事主體的范圍來看,我國《民法典》意義上的人,既包括自然人,也包括法人以及非法人組織。其中,自然人是指基于出生而取得民事主體資格且以生命為存在特征的人,法人和非法人組織則是依法享有民事權利和承擔民事義務的組織,是社會組織體在法律上的人格化。否定說在這個意義上會認為,人工智能既不以生命存在為特征,又不是自然人集合體的法人或者非法人組織,所以很難賦予其合適的法律地位。肯定說認為,法律主體的范圍在人類社會并非一成不變的,在法律發(fā)展歷史上,奴隸、婦女、兒童、外國人、法人等組織體,最初均不可以作為民事主體,而現在這些均已經被賦予民事主體資格了,故而人工智能作為自然人、法人和非法人組織之外的第四民事主體未必就沒有可能。

其三,從認知能力和自主意識的理性層面來看,肯定說認為人工智能在神經網絡、區(qū)塊鏈等技術的支持下,通過深度學習能夠獲得自主意識,在理性層面能夠獲得意志自由,尤其是類人型人工智能體擁有的認知與控制能力已經高于被賦予法律主體資格的組織體,而更接近自然人。既然組織體都可以被賦予法律主體資格,人工智能體當然存在被賦予法律主體資格的空間。［25］在刑法領域,也有論者提出,發(fā)展到一定階段的智能機器人可能超越程序的設計和編制范圍,按照自主的意識和意志實施行為,因而完全可能成為法律主體。［26］否定說則認為,即使人工智能體具有較高的認知能力,其也不能內生自發(fā)地生成意識,且缺乏對痛苦、幸福等情緒的感知能力,不具有獨立意志和特殊的“人生”經驗,也無法對自身行為承擔責任,故而主張人工智能無法擁有法律人格。［27］

在以上的否定說和肯定說之外,折中說則提出,人工智能已經并且正在經歷著不同的發(fā)展層次,不加區(qū)分簡單地把“類人”甚至“超人”的人工智能仍然視為一種可供人類支配的工具的看法是不夠審慎的。為此,有學者主張賦予人工智能有限法律人格,因為人類創(chuàng)造人工智能的目的就是服務自然人的,因而不能賦予人工智能享有和自然人完全相同的權利,但可在賦予人工智能法律主體地位的同時,以平衡科技創(chuàng)新和正當規(guī)制的關系為目的,根據人工智能的特點制定特殊的標準,在一定程度上限制人工智能的權利和義務范圍。［28］也有學者主張可以如歐盟法律事務委員會向歐盟委員會提出的動議一樣,將人工智能設置為具有類人格的“電子人”,賦予其“特定的權利和義務”,甚至可以為人工智能開設進行納稅、繳費、領取養(yǎng)老金的資金賬號。［29］還有論者認為,人工智能體應當是介于人與物之間的特殊主體,并提出將人工智能體的智能化程度比擬自然人進行判定。［30］

(二)確定人工智能法律地位的考量因素檢視

如果賦予人工智能法律主體地位,無論是權利的享有、義務的履行抑或責任的承擔,當然均歸于人工智能;如果不賦予人工智能法律主體地位,人工智能就仍然是權利的客體,相關行為的法律后果,無論是權利的享有、義務的履行抑或責任的承擔,自然應歸屬于人工智能的設計者或控制者。這也正是將對人工智能進行法律定位作為規(guī)制人工智能邏輯起點的原因。然而,是否賦予人工智能法律主體地位,前述折中說的觀點作為高度抽象的結果,無論是確定“有限法律人格”之“有限”的標準,抑或是明晰“電子人”與傳統(tǒng)法律人格之間的具體差異,都停留在創(chuàng)立新的概念和理念上,并未真正解決現實的法律問題,本文認為暫不足取。從前述肯定論與否定論觀點的支撐理由觀察,應該說各自的考量均存在可資贊同的因素,茲作簡要分析。

就人類開發(fā)人工智能的初始目的來看,當然是無意將人工智能作為法律關系中的主體的,但如何解釋和規(guī)制當下人工智能已經在多個領域可以代替人類處理事務的情形?尤其是如阿爾法狗(Alpha Go)一樣的人工智能確實已經具備了一定的自主學習能力,可以自主進行某些行為的情形,以及一些類人型人工智能體可以模擬人腦部分功能,輔助甚至代替人腦處理事務,其擁有的自主意識、認知與控制能力等已經接近自然人的情形,均有待法律規(guī)制,應當考慮如何將其納入法律的調整范圍。這恐怕已不是簡單地認為人工智能本質上仍然是由人腦編程,且其行為仍然受其開發(fā)者設計的算法約束,尚不具備人類所具有的自主思考的意識和能力可以搪塞的。而且,在2017年國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中,就已經明確指出人工智能的發(fā)展已呈現出“深度學習、跨界融合、人機協同、群智開放、自主操控等新特征”［31］。然而,如果賦予人工智能法律主體資格,則人工智能就應當承擔其所實施行為的法律后果,但目前是否亟須擴大法律主體范圍并且已經具備了時機?

從民事主體的發(fā)展歷程可以看出,隨著社會觀念的變化以及生產力水平的提高,民事主體的范圍的確在逐步擴大。在人類社會的早期階段,并非所有自然人都可以成為民事主體,如婦女、奴隸等都曾經作為權利客體存在過。通過不同世紀立法者的努力,民事主體日益呈現多元化態(tài)勢,不僅所有自然人都被賦予民事主體資格,而且將與自然人有著諸多差別的法人也納入民事主體范疇。我國自《民法》總則開始,將非法人組織也賦予了民事主體資格。將組織體賦予民事主體資格,其中很重要的一個原因是因應商事交易的需要,分散投資風險、降低交易成本、促進交易快速進行。從《民法典》總則編規(guī)定的民事主體類型來看,人工智能顯然既不是自然人,也不可能是法人或非法人組織,難以糅合于現有民事主體系統(tǒng)。如果突破現有民事主體系統(tǒng),賦予人工智能民事主體資格,可以實現當下既要進一步發(fā)展人工智能技術,同時很好防控人工智能帶來的風險,何樂而不為?可問題的關鍵在于,目前人工智能的發(fā)展是否已經足以顛覆我們既有的民事主體觀念和系統(tǒng),亟須賦予其民事主體地位?

實際上,在20世紀60年代,對于人工智能是否可以趕超甚至取代人類的問題,就有支持派和反對派兩種不同的觀點。［32］進入21世紀后,理論上逐漸認同將人工智能分為專用人工智能、通用人工智能、超級人工智能三個類別:專用人工智能也被稱為弱人工智能,目前正處于高速發(fā)展階段,是指通過感知以及記憶存儲來實現特定領域或者功能為主的人工智能;通用人工智能又被稱為強人工智能,是接下來人工智能的發(fā)展方向,是指基于認知學習與決策執(zhí)行的能力可實現多領域的綜合智能;超級人工智能目前暫存在于人類想象,是指可能在行動能力、思維能力和創(chuàng)造能力等方面全方位超越人類的人工智能,甚至有學者還描摹了未來強人工智能向人類奪權的場景。［33］黑格爾有言:“法的基地一般來說是精神的東西,它的確定和出發(fā)點是意志,意志是自由的,所以自由就構成法的實體和規(guī)定性。”［34］有研究者解釋認為人工智能的意志可以通過三種途徑產生:被編程而產生、從復雜性中出現、被習得而學會。［35］由此,隨著未來科技的發(fā)展,如果人工智能的思維能力進一步增強,社會進入強人工智能時代,人工智能在意志方面真的具備與人類相當甚至超越人類的意識,人工智能以第四民事主體的法律地位出現并非沒有可能。

然而,就以當下的人工智能技術來看,目前存在的人工智能遠未達到強人工智能的程度。(13)2017年,美國國會議員瑪利亞·坎特維爾(Maria Cantwell)描述的強人工智能應當滿足五個特征:其一,所有可在多變且不可控的情況下作業(yè),無須過多人工監(jiān)管,或可自學以往經驗、改善表現的人工系統(tǒng);其二,可像人類一樣思考的系統(tǒng);其三,可像人類一般行動的系統(tǒng);其四,如機器學習等模擬認知任務的技術;其五,理智行事的系統(tǒng)。可參閱Dave Gershgorn:《美國國會計劃重新定義人工智能》,常笑譯,見https://www.weiyangx.com/271094.html,2021年7月3日訪問。如果在今后較長時間內,我們可以在既有的法律制度和規(guī)則體系有效解決人工智能所引發(fā)的難題,在對法律作根本轉型［36］之前,當然就要謹慎對待突破民事主體的范圍。更何況我們創(chuàng)造人工智能的根本目的是為人類服務,我們不能輕易賦予人工智能法律主體資格從而如同保護人類一樣保護人工智能的自由意志。就人與物的關系問題,黑格爾曾經有言,“無需從我的意志中獲得它的規(guī)定及內核,唯有人擁有意志及靈魂,并對物支配,體現目的與價值”［34］60。既然是我們人類為人工智能立法,對于人工智能的應用和發(fā)展,當然應當以人類期望確立的秩序為基礎,必須將人工智能的發(fā)展建立在人類可控風險的范圍內。以人工智能在司法領域的應用為例,有學者提出,人工智能法律系統(tǒng)的開發(fā)主要實現三個方面的功能:一是輔助司法審判,以便讓司法人員更專注于解決復雜疑難案件;二是促進司法公正,人類法官可以將自己的判決與人工智能的判決對照;三是輔助法學教育和法律培訓。［37］從這三個功能來看,至少在當下以及今后較長一段時間,人工智能還是服務于人類的工具,故而人類的立法暫無須賦予人工智能法律主體地位。

(三)應當確立將人工智能作為法律關系客體的規(guī)制思路

在社會運行系統(tǒng)中越來越廣泛且日益深入地應用人工智能的背景下,明確人工智能的法律地位,是規(guī)制涉及人工智能法律關系的前提。未來人工智能發(fā)展到怎樣的程度尚不確定,預測的強人工智能狀態(tài)是否會出現、何時能到來,彼時人工智能與人類的關系將如何,這些均未可知。但從當下以及今后較長一段時間,意在用法律規(guī)制人工智能時,當然應當立足于人類創(chuàng)造人工智能的目的,不能把解決人工智能引發(fā)的難題簡單寄希望于賦予人工智能法律主體資格這一可能觸及人類倫理底線,且可能傷害人類、與人類創(chuàng)造人工智能的目的背道而馳的路徑。從這個意義來看,將人工智能賦予法律主體資格予以規(guī)制的道路不可行。在《民法典》視野下,即便人類有朝一日真的進入強人工智能時代,人工智能在智識方面真的全面超越人類,而人類還能掌握立法控制權,還可以采取法律規(guī)制手段防范人工智能帶來的風險的情形下,即便立法賦予人工智能法律主體地位,想必也是基于實現保護人類為宗旨而與人工智能和諧共生的結果。

在技術迅速更新的時代,法律自然面臨著需要應對和承受技術革新帶來的挑戰(zhàn)。那么,在《民法典》實施過程中,如何解讀適用相關規(guī)則平衡好人工智能的開發(fā)者、制造者、銷售者、操作者、監(jiān)督者等的權利、義務與責任,以在保障科技創(chuàng)新和技術進步,實現人工智能戰(zhàn)略目標的同時,還可以有效防范人工智能帶來的風險,這是必須研究的問題。人工智能作為人類的創(chuàng)造物,人類有權決定創(chuàng)造出怎樣的人工智能。不同類型的人工智能可以根據其創(chuàng)制過程、目的和功能等歸入不同的權利客體。例如,人工智能賴以運行的數據和算法等資源,初始可能由研發(fā)公司、研發(fā)人員享有物權或者知識產權,當該人工智能被銷售后,買受人依合同享有占有、使用該人工智能等權利。即便是具有一定“類人”屬性的強人工智能,也可以作為特殊的客體予以法律規(guī)制。

當然,從立法層面而言,規(guī)則的相當確定性可以使人們有可能事先據此安排個人事務,所以相應立法規(guī)則應當盡可能具體。但是,如果立足于將人工智能作為法律關系的客體,以法律規(guī)制人工智能,鑒于人工智能發(fā)展的不確定性,在立法層面上必須為人工智能的發(fā)展預留一定的空間,以保障立法兼具穩(wěn)定性和靈活性。(14)正如有學者指出:“《民法典》作為基本法,若在理論未成熟時對這些新問題倉促立法,通過法典固定規(guī)則,不僅無助于鼓勵社會創(chuàng)新,反而會扼殺生機,故它采取了面向長久未來、預留規(guī)范空間的立法技術。”見謝鴻飛:《后〈民法典〉時代的中國民法學:問題與方法》,載《社會科學研究》2021年第1期,第14頁。《民法典》的相關規(guī)則體現出的原則性應當說與此思路直接相關。

四、建構科學的人工智能法律規(guī)制體系

我國近年來一直積極探索和推進人工智能的法律規(guī)制建設,但如前所述,在《民法典》通過之前,本就寥寥的針對人工智能的限制性或者禁止性條款多散見在多部政策性文件中。習近平總書記在黨的十九大報告中強調要“科學立法”,而立法體系的確立問題是科學立法的基礎性問題,所以確立科學的規(guī)制人工智能的法律體系也是法律規(guī)制人工智能的基礎性問題。從法制層面來看,政策性文件的強制性程度以及其內容易頻繁變動的特點,容易導致制度缺乏可預期性,所以,如果僅僅采取通過頒發(fā)政策性文件的方式規(guī)制人工智能,當然不可能確立具有體系化、規(guī)范化的人工智能法律體系。有學者針對“算法”的規(guī)制,提出建構由柔性規(guī)范、中性規(guī)范和剛性規(guī)范組成的多層次體系。［38］這種思路值得關注。人工智能的法律規(guī)制也需要確立多層次規(guī)制體系。整合具有相當規(guī)模的民商事單行法及相關司法解釋是《民法典》編纂的核心目標之一,而《民法典》的頒行也為建構科學的人工智能法律規(guī)制體系奠定了重要的民事基本法基礎。

法律規(guī)制體系的內核是法律淵源體系。在我國法學研究中,一般將法律的淵源定位為法律的各種表現形式或者存在形式。有學者進一步分析,認為法律淵源本質是多元規(guī)范的集合體,是司法裁判從中發(fā)現或者尋找待決案件所需要的裁判規(guī)范或準則之依據。［39］就民法而言,橫向考察可以發(fā)現,域外民法法源體系均不盡相同,典型的范例可以概括為法律、習慣和法理(15)如我國臺灣地區(qū)“民法”第1條的規(guī)定。,法律、習慣法和法院得依其作為立法者所提出的裁判規(guī)則(16)如《瑞士民法典》第1條第1—2款的規(guī)定。,法律、慣例和法的基本原則(17)如《西班牙民法典》第1條第1款的規(guī)定。,立法及協議、交易習慣、類推產生的規(guī)則、民事立法的一般原則和精神及善意、合理、公正的要求(18)如《俄羅斯民法典》第6條的規(guī)定。,法律、法規(guī)、習慣、類推產生的規(guī)則和國家法律制度的基本原則(19)如《意大利民法典》“法律之一般規(guī)定”中第1條以及第12條第2款的規(guī)定。這樣五種模式。我國《民法典》總則編第10條的規(guī)定則將民法淵源確定為“法律+習慣”模式。(20)《民法典》總則編第10條規(guī)定:“處理民事糾紛、應當依照法律;法律沒有規(guī)定的,可以適用習慣,但是不得違背公序良俗。”

對于我國《民法典》總則編第10條所規(guī)定的“法律”應采用廣義抑或狹義理解的問題,雖然有觀點認為本條中的“法律”僅指全國人大及全國人大常委會制定的法律,國務院行政法規(guī)等其他制定法都不能成為民法法源,即應作狹義理解［40］,但目前學界達成的基本共識是應作廣義理解,這一理解的結果就是認為我國的民法淵源包括憲法(21)也有觀點認為,憲法不屬于民法法源,不能直接成為民事案件的裁判依據。可參閱陳甦:《民法總則評注》(上冊),法律出版社2017年版,第73頁。、民法典、商事單行法、行政法規(guī)、地方性規(guī)范或者自治條例和單行條例、相關司法解釋、指導性案例、符合公序良俗原則的民商事習慣。［41］目前雖然不能確定較為廣義的解釋適合于所有領域,但在人工智能領域,較為廣義的解釋正好契合規(guī)制人工智能發(fā)展的不確定性的需要。

在規(guī)制原則和具體規(guī)則的設計層面,民法基本原則可作為人工智能法律規(guī)制的上位原則。同時,《民法典》涉及人工智能的具有相當開放性的法律規(guī)則,使得人工智能的法律規(guī)制在民事基本法層面獲得了法律適用的基礎和法律解釋的空間,也為之后特別法律規(guī)范的制定提供了基本法依據。在此基礎上,可以根據人工智能的應用領域,結合人工智能的發(fā)展階段,對于某些存在較大風險甚至已經發(fā)生致害結果的人工智能先行制定特別法,或者針對人工智能在特定行業(yè)引發(fā)的特定問題進行專門規(guī)制。以個人信息保護為例,《民法典》明確了保護個人信息的原則,警示在人工智能研發(fā)和應用時應當注意個人信息保護,結合單行法律《網絡安全法》以及全國信息安全標準化技術委員會發(fā)布的《信息安全技術個人信息安全規(guī)范》等,就可以構成網絡信息安全保護的一定范圍的法律規(guī)制體系。基于現實的考慮,目前在立法位階層面,可以是單行法律,也可以是行政法規(guī),甚至還可以是地方性立法和部門規(guī)章。當然,位階較低的立法,其適用和影響范圍有限,但在解決現實問題的同時也可為未來針對人工智能的統(tǒng)一立法提供經驗積累和規(guī)范基礎。對于專門的人工智能法的制定,有學者已經建議該專門立法應以人工智能科技作為特殊規(guī)范對象,并將其作為科技法的特別法而定位。［42］

在規(guī)則適用層面,司法案例可作為人工智能法律規(guī)制的具體解釋標準。在人工智能引發(fā)的糾紛領域,加快指導案例、參考案例和典型案例制度的建設。為柔化成文法天然的僵硬和刻板,也為克服成文法一直面臨著法的安定性和進化性之間的矛盾,在現代法上不少大陸法系國家和地區(qū)日益采取務實的態(tài)度,主要表現在“司法實務上也愈來愈倚重判例法”［43］。例如,在德國這樣典型的大陸法系國家,雖然制定了成文法典,但德國的習慣法從未停止過其發(fā)展,它主要通過德國各個法院的實踐,特別是最高法院的長期判例而形成。［44］我國自2011年以來建立案例指導制度,且最高人民法院推行的專題性的典型案例、各地高級人民法院發(fā)布的參考案例(22)這種參考性案例旨在實現高級人民法院對下級人民法院工作的指導,相對于指導性案例,這種案例的約束力較弱。可見最高人民法院《關于規(guī)范上下級人民法院審判業(yè)務關系的若干意見》第9條:“高級人民法院通過審理案件、制定審判業(yè)務文件、發(fā)布參考性案例、召開審判業(yè)務會議、組織法官培訓等形式,對轄區(qū)內各級人民法院和專門人民法院的審判業(yè)務工作進行指導。”等也已成規(guī)模。無論是參考案例、典型案例還是指導案例制度,均已被實踐證明是行之有效的。既然如此,在處理人工智能引發(fā)的糾紛情形,雖然人工智能發(fā)展的不確定性使得暫不宜動輒通過立法確定統(tǒng)一的適用標準,那不妨通過我國的指導案例、典型案例、參考案例制度,在一定時間和地域范圍內形成穩(wěn)定或者慣常的做法,同時,也可以此作為隨人工智能技術的發(fā)展在時機成熟時創(chuàng)制規(guī)則和制定專門立法的基礎。