人工智能時代的制度安排與法律制度

摘 要 隨著科學技術(shù)的進步與全球化進程的深化，進入21世紀以來，人類進入了一個以互聯(lián)網(wǎng)產(chǎn)業(yè)化、工業(yè)智能化、工業(yè)一體化為代表的，以人工智能、清潔能源、無人控制技術(shù)、量子信息技術(shù)、虛擬現(xiàn)實以及生物技術(shù)為主的全新的第四次工業(yè)革命的時代。人工智能在給我們的生活帶來極大便利的同時，也對我們傳統(tǒng)的制度特別是法律方面帶來了極大的挑戰(zhàn)。新型的機器人類能否成為法律意義上的主體？能否賦予擬制人格？能否獨立成為法律責任的承受主體？等一系列法律問題值得我們深入研究。

關(guān)鍵詞 人工智能 法律挑戰(zhàn) 法律制度

作者簡介：黃碧輝，上海震亞律師事務所，研究方向：刑辯、公司法相關(guān)、婚姻家庭財產(chǎn)規(guī)劃工作。

中圖分類號：D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻標識碼：A ? ? ? ? ? ?? ? ? ? ? ?DOI：10.19387/j.cnki.1009-0592.2019.10.009

隨著人工智能技術(shù)的迅猛發(fā)展，除傳統(tǒng)工廠中的工廠機械手外，人們的日常生活中已經(jīng)有大量的AI技術(shù)滲透。作為社會規(guī)則的法律總是滯后于社會技術(shù)與經(jīng)濟的發(fā)展，面對越來越成熟的人工智能技術(shù)，越來越高級的機器人類，法律該如何去規(guī)制與應對？機器人類所帶給人類的風險又該如何掌控？對這些問題的深度剖析不僅能推動現(xiàn)行法律的進步還能對未來的社會規(guī)則加以必要的探索。

一、人工智能背景概要

人工智能（Artificial Intelligence，簡稱AI）源于美國，于1956年在達特茅斯學院由麥卡錫、明斯基等科學家首次提出。并經(jīng)歷了幾次起伏才發(fā)展至今天的狀態(tài)。1958年在美國卡耐基梅隆大學首次展示了第一個人工智能軟件，并且預測人工智能將會在未來10年蓬勃發(fā)展，但是，直到20世紀90年代中期，人工智能卻一直處于低迷發(fā)展中，歸根結(jié)底是人工智能的自主學習能力不強，獲得知識面范圍過窄以及信息處理技術(shù)未達到預期要求等原因。而在這三十年人工智能工作者們的努力下，促進人工智能技術(shù)不斷完善、實現(xiàn)生物神經(jīng)元的重大突破，使得人工智能再次得到飛速發(fā)展。

進入21世紀第2個十年人類進入了大數(shù)據(jù)時代，而人工智能以大數(shù)據(jù)為依托，生物神經(jīng)元為紐帶實現(xiàn)了真正的超越人類智慧的預想，阿爾法狗戰(zhàn)勝柯潔，IBM的沃森在比賽中獲勝，充分體現(xiàn)了人工智能在技術(shù)層面的成功，也催生了機器人類的概念。人類一方面因能創(chuàng)造出如此高科技的產(chǎn)品而沾沾自喜，另一方面又因智能人類強大的大腦而惴惴不安。

目前人工智能革命分為四波浪潮：互聯(lián)網(wǎng)智能化（internet AI）、商業(yè)智能化（business AI）、實體世界智能化（perception AI）和自主智能化（autonomous AI）。

每一個浪潮都會以不同的方式改變著人類的生活、生產(chǎn)，讓人工智能技術(shù)更加融入到我們的生活中。第一個和第二個浪潮已經(jīng)在我們身邊正改變著我們的生活，互聯(lián)網(wǎng)技術(shù)已經(jīng)與人類生活密不可分，淘寶能夠準確的推薦你想要的產(chǎn)品，這就是大數(shù)據(jù)時代下的互聯(lián)網(wǎng)智能和商業(yè)智能。而第三個浪潮也在生活中逐漸顯現(xiàn)，人臉支付技術(shù)逐漸出現(xiàn)在我們生活中，人工智能已經(jīng)開始模糊數(shù)字世界和真實世界的界限。第四個浪潮是以自動駕駛汽車技術(shù)進入我們的生活，未來人工智能技術(shù)將會使得越來越多的方面帶來智能化的改變。人工智能領(lǐng)域飛速發(fā)展，人類在充滿擔憂的同時也在努力尋求解決辦法。

二、人工智能時代的挑戰(zhàn)

（一）社會方面

1.倫理上

霍布斯曾經(jīng)說過，自我保存是第一自然法。由于人性本惡，在自然狀態(tài)中人對人就像狼對狼一樣，人類通常在保護自己和勿害他人中選擇前者。那么作為擁有高智慧的機器人類的選擇又是如何，是人們非常擔心的問題。機器人類是否真的會像科幻電影中那樣生出獨立的思維并且傷害人類乃至進一步取代人類？這是源自于人類種族基因中對未知事物的恐懼。

1942年，美國的科學家、科幻小說家伊薩克·阿西莫夫，首次在其撰寫的短篇小說《轉(zhuǎn)圈圈》中提出第一個針對機器人道德約束的律法，其旨在保護人類的絕對安全，并在一定程度上使得機器人也擁有了相應的保護自己的權(quán)利。而這一律法在之后的100年的時間里，仍然是科幻小說家、科幻電影以及現(xiàn)代人工智能機器人發(fā)展的一個基礎(chǔ)道德框架。大約在100年前科學家們就已經(jīng)考慮到機器人類的倫理問題，雖然三條律法略顯簡單，卻對現(xiàn)今制度的設定起到了很好的引導作用。

2.就業(yè)上

伴隨著大數(shù)據(jù)成長起來的機器人類，比傳統(tǒng)的機械手臂能夠吸收更多的知識，能夠更好的融合知識并為之所用。這樣的發(fā)展現(xiàn)狀不僅給藍領(lǐng)工人的就業(yè)環(huán)境造成了威脅，連社會中重復性強，專業(yè)性要求不高，可替代性強的白領(lǐng)工人也帶來了挑戰(zhàn)。面對新型的機器人類強大的學習能力，大量的藍領(lǐng)、白領(lǐng)工人陷入恐慌，懼怕被機器人所取代并進而被社會所淘汰。

在第二次工業(yè)革命中，當時大量的英國工人也同樣考慮著電氣時代所帶來的大機器生產(chǎn)會將大批量的工人所淘汰，導致大量失業(yè)的問題。而最終我們都知道，隨著第二次工業(yè)革命的發(fā)展，雖然有部分工人失業(yè)，但是因第二次工業(yè)革命帶來了大量的新興產(chǎn)業(yè)，卻又創(chuàng)造了更多的工作崗位。而我們目前所面臨的問題，正如一個多世紀以前英國人面臨的問題，在可能進入的機器人類部分取代人類工作的未來，人類可以從事更需要內(nèi)心關(guān)懷的職業(yè)，譬如養(yǎng)老院的陪護員、幼兒園教師等職業(yè)。就像是在我們使用3G手機的時代，面對即將到來的4G時，我們只能猜測速度會變快，支付可能會快捷，但是誰又能想到4G開啟了全民網(wǎng)絡時代，全民線上支付轉(zhuǎn)賬。就像我們期待5G那樣，共同期待人工智能技術(shù)帶給社會的改變。

3.貧富差距的拉大和經(jīng)濟發(fā)展的更加不平衡

人工智能在商業(yè)領(lǐng)域來說是一個強大的助力，經(jīng)濟學家預測，人工智能技術(shù)將會給我們的經(jīng)濟帶來約15.7萬億美元的財富。而這些財富的來源大多數(shù)是人工智能技術(shù)的發(fā)展所帶來自動化產(chǎn)業(yè)的迅猛發(fā)展，從而淘汰大量人工勞動力的后果。由此引發(fā)的直接大面積失業(yè)將會導致各國經(jīng)濟發(fā)展的更加不平衡，對于發(fā)展中國家來說更是一個致命的打擊，至此不會再出現(xiàn)像曾經(jīng)中國這樣的發(fā)展中國家，以人口為優(yōu)勢做加工而發(fā)展起來的國家。而因存在大量青壯年的國家也會存在巨大的潛在隱患。即使是發(fā)達國家，人工智能也會將貧富差距進一步拉大。人工智能天然趨于壟斷，致使小型企業(yè)被迫關(guān)門，經(jīng)濟權(quán)力越來越集中在少數(shù)人手中。如果不加以規(guī)制，人工智能必將會對社會各個方面帶來更大的沖擊。

（二）法律方面

1.法律主體

隨著人工智能技術(shù)的發(fā)展，例如阿爾法狗戰(zhàn)勝柯潔的例子比比皆是，機器人類的“大腦”確實已經(jīng)超越了我們部分人類的智慧。更有美國的未來科學家預測，在未來機器人類將擁有生物大腦甚至可以和人類的大腦的神經(jīng)元數(shù)量相媲美，更有可能這種機器人類的生物大腦將10億倍于今天所有人的智慧。面對這樣的未來，我們不得不考慮是否賦予機器人類以法律意義上的“人”的地位以及權(quán)利與義務。歐盟與美國已經(jīng)開始著手設立有關(guān)機器人類的繼承、侵權(quán)、勞動保障的相關(guān)立法，如果相關(guān)立法真的成功，對現(xiàn)今民事法律主體制度的基礎(chǔ)必然產(chǎn)生動搖。

法律關(guān)系主體，簡稱為法律主體，是指法律關(guān)系中享有權(quán)利和履行義務的人。法律主體是法律關(guān)系中的主導性因素。在一個法律國家中，什么樣的個人或組織能夠成為法律關(guān)系的主體取決于該國法律的規(guī)定，在世界范圍內(nèi)大多數(shù)國家已經(jīng)形成了自然人與法人兩個大類的法律主體。歐美部分學者將機器人類看成如同法人一樣的擬制人來看待的觀點。認為機器人類也同樣具有權(quán)利能力與行為能力，機器人類權(quán)利能力中的權(quán)利來自于正在討論中的機器人類應該享有的勞動權(quán)利、生存權(quán)利等基本權(quán)利，其他特殊的人格性的權(quán)利還有待考慮。而機器人類的義務即生產(chǎn)創(chuàng)造出機器人類時生產(chǎn)商所賦予的機器人類必須遵守的義務。按照上述觀點，就會出現(xiàn)一個悖論，作為法律意義上的人必須是一個獨立的個體，而機器人類因出廠設置時已經(jīng)被設定了相關(guān)的義務，其不能夠成為一個獨立的個體，更像是創(chuàng)造者人格的延伸。雖然機器人類要比我們?nèi)粘５南匆聶C，電飯鍋要智能、高端不知多少倍，但是在本質(zhì)上還是一樣的，他們都被人類所生產(chǎn)服務于人類，并且也是最重要的它們并不具有獨立的人格。目前來說，賦予機器人類法律主體地位還為時尚早，未來是否賦予機器人類法律地位還需要結(jié)合人工智能技術(shù)的發(fā)展進一步做更詳實的考慮。

現(xiàn)代民法上的繼承特指財產(chǎn)繼承，是指將自然人死亡后遺留的個人合法財產(chǎn)依照死者所立遺囑的指定或是根據(jù)法律的規(guī)定轉(zhuǎn)歸有權(quán)取得該項財產(chǎn)的人所有的法律制度。在此，我們對機器人類作為被繼承人的法律問題不做討論，畢竟被繼承人依然是自然人這一基礎(chǔ)法理在現(xiàn)行法律中是很難被撼動的，我們只討論機器人類能否作為繼承者繼承自然人的遺產(chǎn)。美國的繼承法中動物已經(jīng)可以作為繼承人的主體來繼承被繼承人的遺產(chǎn)，這為機器人類是否可以作為繼承人提供了一個非常好的思路。在不遠的將來，當類似于動物的智能機器人給人類更多陪伴的時候，人類是否可以將自己的遺產(chǎn)贈予給機器人類的問題值得思考。

當代新型的機器人類在吸收大量知識的基礎(chǔ)之上，運用神經(jīng)元網(wǎng)絡自己進行分析，加工再創(chuàng)造的過程中得出的作品是否賦予其著作權(quán)，是當下面臨的重要問題。例如，阿爾法狗在程序員輸入上千個棋譜后經(jīng)過深度學習在與柯潔的對抗賽中贏得連續(xù)36個月未有個敗績的世界級九段圍棋高手。阿爾法狗的故事不僅在圍棋上演，還在音樂、美術(shù)、文學等等方面進行著學習、突破乃至再創(chuàng)造，那么在我們面對這些由人工智能創(chuàng)造出來的文學作品、藝術(shù)作品等等時，是否賦予同人類一樣的著作權(quán)利呢。搞清楚這個問題首先要明確，創(chuàng)造出這些作品的機器人類，是否真的由它所作？還是由其背后的人工智能科學家或是程序員所作？人工智能首先是由程序員們對其進行原始數(shù)據(jù)的輸入，編輯算法和路徑，這些都是由人工智能背后的人類所操作的，也就是說，機器人類所生出的作品與其說是人工智能所創(chuàng)造不如說是由其背后的人類所掌控著它來創(chuàng)造。從這點上看人工智能的創(chuàng)造和其開發(fā)者的關(guān)系更像是著作權(quán)上的職務發(fā)明，發(fā)明者本身并不享有專利權(quán)，其單位即開發(fā)者享有著作權(quán)，人工智能只享有署名權(quán)、標記權(quán)及獲得報酬的權(quán)利。但是這一法理的推演并不嚴密，目前我們不承認機器人類的著作權(quán)是基于人工智能的智能化依然有待于提升，高等的人工智能在日常生活中并沒有真正普及。在未來人工智能化的時代到來時，機器人類同普通人類一樣時，關(guān)于人工智能的著作權(quán)必然將會有所改變。

2.法律責任

據(jù)報道，美國多地因運用手術(shù)機器人操作致使患者造成燒傷、感染等不同程度損害的醫(yī)療事故達200多起，現(xiàn)代機器人類不同于傳統(tǒng)的工廠機械手臂，其具有更高的智慧以及行動能力。并且在未來可能與人類共存這一前景下，在民事交往生活的過程中，出現(xiàn)侵權(quán)事件是不可夠避免的，那么機器人類在侵權(quán)行為中的權(quán)利該如何保障，義務該如何承擔？

首先，討論機器人類作為侵權(quán)事件中的侵權(quán)者一方該如何承擔義務。第一種觀點認為，機器人類更像是開發(fā)者的雇員一樣的存在，權(quán)利義務的承擔類似于上文所提到的著作權(quán)，承擔的是產(chǎn)品侵權(quán)責任，將人工智能的侵害看作是產(chǎn)品缺陷，開發(fā)者需承擔因人工智能侵權(quán)所帶來的損失。這種觀點是將機器人類與開發(fā)者看成一個主體，但這顯然在逐漸發(fā)展起來的人工智能技術(shù)上看來，對開發(fā)者是不公平的。開發(fā)者在輸入算法及其他知識后，人工智能自己進行學習及進行行動判斷所造成的損失，并不在開發(fā)者所預測的范圍內(nèi)。

因此，為了在一定程度上保護開發(fā)者的權(quán)利，我們提出了基于技術(shù)中立原則所衍生的替代責任。技術(shù)中立原則，即產(chǎn)品被廣泛的應用在合法的領(lǐng)域，即使其生產(chǎn)者或銷售者知道該產(chǎn)品可能會成為侵權(quán)工具使用，其也不構(gòu)成侵權(quán)或是侵權(quán)的幫助犯。這就說明對于機器人類的制造者來說，其本身不可以非法的目的去生產(chǎn)該人工智能產(chǎn)品，并且不能主觀的制造侵犯其他人的人身權(quán)利或財產(chǎn)權(quán)利的產(chǎn)品或是給機器人類輸入類似算法導致機器人類對其他人的侵權(quán)。在未來人工智能廣泛應用，如果制造商在制造之初并沒有侵害某個人或多數(shù)人的主觀意愿或是客觀行為造成的侵權(quán)，開發(fā)者不承擔侵權(quán)責任。

三、面對這一時代的法律制度安排

人工智能的迅速發(fā)展在便利生活的同時對社會也同樣帶來了巨大的挑戰(zhàn)。面對這樣的挑戰(zhàn)，人類在不斷完善自己進步的同時，社會制度也應對此進行必要的調(diào)整，以規(guī)制已經(jīng)存在的社會問題，和規(guī)避將來可能出現(xiàn)的問題。而法律作為社會規(guī)范的手段，在這一過程中的作用更是不言而喻，但是由于法律本身的滯后性的特點，我們在制定出成文的法律之前還需要社會制度和社會道德來加以約束。

（一）以倫理道德為先導

許多人工智能科學家們基于高速發(fā)展的近十年的深度學習，來預測未來，認為計算機智能會以不可阻擋的滾雪球的方式呈現(xiàn)指數(shù)式增長。深度學習代表了機器學習的一個重要升級，但沒有證據(jù)證明，這樣的升級代表了強人工智能快速發(fā)展的開始。科學研究并不是容易的事情，但是并不能完全否定人工智能的指數(shù)式增長不能成為真實。我們現(xiàn)在做的并不應該是盲目的恐懼，更應該是迎難而上、知難而進，去制造更好的制度，去創(chuàng)造更美好的明天。

基于現(xiàn)在的技術(shù)，我們顯然已經(jīng)清楚人工智能比我們?nèi)祟惖拇竽X要更加聰明，存儲信息量更大，基礎(chǔ)性工作能力更強。這使我們的藍領(lǐng)、白領(lǐng)們的壓力非常大，這種壓力是人工智能技術(shù)發(fā)展的必然，而我們又要反問，我們?nèi)祟惖降妆热斯ぶ悄芤獜娫谑裁吹胤剑渴恰皭邸薄Ｈ祟悡碛袗廴伺c被愛的能力，就是這種能力讓人類擺脫愚昧，讓人類看重這一整體，也讓人類彼此息息相關(guān)，心心相惜。

人工智能的發(fā)展讓人類驚嘆也促使人類去尋求解決辦法，大概一個世紀以前美國的科學家、科幻小說家伊薩克·阿西莫夫提出“機器人三大律法”，這是首次人類直面機器人可能存在的威脅。在道德層面上阿西莫夫提出的律法為我們今天在道德上規(guī)制機器人類提供了基礎(chǔ)的框架，應該在這一框架的基礎(chǔ)之上建構(gòu)一個更加周延的體系，對現(xiàn)代人工智能的發(fā)展給予一個道德上的指引和道德標準。

（二）以法律制度為保障

首先，是人工智能的安全問題。人工智能是基于大數(shù)據(jù)而發(fā)展起來的產(chǎn)物，其中存在大量的與我們生活相關(guān)的數(shù)據(jù)或是我們自身的數(shù)據(jù)信息，那么如何保障信息安全是一個重大的問題。現(xiàn)階段，最好對人工智能的開發(fā)者責任加以嚴格的限制，通過開發(fā)者這一源頭切斷信息泄露風險。

其次，在人工智能急速發(fā)展的中國，雖然已經(jīng)全面的論述了人工智能的發(fā)展，但是還沒有上升到國家戰(zhàn)略層面。美、日、韓、歐盟等已經(jīng)將人工智能技術(shù)的發(fā)展列入國家戰(zhàn)略中，中國也應緊隨其后，為國內(nèi)迅猛發(fā)展的人工智能產(chǎn)業(yè)提供一個整體的道德指引、法律基礎(chǔ)和發(fā)展前景的概括性規(guī)劃。

最后，規(guī)范人工智能在法律中主體地位。是統(tǒng)一適用一個標準，還是在不同的法律關(guān)系中做不同的考量，固定下來的制度更有利于人工智能的發(fā)展。人類與人工智能的法律關(guān)系與法律地位需要立法者對這一問題加以考量與研究，為未來的人工智能發(fā)展的法律規(guī)制做好未雨綢繆。

四、結(jié)語

在人工智能這個橫沖直撞、撲面而來的未來面前，人類會遭遇前所未有的挑戰(zhàn)。但人類不正是從各種挑戰(zhàn)中一路走來，掙扎奮起的嗎？人工智能的大腦確實比人類強大，但相比于人工智能，人類最大的優(yōu)勢在于創(chuàng)造力和同情心，讓人工智能做它所擅長的，也讓我們?nèi)氖赂喔挥型樾牡墓ぷ鳌Ｎ磥聿⒉皇浅錆M恐懼，以法律為基礎(chǔ)，以道德為指引去規(guī)制人工智能所帶來的問題，敢于直面未來！

參考文獻：

[1]吳漢東.人工智能時代的制度安排與法律規(guī)制[J].法律科學（西北政法大學學報），2017，35（5）：128-136.

[2]郭明瑞，房紹坤.民法（第四版）[M].北京：高等教育出版社，2017.

[3]喬雪吟.人工智能時代的制度安排與法律規(guī)制[J].法制博覽，2019（8）：251.