A.I.時代的法律責任思考
——以ANI為例

姚迪燁

云南師范大學商學院，云南 昆明 650032

一、問題的提出

隨著近年來世界經濟不斷蓬勃發展，人類生產力不斷解放，人類工業領域的傳統模式“人操作機器人進行工作”已逐漸被“機器人操作自己進行工作”所取代。再加之人類科技水平的不斷提高，短短20余年時間，上世紀末的計算機算力已與現在不可同日而語，若以普通人類的大腦算力作為參照，現今的家用PC已輕松超越，在社會各個領域，正在進行著一場場“人工智能革命”。智能機器人不管在各方面都能輕松超越人類，實證就如2016年3月韓國“國手”李世石，與Google公司研發的圍棋機器人AlphaGo博弈棋藝數回合后以1：4的成績慘敗。諸如此類的事實在我們身邊不斷發生，所以我們不得不深思，按現今不算發達的科技水平來看人工智能都已如此卓越，那么在半個世紀甚至是一個世紀之后，彼時的人工智能又會發展到一個什么地步？會超越作為偉大“造物主”的人類？還是會發展到奴役我們人類？伴隨著一系列的問題的是來自內心深處的深深寒意。但我們也無須過度悲觀，因為人工智能可以協助我們人類提高生產效率已是一個不爭的事實，且智能機器人的誕生也可代替我們去從事許多危險作業，所以，我們應當充分看到其優點，并在此方向上朝著人類所希冀看到的場景去努力。

伴隨著技術爆炸，現今的法學理論與法律制度正面臨著難以避免的沖擊。本文著重于探討在A.I.時代，人工智能機器人、設備的法律責任問題，即在A.I.時代，人工智能機器人是否擁有自我意識或是自我意志？若它有的話，當它實施傷害行為時，法律責任該如何認定？——由它自己承擔責任？或是由它的所有者承擔責任？而由于人工智能的法律責任認定尚屬于一個有爭議、比較模糊的問題，故本文在探討人工智能的法律地位、法律責任時，以ANI來作為引例。

二、人工智能與法律責任

（一）人工智能的定義

人工智能即A.I.，是使電腦或機器具備人類的普遍智慧行為，以解決需要人力完成的工作。但筆者認為此解釋過于籠統，因為在現今中外各方學者的探討下，人工智能尚無一個準確的、清晰的定義，故而筆者認為若在此對人工智能下定義，應借鑒最早點明人工智能是“什么”的人工智能之父—艾倫.M.圖靈提出的觀點。

艾倫.M.圖靈曾于1950年提出過圖靈測試，其大概含義是指，在一個空間內將一臺機器與一名人類（被測試者）互相隔離開，由另一位人類（測試者）通過一定的不用與被測試者直接接觸的媒介向被測試者隨機發問，若由被測試者反饋回的答案使測試者不能分清這是出自一臺機器還是一名人類的回答時，并且這種誤判超過總問題占比的30%時，此時就可認為這一臺機器具備人工智能要素［1］。圖靈認為，可以使一名正常的、具有普通判斷力的人類感到困惑的機器，可以認定其是人工智能機器。此外，在1956年的達特茅斯會議上約翰.麥卡錫再次定義了人工智能，并提出了人工智能在高度與深度上發展的可能性。而根據各國研究人工智能的學者的進一步研究，人工智能在類型上可以分為三種：即人工弱智能（ANI）、人工一般智能（AGI）、人工超智能（ASI）［2］。ANI代表了現今人類科學技術所能制造的所有智能機器與設備，它可以協助人類進行普通的生產生活作業，但同時它能從事的工作也相當有限，僅限在人類對其編程的范圍之類。AGI則代表了人工智能體完全像人類一樣學習、感知、理解知識與事物，使人工智能等同于一般人類。ASI則代表了人工智能體在一切人類所具備的能力上碾壓普通人類，這可能標志著人工智能研究的頂峰時期，但同時也意味著人工智能開始對人類存在產生威脅。

就現在來看，人工智能已經在這個時代占據了一席之地，分布在我們的社會的各行各業之中。而從當下的科學技術水平與政治、經濟、文化、社會因素綜合考量出發，當下研究的主要對象是比較普遍的ANI即人工弱智能，而對于AGI與ASI方面的研究，還要等待人類科學技術水平的進一步提升才能開展。所以本文主要針對的對象是ANI及其普遍形式。

（二）法律責任

法律責任一詞，是由“法律”與“責任”兩個獨立的詞組合形成的專門法律術語。根據辭書的解釋，責任一詞是指一個人本應做的事，或者一個人對其做的事本應承擔的結果。而在法學范疇內，法律責任是指由特定法律事實所引起的對損害予以補償、強制履行或接受懲罰的特殊義務［3］?；厮莘韶熑沃举|，即法律責任“是什么”與“為什么”的問題，而對于法律責任本質的研究，現有三種影響較大的不同理論：即道義責任論、社會責任論、規范責任論。其中筆者比較贊同規范責任論的觀點，即認為法是指引與評價人之行為的規范，所以應對符合規范的行為表示肯定，而對不符或違反規范的行為表示否定。對于人類來說，趨利避害是天性，若一部法律被公之于眾后，大多數人會選擇遵循現行法律的規定，選擇獲得由法律給出的肯定性的評價。但對于人工智能機器人來說，它無法做到擁有人類一樣的認識能力與判別能力，即它無法判別一件或一個抽象的事物對于自身的存在是有利還是有弊，它也無法像人類一樣希望尋求外界的肯定評價而不是否定評價，它所能做的，就只有是按照它的生產者或銷售者或使用者的指令來行事，這個指令可以是一個具體的目的，或是一個寬泛的范圍，但它絕不可能按照自己的意志主動行事，因為它并不具有自由意志，它的生產者或銷售者或使用者的意志就代表了它自身的意志。

自由意志，強調一個人只對出自自己自由意志支配下的行為負責，若一個人不具備自由意志，那么其行為將不會產生法律上的效果［4］。大衛·休謨認為，一個人所做出的行為并非突然由上帝決定，或是他的神經系統毫無緣由地下達一個莫名其妙的命令，他所作出的行為很大程度上取決于他的性格和喜好等因素［5］。人類尚存可決定其行為的因素，且普遍意義上說這些因素并不能成為一個人的免責事由，那么作為被人類制造出來的ANI，更不可能因為任何理由免責。若ANI在損害他人的合法利益，甚至是犯罪后，它的法律責任如何歸屬，已經有了一個清晰、明確的指向。

三、人工智能法律責任的歸屬

在研究ANI的法律責任的歸屬之前，應明確它的法律地位。對此，有學者認為，應賦予它與法人相當的，法律擬制的法律地位［6］。但筆者認為，ANI不具備法人的法律特征，更不能以自己的意志來進行一定的行為，來向受害者進行賠償，所以它不應當被認定為法人，或是法律暫不應為其擬制法律地位（就現在的ANI來說），應將ANI視為一種特殊的動產更為合適。因為其本身不具備任何的自主意識，其行動范圍也是僅在它的所有者指令范圍內。所以，ANI應屬于一種特殊的物，它是器物發展的極致階段［7］，因此它的所有者對其享有所有權，所以，若ANI需承擔法律責任，應由其所有者承擔。

在將ANI定性為一種特殊性質的物的同時，應當嚴格遵循技術中立原則［8］。即不將價值判斷加之于人類的科學研究及相關的技術、機器或設備，也不用是否合法的標準來評判。若用一種二元性的觀點去看待技術、機器或設備，可能并不利于這些新事物的發展，甚至可能在它尚未為人類所充分利用之前就已經被扼殺于搖籃中。這些技術、機器或設備，或許只是人類去認識與改造世界的一種輔助性工具，其本身不存在人類原初道德觀念中的對與錯、是與非、善與惡，其對人類社會或人類發展產生積極效果或是消極效果取決于使用者的意志，即使用者利用它去做合法、有利于人類的事，那么我們可認定其是有利的；使用者利用他去做違法、損害人類生存、生活利益的事，我們可認定其是有害的。由此可見，在針對ANI侵權或犯罪案件中，我們或許無須過多關注造成損害的ANI這一“工具”，而是要更多地關注其所有者的主觀因素。

主觀過錯是認定一個案件，認定法律責任歸屬的不可或缺的組成部分之一。現代社會將主觀過錯作為法律責任構成的要件之一，不同的主觀心理狀態與認定某一行為是否有責及承擔何種法律責任有著直接的聯系［9］。在認定ANI的侵權案件中，或可借鑒現行《中華人民共和國侵權法》中關于特殊侵權的相關規定，認定所有者對其所有的ANI承擔無過錯責任，因所有者本應當在使用其機器人、設備時就對其使用范圍加以嚴格限制，并且應當對機器人、設備可能造成的損害他人權益的隱患抱有積極預見的態度。在此，馬修U.謝勒曾提出過一個關于人工智能侵權的認定因素模型，即在認定人工智能侵權時因加入自主性、可預見性和因果關系三個因素綜合考量［10］，因果關系本就是法律責任的一個重要構成部分，所以在此不加以贅述。自主性是指ANI是否會做出其所有者對其下達指令范圍外的行為，但就當前來說，普遍的人工弱智能并不具有超越人類指令或超越其本身程序范圍外的能力，所以自主性因素尚還值得商榷。可預見性則是指ANI的所有者有義務對ANI所做的行為、行動軌跡在時間、空間的發展維度上有一個預見，并且其所有者有義務去制止ANI做出不利于人類、不符合人類普遍道德觀的行為，筆者認為，可預見性這個標準值得我們借鑒。

對于ANI犯罪案件，嚴格來說，應當是其所有者利用它去犯罪的案件，主觀意圖亦是一個至關重要的要件。上文已述，筆者不認為現在的ANI具有自主行動，甚至是自主確立自己意識形態、價值標準的能力，所以究其所有，如若ANI涉嫌某罪，其本質還是與人類用于輔助自己進行犯罪的其他犯罪工具別無二致，例如用刀、槍非法剝奪他人生命，用鐵絲、鑷子盜竊他人財物等，只是其更具備智能化這一特點。關于此，約翰·金斯頓認為，人工智能似乎不太可能會因為具備知道該犯罪行為正在發生的認識而違反法律，但它很有可能會違反“理性的人應當知道”的法律規定［11］。對此筆者認為，正因為ANI進行犯罪時不具備認識能力，不能認識到它自己正在做或即將做的行為是否符合法律規定的，但其又確實做出了犯罪行為，造成了法律應當對其譴責的后果時，法律不應當譴責一個“非生命人造體”，而應當評價其所有者的行為?？梢哉f，ANI的行為即代表了其所有者的行為，而為了避免法律遺漏評價的現象出現，我們應當將人工智能犯罪后的刑事責任嚴格歸責于其所有者，包括其所有者和附維護、修繕它的義務的人員。

四、結語

人工智能相關科學理論、技術的不斷提出，以及其他相關的前沿科學技術如3D打印機技術、基因改造技術等，確確實實為我們的世界帶來了新鮮事物。但我們在看到機遇的同時，也要重視一系列科學技術帶來的不小挑戰。在今時今日，“技術爆炸”無時無刻不發生在每一個科學領域之中，或許今日的理論、學說就可完全推翻昔日的一切，正如哲學家勒內.笛卡爾所說：“我們要懷疑一切值得懷疑的事物”?；蛟S，我們在進行對ANI的法律責任研究之前，應當著手起草規范人工智能領域的相關規則，如馬修U.謝勒在其國范圍內提倡《人工智能發展法》，用一部可以引據的法來指引人工智能領域的發展。值得慶幸的是，我國于2019年6月17日發布的《新一代人工智能治理原則——發展負責任的人工智能》是我國在人工智能領域蓬勃發展的積極苗頭，相信在不遠的將來，人工智能領域在中國不再只是一個遙遠與模糊的概念。所以，確立人工智能領域的相關規范，對于推動我國經濟、社會及生態可持續發展，共建人類命運共同體來說，是一個必行之事。