管窺人工智能應用中的侵權責任

許幸麗　王艷華

摘要]隨著大數據與人工智能的浪潮席卷全球，人工智能技術迅猛發展，手術機器人被廣泛應用于醫療領域。手術機器人具有提高手術精確性、安全性、創新診療模式、減少醫生繁雜工作量等技術價值與社會價值。但其最大的問題是手術機器人技術安全漏洞產生的醫療損害所引發的責任承擔難題。當手術機器人不再被簡單的認為是人類工具的延伸時，傳統醫療損害責任歸責體系難以適應，需要亟待完善責任規則，明確手術機器人是否具有法律主體資格，確定其產品屬性、責任主體范圍，在歸責原則方面以無過錯責任原則來認定責任，以實現科技創新和權利保護間的平衡。

[關鍵詞]人工智能;手術機器人;民事主體;侵權責任

[中圖分類號]D902[文獻標志碼]A[文章編號]2095-0292（2021）05-0025-05

一、問題的提出

當我們在享受人工智能日新月異的變化給我們帶來的便捷時，一些棘手問題也橫亙于我們眼前，對現有的法律規則和法律秩序帶來一系列挑戰，甚至可能會帶來一場法律革命的變革，如隨著人工智能的自動性、適應性、規模性不斷增強，自動駕駛汽車、手術機器人“飛入尋常百姓家”，但由于現行的《侵權責任法》調整規制的是人的行為，責任承擔主體也為自然人或者單位，并沒有將責任分配給機器人的法律規定，因而對于人工智能適用現有的《侵權責任法》，可能會導致受害人或者其近親屬無法就其遭受的損害尋求充分的救濟，甚至無法找到侵權責任主體來承擔責任，對于被侵權人的權利保障或我國提倡的人工智能的發展來看，將會產生人機協作遭受詬病。

據研究報告顯示，手術機器人在醫療領域中的應用日愈廣泛，認知智能取得進一步發展，并成為醫療行業新興熱點。在國務院頒布的《新一代人工智能發展規劃》提出的保障措施中，為應對人工智能發展可能帶來的系列變革與挑戰，形成適應國際化人工智能發展的制度，需要制定促進人工智能發展的法律法規，以加強人工智能發展帶來的社會問題研究，建立保障人工智能健康發展的法律法規框架，開展與人工智能應用相關的權利、義務、責任等法律問題研究。在自動駕駛汽車、手術機器人等應用領域，加快研究制定相關責任風險法規，為新技術的快速應用奠定法律基礎。

基于此，本文主要討論對于人工智能引發的損害，侵權責任是否可以歸責于自然人、單位或者必須要在民事主體之外的人工智能之間進行責任分配，我們是簡單規避對于人工智能引發的損害，直接規定由人工智能的所有者或者使用者承擔損害責任，違背“行為與責任同時存在”的基本原則;亦或賦予人工智能電子人格，其法律明文規定直接由人工智能機器人享有權利并承擔義務。學者袁曾就表示人類必須為自己的行為付出代價，人工智能同樣如此，并不因為人工智能并非人類就可以逃脫法律制裁，總要有主體為做出的行為負責。[1]

對于人工智能機器人引發的損害，侵權責任的承擔主體，適用何種歸責原則，理論界學者論述不一，爭議較大。筆者不惴陋見，以手術機器人的侵權責任為研究主題，探討《民法典》侵權責任編該如何進行責任認定、風險規制與責任分配。

二、手術機器人責任主體的甄別

（一）爭論焦點：手術機器人可否就損害后果獨立擔責

法律責任的認定，首先需要明確責任主體。[2]在醫療事故中，手術機器人造成的損害究竟應該由誰來承擔侵權責任，是根據侵權責任編醫療損害責任規定，由醫療機構承擔責任，抑或規定由產品的生產者或者銷售者承擔侵權責任。由于手術機器人在診療過程中，醫生承擔了人機協作的輔助者功能或者設計指令由手術機器人完成某些復雜的醫療活動，可以說手術機器人是主要的完成者。在此種情景之下，手術機器人能否獨立承擔責任，我們需要考慮手術機器人是否可以像醫療機構、生產者或銷售者一樣具有承擔侵權責任的民事主體資格。

現階段來講，學理界對于人工智能法律主體地位的學術研究尚集中在討論是否賦予其人工智能主體地位，主體說與客體說的爭論局限在我國《民法典》對民事主體的定義和目前人工智能的發展水平是否相匹配，并且有限的理論研究大多也是在相互借鑒，無論是支持一方還是反對一方都沒有充足的理論基礎，且相互詬病，在研究過程中陷入悖論。筆者認為在探討是否賦予人工智能民事主體地位時，不應空中樓閣，局限于象牙塔中，要想研究人工智能的法律主體資格，當然要根據人工智能的發展階段，在法律的視角下定義人工智能。我們撰寫本文的目的在于提供一些思考并在發生此類糾紛時提供一種解決思路，因而本文主要探討的是在弱人工智能時代手術機器人的侵權責任。

（二）民法視閾下主體身份判斷：不具有主體地位

如前所述，學術界對于手術機器人的法律地位尚未有統一的定論，主要分為主體說和客體說。根據《民法典》的規定，能夠作為民事主體參與民事法律關系的有自然人、法人和非法人組織，從其定義來看，很難將手術機器人劃分為享有權利承擔義務的民事主體。自然人是基于自然生理規律出生的人，是權利義務的當然主體，[3]而法人和非法人的主體資格則是基于法律擬制，申言之，法人、非法人組織成為法律主體資格是基于調整法律秩序的需要。從法理學的角度來看，自然人是權利義務的當然主體，具有獨立的意識，而手術機器人是接受程序指令進行活動，其中外科醫生控制臺是手術機器人運行的中樞系統。從本質上來講手術機器人是基于人的算法運行，對數據進行處理，反映人類自我意識和對象意識，體現和固化虛擬現實。[4]因而對比民事主體的定義可知，手術機器人不具有自然人所特有的自然屬性及理性，自身并無獨立存在的價值和獨立意識，不過是為社會發展的需求而創設，因而不能享有與自然人相同的法律人格。

法律主體存在二元結構，即自然人與非自然人，[5]手術機器人是否可以擬制為法律主體，亦有爭論，其中持肯定說的大致基于以下三種理由。貢獻說認為人工智能為社會發展做出了巨大貢獻，為人類提供了便捷服務，為了更好地規范及應對人工智能發展過程中出現的法律問題，救濟被害人權利，我們可以將其擬制為法律主體;構造類似說主張人工智能是由“所有者”以貨幣、非貨幣財產出資或提供知識產權研發出人工智能，即人工智能與法人、非法人組織具有類似的構造，[6]可以參照法人制度賦予人工智能法律主體資格，稱之為法人。第三種觀點則借鑒歐盟規定，主張為避免與國際脫軌，可以參考國外的法律規定，賦予人工智能主體資格。[7]否定說則主要有自我意識說、責任分擔說，其中持自我意識說的學者認為人工智能是科技的產物，基于設計者設定的程序或者大數據的分析而認識事物。[8]如龔凡為人工智能編入代碼而模仿人類為撒貝寧吟詩一首，博得滿堂彩，但其認知范圍和自身能力也是有限的，更不具有自我獨立意識，而法人通過機關法定代表人或成員的意識使法人的意識得到表現。責任承擔說的學者意見為若賦予人工智能法律地位，手術機器人無法進行指令操作或者發生不可預見的技術故障時，對患者造成不可逆的人身損害。手術機器人與其他民事主體需要對患者共同承擔責任，屬于多數人侵權，事實上多數人的侵權責任在當事人之間分配是一個復雜問題，包括侵權行為過失相抵、侵權責任形態，[9]如前所述，人工智能不具有人類的抽象情感，在侵權過程中不存在故意或過失，導致最終的責任承擔歸于設計者、生產者或者產品使用者，使得手術機器人擬制的法律主體資格流于形式。手術機器人無獨立的財產，人類需要對脫離控制的手術機器人承擔責任，[10]與不具有民事主體資格的手術機器人截然不同的是，法人責任制度是是法人主體資格認定的內在根據，[11]法人具有獨立的人格，可獨立承擔民事責任。

人工智能是一個動態的發展過程，回歸目前的技術水平，支持賦予人工智能法律地位的學者過于化繁為簡，認知存有誤區，缺乏相應的現實基礎和理論論證。學者無法回答若賦予手術機器人主體資格，責任如何承擔，另外手術機器人不具有人類的抽象情感，故意或過失的主觀心理無法界定，無法進行責任劃分，會引起侵權責任體系的紊亂。

三、手術機器人的侵權責任機制

誠如前述，當前的法律并未賦予手術機器人法律主體資格，即在弱人工智能時代，如何自洽的適用現行法律，探究其在侵權關系中的歸責原則，認定責任主體，需要探討。

（一）手術機器人致人損害的責任承擔

在民法二分法體系下，權利主體和權利客體的地位明確，且無法互相轉換。人機協作的手術模式中，法律不可能對手術機器人的思維、行為以及責任承擔層面產生影響，申言之醫療損害中，賠償責任無法在手術機器人、使用者、生產者之間進行責任分配。然而手術機器人作為手術的主要操作者或者輔助者侵犯患者生命權或者健康權的案件不乏一二，在其無法承擔賠償責任的境況下，為保障受害者權益，應當說明及明確在不違反行為與責任同在的原則下，是否可以追究醫療機構、產品生產者、銷售者的侵權責任。

1.產品生產者與銷售者責任

《人工智能安全與法治導則（2019）》（以下簡稱《導則》）中明確提出：當前人工智能仍處于弱人工智能時代，其產品定位是“工具”，人工智能的設計者、生產者、運營者、使用者承擔法律主體責任。從表面看，該《導則》通過構建人工智能的產品屬性，即人工智能雖然更加廣泛地參與民事活動，但其本質依然通過人類創造生產而擁有“生命”，明確手術機器人的客體地位。毫無疑問，有損害必然有責任，在手術機器人引起的醫療事故中，由于手術機器人被認定為科技產品，機器人以及機器人技術內部缺陷造成的損害，完全可以根據產品責任規則進行調整，由生產者、運營者、使用者承擔責任。

法律中的責任問題，究其根本就是對侵權行為的責任分配問題，[12]手術機器人致人損害的責任分配問題，大致可以分為兩種。第一種可以歸為外部侵權，即手術機器人進行系統操作時，侵權人試圖控制系統或者打斷操作過程，手術機器人從而變成侵權人的利劍，人工智能技術的不成熟，使得手術機器人程序更容易被攻擊。在此種境況下，手術機器人引發的醫療損害的責任承擔主體毫無疑問的應有侵權人承擔，我們對此不再贅述。復雜的是第二種情況，即手術機器人自身的技術缺陷而引發的醫療損害。在英國一例由手術機器人引發的醫療損害案例中，醫院在指令手術機器人給患者做心臟手術過程中，手術機器人將病人心臟放錯位置進而戳破病人的動脈，系統失靈后拆掉手術縫線，最終導致該患者一周后死于非命。

不可否認的是，對于手術機器人引發的醫療損害，無論是創造者技術漏洞的緣由，抑或生產者、銷售者的不當生產銷售，甚至是手術機器人自身原因力引發的醫療損害，都需要查找侵權責任承擔主體，[13]

同時，手術機器人的產品屬性明確，學者阿薩羅為尋找可能的法律解決途徑創新性指出，手術機器人及機器人技術造成的醫療損害，可以利用民法中產品責任的相關法律進行規制調整，因為機器人一般被視為科技意義上的產品。基于手術機器人的產品屬性，依據相關的法律要求，產品的缺陷、產品警告的缺失等歸責主體必然涉及生產者、銷售者主體，我國的《產品質量法》、侵權責任編都對此做出規定，即手術機器人若存在產品缺陷，手術機器人的生產者和銷售者存在過失，沒有盡到合理的注意義務，造成他人人身、財產損害的，則生產者、銷售者需要承擔相應的責任。

2.醫療機構責任

與其他人工智能產品截然不同的是手術機器人被適用于更加復雜的醫療領域，被稱為頂尖上的技術革新，然而這亦是最大的風險。筆者通過檢索發現，手術機器人引發的醫療事故雖尚不足以顛覆我們的技術藍海圖景，但螞蟻撼象，手術機器人也給醫療機構帶來諸多麻煩，隱患叢生，以四川省人民醫院為例，頻頻被訴諸被告。在手術機器人引發的損害中，有一個值得我們需進一步思索的現象，法官在判決這類案件時，不約而同的適用醫療損害責任且集中在醫療機構過失責任方面，將醫療機構的過錯做為兜底性條款，包羅萬象，而醫療產品責任卻鮮有提及。可見我國法官在解決此類醫療糾紛案件時，尚未承認手術機器人的醫療產品定位。[14]

從反面論證，若手術機器人引發的醫療損害適用侵權責任編中醫療機構過錯責任的醫療技術損害，否認手術機器人本身缺陷引發的醫療產品損害，則是賦予手術機器人主體地位，邏輯又是自相矛盾的。可見手術機器人引進醫療領域，由于醫療機構這一特殊主體的介入，實際上醫療損害的發生就兼具了產品責任以及醫療損害產品責任的多種責任屬性。醫療機構作為手術機器人的操控者，在整個應用過程中作為算法的輔助者，參與度較高，從這個視角看，醫療機構作為醫療損害的責任主體是言之鑿鑿的。其次醫療產品損害中對醫療機構的歸責原則采取不真正連帶責任，類似于產品責任中銷售者的角色定位，將醫療機構納入人工智能產品損害的責任主體范圍更便于救濟患者權益，患者通過舉證手術機器人存在不合理缺陷，使其損害賠償最終歸屬于手術機器人產品的使用者—有過失的醫療機構，生產者和銷售者的侵權責任形態。

3.適用產品責任抑或醫療損害責任

在法律行為侵犯同一民事權益而承擔侵權責任時，可能引發不同責任規范同時適用的責任競合難題，[15]通過前文研究，我們得出手術機器人的法律定位屬于“產品”這一法律范疇，當手術機器人致人損害而尋求責任救濟時，就會產生責任競合的差異，主要表現為產品責任抑或醫療損害責任，具體有哪一方承擔責任，需要對現行理論觀點按圖索驥。

對于手術機器人侵權責任承擔，學者素有爭議，可歸納總結為產品責任、醫療損害責任。根據《產品質量法》的免責條款規定，產品流通時的科學技術尚不能發現缺陷存在的，生產者和銷售者可以據此免責，而缺陷產品的認定對于不了解其背后工作原理的受害者來說如同霧中看花水中探月，不具有現實性。相對于醫療機構而言，作為手術的全程參與者或者說是醫療糾紛的親歷者，應了解手術機器人是否存在缺陷，進而對這場危險的開啟者進行監督。

司法實踐中，對于醫療損害責任規定，前文已引而述之，在檢索的五例因手術機器人引起的醫患糾紛中，法官以手術機器人作為一項危險性技術而要求醫療機構承擔醫療技術損害，以實現患者權利救濟與醫療損害之間的平衡。這種觀點初看似有一定的合理性，但細細推敲不免讓人疑慮叢生，對于其辯駁上文已進行羅列，不再贅述，筆者私以為對于手術機器人引起的醫療損害，以醫療技術損害原則追究責任主體更符合權利救濟目的。

（二）手術機器人致人損害的歸責原則

在探究手術機器人的應用領域與侵權責任時，是確定該侵權責任處于何種歸責原則之下， 因為歸責原則不同， 侵權責任的損害賠償會有差異，[16]侵權責任編確定了由過錯原則和無過錯責任原則兩大歸責原則組成的用以確定行為人民事責任的標準。

回歸人工智能設計的初衷，其目的是為社會提供便利，便捷服務是人工智能系統的價值觀，而過錯責任原則是以行為人主觀上存在過錯為前提構成要件，[17]因而過錯責任原則是無法適用于手術機器人參與的醫療損害中。進一步而言，對于不能歸咎于人機協作模式中醫生的過錯，過錯責任原則對于手術機器人實施的行為不具有約束力，因為過錯責任原則真正約束對象是理性人的行為，與手術機器人無關。另一方面過錯推定原則作為過錯責任原則的特殊形態，法律對其適用通過列舉式規定予以界限明確，其中可適用醫療損害中的過錯推定也僅僅限于“違反診療規范的法律、法規、規章”，“隱匿或者拒絕提供與糾紛相關的病例資料”以及“偽造、篡改或者銷毀病例資料”，依據體系解釋來看，過錯推定原則條款后并未使用“等”“法律規定的其他情形”的字眼，這就是說，手術機器人引起的醫療損害中沒有過錯責任原則適用之基礎。

歸責原則作為責任分配之度量，體現著侵權責任法的公平與正義，然而在適用過錯原則具體分析人工智能引起的醫療損害中，不難發現這是一段艱難的路程，過錯責任原則受到諸多挑戰。無過錯責任原則因嚴格責任而成為受害人權益保護之圭臬，對于無法歸咎行為人的過錯或不存在行為人過錯的糾紛，無過錯責任原則便有了進行規制的可能。依據侵權責任編的特別規定，產品責任實行無過錯責任歸責原則，只要產品存在缺陷造成他人損害，手術機器人引起的醫療糾紛便可適用產品責任，申言之產品責任就已成立。[18]

從目前人工智能技術成本、立法回應、普遍使用程度以及社會可接納度尚有待完善和推廣的實際社會現象下，手術機器人致人損害適用無過錯責任原則，具有合理性，其原因在于人工智能系統的可靠性、穩定性對于手術機器人的使用者而言安全適用至關重要。而生產者是系統設計的命運決定者，在此利益鏈條循環下，對生產者適用嚴格責任具有一定的合理性。此外，技術的快捷使得絕大部分患者并不了解手術機器人層面背后的知識，而手術機器人不過是為患者的需要而設計，其在無人問津時并不具有自身獨立價值。在無法回避手術機器人技術引發的問題時，無過錯責任原則才能讓手術機器人的設計及生產全程處于監管之下，以機制約束生產者、銷售者，進而推動技術修正。

四、結語

手術機器人致人損害引起的醫療侵權責任作為一種新型、復雜的侵權責任類型，是技術發展背景下引發出來的新客觀現象，而法律的滯后性必然導致對現有的侵權法體系引起一系列挑戰。本文通過對手術機器人主體地位的甄別，判定在弱人工智能時代，基于立法成本、自身屬性和技術發展的考量，手術機器人不宜界定為民事主體，其本質屬性仍為物。手術機器人醫療損害糾紛案中，介于手術機器人應用領域的特殊性，由醫療機構承擔不真正連帶責任，患者向醫療機構請求賠償的，醫療機構承擔賠償責任后，根據規定向生產者、銷售者進行追償。最后手術機器人侵權的歸責原則應適用無過錯責任原則，手術機器人具有科技產品屬性，生產者、銷售者因手術機器人的使用而盈利，就應當承擔更嚴格的責任、履行更高的要求而適用無過錯責任原則。

[參考文獻]

[1]袁曾.人格智能有限法律人格審視[J].東方法學，2017（5）：53.

[2] 孫占利.智能機器人法律人格問題論析[J].東方法學，2018（3）：16.

[3] 梁慧星.民法總論[M].北京：法律出版社，2017.

[4] 余乃忠.自我意識與對象意識：人工智能的類本質[J].學術界，2017（9）：97-98.

[5] 吳高臣.人工智能法律主體資格研究[J]自然辨證法通訊，2020（6）：20-26.

[6] 李想，楊梅.人工智能法律地位的審視—基于實質與形式要素之考量[J]濟源職業技術學院學報，2017（7）：31.

[7] 曹建峰.10大建議！看歐盟如何預測AL立法新趨勢[J]機器人產業，2017（12）：17-20.

[8] 劉洪華.論人工智能的法律地位[J]政治與法律，2019（1）：17.

[9] 楊立新.多數人侵權行為及責任理論的新發展[J]法學，2012（7）：42.

[10]楊清望，張磊.論人工智能的擬制法律人格[J]湖南大學科技學院學報：社會科學版，2018（6）：95.

[11]宋才發法人主體資格認定的法律探討[J]華中師范大學學報：人文社會科學版，1998（7）：21.

[12]約翰·弗蘭克·韋弗.人工智能機器人的法律責任[J]財經法學，2019（1）：140-142.

[13]吳漢東.人工智能時代的智能安排與法律規制[J]法律科學：西北政法大學學報，2017（5）：132.

[14]丁璐人工智能體醫療損害責任分析———以達芬奇手術機器人為例[J]北京化工大學學報：社會科學版，2020（1）：69.

[15]張家勇.中國法民事責任競合的解釋論[J].交大法學，2018（1）：5-11.

[16]崔建遠.論歸責原則與侵權責任方式的關系[J].中國法學，2010（2）：40.

[17]劉曉璇，張虎.論人工智能的侵權責任[J].南京社會科學，2018（9）：107.

[18]寧金成，李瑞升人工智能致損對傳統侵權責任法的挑戰及立法回應[J].電子科技大學學報：社會科學版，2021（1）：40-45.

Tort Liability in Artificial Intelligence Application——Take Surgical Robot as the Starting PointXU Xing-li，WANG Yan-hua

（School of Law，Zhengzhou University，Zhengzhou 450001，China）

Abstract：With the boom of big data and artificial intelligence sweeping the world and the rapid development of artificial intelligence technology， surgical robot has been widely used in the medical field. Surgical robot has the technical and social value of improving the accuracy and safety of surgery， innovating the diagnosis and treatment mode， and reducing the complicated workload of doctors. But the biggest problem is the liability for the medical damage caused by the security loopholes of surgical robotics. When surgical robots are no longer the simple thought is the extension of human instrument， traditional medical damage liability imputation system is difficult to adapt to， liability rules， it is necessary to reform the need to clear whether surgery robot has legal subject qualification， determine its product attributes， scope of responsibility main body， in terms of imputation principle to no-fault liability principle to identify responsibility， To strike a balance between technological innovation and rights protection.

Key words：artificial intelligence; surgical robot; civil subject; tort liability

[責任編輯孫蘭瑛]

[作者簡介]許幸麗，鄭州大學法學院碩士研究生，研究方向：民商法學;

王艷華，鄭州大學法學院副教授，研究方向：民商法學。