醫療人工智能侵權行為法律規制研究*

談在祥 蔣雨彤

1 醫療人工智能侵權責任法律研究背景

醫療人工智能(medical artificial intelligence，MAI)作為一種新興醫療保健工具，為降低醫療成本、診療患者和未來醫學發展提供了前所未有的機遇[1]。在智能診療方面，IBM 公司已研發出可以診斷癌癥的 Watson 機器人，其診斷準確率可超過臨床醫生[2-3]，一項研究報告稱，人工智能（artificial intelligence，AI）對乳腺癌腫瘤的正確檢測率為92.4%，而人類醫生的正確檢測率僅為73.2%[4-6]。在智能手術方面，Intuitive Surgical 公司開發出了世界一流的外科手術機器人“達芬奇機器人”，通過使用微創的方法，代替醫生實施復雜精準的外科手術[7]。在智能緊急醫療資源調度方面，Corti 是一種用于管理和優化哥本哈根醫療資源緊急調度過程的技術[8-9]。在智能個人健康管理方面，由巴比倫健康中心提供的應用程序GP at Hand，用于評估患者已有癥狀和風險因素，并提供已知的醫療信息以及保持健康的建議[10-11]。

在推動技術革新與醫學發展的同時，MAI 也帶來了許多問題。例如，美國食品藥品監督管理局（Food and Drug Administration，FDA）在2007 年收到了200 余次投訴，指控醫療外科手術機器人導致患者遭受燒傷、切割傷與感染，甚至造成89 例死亡事故[12]。在英國2015 年首例“達芬奇”心瓣修復手術中，機器人對患者心臟的縫合位置和方式都不對，甚至還戳穿了患者的大動脈。隨著MAI 的飛速發展，這類侵權行為將持續增多，給民事責任的歸責帶來一系列問題。然而，由于MAI 的算法不透明性、學習自主性、行為獨立性，其造成的侵權呈現出一定的擬人性、不可預見性和復雜性，進而引發對傳統法律規制的沖擊。因此，筆者分析傳統民事責任制度適用MAI 侵權的困境，結合國外的經驗，為我國MAI 侵權責任法律應用的發展與完善提供建議。

2 我國MAI 侵權責任規制的應用困境

2.1 責任主體的法律地位問題

運用恰當法律規制的首要前提即為明確責任主體，然而目前國內學界對于MAI 是否具有法律人格存在不同看法[13]。

2.1.1 肯定說

2017 年10 月，在沙特首都利雅得舉行的Future Investment Initiative 大會上，索菲亞被宣告成為歷史上第一個獲得公民身份的機器人[14]。這一里程碑事件使眾多學者對AI 法律人格肯定說更加篤定。肯定說主要包含擬制法律人格說。擬制法律人格說認為AI 應當被賦予獨立的法律人格。在現代法律人格理論的發展史上，法律主體逐漸從自然人擴展至法人和組織，法人作為法律關系的主體，通過法律人格擬制的方式參與法律關系。而人與AI 之間天然不平等，AI 獨特的“應用”路徑，AI 承擔有限的法律責任后果等因素，決定了其應當享有擬制法律人格[15]。

2.1.2 否定說

我國學者大多傾向于該學說，否定了AI 的法律人格與主體地位。否定說主要包含工具說與代理說。工具說認為AI 是人類創造的在給定環境下表現良好的智能體程序，其本質是為人類服務的工具，不具備獨立思考行動的能力[16-18]。代理說則認為AI 與所有人、使用人間的關系屬于法定代理關系，代理人對其的行為及產生的結果負責[19]。

2.1.3 折中說

折中說既不肯定AI 具有人格，也不否定AI 具有人格，而是認為其具有部分人格。折中說主要包括有限法律人格說和電子人格說。有限法律人格說認為AI 具有獨立自主的思考行為能力，享有法律規定的權利并能承擔責任，但其與傳統法律上的自然人或法人不同，AI 獨立承擔行為后果的能力有限，基于此，僅應賦予AI 有限的法律人格[20]。電子人格說認為，“電子人”是擁有人類智能特征，具有自主性，以電子及電子化技術構建的人格化AI 系統或機械裝置[21]。法律應當將“電子人”作為法律主體容納，并在一定范圍內賦予其權利與義務，讓其承擔一定范圍內的責任。

2.2 法律適用的類型問題

現行《侵權責任法》在醫療侵權方面的適用主要包括產品責任、醫療損害責任和高度危險責任，然而在法律的認定上仍存在許多問題。

2.2.1 產品責任

根據《民法典》侵權責任編中產品責任的規定，因MAI 產品存在缺陷造成損害的，患者可以向產品的生產者或醫療機構請求賠償[22]。但MAI 不同于一般產品，其缺陷不易證明。根據“誰主張，誰舉證”原則，患者需對MAI產品存在的缺陷進行舉證，但AI 產品屬高科技產品，它的算法具有不透明性，人類難以完全理解其運作過程[23]。在接收端，對于算法是如何從給定的輸入中得到特定的結果沒有清晰的認知[24]。因此，AI 算法經常被描述為“黑匣子”[25]。AI 算法的不透明性是其“高維性和復雜性”的產物，即使是這些系統的設計者也無法理解機器的表達過程[26]，更不用說不具備專業知識的普通患者。

此外，我國專業的AI 缺陷鑒定機構目前仍處于缺位狀態。大部分鑒定結論都會聚焦于醫療機構的過失行為，而對于醫療產品本身缺陷的檢測和分析卻往往不到位。筆者在中國裁判文書網上檢索到的與達芬奇機器人相關的醫療糾紛共5 例，均屬于醫療過錯責任糾紛領域。例如，根據《山東省青島市中級人民法院（2019）魯 02 民終5081號二審民事判決書》，“鄒愛敏、趙瀟訴青島大學附屬醫院醫療損害責任糾紛案”中, 患者術后脾動脈破裂大出血，醫療鑒定結果是醫院承擔70%的過錯責任。根據《重慶市第一中級人民法院（2018）渝 01 民終3540 號二審民事判決書》，“楊邦文訴重慶西南醫院醫療損害責任糾紛案”中，患者在達芬奇機器人術后肺部感染，鑒定結論是醫方在楊邦文的診療過程中， 對患者病情的嚴重程度重視不夠，觀察不仔細，病情變化后處理不及時，存在過錯，該過錯與楊邦文“截癱”之損害后果存在因果關系。醫方應對損失承擔 50% 的賠償責任[27]。

2.2.2 醫療損害責任

傳統大陸法系認為，醫療過失屬于典型的業務過失。如果作為可信賴專家的醫生在診療活動中存在過錯或未盡到與當時的醫療水平相應的診療義務，造成了患者損害，他將被視為醫務人員違反注意義務承擔過失責任，醫療機構將承擔替代責任[28]。然而，當AI 參與到醫患關系中時，情況就會變得十分復雜。

首先，要想在醫療侵權案件中勝訴，原告必須證明，其傷害是由于治療醫生背離了普遍認可和接受的慣例和程序，未盡到與當時的醫療水平相應的診療義務[29-30]。法院評估這一標準的依據是一個合格的醫生應該做些什么，也就是說，一個與被告具有相同的技術背景和專業知識的醫生會怎樣進行診療。但是，當一項新技術，如AI，被引入臨床診療時，當前醫療的平均水平的標準可能是模糊的[31]。

其次，醫務人員過錯與損害結果之間的因果關系難以判斷。醫療損害責任構成要件包括：醫療機構和醫務人員在診療活動中有違法診療行為；患者受到損害；診療行為與患者損害結果之間具有因果關系；醫療機構及其醫務人員有過錯[32-33]。由于AI 算法具有“黑箱”屬性，其決策過程不透明，原告很難證明其損害是由于醫務人員存在過錯而不是由于AI 本身的故障，也就無法說明是醫務人員的診療行為導致了患者的損害。在未來，機器的自治能力越大，將其行為的法律責任歸咎和分配給人類的合理性就越薄弱[34]。隨著AI 系統變得越來越自主，真正能控制它的各方（即臨床醫生、醫療機構和AI 設計師）越來越少，代理AI、控制AI 以及對其行為可預見性的崩潰直接影響了基于過失和替代責任的法律理論和患者受到損害時的追償機會[35]。

2.2.3 高度危險責任

由于目前學界對AI 性質界定的不明確，相關法律制度的不完備和高度危險責任體系結構的開放性，部分學者認為MAI 侵權也可考慮適用高度危險責任。然而在具體實施方面也存在以下問題。首先，高度危險責任包括高度危險物致損責任與高度危險作業致損責任[36]。MAI 造成患者損害歸屬于何種致損責任值得深入探討[37]。其次，高度危險責任通用無過錯責任原則，其賠償義務主體是危險活動或者危險物的作業人，即醫務人員與醫療機構。因此，若適用高度危險責任，醫療AI 侵權的最終責任主體即為醫療機構，而其他參與AI 從出廠到投入使用過程且可能造成損害的主體如設計者、生產者、運輸者則得以逃脫責任，這顯然是不合理的[38]。最后，如果把MAI 歸為高度危險物或把AI 診療過程判定為高度危險作業，那么會造成大眾對AI 的誤解，使他們對其產生害怕抵觸的心理，這不利于未來科技的進步與醫學的發展[39]。

2.3 法律適用的歸責問題

2.3.1 過錯原則

如前文所述，AI 產品是人類智慧活動的結晶，但其依然擁有擺脫人為控制的可能性，這就難以詮釋傳統侵權理論秉承的主觀過錯要件[40]，主要原因是過錯判定一般以侵權人在主觀上是否盡到了應知和明知的注意義務為準則。當前許多MAI 實現了無人化的操作，使其使用者不再負有主觀上的注意義務，這讓過錯歸責原則變得無所適從。對于一些仍需要人為操控和監管的AI 來說，就算使用者盡到了主觀上的注意義務，由于AI 本身的智能性與自主性，仍有可能使患者遭受侵害。AI 產品是基于獨立自主的算法、思考做出判斷而導致了侵害，并非源自人為的操作失誤。如只是考慮使用過錯原則對醫療機構及醫務人員進行責任判定，這無疑增加了醫療機構的負擔。此外，在AI 產品應否作為法律責任主體的爭議狀態下，探究其是否存在主觀過錯似乎沒有任何實際意義。即使AI 產品可被認定為承擔過錯責任的責任承擔者，它也無法履行經濟賠償或其他相應的法律責任[12]，最終真正的責任履行還是會落到醫療機構與醫療AI 使用者身上。

2.3.2 無過錯責任歸責

在上述幾種責任類型中，目前無過錯責任歸責僅通用于產品責任。運用無過錯原則的產品責任進行責任判定即承認了AI 的客體地位，也追究了生產者、銷售者的責任。生產者將承擔舉證責任證明自己的產品沒有缺陷才能免于擔責。雖然保護了患者這一弱勢群體，也規避了上述對于醫療機構和MAI 使用者責任判定的困境，但這種歸責方式也存在局限。一方面，這對生產者經濟上造成了重大壓力，嚴重打擊AI 市場的主體的積極性[41]，最終可能妨礙AI 的推廣與應用。另一方面，生產者承擔無過錯原則的產品責任僅限于技術缺陷情形，而MAI 產品對患者產生侵害既有可能是因為生產者的技術缺陷，也有可能因為AI 本身的自主行為，明確侵害來源是十分困難的。

2.4 責任承擔的舉證問題

由于AI 本身的特殊性，責任認定中主體的復雜多樣性，侵權責任的舉證工作也變得十分困難。首先，AI 自身的缺陷難以證明，這一點在產品責任部分已經闡明，此處不再贅述。其次，AI 引起損害的原由難以解釋，即便將AI算法公之于眾，但其基于算法學習、思考、推理、決策的過程是難以理解與解釋的。專業技術研發人員都未必能闡述清楚AI 運行機制，更何況不具備專業知識的普通民眾，那又談何舉證醫療機構與AI 使用者過錯分配呢？這無疑增加了患者的舉證難度，醫療機構與AI 使用者的逃避責任機會。再次，AI 技術作為商業機密的一種，是一個高科技企業核心競爭力的體現。當前我國沒有相關法律規定在侵權案件中，AI 設計者、生產者需要公開研發數據資料。最后，AI 數據庫龐大繁雜，這對于后續的記錄顯示和保存也造成了嚴重困難，恐難無法完全還原當時客觀的侵權過程[39]。

3 域外MAI 侵權責任規制的探索

3.1 美國

3.2 歐盟

歐盟正在對其頒布的 《醫療設備指令》進行調整，但也仍未建立起應對MAI 侵權問題的完備法律體系[50]。首先，歐盟2017 年2 月16 日頒布了《機器人民事法規則》[51]，該文件倡議賦予AI 機器人“電子人”的法律地位，以應對由其自主決策，行為引起損害的情形[52-53]。其次，除AI機器人以外的法律主體的民事責任應與AI 機器人的自主程度成反比[54]，如果機器人的自主能力越高，那么越難被看作是其他行為人的工具，其生產者、使用者應負的責任也就越小。最后，建立強制保險制度，要求生產者為自己制造的AI 機器人投保，該保險方案還應當有賠償基金作為補充，以確保患者在受到強制保險未能覆蓋的損害時也能得到補償[55]。然而，當前歐盟法規僅是單純提出“電子人”的概念，并沒有說明具體如何讓它們履行責任進行補償。所以最終該類侵權民事案件仍是由人承擔責任。嚴格責任制度（也稱危險責任）在歐盟國家占主導地位。無論是AI 機器人違反了歐盟國家民事責任制度，還是MAI的作業人、持有人有過錯，都由AI 的作業人、持有人對造成的損害承擔責任[55]。在監管方面，2021 年4 月，歐盟委員會發布《人工智能法案》，明確了對AI 實行基于風險的分級監管思路，意在為歐盟范圍內的投資和創新營造良好法治環境。歐盟委員會將AI 產品劃分為不可接受的風險、高風險、有限的風險和極小的風險四類，著重立法規制前兩類，并對高風險AI 的全生命周期監管設立了嚴格詳細的規定，同時明確三類違法情形的處罰原則，以保障歐盟公民的尊嚴、隱私等基本權利，構建公民對新興科技的信任。

3.3 日本

日本的大部分AI 方法都以工業為基礎，其中出現的挑戰為各國制定新的AI 戰略提供了重要的經驗教訓。2014 年5 月，日本新能源產業技術綜合開發機構公布了《關于工業、商業和生活機器人化的白皮書》，白皮書中提到在醫療衛生以及相應醫療衛生服務相關的機器人有清潔機器人、醫療機器人、救災機器人。2016 年，日本頒布《日本復興戰略-走向第四次工業革命》，通過使用機器人和傳感器等技術提高護理質量和生產力，減輕護理人員的負擔，進一步將機器人技術引入護理場所。日本從法政策學角度，主張將MAI 的侵權責任由醫療機構與醫務人員承擔。

4 我國MAI 侵權責任法律應用困境的應對

當前我國MAI 侵權責任法律體系仍存在眾多問題，筆者綜合了域外之先進經驗，提出如下應對建議。

4.1 分階段厘定MAI 的法律地位

4.1.1 當下

當下仍屬于弱AI 時代，MAI 應當被視為物、產品和醫療器械[56]。其仍然具備工具屬性即不具有自由意志，有可支配性[57]。即便是當前較為先進的手術機器人，也不應當被規定為民事主體[58]，手術機器人作為輔助外科醫生開展手術的助手，受到人類的終極支配。另外，考慮到現實基礎不充分，尚無落實責任的可行辦法，立法成本較大等方面的原因，如將MAI 立為責任主體并進行嚴格責任執行，將阻礙科學技術的創新和發展。

4.1.2 未來

在未來強AI 時代，MAI 將不具有工具屬性，而成為侵權責任主體[57]，因為其不再具有可支配性，并存在自由意志的可能性。屆時，人機界限模糊且人機共存狀態成為新的社會特征[59]，賦予其法律人格能更好解決法律關系問題。我國可效仿歐盟做法，立法賦予醫療AI 法律主體人格，由其與人類主體共同承擔侵權責任。同時立法需明確MAI的責任承擔方式與細節，更新現行《民法典》中關于傳統侵權責任的認定標準與法條規定，避免空有概念而無實踐。MAI 作為法律主體的具體責任承擔方式見下。

4.2 分階段、情形適用不同類型責任與歸責原則

4.2.1 弱AI

生產機械設備使用的材料影響設備的使用壽命。因此需要在選擇材料時要全面考慮經濟性和適用性。很多煤礦企業的生產設備在選擇耐磨零件的時候傾向于低碳錳鋼。相較于普通的鋼來說，這種鋼的耐磨性能更好，同時隨著現代生產技術以及工藝的迅速發展，能夠選擇的材料增多，使得煤礦機械零件所具備的抗磨性以及抗腐性得到了提升，為降低磨損，應合理選擇材料，提高零件耐磨性和壽命。

在弱AI 時代下，AI 作為客體，可分情況應用當前既存的《民法典》侵權責任編的規定進行責任認定。

僅由產品自身缺陷導致的損害，適用產品責任規則，生產者和醫療機構對直接責任的承擔適用無過錯責任原則。患者可以向MAI 生產者或醫療機構請求賠償。患者向醫療機構請求賠償的，醫療機構賠償后，有權向生產者追償。在產品責任規則時，要注意以下兩點。其一，責任主體外延,采用“共同企業”責任制。產品責任的責任主體不應僅局限于生產者，銷售者、存儲者、運輸者都可能存在過錯，對產品自身缺陷負有一定責任，即從生產研發開始到使用前的整個過程中所涉及的所有主體組成相互關聯的“共同企業”，其中每一個實體都可能對屬于企業的其他實體的行為承擔連帶責任[60]。如果產品的缺陷是因第三人過錯所致，生產者或醫療機構在承擔無過錯的直接責任后，則可向有過錯的運輸者、存儲者等第三人追償。運輸者、存儲者等第三人對這種最終責任的承擔適用過錯責任原則。其二，增設認定產品缺陷的標準。考慮到當前MAI 侵權責任法律制度尚不完善，產品鑒定技術尚不發達，被損害者專業知識匱乏，為了更大限度地保障患者的利益，認定產品缺陷的標準不應單一化，如未達到同類MAI 產品市場平均效果的即可考慮認定為產品缺陷。此外，由黑客攻擊MAI 造成的產品損害，適用產品責任的第三人責任，由黑客承擔責任，這不在本文的討論范圍之內。

在絕大多數醫療侵權案件中，醫務人員或醫療機構的主觀心理狀態為過失，而非故意。因此，過失情形的判定需要進一步細化。應考慮兩種過失情形，第一，應當使用而沒有使用MAI 的情形。根據美、德法律，對單個患者而言，相較于傳統方法，MAI 優勢大于劣勢，那么MAI 法就應當使用[61]。這點值得我國借鑒。第二，MAI 使用過程中出現過失的情形。一種是不應當使用而使用MAI 的情形。另一種是應當使用但在使用MAI 的過程中發生操作失誤。

產品缺陷和醫務人員操作失誤或醫院管理不當共同導致損害發生時，應進行原因力的考量，分別適用產品責任規則和醫療損害責任規則，由產品的生產者與醫療機構承擔不真正連帶責任[37]。

高度危險致人損害責任屬于危險責任，歸責原則為無過錯責任原則，且責任主體僅為高度危險物使用者（即醫療機構），因此，筆者建議謹慎使用高度危險責任規則，以防生產者、運輸者等第三人得以逃脫責任。應僅考慮在確定適用高度危險責任的第三類MAI 器械侵權案例中和患者損傷嚴重的情況下使用[37]。

就歸責原則來說，制造商作為MAI 的締造者，應初步承擔無過錯的嚴格責任，其他主體承擔過錯責任。

4.2.2 強AI

此時MAI 作為侵權責任主體，違反診療義務，存在過錯，應與相關人類主體共同承擔侵權責任。首先MAI 應以“停止侵害”的方式承擔侵權連帶責任的前一部分，然后人類以其他方式承擔后一部分的侵權連帶責任[15]。MAI 并無財產，并不能像傳統責任主體一樣對患者進行賠償，因此需要采取別種方式對其進行責任追究，如強制更改其程序，刪除部分記憶，終止某些功能，對患者造成嚴重損害的，甚至可將其銷毀。作為MAI 的生產者、使用者，也應當承擔部分責任，對患者進行經濟補償。強AI 醫療過失認定標準包括過失情形和認定標準。過失情形分為選任過失和監督過失。選任過失包括應當使用MAI 卻未使用或不應使用MAI 卻使用兩種情況。認定標準應混合人類醫生和MAI 的平均醫療水平作為注意義務的標準。強AI 時代，MAI 可達到與人類相當甚至更高的醫療水準，因此，將人類醫生和MAI 的平均醫療水平作為標準是最合理的。本著人類健康權、生命權高于一切的原則，任何一方未達到應盡的注意義務，都應當承擔侵權責任[45]。

4.3 利用“黑匣子”記錄MAI 信息

馬航MH370 的失事讓“黑匣子”走入大眾視野，“黑匣子”是飛機專用的電子記錄設備之一，可記錄存儲飛機運行的數據，在飛機失事后大大提高了空難分析的準確度。考慮到MAI 的不透明性、自主性、不可預測性，這樣的技術急需運用其中。“黑匣子”不僅可以記錄AI的操作過程，而且其內部存儲的數據可以幫助查明出錯的環節，便于進行責任分配。考慮到受害者處于信息弱勢地位，舉證困難，生產者應自覺披露黑匣子內部的數據，如有隱瞞或惡意篡改數據者，則可推定其在法律上承擔過錯責任。此外，對“黑匣子”的數據分析涉及商業科技秘密與個人隱私，我國可效仿歐盟《一般數據保護條例》（General Data Protection Regulation，GDPR）[62]，制定個人數據信息保護管理規則，既要保證信息所有人查閱修改存儲數據的權利，也要對其有所限制。同時也要制定AI 技術的隱私權保護規則，賦予AI 開發商一定的數據自主權，定期進行數據銷毀，以防止信息的竊取濫用。

4.4 對AI 產品確立必要的監管或處置機制

設立AI 管理委員會，引入一套基于機器人分類標準的高級機器人登記系統。登記系統及登記簿應當建立在全國范圍內并覆蓋其內部市場，由AI 管理委員會直轄。針對高度自主化的AI 產品施行登記公示制度，嚴格把關AI 的質量、安全性與市場流通。針對已發生侵害行為、高度危險的MAI 產品，需召回返廠并對生產者進行相應處罰，對情節嚴重的，甚至進行強制銷毀。此外，為了方便患者舉證，AI 管理委員會需督促生產者盡快如實披露黑匣子內存儲的相關數據，并為患者提供AI 算法專家及一系列支持服務。

4.5 建立醫療責任強制保險和賠償基金

我國可參考歐盟的做法，通過法律法規強制要求MAI產品的生產者投保責任保險，并建立專項賠償責任基金用以涵蓋責任保險中不包含的侵害情況的賠償，切實保障接受MAI 診療致損患者的權益。

5 結語

MAI 作為新興事物，不可能照搬當下的法律規制進行責任認定，應在不斷探索中完善相關法律法規。此外，要利用“黑匣子”記錄MAI 信息，對MAI 進行必要的監管或處置，建立責任強制保險和賠償基金保障患者的利益。在做到“有法可依”的同時，切實保護個人隱私，技術機密，各方權益，以期MAI 帶來更多民生福祉。