醫療人工智能侵權責任研究

福建農林大學 鄧衛文

一、問題的提出

人工智能概念于1956年提出以來，經過幾十年的發展，已經不再是遙遠的科幻概念，而是越來越緊密的走進社會的各個領域，走進人們的日常生活中。人工智能表現出超高的“智力”，是一門專門研究、模擬人類智能理論和方法的科學。目前人工智能的研究方向主要傾向于與社會上各個領域的結合。醫療領域是人工智能與其他領域相結合研究過程中，研究最早、聯系最密切、投入最大、影響最深遠的領域之一。如使用最多的手術機器人達芬奇手術機器人，是目前最先進手術機器人。我國人口基數大，隨著人口老齡化，我國將面臨巨大的養老醫療壓力，此外國家鼓勵生育計劃的出臺，我國也需要更多的醫療資源，導致我國醫療資源緊缺。因此我國對醫療人工智能的發展也非常重視。2017年，國務院印發的《新一代人工智能發展規劃》就提出建立快速精準的智能醫療體系。2018年國務院印發《關于促進“互聯網+醫療健康”發展的意見》，其中指出要加深人工智能與醫療的結合，促進醫療服務行業的快速發展，有效提高醫療健康業整體的服務能力和普惠水平。

人工智能賦能醫療領域的同時，不可避免的由于人工智能技術本身存在的問題，或者使用者的過錯，會造成患者的損害。在出現醫療人工智能侵權事故的時候，如何通過法律規定確定事故發生因果關系、責任承擔主體成為各國關注的焦點。人工智能本身具有自主學習能力，雖然現階段的人工智能不具備自主思維能力，但人工智能通過自身算法，根據大數據判斷，在治療的過程中會自主做出判斷，醫生在這過程中由決定者變成了監督者，由于“技術黑箱”問題，人工智能在醫療過程中如何做出決斷的原因也不得探究，則傳統的醫療損害責任和產品責任難以判定的損害因果關系。此外，根據民法規定，人工智能并不具備法律主體的地位，那么如果由人工智能本身的原因造成的損害，由人工智能本身負責，還是由醫療機構或者生產者負責，通過現行的法律并無法合理給出答案。這些問題也就成為了我們研究的重點。

二、醫療人工智能對傳統法律責任實現的挑戰

（一）醫療人工智能侵權損害的因果關系難以確定

因果關系分析是確定侵害行為與損害結果之間具備關聯性的邏輯推理活動，也是責任主體要為此承擔法律帶來的不利后果的前提條件，要確定一個責任主體，必須準確推理出因果關系。而人工智能運用于醫療領域所導致的侵權具有復雜性，難以準確認定侵權因果關系。首先人工智能算法復雜，設計者在設計的時候醫療人工智能就可能存在技術缺陷，也有可能在制造或者銷售的時候導致產品出現了缺陷。人工智能是極其復雜的算法，其程序運行、對醫療數據的整合，和如何做出決斷的過程是不透明的，因此被稱為“技術黑箱”，也導致人工智能其本身具有很多難以解釋、預測的現象。因為人工智能行為的復雜性和不透明性，也就很難確定醫療人工智能本身存在產品質量問題。

其次，人機交互使得因果關系難以確定。現階段醫療人工智能的使用是人工智能與醫生相互結合使用的。有檢測型人工智能，主要提供給病人檢測，得出數據供醫生使用；也有醫生和醫療人工智能共同作用給患者治療的；也有由醫療人工智能全自主給患者治療，而醫生只是起到一個監督者的作用。醫生會出現錯誤與過失，醫療人工智能也會出現錯誤，在一起醫療事故中，如何查明是人的過錯還是醫療人工智能的過錯，又或者是二者競合行為導致的過錯，這過程是非常困難的。

（二）醫療人工智能法律責任主體確定問題

醫療人工智能侵權中確定法律主體地位，決定著誰有資格、有義務承擔法律責任，是法律責任構成的必備要件。我國現行的法律主體包括自然人和法人。現階段關于法律主體的認定主要以倫理角度出發，強調法律主體具有自由意志，能夠自由支配自己的行為，并對其負責，享受權利并承擔義務。自由意志是成為法律主體的前提條件，而現階段人工智能處于弱人工智能階段，并不具有自由意志，按此觀點，現階段的醫療人工智能并不能成為法律責任的主體。但一部分學者以工具性角度分析，法律對民事主體的確定除了倫理問題外，更重要的是實用性，法律是人的利益的體現。以此角度決定是否賦予醫療人工智能法律主體資格，有支持賦予醫療人工智能“電子人”身份的肯定說，也有只承認其具有有限主體資格的折中說。

人工智能是否具備法律責任主體地位，目前存在著三種不同的觀點。（1）肯定說。歐盟2 01 6年發布的《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》中將人工智能定義為“電子人”，使其具有一定的民事權力和義務。（2）否定說。否定說將醫療人工智能劃分為醫療工具，由于其本身不具備自由意志，也就不具備完全的行為能力，因此不能將其認定為法律主體。（3）折中說。以工具論主義出發，一定條件下賦予人工智能法律主體地位，以彌補法律在人工智能領域的漏洞。

（三）醫療人工智能侵權的過錯責任適用困難

過錯是過錯法律責任的核心要素，是指行為人在實施某種侵害行為時，沒有盡到特定標準的注意義務，從而造成他人損害時的一種應受非難的主觀狀態。過錯是承擔過錯責任的必備前提。醫療人工智能侵權的過錯責任適用情況是當醫生在醫療過程中，出現過失，致使患者受到損害，而根據醫療損害責任承擔的一種過錯責任。

但以人的自由意志為理論基礎的過錯責任的適用，在醫療人工智能的快速發展下面臨著巨大的挑戰。首先，現在人工智能醫療檢測疾病的準確率往往比醫生高，當出現醫療人工智能的判斷與醫生判斷不一致的情況下，醫生可能選擇準確率更高的人工智能，那么，這種情況下出現醫療損害就不符合醫生的過失的條件。此外，有些完全自主操作的醫療人工智能在醫生的監督下工作，其行為完全自主，醫生監督情況下仍發生的醫療損害，更加不屬于醫療損害中的過失了。如果不能認定醫生存在過失行為，則醫療損害責任歸責路徑也就難以實現。但如果認定是醫療人工智能本身存在“過失”行為，直接適用產品責任，將侵權責任歸責到設計者或者生產者，則顯得不公平，容易打擊醫療人工智能的發展前景。

三、醫療人工智能法律責任制度完善路徑

（一）明確醫療人工智能的法律屬性

首先要確定醫療人工智能的法律地位——醫療器械。從倫理性的角度出發，現階段醫療人工智能還處于弱人工智能階段，并不具備自主思維，不能對自己的行為負責，賦予醫療人工智能法律主體地位的條件還不成熟。而且在現階段的醫療過程中，醫療人工智能主要起到輔助作用，在最終對患者的治療方案也由醫生決定。由此看來，人工智能在醫療活動中不能脫離人類，也不能做出獨立診斷行為，所以人工智能產品在實踐中不可能被視為擁有獨立法律人格。

從工具性的角度出發，賦予醫療人工智能法律主體地位主要是為了解決現階段醫療人工智能侵權責任分配不清的問題，賦予其“電子人”身份或者有限主體地位，并以此為主體承擔對患者的賠償責任。但其作為財產，如何賠償患者也難以界定。如果醫療人工智能擁有一定的法律地位和財產后，其財產的管理權將產生巨大的爭議。醫療人工智能是醫院的財產，如果其也擁有財產，那么醫療人工智能所擁有的財產是否能歸屬到醫院也是個問題。

（二）建立醫療人工智能注冊登記并強制購買保險制度

鑒于醫療人工智能責任主體難以確定、因果關系不明、傳統歸責路徑不完善的困境，為了保障患者得到應有的賠償，并且在不打擊醫療人工智能的發展前景下，可以借鑒歐盟的經驗，建立人工智能注冊登記的形式進行管理。并且為維護公平正義，在平衡各方面的利益情況下，建立強制保險制度，在醫療人工智能投入使用之前，由醫院、生產者等相關主體共同出資，為醫療人工智能購買強制責任險。當發生醫療損害事故時，由保險公司進行賠償，既可以公平分配各方責任，也能保障患者的合法權益。

（三）引入“黑匣子”技術解決技術黑箱問題

醫療人工智能算法的復雜性和不透明性，導致很難確定醫療人工智能在侵權過程中發揮了一個怎樣的作用。為了應對“技術黑箱”問題，應該更加強調透明性原則，強調透明性原則能夠有效抑制智能機器人發展的不確定性而給人類社會帶來的極端風險。因此有必要考慮引進“黑匣子”技術，記錄醫療人工智能執行的每一個活動的數據，學習的每一份數據，以及對其決策做出貢獻的邏輯[6]。此外，對于先進的醫療人工智能還應配備內部錄像系統，對于提供診療服務的全過程，以醫療機器人的視角予以錄像，為后期的專家鑒定提供一手資料。

四、結語

醫療人工智能技術的發展是一柄劍雙刃劍，一方面其給醫療領域實現精準化、個性化、高質量的診斷和治療帶來希望;另一方面，因其參與診療活動，給醫療損害責任的分配與承擔提出了現實挑戰。但技術的發展是不可避免的，將來醫療人工智能越來越深入的運用是發展的趨勢，等醫療人工智能技術進入強人工智能時代時，法律也必須面對和解決智能機器人醫生的法律行為和法律地位問題，并對其進行適時的修正和更新，保障患者的權益，分配各方責任。