醫(yī)療人工智能安全監(jiān)管主體責任調(diào)查研究*

茅鴦對，沈 茜，王維標，丁 靜

（浙江醫(yī)藥高等專科學校，浙江 寧波315000）

《新一代人工智能發(fā)展規(guī)劃的通知》（國發(fā)〔2017〕35號）指出，到2025年新一代人工智能（AI）會在智能醫(yī)療領域得到廣泛應用。AI正成功地應用于放射學、病理學和皮膚病學的圖像分析，其診斷速度可超過醫(yī)學專家，且準確性與之相當［1］，在提高診療效率的同時能降低醫(yī)療成本。醫(yī)療AI對醫(yī)師的診斷和決策具有重要的導向作用，一旦失誤，可能危及患者的生命安全。北京智源人工智能研究院聯(lián)合北京大學、清華大學、中國科學院自動化研究所等發(fā)布的《人工智能北京共識》指出，要為未來打造“負責任的、有益的”AI，實現(xiàn)這一目標的前提是確立醫(yī)療AI診斷主體，明確侵權(quán)責任歸屬，但我國尚未出臺相關法律規(guī)范、評價標準與方法規(guī)范［2］。本研究中通過實證調(diào)研分析，探討醫(yī)療AI診斷器械的主體責任相關焦點問題，以期為監(jiān)管部門完善法律規(guī)范提供參考。

1 對象與方法

1.1 調(diào)查對象

藥械監(jiān)管系統(tǒng)人員、醫(yī)療機構(gòu)醫(yī)務人員、藥械企業(yè)人員（含AI企業(yè)人員）、醫(yī)藥類高校教師、醫(yī)療器械專業(yè)（精密醫(yī)療器械、醫(yī)療器械檢驗與注冊、醫(yī)療器械經(jīng)營與管理）學生。

1.2 調(diào)查方法

采用文獻分析法、專家訪談法進行醫(yī)療AI診斷主體責任相關焦點問題摸底，結(jié)合專家意見進行問卷設計，最終通過問卷調(diào)查法開展調(diào)研工作。

1.3 統(tǒng)計學處理

采用SPSS 22.0統(tǒng)計學軟件分析。對醫(yī)療人工智能診斷法律主體資格、責任主體、侵權(quán)責任歸屬等問題進行描述性統(tǒng)計，對不同職業(yè)、學歷、職稱與主體責任相關問題的關系采用χ2檢驗，以P＜0.05為差異有統(tǒng)計學意義。對醫(yī)療AI診斷主體責任評價指標體系采用探索因子分析法。

2 結(jié)果

2.1 問卷基本情況

本次調(diào)查共發(fā)放問卷155份，回收有效問卷150份，有效回收率96.77%。調(diào)查對象的職業(yè)分布情況，藥械監(jiān)管系統(tǒng)人員25人（16.67%）、醫(yī)療機構(gòu)醫(yī)務人員27人（18.00%）、藥械企業(yè)人員45人（30.00%）、醫(yī)藥類高校教師23人（15.33%）、醫(yī)療器械專業(yè)學生30人（20.00%）。職 稱 分 布 情 況，初 級 職 稱20人（13.33%）、中級職稱37人（24.67%）、高級職稱21人（14.00%）、無職稱72人（48.00%）。學歷分布情況，大學專科12人（8.00%）、大學本科61人（40.67%）、碩士研究生64人（42.67%）、博士研究生13人（8.66%）。

分析問卷Cronbach信度，統(tǒng)計可得Cronbach′sα=0.748（＞0.7），表明研究數(shù)據(jù)信度良好；采用KMO抽樣適當性檢查和Bartlett′s球形檢驗進行數(shù)據(jù)效度分析，KMO=0.757（＞0.5），說明研究數(shù)據(jù)結(jié)構(gòu)效度良好。

2.2 主體責任相關問題

產(chǎn)品應用潛在風險多：受訪者認為，AI在應用中會出現(xiàn)諸多問題，包括誤診、漏診風險（89.33%），與醫(yī)院使用需求不配套（46.00%），應變能力差（79.33%），診斷效率提升不明顯（36.67%），造成院方數(shù)據(jù)泄露（52.00%），倫理風險（3.33%）。

法律主體資格存在爭議：對于可否賦予醫(yī)療AI法律主體資格，57人（38.00%）認為可以，57人（38.00%）認為弱AI時代不可以，強AI時代可以，36人（24.00%）認為不可以。交叉分析結(jié)果顯示，不同職業(yè)（χ2=12.919，P=0.040）和不同學歷（χ2=15.791，P=0.045）人群對醫(yī)療AI法律主體資格認定結(jié)果有顯著差異，而不同職稱者（χ2=9.744，P=0.136）的認定結(jié)果無顯著差異。

責任主體不單一：123人（82.00%）認為雖然AI技術革新，仍不能完全替代醫(yī)師進行診斷，27人（18.00%）則認為可以。不同職業(yè)、學歷、職稱人群對于醫(yī)療AI能否替代醫(yī)師的判斷結(jié)果均無顯著差異（χ2=3.563，4.220，0.580，P=0.313，0.377，0.901）。表明大部分被訪者堅定支持醫(yī)師在診斷中的核心地位，小部分被訪者信任醫(yī)療AI的診斷。選擇設計者、生產(chǎn)者、醫(yī)療機構(gòu)、醫(yī)師作為醫(yī)療AI診斷責任主體的分別有80人（53.33%）、63人（42.00%）、91人（60.67%）、86人（57.33%）。

侵權(quán)責任需由多方承擔：對于醫(yī)療AI診斷失誤造成醫(yī)療損害的侵權(quán)責任，104位被訪者（69.33%）認為應厘清設計者、生產(chǎn)者、醫(yī)療機構(gòu)等各方職責，合理分配各自責任，24位被訪者（16.00%）認為應由生產(chǎn)者、醫(yī)療機構(gòu)承擔連帶賠償責任，13位被訪者（8.67%）認為應由設計者、生產(chǎn)者承擔連帶賠償責任，9位被訪者（6.00%）認為應由醫(yī)院或醫(yī)師承擔責任。不同學歷人群對于侵權(quán)歸責的判定有顯著差異（χ2=30.607，P=0.002），不同職業(yè)人群與不同職稱人群的判定無顯著差異（χ2=13.231，6.867，P=0.152，0.651）。

2.3 主體責任評價指標的構(gòu)建

以國家藥品監(jiān)督管理局醫(yī)療器械技術審評中心《深度學習輔助決策醫(yī)療器械軟件審評要點》、國家衛(wèi)生健康委員會《人工智能輔助診斷技術臨床應用質(zhì)量控制指標（2017年版）》等為依據(jù)，結(jié)合專家調(diào)研，梳理出13個醫(yī)療AI診斷主體責任評價指標，進行探索性因子分析。

信度、效度檢驗：信度檢驗處理數(shù)據(jù)后得Cronbach′s α=0.892（＞0.8），說明信度高；對有效樣本數(shù)據(jù)進行KMO抽樣適當性檢驗和Bartlett′s球形檢驗，檢驗結(jié)果顯示，KMO=0.859（＞0.5），Bartlett′s球形檢驗的χ2值為977.798（自由度為78），達到顯著水平（P=0.000＜0.01）。數(shù)據(jù)顯示，樣本數(shù)據(jù)結(jié)構(gòu)效度良好，可進行因子分析。

因子分析結(jié)果：采用主成分分析法提取公因子，對13個指標進行Varimax方差正交旋轉(zhuǎn)，最終提取特征值大于1，得出3個公因子累計方差貢獻率為66.276%，旋轉(zhuǎn)后成分矩陣各因子解釋度差。故將提取公因子設定為4個，累計方差貢獻率為72.923%。根據(jù)因子分析解釋的總方差（見表1），計算評估總指標公式如下。

F=（21.955F1+19.819F2+17.557F3+13.591F4）/72.923

正交旋轉(zhuǎn)后得到的因子負荷矩陣見表2。某個公因子下的變量旋轉(zhuǎn)成分值大于0.5時，此變量應歸屬于此公因子。梳理13項指標，可得醫(yī)療AI診斷主體責任評價指標體系（見表3），通過旋轉(zhuǎn)后因子得分系數(shù)矩陣可得出如下各公因子的得分公式。

表1總方差解釋

表2旋轉(zhuǎn)后的因子矩陣

3 討論與建議

3.1 按AI強弱確立產(chǎn)品法律主體資格及責任主體

醫(yī)療AI診斷產(chǎn)品隱患較多，成為其大規(guī)模實施的障礙，亟須明確主體責任邊界。不同醫(yī)療AI診斷產(chǎn)品獨立診斷與決策能力不同，對醫(yī)師工作幫助程度有所區(qū)別。考慮到應用場景的特殊性，其責任主體并不單一。國家衛(wèi)生健康委員會醫(yī)院管理研究所人工智能藍皮書《中國醫(yī)療人工智能發(fā)展報告（2019年）》指出，現(xiàn)階段的弱AI醫(yī)療診斷器械在不同程度上需借助人類智慧，受人類的操作與監(jiān)管，其地位等同于普通醫(yī)療器械，不能賦予其法律主體資格。鑒于存在大量混合責任的情況［3］，設計者、生產(chǎn)者、醫(yī)療機構(gòu)、醫(yī)師等均是相關責任主體。強AI擁有獨立思考及決策能力，具備自我感知和行為能力，可賦予其享有同人類平等的權(quán)利并承擔相應責任義務［4］，但考慮到其能承擔的法律后果有限，建議將其確立為具有特殊性質(zhì)的法律主體［5］，即具有有限法律人格。

表3醫(yī)療人工智能診斷主體責任評價指標體系

3.2 醫(yī)療AI應用需遵循權(quán)責一致原則

醫(yī)療AI存在算法泛化能力弱、重復性和再現(xiàn)性差、魯棒性設計缺乏等問題［6］，診斷結(jié)果容易出現(xiàn)漏診、誤診、錯診，給患者帶來生理傷害和精神傷害，構(gòu)成額外的經(jīng)濟負擔。醫(yī)療AI技術應用方面應遵循權(quán)責一致原則［7］，設計者、生產(chǎn)者、經(jīng)營者、使用者等責任主體應嚴格遵守倫理道德與法律規(guī)范，切實履行自身權(quán)利和責任。AI診斷產(chǎn)品致?lián)p后要追溯原因，判定后按《產(chǎn)品質(zhì)量法》和《產(chǎn)品侵權(quán)法》進行追責。侵權(quán)責任歸責前，首先要明確AI診斷產(chǎn)品對診斷結(jié)果的影響程度及其自身定位。若注冊時在適用范圍項明確寫明其能進行有效決策，則加重制造商的責任；若表明其僅起輔助篩查作用，醫(yī)師仍需結(jié)合患者病史、基礎病癥、身體狀況進行綜合判斷，則應以醫(yī)師為重要歸責對象。為合理分散舉證負擔，受害者向主要責任者索要賠償，主要承擔者可向其他方追償。同時，建議建立以責任保險制度為核心的綜合救濟體系［8］，提高社會救濟能力。

3.3 主體責任評價體系的應用

醫(yī)療AI診斷主體責任評價指標體系的構(gòu)建有利于企業(yè)“內(nèi)部監(jiān)管+外部監(jiān)管”并行，充分激發(fā)企業(yè)活力，釋放技術紅利。企業(yè)每年結(jié)合指標體系開展內(nèi)部自查，及時糾正問題，向監(jiān)管部門提交年度報告。建議開啟多元共治新篇章［9］，監(jiān)管部門邀請行業(yè)專家、行業(yè)協(xié)會、媒體、公眾代表等多方共同開展評價工作，結(jié)合評價結(jié)果對企業(yè)開展分級分類監(jiān)管，制訂《醫(yī)療人工智能診斷產(chǎn)品重點監(jiān)管目錄》，對主營品種在目錄范圍內(nèi)且主體履責嚴重不到位的企業(yè)予以重點監(jiān)管，對主體履責到位的企業(yè)予以寬松監(jiān)管，合理分配有限的監(jiān)管資源，提高監(jiān)管效能。對主體責任評價結(jié)果進行年度公告，對表現(xiàn)極差的企業(yè)予以警示，并加強日常監(jiān)管；對表現(xiàn)優(yōu)異的企業(yè)予以表揚。醫(yī)療AI安全監(jiān)管正面臨平衡創(chuàng)新與風險的難題，公眾對AI主體的信任是至關重要，而可信任AI唯有具備誠實、一致性、可靠性、透明度、公平性五大特性，才能真正提高公眾滿意度，提升健康服務質(zhì)量。