人工智能醫療器械在卒中診療中的倫理探討

孫偉，白彩珍，徐靈靈，肖淑萍

人工智能（artificial intelligence，AI）在醫療領域的快速發展，給人類帶來了優質、高效的醫療服務，顯著提高了疾病的診療效率，并不斷改變著醫療模式。隨著AI醫療器械技術的迅速發展，其在卒中診療中的應用越來越廣泛，有研究顯示AI醫療器械的應用可以顯著提高卒中的診斷效率，并可根據患者的基本信息、病史、各種輔助檢查結果等快速優化治療策略，從而改善患者預后[1-2]。

AI醫療器械為卒中診療帶來了速度與療效提升的同時，也帶來了一些潛在的倫理問題。本文將從隱私安全性、數據全面性、算法科學性、診斷準確性、責任主體劃分以及對特殊人群知情同意等倫理問題進行探討分析，確保AI醫療器械在卒中診療中能夠以符合倫理的方式更好地發揮作用。

1 AI醫療器械在卒中診療中潛在的倫理問題

1.1 卒中患者的知情同意 卒中患者由于發病急、進展迅速，可能出現意識障礙或認知改變等疾病特殊性，使得患者本人難以親自簽署知情同意，通常只能由家屬代理[3]，但是具體什么情況需要代理，應該由哪些人代理，目前尚無明確規定。Zier等[4]的研究發現，即便是非常了解患者的家屬也很難準確把握患者的真正意愿。此外，在AI醫療器械診療過程中可能發現預期之外的其它病變[5]，何時、以何種方式將這些病變告知患者，需要綜合評估患者的健康狀況，不宜以機械的方式直接告知，這也是AI可以輔助臨床，但不能替代醫師的原因之一。

1.2 隱私安全性 卒中AI醫療器械與其它AI醫療器械在隱私信息安全性方面存在共性，二者在研發和臨床應用過程中會采集大量的患者信息，包括年齡、性別、聯系方式、住址等基本信息，也包括疾病病史、診療記錄、化驗檢查結果、影像數據等健康信息[6]。這些具有高度的個人化且敏感的患者隱私信息一旦泄露，造成的損害是非常嚴重的。AI訓練需要使用廣泛數據，因此會存在潛在的隱私安全性問題。雖然目前有研究者提出對要使用以及訓練的數據進行完全匿名化來規避這種隱私泄露的風險[7]，但目前我國AI醫療器械研發過程中對患者個人信息匿名化的保護機制尚不完善，因此需要通過建立具體匿名化準則以提高隱私安全性。

1.3 數據全面性 數據的全面性是保證AI醫療器械診斷、決策準確的重要前提。卒中AI醫療器械較其他AI醫療器械在數據全面性方面有更高的要求。因為腦部神經、血管網絡結構復雜，所以卒中患者臨床表現復雜多樣，這就要求在建立AI學習數據庫時納入盡可能多的病例，包括不同的年齡、性別、病變部位、癥狀體征和治療轉歸等信息，充分考慮群體差異化訴求，以降低數據偏倚。偏倚的數據不能代表人群的整體特點，因此必然會導致診斷的準確性降低。此外，偏倚數據會進一步引起統計分析數據的相關步驟隨之發生變化[8]，從而產生更難以預測的深遠影響。因此，數據全面性也應該作為倫理審查關注的重點之一，以保證AI醫療器械在臨床應用過程中的安全、準確。

1.4 算法科學性 算法科學性對AI醫療器械診斷的準確性非常重要，是倫理審查中核心問題之一[9]。如果算法上出現差錯，非但不能提高疾病診斷效率，反而會造成誤診，延誤治療。因此，保證算法的科學性對AI醫療器械后續在臨床診療中的應用至關重要。目前AI醫療器械的算法問題是倫理審查的薄弱環節，方案中對具體算法描述一般也較少，且專業性強，現有的醫學倫理委員會的委員在審查過程中很難發現算法上的問題。針對此類問題如何能充分保障受試者權益，保證算法上的絕對準確，同樣是該領域面臨的重大挑戰。

1.5 診斷準確性與責任主體劃分 AI醫療器械診斷的準確性依賴于數據的全面性和算法的科學性，只有這兩方面均得到保證，診斷的準確性才會隨之提高。此外，診斷的準確性還與應用環境、操作方法有關，環境不當或操作有誤均會導致AI醫療器械診斷的準確性降低。針對由于AI醫療器械診斷準確性降低導致誤診的情況，其責任主體是AI醫療器械企業還是臨床應用者，二者的責任該如何劃分也是需要進一步討論并明確的問題[10]。

2 應對AI醫療器械在卒中診療中倫理問題的對策

2.1 臨床試驗倫理審查階段的對策

2.1.1 構建完善的倫理審查規范 AI醫療器械的倫理審查亟待構建完善的規范。目前國內外應用較廣泛的AI倫理共識包括阿西洛馬AI原則和國際電氣電子工程師學會發布的AI設計的倫理準則[11-12]。我國關于AI倫理的建設正處于不斷發展和完善的階段，2017年中華人民共和國中央人民政府國務院印發的《新一代人工智能發展規劃》對AI的倫理規范建設提出了明確的要求，并計劃于2030年建成完善的倫理規范[13]。2021年9月科技部《新一代人工智能倫理規范》的落地為AI領域的工作者提供了清晰的倫理指引，也為AI醫療器械倫理審查規范的構建墊下了根基[14]。AI醫療器械的倫理審查規范應基于AI倫理規范，但又具有醫療器械倫理審查的特點，指導醫學倫理委員會進行此類項目的倫理審查，充分發揮倫理審查作用，對此類AI醫療器械開展嚴格的臨床試驗前倫理審查。

2.1.2 明確知情代理人身份和職責 卒中患者的意識、認知改變會影響其親自簽署知情同意，所以通常由家屬代理。然而，患者本人的意愿才是知情同意的根本，對于意識、認知水平尚可的患者最好由本人簽署知情同意。因此在簽署知情同意前如果能通過簡易的量表對患者的意識和認知水平進行評估分類，便可協助區分哪些患者可以親自簽署知情同意，哪些需要家屬代理。對于需要家屬代理的患者，以與患者關系最密切的直系親屬為首選，這樣雖然不能完全與患者意愿一致，但可以盡可能接近其意愿。

2.1.3 聘請計算機科學獨立顧問 目前醫學倫理委員會委員多由醫藥專家、法律專家和社會人士等構成。由于委員團隊結構中缺少AI算法、統計、信息安全領域的專家，而這些領域具有明顯專業特色，所以目前醫學倫理委員的構成可能難以發現這些方面的潛在倫理問題。伴隨著AI醫療器械臨床試驗越來越多，醫學倫理委員會可考慮聘請AI算法、統計、信息安全領域的專家對此類臨床試驗的算法科學性、數據全面性以及隱私安全性進行倫理把關，以填補倫理審查過程中這部分的空白。通過聘請計算機專業獨立顧問，委員專業覆蓋面更全面，審查效能也會隨之提升。

2.2 臨床應用階段的對策

2.2.1 建立問責機制 AI醫療器械在臨床應用過程中可能會由于器械產品本身或應用不當導致問題，需要建立AI醫療器械問責機制，完善AI定責的法律法規，對問題出現后主體責任劃分問題進行界定，使得相關責任方承擔起相應的責任。在設計、制造、使用AI全生命周期過程中做到公開透明、可追溯。一旦發生事故，可以追溯事故發生的原因出現于哪個環節，從而協助劃分責任主體，包括所有相關活動的人員或機構，由不同責任主體承擔不同的責任，避免單一責任制，全面增強責任意識。

2.2.2 專業培訓與倫理教育 AI醫療器械的定位是輔助臨床進行診療活動，不能完全代替臨床醫師，其操作需要臨床醫師參與。正確的應用AI醫療器械才能保證診斷的準確性，所以需要對應用者進行嚴格的培訓并進行相應的考核，以最大限度地減少由于應用不當導致診斷延誤的可能性。同時還要加強倫理方面培訓，充分認識AI醫療器械可能出現的倫理問題，既不低估也不夸大風險，綜合完善應用者的培養機制，提高應對能力，確保AI醫療器械在卒中診療過程中的順利應用。

3 結語

綜上所述，在卒中AI醫療器械診療領域不斷發展的過程中，應盡可能做到有效評估隱私安全性、算法科學性、診斷準確性和主體責任劃分等倫理問題，充分保障患者的安全與權益。針對卒中患者的知情問題，準確恰當地進行代理人知情。此外，由于腦部解剖和功能的復雜性，對建立AI醫療器械數據的全面性同樣提出了更高的要求。避免上述問題帶來風險的同時，不斷尋求解決策略，構建完善的倫理審查規范及監管法規，最終實現AI醫療器械在卒中診療領域的健康發展，確保AI醫療器械能夠帶來廣泛的社會利益。