人工智能醫療設備應用的倫理問題分析

楊毅，劉卓

1. 太和縣人民醫院 科研管理科，安徽 阜陽 236600；2. 北京航空航天大學 醫學科學與工程學院，北京 100191

引言

作為一門新興的研究領域，人工智能通過發展理論、方法、技術和應用系統來模擬、擴展人類智能[1-2]。人工智能醫療設備是人工智能在醫療領域的應用和發展，隨著醫療大數據的積累，人工智能在醫療領域的可實施性越來越強，目前可應用于醫學診斷（醫學圖像分析、疾病篩查與預測）、手術機器人、康復機器人等多個臨床診療領域[3-6]。人工智能醫療設備在多個層面給傳統醫學帶來革命性突破的同時，一些倫理問題也在使用中隨之出現，給人工智能的臨床應用帶來了不確定的風險。當前，國內對人工智能醫療設備應用倫理相關領域的研究處于起步階段[7]，2022 年3 月20 日，我國出臺了《關于加強科技倫理治理的意見》[8]，在法規上明確了科技倫理的治理需求，要求重視人工智能醫療設備應用的倫理問題，促進科技創新與應用的風險防控相統一。本文闡述了人工智能醫療設備應用的積極影響，就其應用的倫理問題與應對措施進行分析，對促進人工智能醫療設備的發展和應用具有一定意義。

1 人工智能醫療設備應用的積極影響

1.1 輔助臨床診斷

我國醫學影像人才資源供給不足、分布不均、人員技術水平參差不齊，導致醫學影像的誤診、漏診時有發生[9]。在當今醫療領域，每天都會產生大量的醫療數據，整合醫療數據對某種疾病進行預測成為一項難點。人工智能通過對圖像的深度學習、識別、分割、分類、重建、分析等，能夠整合大量的臨床數據，并將觀察到的和預測的數據結合起來，對疾病進行預測、診斷。使用人工智能對如CT、超聲、MR 等醫學圖像進行評估，可大大提高疾病的檢查效率、診斷效率[10]。在對860 名參與者的肺癌CT 篩查對比研究中，Zhang 等[11]發現，利用人工智能輔助對患者胸部CT 檢測實性結節、非實性結節的診斷準確度和靈敏度都遠高于放射科醫師。在傳統的醫學圖像分析過程中，需要有經驗的醫生，但長時間對著屏幕工作，會使醫師的工作效率降低[12]。有了人工智能技術，不僅可以提高疾病篩查準確度，縮短分析時間，還可以使醫生從繁瑣和重復的工作中抽出身來，去處理其他需要更多創造力的任務。人工智能醫學診斷輔助模型可根據患者的發病情況或癥狀、既往病史等信息，判斷患者潛在疾病并提供合適的治療康復方案[13]。

1.2 提高患者治療質量

手術機器人在外科手術的應用很大程度上能提升手術操作的靈活性、精確性和平穩性，減少手術創傷。手術機器人的使用徹底改變了微創手術，克服了傳統腹腔鏡技術的局限性。借助放大的三維和高分辨率可視化，機器人輔助擴大了在更精細和復雜的微創手術中的適應性，提高了手術操作的靈巧性、震顫過濾和運動精度，可避免外科醫生在手術過程中因長期工作勞累或其他原因引起手部顫抖而造成手術風險，使外科醫生能取得更好的手術效果[14-16]。通過應用手術機器人，外科醫生可實現在坐姿狀態下完成時間長且復雜的手術，減輕手術工作量。

1.3 緩解康復治療資源不足

康復機器人是以康復醫學理論為基礎，結合生物力學、機械力學、計算機科學等學科，用于輔助性治療的機器人設備[17-18]，康復機器人在腦卒中患者運動障礙的康復治療訓練中應用廣泛。康復機器人可代替康復治療師，引導患者重復進行機械運動動作，增加其主動運動意識，協助患者進行肢體訓練，不僅能有效幫助患者實現運動功能的康復，還能降低醫護人員的康復治療護理壓力[19]。隨著肢體運動障礙患者數量增多，康復醫療的需求日益凸顯，但現有康復治療師人員不足、專業水平能力不一，康復醫療水平與不斷遞增的康復需求存在較大差距[20-21]。康復機器人的應用可有效緩解這一情況，優化康復治療資源。

1.4 減少不必要的隨訪

植介入式智能醫療設備是一種植入體內的電子設備，用于監測、改善或治療患者某些身體部位的功能，或者僅為患者提供以前沒有的能力。該類設備具有更多的計算、決策和通信能力，主要包括用于監測和治療心臟疾病的起搏器、除顫器，用于癲癇或帕金森等腦部疾病的深部腦刺激器，用來獲取和處理不同的生物信號的各種生物傳感器。一些新的植介入式醫療設備已經開始整合大量的通信和網絡功能，擁有遙測系統，以及越來越復雜的計算能力。這為植入物提供了更多的智能化，使醫療人員可以遠程訪問數據并重新配置植入物，遙測和計算功能還能夠持續監測患者的病情，并基于醫療設備的體內網絡開發新的診斷技術[22-23]，來提升臨床疾病診療水平。具有遙測功能的植介入式智能醫療設備的應用，可減少一些無效治療或不必要的常規門診隨訪，避免醫療資源和時間的浪費，一定程度上也降低了患者的經濟負擔。

2 人工智能醫療設備應用存在的倫理問題

2.1 給傳統醫患關系帶來難題

隨著人工智能醫療設備參與臨床診療過程，醫患關系開始變得復雜，由原來的醫療機構、醫務人員和患者之間的關系轉化為醫療機構、醫務人員、人工智能設備和患者之間的關系。在傳統的診療過程中，醫患雙方的利益平衡會被考慮，醫務人員會根據患者的心理現狀、病情甚至經濟狀況等實際情況給出最優的診療方案；而人工智能設備在診療過程中不會考慮患者的任何其他利益，只會針對患者的病情做出科學診斷[24]。醫生不僅要解決患者就診時的病理因素，還要解決治療過程中一些患者特殊的社會心理和情緒壓力，雖然患者可以通過醫生操控手術機器人享受到優質的診療服務。但現階段的人工智能設備還無法感受到患者的緊張情緒，不能與患者進行帶有情感的溝通，容易使醫患之間在心理上產生隔閡。

2.2 易造成患者隱私泄露

醫療行業區別于其他服務行業的一個重要特點是患者對醫護人員的無條件信任，尊重患者的隱私，并保護就診隱私信息，一直是診療活動中較為關注的重要話題。人工智能醫療設備的診療能力基于所獲取的醫療大數據，這些數據信息包含患者多方面的隱私內容，受制于與自主、仁慈、正義、無害和尊重等有關的基本倫理復雜性，且其大多數算法都是在“黑盒”環境中運行的，分析過程并不透明，且解釋性差[25]。在缺乏適當的數據存儲訪問權限或共享機制時，數據信息的轉移或者分析可能會造成患者隱私信息的泄露[26]，一旦泄露將造成嚴重的后果，給醫療單位和患者帶來損失。例如，如果第三方遠程操縱深部腦刺激器刺激參數[22]，患者的自主性可能會受到損害。當黑客對植入設備施加惡意控制時，就會發生盲目或有針對性的“腦劫持”。雖然“腦劫持”對自主性的真正影響取決于第三方及其攻擊的效果，但患者自主性仍然受到損害，甚至是致命傷害。

2.3 算法偏見造成診療偏差

算法偏見是指在數據信息處理與輸出過程中算法程序失去客觀中立的立場，發生輸出結果帶有偏見性的情況，包括人為偏見和數據偏見[5]。人為偏見是開發者的偏見或因開發者的局限性有意無意地編寫出來的，由于個體或多或少受到自身道德觀念或相關利益的影響，將偏見設計到算法中，使算法不僅繼承了設計者的偏見，而且隨著數據的積累和算法的迭代，這種偏見也可能被強化放大，從而對弱勢群體產生不利的輸出結果。數據偏見是指訓練數據不具有代表性或不充分時影響算法模型的偏見。基于大量數據的預測分析模型和由此產生的治療建議可能能夠改善特定患者群體的治療結果，但可能不一定對單個患者有益。因此，這些情況可能會與醫生為每個患者的最佳利益行事的義務相沖突。例如，根據主要涉及西方人的訓練數據開發的算法在診斷亞洲人時可能不太準確。同樣，基于中醫經典方劑大數據開發的算法可能并不完全適用于西方人。并且，算法的輸出結果與輸入數據存在不可解釋性，這使得算法偏見很難被發現。這些偏見可能會在算法中不斷被復制和放大，導致預測結果存在偏差，從而可能導致某些患者在診療過程中受到歧視待遇，甚至造成醫療安全事故[3]。

2.4 責任主體較難確認

目前，人工智能醫療設備的應用還沒有統一規范的質量標準、評價體系、準入制度和保障體系，相關政策法規體系尚未完全建立。此外，醫療人工智能的算法是基于已有的人類經驗，而醫學本身具有潛在的風險和不確定性。因此，無論人工智能多么科學，都存在出差錯的可能性。隨著醫學數字化程度的提高，越來越多的參與者進入醫療人工智能產品的設計中，在開發、培訓和測試設備系統方面發揮著重要作用。現有的人工智能醫療設備還不具有主觀意識，應用上主要還是靠醫務人員操作，而其內部的算法程序則為生產研發相關人員編寫、測試。如果因人工智能醫療設備應用導致誤診或出現治療錯誤而引發醫療事故，這將引發誰負責的新問題[27]。

3 應對措施

3.1 重視對患者人文關懷

當前的臨床診療活動中，人工智能設備還不具有自主意識及情感思維，醫務人員應保持主體地位，堅持以人為本的原則，注重對患者的人文關懷。在人工智能醫療設備應用中，患者福利至上的規范原則不僅包括根據客觀可測量的醫療參數和患者的主觀經驗提供盡可能合適的治療，還要考慮到患者對治療環境的偏好和患者對治療的滿意度。醫務人員應發揮能與患者進行情感交流溝通的優勢，重視對患者的人文關懷，不斷提升醫德職業素養，完善知識結構，保持良好的人際溝通交流能力，彌補人工智能的不足。特別是在手術或者急救過程中，醫患之間的人文交流與關懷是至關重要的，不僅可以有效幫助患者克服內心的焦慮、恐懼心理，積極配合醫務人員的指示，在一定程度上，醫患之間的共情溝通還可以提高短期和遠期療效[1]。

3.2 加強醫療數據安全管理，保障患者隱私及安全

在設備使用層面，建立并落實醫療數據責任承擔與溯源機制，統一醫療數據管理方法，嚴控數據訪問權限，提高數據訪問檢查頻率，提高相關人員對醫療數據安全保護的觀念意識，建立并完善對醫療數據信息保密和監管的實施機制和處罰措施，確保醫療數據存儲及訪問的安全可控性。在設備研發使用的技術層面，在對患者進行數據收集或存儲時，采用去身份化或匿名化的方式來降低患者隱私信息外泄的風險[28-30]，同時配備強大的機制來保證設備使用的基本安全屬性，如機密性、完整性和可用性。例如，人工智能醫療設備和醫務人員之間的相互認證是必不可少的，因為雙方必須確信另一端就是聲稱的那個人，設備應該只考慮來自認證方的命令。保持存儲在人工智能醫療設備中并由人工智能醫療設備傳輸的信息的機密性，限制哪些實體可以重新配置人工智能醫療設備或訪問存儲在其中的信息，確保只有授權的操作才能執行，保護通過不安全的無線通道交換的消息內容。添加進一步的高級安全功能以防止黑客攻擊，降低設備被第三方惡意遠程控制操作的可能性。

3.3 減少算法偏見，增加測試人員范圍

減少人工智能算法偏見對于促進提供更好和更公平的醫療服務是必要的。人工智能醫療設備制造商必須意識到醫療人工智能中的偏見類型，并嘗試在產品開發過程的早期減輕偏見，例如，識別和最大限度地減少有偏見的訓練數據的下游影響，以及培養技術開發人員的道德素養，需要多用戶或基于大數據的分析判斷來識別和評估算法中設計師主觀性的價值。因此，數據的代表性和多樣性至關重要，因為醫療人工智能必須具有普遍性和可轉移性，而且應該能客觀地適用于不同地域、種族、性別和醫療水平的患者。這些問題可以通過更多樣化的數據訓練算法來解決。與此同時，在人工智能醫療設備的使用過程中，醫生還需意識到患者數據化的潛在動態，持續關注個體患者，保證人工智能系統所支持的診斷、治療或預后建議不違背醫療技術水平及其專業判斷。

3.4 完善人工智能倫理相關法律法規，明確責任認定

人工智能相關倫理法律法規的完善，是實施醫療人工智能倫理重塑的根本保障。只有在法律層面明確責任并提供規范，才能使人工智能醫療設備的倫理約束變得切實可行，完善適用于醫療人工智能引發的醫療糾紛責任歸屬的法律法規[29]。現有的人工智能醫療設備不是道德的推動者，不具備獨立思考和決策的能力，不能被視為責任的承擔者。若醫務人員在使用人工智能醫療設備時操作失誤或決策錯誤造成的診療傷害，使用者和醫療機構應承擔相應的責任。醫務人員應該對人工智能醫療設備提供的診斷結果或診療方案進行仔細核對。如果是設備本身有缺陷，在這種情況下，人工智能醫療設備設計人員和制造商的責任應該根據人工智能的問題方面進行劃分[31]。如果相關人員盡職盡責，但仍然無法避免人工智能醫療設備的使用對患者造成傷害，沒有明確的證據表明誰應該對此負責，或者不能將責任歸咎于任何個人，這意味著可能會有一個空白的責任領域。研究人員可以借鑒歐美的經驗，在人工智能設備的銷售價格中增加特定的責任費用，并嘗試建立政府或行業主導的強制性保險和儲備制度，由制造商、醫療機構、銷售方等多方支付費用，建立獨立的資金池，專門用于承擔醫療人工智能的法律責任，使患者的權益得到有效保護，防止相關主體因巨大的責任風險而失去開發和使用該技術的動力。

4 總結與展望

現階段，雖然人工智能醫療設備臨床應用的倫理研究取得了一定成果，但當前所面臨的一些倫理問題在根本上還沒有得到解決，而且隨著人工智能技術的不斷發展和人工智能醫療設備的更新換代，其在臨床的應用會帶來新的倫理問題，需要不斷推進對人工智能醫療設備臨床應用的倫理研究，確保其使用安全有效，提升科技倫理風險防控能力。針對具有高風險應用環境的人工智能醫療設備（如手術機器人、植介入醫療設備），可通過提高其中關鍵技術應用的倫理風險防控水平，從技術層面規范倫理風險要點，如制定從業人員行為準則與倫理規范等，加強人工智能醫療設備應用倫理風險防控的可操作性和規范性。

隨著科學技術不斷更新發展，人工智能醫療設備應用帶來的優勢將會增加，需要全面認識其帶來的倫理問題，積極尋找解決對策，減輕潛在風險。在人工智能醫療設備的研發及使用中，要始終堅持以人為本的原則，充分保護患者的權益，不斷促進技術提升，提高醫療服務質量。