人工智能對醫(yī)療健康行業(yè)的影響及應對

人工智能在醫(yī)療領域的應用正在不斷變革現(xiàn)代醫(yī)療服務模式。人工智能輔助診斷、醫(yī)療機器人、醫(yī)學影像等新技術極大促進醫(yī)療現(xiàn)代化進程，緩解醫(yī)療資源緊張的局面，提高醫(yī)療服務的質量。醫(yī)療人工智能在帶來諸多益處的同時也伴隨著一些無法避免的倫理風險，對現(xiàn)代醫(yī)療行業(yè)產(chǎn)生影響。技術安全性、醫(yī)療數(shù)據(jù)隱私和醫(yī)患自主性不僅影響醫(yī)療人工智能技術在醫(yī)療行業(yè)的應用，而且對醫(yī)生職業(yè)發(fā)展和醫(yī)院制度產(chǎn)生影響。而在醫(yī)療技術落地之前，闡明上述倫理問題，有助于技術安全發(fā)展，并惠及醫(yī)療。

一、引言

人工智能技術自2012年開始迎來快速發(fā)展的繁榮景象，當前正處于行業(yè)廣泛研發(fā)及快速落地商業(yè)化階段。伴隨人工智能的基礎技術的研發(fā)和突破，人工智能廣泛應用于各行各業(yè)，在計算機視覺、語音識別和自動駕駛等應用領域均獲得不俗的成績。而在醫(yī)療健康領域、安全隱私、城市治理等更多的技術領域中也正在發(fā)揮著重要作用。2015年，中國提出“互聯(lián)網(wǎng)+”戰(zhàn)略，鼓勵“互聯(lián)網(wǎng)+”各行各業(yè)創(chuàng)新創(chuàng)業(yè)，為實體經(jīng)濟賦能。2017年，國務院發(fā)布的《新一代人工智能發(fā)展規(guī)范》再次提出發(fā)展便捷高效的智能服務，圍繞教育、醫(yī)療、養(yǎng)老等迫切民生需求，加快人工智能創(chuàng)新應用。

在此過程中，智能醫(yī)療在人工智能技術的支撐和相關政策制度的引導下蓬勃發(fā)展，不僅有助于帶來更加高效、快捷、準確的醫(yī)療服務，更有助于緩解醫(yī)療服務供需失衡問題。專家系統(tǒng)、機器學習、深度學習、神經(jīng)網(wǎng)絡等人工智能技術與醫(yī)療領域深度融合，展開多種有益嘗試，并取得良好效果。在中國，人工智能的運用更集中于醫(yī)療健康行業(yè)，以22%的占比位居全行業(yè)第一。醫(yī)療人工智能將改變醫(yī)療健康行業(yè)的服務提供方式、醫(yī)生的工作模式以及醫(yī)院的診療制度，對醫(yī)生、患者的診治和治療產(chǎn)生影響，從而進一步影響醫(yī)療健康行業(yè)的發(fā)展趨勢。其最早問世的專家系統(tǒng)應用于醫(yī)療輔助診斷、各種醫(yī)療機器人服務于醫(yī)生和患者、深度學習等算法應用于醫(yī)療影像技術，促進醫(yī)療服務現(xiàn)代化，提供更好地醫(yī)療健康服務。但是需要關注的是，醫(yī)療人工智能在解決現(xiàn)實醫(yī)療問題的同時也蘊含一系列潛在的倫理問題，例如技術的安全性有待檢驗、智能醫(yī)療對醫(yī)患自主性的破壞、對患者隱私的侵犯等，在大量的醫(yī)療技術完全落地之前，探明這些倫理隱患，有助于醫(yī)療人工智能向善發(fā)展，發(fā)揮其原本價值，從而進一步促進醫(yī)療健康行業(yè)的發(fā)展。

二、醫(yī)療人工智能發(fā)展現(xiàn)狀

1.醫(yī)療輔助診斷。1972年美國斯坦福大學將DENDRAL系統(tǒng)升級為MYCIN，是早期的臨床決策支持系統(tǒng)（CDSS，Clinical Decision Support System）在人工智能輔助診斷（CAD，Compute Aid Diagnose）中的應用。可以幫助醫(yī)生診斷患者是由何種細菌感染患病，并對癥下藥，建議治療藥品。此后，在人工智能技術不斷發(fā)展的背景下，CDSS不斷創(chuàng)新優(yōu)化，推陳出新，出現(xiàn)針對各種疾病輔助診斷的CDSS，成為CAD診斷的代表。例如IBM公司研發(fā)的“沃森健康”，輔助診斷腫瘤準確率達到90%以上，已在多家醫(yī)院落地。北京中醫(yī)醫(yī)院的“關幼波肝病診斷程序”、吉林大學的“中醫(yī)婦科專家”、IBM針對糖尿病預后開發(fā)的“IQcast”等。一定程度上提高疾病診斷效率和效果，促進醫(yī)療公平，將醫(yī)生從繁瑣的常見病診斷解放出來。醫(yī)療輔助診斷技術將提前為患者進行精確的疾病診斷，加快常見疾病的診斷效率，減少患者的等待時間。從而進一步提高醫(yī)療健康行業(yè)的服務質量和服務水平，促進醫(yī)療健康行業(yè)發(fā)展。

2.醫(yī)療服務機器人。1999年由Intuitive Surgical公司研制成功的“達芬奇手術機器人”以其靈活精準的“手術好手”、更加開闊的視野和更高的安全性成為是第一臺得到FDA認證的外科手術機器人。“達芬奇手術機器人”在國外眾多醫(yī)院落地，國內部分醫(yī)院也有引進使用。2021年的全球手術機器人市場規(guī)模達到200億美元。此后，醫(yī)療機器人已實現(xiàn)較多落地迭代，可分為手術機器人、康復機器人、輔助機器人以及醫(yī)療服務機器人四大類。醫(yī)療機器人種類繁多，對患者和醫(yī)生都將是得力的助手。手術機器人的服務時間不受限制，以及服務效果較為統(tǒng)一，不僅可以提高患者享受醫(yī)療服務的水平，而且可以進一步提高醫(yī)療健康行業(yè)的數(shù)字化、智能化進程。

3.智能醫(yī)療影像技術。傳統(tǒng)的醫(yī)學影像技術如CT、MRI、PET等在人工智能技術的加持下實現(xiàn)從呈現(xiàn)高清影像圖片到提供高準確度的輔助診斷，并正在向自動診斷前進。深度學習中的卷積神經(jīng)網(wǎng)絡、堆疊自動編碼器、生成對抗網(wǎng)絡等圖像特征識別算法不斷改進醫(yī)學影像技術水平，不僅可以自動實現(xiàn)圖像自動分割，還可以實現(xiàn)疾病的自動診斷。如在2020年突如其來的新冠疫情之初，阿里云研發(fā)出可以在20秒內準確對新冠疑似病例CT影像判讀，以科技抗擊疫情，為疫情防控貢獻科技之力。Bin Lu等人提出的多種機器學習算法在MRI中交叉應用，可以對AD進行自動診斷，分類準確率平均達94%。未來，醫(yī)學影像技術在人工智能的賦能下有望實現(xiàn)更多的功能創(chuàng)新，改變傳統(tǒng)的人工讀片方式。此項技術在一定程度上解決醫(yī)學影像數(shù)據(jù)較多且讀片時間長的問題，以及放射科醫(yī)生數(shù)量不多并且培養(yǎng)時間長的問題。同時亦有益于提高小醫(yī)院的問診水平，促進醫(yī)療公平。

三、醫(yī)療人工智能倫理問題初探

醫(yī)療人工智能發(fā)展是現(xiàn)實醫(yī)療健康行業(yè)發(fā)展的需要，也是人工智能技術發(fā)展的必然結果。目前醫(yī)療現(xiàn)狀展現(xiàn)出不斷上升的醫(yī)療需求，尋醫(yī)問診的患者不斷增加，與此同時醫(yī)護人員的從業(yè)數(shù)量和技術水平卻有待提高。患者在醫(yī)院診治的過程中，醫(yī)生問診的時間似乎低于患者排隊掛號拿藥的時間，不僅耽誤患者個人時間，也降低醫(yī)院診治效率。而一些常見疾病的診斷和治療已形成一套診斷流程，可以使用醫(yī)療人工智能替代醫(yī)生進行問診。在人工智能高速發(fā)展的當今社會，人工智能技術與各產(chǎn)業(yè)融合創(chuàng)新是大勢所趨，醫(yī)療領域更是急需人工智能技術的加持，提高整體醫(yī)療效率，促進精準醫(yī)療。但是醫(yī)療人工智能在解決現(xiàn)實醫(yī)療問題的同時也蘊含一些潛在的倫理問題，下文將展開分析三種倫理風險。

1.人工智能技術安全性問題。智能輔助診斷、醫(yī)療機器人或者智能醫(yī)學影像技術將會直接或者間接的融入患者的治療過程。醫(yī)療機器人是與患者直接接觸，為患者做手術或者為患者提供醫(yī)療服務。在醫(yī)療過程中可能出現(xiàn)機器人手臂關節(jié)螺栓松動或者突然斷電等問題。一旦醫(yī)療機器人出現(xiàn)故障，并且無人意識到，就可能對患者造成直接的傷害。有學者通過手術案例調查發(fā)現(xiàn)，在實際手術過程中確實存在著某些機器人功能障礙的安全隱患。

而AI輔助診斷和智能醫(yī)學影像技術的核心是其內在的算法模型。人工智能算法具有自主學習推理特性，可以為醫(yī)療技術帶來新改變，但是這種特性也伴隨著算法黑箱和算法歧視問題，為醫(yī)療診治帶來安全隱患。一方面，當前大部分人工智能算法在可解釋性上的缺失造成醫(yī)生無法獲知系統(tǒng)做出診治結果的依據(jù)和邏輯的后果，不能二次驗證結果的準確性。而一旦落地應用的系統(tǒng)出現(xiàn)誤診，醫(yī)生便不能及時察覺。但是醫(yī)療診治卻要求因果邏輯，詢證問診。因此，人工智能算法的不可解釋性可能會加劇醫(yī)療事故發(fā)生的風險。另一方面，算法是從大量的臨床診斷數(shù)據(jù)中提取疾病特征形成問診模型，輔助醫(yī)生診斷。而供算法學習的數(shù)據(jù)卻會存在地域、年齡、性別、社會經(jīng)濟地位等一系列人群特異性差別，若選取不當，則可能形成有偏見的算法模型，即模型的高效表現(xiàn)可能僅局限于部分特定人群，缺乏足夠的遷移性，對其他人群診斷準確率較低，最終增大誤診機率。

智能醫(yī)療旨為給患者帶來更加安全和高效的醫(yī)療服務。以AI輔助診斷、醫(yī)療機器人、醫(yī)學影像技術為代表的智能醫(yī)療都存在一定的安全隱患，有違智能醫(yī)療的研發(fā)與應用的初衷。不能在醫(yī)療實踐中遵循醫(yī)學倫理學的不傷害原則。

2.患者醫(yī)療數(shù)據(jù)隱私問題。患者醫(yī)療數(shù)據(jù)隱私問題主要有兩方面原因，一是醫(yī)療人工智能技術需要大量的患者就診數(shù)據(jù)作為技術研發(fā)的訓練數(shù)據(jù)。二是智能醫(yī)療在應用時會收集并上傳一些患者的身體數(shù)據(jù)。

訓練數(shù)據(jù)的來源必然是患者的醫(yī)療記錄。但醫(yī)療記錄中不僅包括疾病的診治數(shù)據(jù)，而且涉及到患者個人的基因特征、健康狀況、身份信息等。雖然現(xiàn)在可以通過一些匿名化算法隱藏患者的個人信息，但實際上由于各種數(shù)據(jù)平臺互聯(lián)之后，通過技術還原還是有可能追溯到原始數(shù)據(jù)信息。

利用智能醫(yī)療為患者診斷時，所涉及的患者信息都以個人電子病歷 （EHR）和醫(yī)療信息系統(tǒng) （HIT）元數(shù)據(jù)形式被保存于云端。黑客入侵、醫(yī)療信息丟失等情況都有發(fā)生過。一旦醫(yī)療數(shù)據(jù)遭到濫用，可能會對患者的就業(yè)和保險造成影響，從而造成社會不公、基因歧視等嚴重后果。而對患者在互聯(lián)網(wǎng)平臺上的個人信息保護也是當前面臨的困難之一。

3.醫(yī)患自主性問題。醫(yī)療人工智能對醫(yī)生和患者的自主性均可能產(chǎn)生一定影響。由于智能醫(yī)療的黑箱特征的，真正對它們形成壟斷權的只有“電子工程界”的同仁們。由于AI醫(yī)療的黑箱特征，在對AI醫(yī)療“無知”的這個問題上，醫(yī)生和病患竟然奇跡般地站在一起了——他們也被去主體化。

對醫(yī)生而言，醫(yī)療人工智能可以輔助醫(yī)生進行診斷、治療甚至術后方案，在此過程醫(yī)療人工智能的輔助診斷可能先入為主地影響到醫(yī)生個人對患者的診斷。而且如果以醫(yī)療人工智能為主導的醫(yī)療情況長期以往的發(fā)展下去，可能會使醫(yī)生無意識地服從人工智能的診斷。上述情況不僅不利于醫(yī)生自我水平的提升，也不利于醫(yī)療人工智能與醫(yī)生的協(xié)同關系正向發(fā)展。

對患者而言，醫(yī)療人工智能是一種模式化、普遍性的診斷和治療方案。不能像醫(yī)生一樣了解患者真實的自我意識，只是依據(jù)患者的病理情況進行診治。在這個過程中患者的一些個性化的訴求則無法實現(xiàn)，從而使患者的自主性降低，不利于醫(yī)療人文情懷的實現(xiàn)。

四、倫理問題對醫(yī)療健康行業(yè)的影響

醫(yī)療人工智能在醫(yī)療健康行業(yè)的應用將會為患者帶來更好的醫(yī)療服務，將醫(yī)生從基礎疾病的診療中解放出來，提高醫(yī)療健康行業(yè)的服務水平與質量。但醫(yī)療人工智能潛藏的技術安全性、醫(yī)療數(shù)據(jù)隱私和醫(yī)患自主性將會影響醫(yī)療人工智能技術在臨床應用的效果，對患者、醫(yī)生產(chǎn)生危害，從而減弱其在醫(yī)療健康行業(yè)中的應用效果，而且將對醫(yī)生職業(yè)發(fā)展和醫(yī)院制度產(chǎn)生影響。

醫(yī)療人工智能的技術安全問題對于醫(yī)療健康行業(yè)的發(fā)展有不可忽視的危害。醫(yī)療技術是直接與患者接觸，為患者提高醫(yī)療服務。如果醫(yī)療人工智能技術的安全性得不到百分百的確證，將會對患者的生命安全產(chǎn)生難以彌補的危害。對醫(yī)療健康行業(yè)的整體服務水平造成危害，有違醫(yī)療人工智能技術應用于醫(yī)療健康行業(yè)的初衷。

醫(yī)療數(shù)據(jù)的隱私安全問題會侵犯患者的個人信息安全，數(shù)據(jù)的隱私問題一旦得不到可行的解決措施則，則會不利于醫(yī)療人工智能在醫(yī)療健康行業(yè)的長遠發(fā)展。醫(yī)療人工智能的準確率來自大量的臨床數(shù)據(jù)訓練，一旦數(shù)據(jù)的來源可靠性無法得到保障，則會造成行業(yè)亂象，長此以往形成嚴重的危害。

醫(yī)患自主性問題體現(xiàn)在醫(yī)生和患者在醫(yī)療人工智能的應用中主體性的被剝奪。醫(yī)療人工智能的發(fā)展目的是為了服務醫(yī)生和患者，為醫(yī)生和患者帶來高水平的醫(yī)療輔助和治療。在治療的過程中，人仍然是主體，處于中心地位。醫(yī)療人工智能的高度自主性使得醫(yī)生和患者逐漸失去主體地位。這種現(xiàn)象導致醫(yī)療健康行業(yè)的醫(yī)療人文關懷無法實現(xiàn)。醫(yī)患的自主性是患者自主權，知情同意權實現(xiàn)的前提，內在隱含的是醫(yī)療人文關懷實現(xiàn)可能性。而高度自主的醫(yī)療人工智能使得醫(yī)療健康行業(yè)的人文關懷內涵無法實現(xiàn)，使得以人為本的醫(yī)療變成沒有溫度的診療過程。

以上三種倫理問題均不利于人工智能加入的醫(yī)療健康行業(yè)的發(fā)展，不符合以人為本的醫(yī)療情懷，從而阻礙智能醫(yī)療健康行業(yè)的發(fā)展進程。對此應高度重視，妥善處理。

五、應對策略

1.研發(fā)可解釋的人工智能算法。其既是醫(yī)療人工智能應用的必要前提，也是當前人工智能領域正在攻關的重點方向。這一點尤其關乎其在醫(yī)療領域的廣泛應用。可解釋人工智能有利于醫(yī)生了解醫(yī)療人工智能診斷的依據(jù)，使醫(yī)生可以做到二次審查，增加醫(yī)療人工智能的安全性。另外，醫(yī)療人工智能研發(fā)人員應注重數(shù)據(jù)收集的全面性和代表性，有關審查部門同樣需要重點核查技術研發(fā)的初始數(shù)據(jù)，從多維度避免算法偏差。

2.增強數(shù)據(jù)保護。對于患者的個人醫(yī)療數(shù)據(jù)保護應采取高度重視，加強保護措施。加大研發(fā)數(shù)據(jù)匿名化技術，可以在數(shù)據(jù)使用之初進行匿名化處理，爭取從源頭切斷數(shù)據(jù)與個人隱私的關聯(lián)。另外可以加大患者醫(yī)療數(shù)據(jù)監(jiān)管，構建統(tǒng)一數(shù)據(jù)平臺，降低原始數(shù)據(jù)偷竊風險。

3.提高醫(yī)生主導地位。在醫(yī)療人工智能廣泛應用之前應對醫(yī)生進行培訓和預警，培養(yǎng)和引導良好的醫(yī)療人工智能和醫(yī)生之間的正向協(xié)同關系，提高技術應用效果。醫(yī)生主導地位的增強有利于患者自主性的實現(xiàn)。同時應注重醫(yī)療人工智能的擬人化發(fā)展，不能只體現(xiàn)出冰冷的書面診斷結果和治療方案，應加強機器與患者的真實互動，有利于技術以人為本，向善發(fā)展。牢記醫(yī)療人工智能發(fā)展的初衷，不斷為醫(yī)生、患者、社會提供更加友善、高效的醫(yī)療服務。［基金項目：中國科學院人才項目（USTC-BR-2022-08）］

（作者單位：中國科學技術大學人文與社會科學學院）