臨床決策支持系統應用中的倫理思考

周 杰 宋 揚

近年來，有關人工智能輔助臨床診療決策支持系統(clinical decision support system,CDSS)在醫學診斷和預后方面應用的研究成果大量涌現。雖然CDSS為提高醫療質量提供了新工具，但也帶來了患者對醫療的信任、診斷準確性、診斷標準、責任歸屬等潛在挑戰。醫療人工智能輔助決策系統的臨床效益及發展趨向還需要辯證再思考。

1 CDSS的發展現狀

CDSS是人工智能在醫療方面應用的重要一部分。美國醫藥信息學會是這樣定義CDSS：為醫務工作者、患者或任何個人提供知識、特定個體或人群信息，在恰當的時間條件下，智能化地過濾干擾信息和表達合理信息，提供更好地為健康、診療和公共衛生服務[1]。

從其產生目的和背景來看，CDSS根本目的是為了評估和提高醫療質量，減少醫療差錯。CDSS按系統結構可分為兩類：第一類是基于知識庫的CDSS，目前主要以《人衛臨床助手》《UpToDate》《朗通醫學知識庫》為代表。包括三個部分：知識庫、推理機和人機交流接口。這種類型的CDSS由于其較封閉，并且缺乏深度學習功能，所有數據信息的采集、編譯、整理及規則均需人工完成，所以存在維護成本高昂，存在信息更新時效性不強的問題。

第二類則是基于非知識庫的CDSS，一般采用人工智能的形式，這種類型的CDSS依賴人工神經網絡具有機器學習能力，并且可以在人機交互、不斷訓練的過程中總結和明確知識，并利用知識數據為用戶提供建議。截止目前情況，《Hubble人工智能輔助決策》《Vitark16》比較廣泛應用。通過高效的學習能力提供精準的決策建議，基于以上特點，這種類型的CDSS勢必成為將來的發展趨勢。

然而即使知道CDSS的發展趨勢非常光明，但是其自身存在并發展過程中產生的技術及倫理問題不容輕視。否則，智能醫療就會存在造成重大醫療事故和社會問題的風險。

2 目前CDSS應用中存在的問題

2.1 醫療的信任問題

面對腫瘤及心腦血管病等疾病時，醫生將當前的診斷后告知患者，癌癥的診斷會打亂患者生活狀態及精神世界，患者會有很多疑慮要尋問醫生，很多心事要與醫生訴說。這就要求醫生要傾聽患者的故事，在故事中建立對彼此的信任，加深彼此了解，為后期的診斷治療建立依從性的情感基礎。

然而，CDSS卻改變了這種傳統的診斷模式。在醫學中使用CDSS的最大挑戰之一是醫生不愿意相信和采用他們不完全理解的東西，由于缺乏信任，這些人工智能工具的臨床應用進展緩慢。除了臨床醫生的懷疑，缺乏人工智能技術信心的患者也不會完全相信[2]。

大多數研究采用了孤立地評估深度學習診斷準確性的方法，這種方法不能完全真實反映臨床實踐。許多醫療AI研究結果不被臨床信任，因為研究結論沒有提供與使用相同測試數據集的醫療專業人員(醫生)診斷結果的比較。

雖然CDSS在一段時期的系統學習和持續訓練已經具備了一定的臨床應用基礎，但是不能忽視的是CDSS在臨床應用方面還是有很大的局限性，無論是對于單一病種的診斷水平還是復雜疾病的整體思考都非常有限，這其實也是目前臨床懷疑其可靠度的原因之一；再有，從核心算法及訓練邏輯乃至通常使用的訓練方式的不同角度來看，這些都對CDSS在臨床上的決策產生很大的影響，這也是臨床醫生對CDSS的決策結果不甚認同的原因。一個算法如果可以準確地檢測皮膚癌的醫學圖像，同時也擁有支持診斷準確性的醫生。但是，黑箱算法是不透明的，這意味著醫生無法說明算法是如何得到推薦或得出診斷的。這對臨床工作提出了挑戰：當我們不能確立它是如何獲得診療結果的時候，我們有足夠的理由相信診斷不透明算法嗎？醫生應該如何處理難以理解的診斷？醫生無法理解的人工智能系統，醫生能對醫學診斷負責嗎？

2.2 診斷的準確性問題

真正的醫療診斷中，醫生往往要面對紛繁復雜的信息，但在很多試驗中，人工智能進行診斷的條件卻是孤立的，總體來說，真正深入臨床流程的人工智能很少[3]。如同真實臨床環境診療一樣包含了各種附加信息的研究微乎其微。對試驗結果的陳述也并不完全客觀，多數研究都沒有列出數據缺失情況，這種情況將影響試驗結果的準確性。由于可以信任的研究數量不太充分，相關數據還太少，以及試驗設計上的不足，現在對人工智能的醫療診斷能力下斷言還為時過早，不能得出在真實環境中的最終結論。要得知人工智能對患者恢復結果的影響，需要設計有替代醫療方案的隨機臨床試驗，而目前還沒有此類試驗能夠檢驗人工智能在及時治療、患者出院時間和生存率方面的表現。很少有研究可以提供外部驗證的結果，或者比較使用同一樣本的深度學習模型和醫生的表現。此外，深度學習研究中普遍存在不良報告，這限制了對報告診斷準確性的可靠解釋。

在純技術方面(如算法的性能、準確度等)人工智能表現的還是可圈可點的，但是在貼近臨床應用場景中，如何把醫生的經驗和知識變成可復制的數字化程序還是頗有挑戰的。例如，病理診斷模式是以圖像形式呈現，最容易以大數據為依托通過模式識別進行疾病的診斷與鑒別診斷。目前，在病理學方面，人工智能已應用于血液系統惡性腫瘤(主要是白血病)的輔助診斷。不過，目前病理學應用人工智能還是有局限性的，病理學實體腫瘤實質和間質成分更加復雜，部分腫瘤的確診還要依靠免疫組化，這些都會大大增加人工智能診斷的難度。

況且大多數的智能診斷產品并沒有完全緊跟臨床工作流程環節，以肺結節診斷為例，僅僅診斷出肺結節沒有問題，而不能確定是否有其他疾病，而誤診或漏診的后果是非常嚴重的。目前的醫療輔助系統只負責把病灶找出來，最終定性還是醫生做的。以目前應用在臨床最為廣泛的影像人工智能為例,通過X光片判斷患者是否有肺炎，影像科醫生單憑片子是無法做診斷的。影像科醫生讀片后最多能說的是“在典型的臨床癥狀下，這張肺部X光片符合肺炎征象”。 而且不同的影像科專家對圖片顯示的結果很可能給出不同意見。因為符合肺炎的影像表現看上去也可能是肺膨脹不全。肺炎看似簡單，最后的診斷需要結合患者的臨床病史、癥狀、血檢、圖像等綜合考慮得來。另一個比較現實的案例很說明問題，深圳某知名醫院通過智能輔助系統為一名兒童診斷發現，肺部出現結節表現。如果根據CDSS診斷并治療，則會出現過度診斷治療可能。同時診斷標準和治療責任就成為了繼續研究的問題。

2.3 診斷標準問題

醫學知識的嚴謹性、更迭性以及疾病無法精準預知的復雜性讓CDSS的設計需要考慮更多的因素。除了患者本身的多重因素以外，還要實時篩選、更新、補充無數的新數據，僅在醫學領域里，大量的臨床研究結果需要科學家們、研發CDSS的工程師們不斷的去理解、還要去剔除老舊的內容，核心就是選擇高質量的證據用于CDSS，同時這也是困擾CDSS研發人員的問題。在目前研究的環境看，很少有研究團隊對CDSS的療效進行評價總結并思考，也就是說系統的實用性問題沒有得到業界比較公認的評價，甚至可以說沒有臨床療效的準確數據，我們無法得到權威的評價指標及標準，這個問題會在很大程度上會影響CDSS在臨床上的標準化使用。

CDSS的現存問題以及臨床工作流程的復雜性使二者融合的難度提升。另外還要考慮的是由于不同級別、不同條件的醫院的網絡存在邏輯隔離或是物理隔離，使某些需要在線應用的CDSS無法在院內正常使用。

2.4 CDSS的責任歸屬問題

CDSS根據既定算法采取實施行動方案。人工智能被賦予更多的自主性，并且被以獨有的個體“意識”加入到人類的社會行為中，并在醫療決策過程中擁有的權力逐漸擴大，但是同時也無可避免地承擔更多的責任。

2022年國家藥監局發布的《醫療器械分類目錄》[4]表明，僅僅是通過算法的支持給出臨床診斷建議，只有輔助診斷作用而不是直接作出結論性診斷的醫療人工智能產品，需要按照第二類醫療器械管理規定進行管理。如果是通過算法將病變部位進行自動識別、并在此基礎上提供明確的診斷結論提示的醫療人工智能產品，因其應用風險升級，則需要按照第三類醫療器械的管理規定進行管理。

我們無法回避傳統的責任歸屬，原來的醫療世界里，醫生的地位是無法撼動的。而當CDSS應用在臨床以后，其表現、應用程度越來越強，這使得醫生的在醫療服務當中的身份比重會逐漸減弱，也是基于以上的原因，醫生的醫療行為也會被大幅削弱。對于患者來說，特別是可能已經遭受到醫療侵害的患者來說，對醫方的追責的角度更應該偏向對CDSS。這樣的理解已經引起了很大的爭議，無論是哲學、倫理理論辨析還是法理應用的思考，絕大多數學者對責任歸屬問題的思考都集中在醫療的問題還是應該由醫生負責的論點。如果CDSS參與到責任主體范圍，我們無法回避的責任問題就產生了，責任方互相推諉、權責的分工混亂，對患者的健康、權利、社會道德框架的一致性、法律責任明晰產生威脅。《人工智能輔助診斷技術管理規范(2017年版)》[5]明確了醫療人工智能輔助診斷技術的定位：輔助診斷和臨床決策支持系統。醫療人工智能輔助診斷技術的結論不能直接作為臨床最終診斷的結論，而只能作為臨床診斷的參考依據之一。有資質的臨床醫生的結論才可以作為最終的診斷。然而，決策的發展會隨著技術的不斷改進而產生變化的，客觀理性的評價標準更需要我們逐步完善。

2.5 共享決策與患者自主權的問題

患者自主權行使的前提就是決策共享[6]。在臨床診療以及醫學倫理實踐規范中，患者擁有遵照個人意愿采用醫療措施、接受醫療行為的權利，而且同時擁有決定是否接受醫療建議的權利。在此基礎上，為了讓患者在醫療服務中的同意有效，醫生需要提前、如實、充分告知患者信息；而患者則是在充分理解醫療過程及醫療行為的實際內容及影響后，才能參與到臨床共享決策當中。由此，可以看出醫療信息、醫療行為的理解性披露非常重要。

而決策模式更是需要被思考的問題，以沃森腫瘤診斷系統為例：這個系統以"生存時間最大化"作為臨床診療目標，并以此提供治療方案的排序建議[7]。這就會產生這樣的問題：治療的方案很可能不是患者個體的意愿所決定的，而是按照CDSS算法的理念驅動產生的結論。這就會導致醫患雙方醫療信息的不對等甚至是患者喪失醫療決策權，甚至是以醫療人工智能為驅動的家長式決策模式為主導，這是一種診療模式、理念的倒退。

沃森腫瘤診斷系統在考慮診療決策權重時，將患者生存時間最大化作為首要也是最重要的考慮標準。如果患者期望的是痛苦最小時，算法將很難幫助實現。這同時也可以說明，如果將醫療人工智能納入到醫療決策的控制權范圍，患者的各種權利/尊嚴會受到顛覆性的破壞。從長遠發展角度考慮，醫療人工智能如果在發展中不能解決患者自由意志實現的問題，將不可避免地帶來個體傷害。目前，CDSS很難從患者的角度去權衡最適宜的醫療行為、最佳的醫療結果，CDSS的算法也鮮少涉及患者診療時的多維度權利，而真正具體的醫療過程應該是最大限度的融合(包括技術、倫理、法律等問題)，完全由機器自主的治療決策是對人自由權利的侵犯，打破了傳統醫學"以患者為中心"的關鍵原則。《人工智能輔助診斷技術管理規范(2017年版)》[5]也明確闡釋了臨床中應如何進行使用及其注意事項。

3 CDSS研發與應用中“以患者為中心”

3.1 CDSS對“以患者為中心”的挑戰

目前的AI診斷精度越來越高，這是不容否認的事實，然而醫生面對如此精準的診斷是否可以按照他的建議進行治療呢？目前人工智能輔助決策系統在研發過程中出現醫生的身份缺位，醫生的作用沒有發揮出來，如在使用人工智能輔助決策系統時，發現5歲的小女孩出現肺結節，這其實是個純碎的醫學問題，如果輔助診斷系統面對此類問題做出統一的手術治療的決策則是對醫學倒退的表現。沒有醫生的綜合評估，或是只靠CDSS的數據分析是不足以做出最后的判斷的。

在臨床應用中CDSS為醫生帶來了一些問題：是否告知患者其診斷是依靠智能系統而不是傳統的醫生的判斷？如果醫生使用CDSS時，產生的顧慮是否應該告知患者？從上文的患者自主權的討論中推定我們是應該告知的，然而我們在后續的處理中應該怎么做，就變成了一個新的問題。

CDSS的出現及發展趨勢為未來的醫療發展貢獻很大力量，但是無論是CDSS還是其他更多的人工智能工具，實質上是要為人服務的，從這一角度來看，CDSS改變的只應該是診療形式而不是診療目的。從目的角度看，無論技術如何發展應用，他應該解決的是醫療的根本問題，為患者服務，而不是以技術、資本等問題優先。所以無論怎樣的方式解決問題都應該符合臨床的真正目的，為患者診療。醫護人員所要面對的患者是有不同思想、情感及不同心理需求的病情各異的人。而CDSS可以替代醫務人員完成部分簡單、重復的醫療工作，但它無法理解患者情感、不能與患者產生共鳴。而這一切，都需要醫務人員來彌補。

3.2 提升信任的基礎

無論怎樣發展，醫學本身沒有突破的問題，寄望于醫療人工智能的發展、輔助系統的完善，從根本上是不可能解決的。現在的醫療人工智能屬于弱人工智能范疇，醫生的直覺、整體認知、法律和人文方面的統籌，是醫療人工智能不能企及的。雖然有學者已經討論過為什么黑盒算法是值得信賴的，但是公眾的看法可能不同。一般公眾可能會懷疑或實際上不信任這樣的系統算法，公眾接受醫療人工智能并應用在醫療環境，已經成為一個問題。

不只是黑箱問題，在大數據背景下，要兼顧醫療數據共享與患者隱私安全，除在技術上對數據采取“匿名化”、加密存儲等措施外，加強數據管理是重中之重。醫療大數據的安全管理包括數據采集、存儲、挖掘、應用、運營、傳輸等多個環節。從實際問題出發，在發展的過程中，醫療人工智能技術必須滿足客觀的標準從而保證對安全性、可信賴性、可追溯性、隱私保護等方面的要求。

3.3 提高CDSS安全性，明確其診斷標準

技術本身并不是第一優先級，解決臨床問題才是。2021年6月28日世界衛生組織正式發布了《世界衛生組織衛生健康領域人工智能倫理與治理指南》(Ethics and Governance of Artificial Intelligence for Health: WHO Guidance)[8]，提出了確保人工智能符合所有國家公共利益的六項原則：保護人類自主性；促進人類福祉、安全以及公共利益；確保透明度、可解釋性和可理解性；促進責任和問責；確保包容性和公平性；促進負責任和可持續的人工智能。

CDSS需要權威的知識來源，遵循臨床診療指南、臨床技術操作規范、行業標準和臨床路徑進行合適的提示與預警，有助于提高臨床診療規范化水平，提升醫療質量安全。以目前應用比較廣泛的影像科、病理科為例，人工智能與影像結合能解決這些問題：一是醫生沒有時間做的事情或對專家來講是浪費時間，但是對診斷十分必要的事情，如取材時候做記錄、影像篩查等;二是計算機更擅長做的事情。醫生更擅長定性診斷，但計算機更適合定量診斷;三是對于影像科和放射科而言更重要，解決技術經驗不足、成像標準不統一的問題。對于病理科而言，人工智能有助于成像更加標準。疾病的種類千差萬別，現階段的CDSS發展依賴于數據庫，而數據庫的建設各地的數量有限，質量參差不齊，所以亟待增加醫療大數據的體量規模、增加病種，提高數據質量，以用于模型的訓練和檢測。此外，國家的資質審查、醫療人工智能算法在臨床上的評價、風險控制、評價體系、醫院的準入流程問題等還要逐步完善。人工智能對于醫療怎樣用處最大？這是技術上的難題，同時也是應用的難題，需要人工智能專家與醫療專業碰撞交流。

3.4 CDSS的發展應該源于臨床、回歸臨床

臨床的真實需求,才是醫療CDSS發展的初衷。醫療行業對CDSS已經有了較為清晰的認識和臨床應用需求,同時，囿于臨床診療的復雜性、多變性，使臨床診療很難如其他行業一樣被簡單“規則化”，這使得很多臨床醫生對人工智能應用仍抱有較謹慎的態度。但整體來講，臨床專家同研發者達成了一定應用共識，即在具體的臨床問題和科研場景中，共同探索和開發CDSS的應用空間，其目的正是為了使人工智能真正回歸臨床，發揮其應有的輔助作用。在臨床應用落地時，由臨床醫生思考診療過程中的難點并提出問題，由研究人員有針對性地配合臨床醫生尋找解決問題的方法，真正讓CDSS的應用源于臨床、高于臨床、回歸臨床、真正為臨床所用。為人工智能的參數設定和有效性提供支持依據。

科技最大的價值就是能夠成為人類助手，而CDSS就是輔助醫者更有效率地工作，更好地造福患者。醫療領域對人工智能技術提出了更高的要求：CDSS與生物心理社會醫學模式進行兼容。基于此的研發應該致力于為臨床專家提供技術和工具，針對臨床的需求，提出更好的數據智能化解決方案。從患者需求出發，圍繞著疾病診斷和治療問題，利用新的智能醫療技術，為臨床醫生提供更好的臨床診療思路和解決方案。