醫療AI技術研發中的倫理思考與探索

文/董楓

醫療AI技術為臨床診療注入了無限可能，但所面臨的倫理挑戰同樣值得深思。

醫療人工智能正在越來越多的醫療場景和院外場景中被使用，作為人類科技史上又一次生產力飛躍，醫療AI第一次將診療技術的載體從“人腦”擴展為“醫生+AI”，使得人類第一次擁有了將診療能力批量復制的可能；更高的閱片、診斷效率，更精準、規范的診斷結果，更優化的診療流程，以及與大數據、物聯網、5G技術所結合的空前廣闊的應用場景令人心動，但由此而來的，對醫學倫理、信息安全、隱私保護、數據分享與利用等前沿領域也提出了更為嚴峻的思考與挑戰。

如何客觀評價醫療AI產品的實際價值？如何正確看待醫療AI技術臨床應用所面臨的數據分享與利用、隱私保護等倫理問題？面對上述難題，臨床醫師及醫療機構管理者又有哪些對策？

價值凸顯

在2019年的全球頂級放射學會議——北美放射學年會（RSNA）上，1400余場口頭報告中，中國學者的比例已經超過15%；總的文章發表數中，與AI相關的文章也已超過100篇，遠超日韓總和。中國醫療AI的發展速度與水平可見一斑。

以復旦大學附屬腫瘤醫院為代表的頂級三甲醫院是醫療AI技術探索的主力軍，在門診流程優化、智能輔助診斷、智能科研等領域均有諸多經驗。從研發與試用經驗來看，醫療人工智能技術的核心價值主要體現在以下三個方面。

第一，高效。醫療AI技術的出現使得醫生擺脫繁重的體力勞動，將部分重復的基礎性工作，如病灶檢出、結構化報告撰寫等工作以AI的方式壓縮至數秒鐘完成，醫生能夠擁有更高的閱片效率，勞動力得到釋放。

第二，精準。以乳腺X線鉬靶閱片為例，乳腺X線鉬靶閱片難度較高，需要豐富的臨床經驗與高水平專家的教學指導，復旦大學附屬腫瘤醫院在該領域長期處于國內領先水平，但培養成本高、培養周期長、閱片難度大、影像數量少等難題長期制約基層醫院相關人才的培養，閱片質量難以提升。如何解決？能夠“學習”頂級醫院診療能力的AI應用或可能帶來新的改變。

第三，一致性。AI系統在未來有望解決全國各個區域、不同層級醫療機構之間對于乳腺X線鉬靶閱片的一致性難題，讓偏遠地區的乳腺癌患者也能夠享受“復旦水準”的醫學影像診斷服務。

頂級醫療資源長期且必然處于極度緊缺狀態，不同層級醫療機構之間診療能力難以短時間內實現均質。而人工智能則可能將診療能力工具化，通過深度學習技術復制頂級醫療機構的診療能力，顯著提升基層醫療機構診療能力，以技術手段實現診療能力的傳播，是人類社會未來解決優質醫療資源短缺，推動醫療資源供給側改革，實現社會公平，民眾醫療資源獲得感提升的重要工具。

倫理困境

AI技術在醫學領域的飛速發展，為臨床診療注入了無限可能，也帶來了新的諸如醫學倫理、信息安全、隱私保護、數據分享與利用等前沿領域的倫理問題。

一是安全性風險。醫療AI在大幅提升診斷效率、精確度以及一致性的情況下，依然不可避免地存在一定的誤診漏診現象，未來的臨床應用中必然面臨責任界定問題。目前，日本與歐盟的監管機構曾提出：應將AI系統與“工具”等同，即由操作“工具”的醫生來承擔主體責任，而我國目前尚無相關法律明文規定，對AI的推廣應用帶來一定的不確定性。

此外，安全性風險還涉及醫療人工智能產品的臨床效能評定及質量控制體系建設，醫療人工智能技術的應用者需要結合病種特點及科室實際工作流建立新的工作模式及質量控制體系，以確保醫療安全。

二是數據隱私保護風險。醫療數據所包含的患者健康管理高度敏感，一旦泄露可能對患者造成重大的經濟影響，甚至生命威脅。歐美等多個國家和地區均對醫療數據提出了嚴格的保護政策。以歐盟2018年頒布的《通用數據保護條例》（GDPR）為例，一方面，新法規使患者有更多權利控制其個人數據的收集及使用；另一方面，對相關數據的不合規行為可導致重罰。

而與此同時，我國雖然關于醫療大數據的總體性綱領不斷涌現，但對于醫療中的隱私及數據保護散見在一些法律法規中，如《民法總則》《中華人民共和國執業醫師法》《醫療機構病歷管理規定》《全國人民代表大會常務委員會關于加強網絡信息保護的決定》等，且對于侵犯醫療數據隱私的懲處條例相對寬松，以行政處罰和經濟懲罰為主，相對較輕。

三是算法偏見問題。“算法偏見”是指在看似沒有惡意的程序設計中帶著創建者的偏見，或者所采用的數據是帶有偏見的。這種偏見最初出現在人臉識別程序中對于部分人種的識別困難，但在醫療領域中，“算法偏見”并不罕見。

以乳腺X線AI的研發為例，不少企業及高校利用海外數據集進行原始模型構建，但由于歐美女性多為脂肪型乳腺，而中國女性則為致密性乳腺，加之清晰度不足、標注質量低下等原因，依靠單一的公開數據集中公開的歐美女性乳腺影像所研發出來的AI產品無一例外，均在醫療機構實地運行中出現“水土不服”，性能出現大幅跳水。這也對醫療人工智能產品研發過程中的數據質量、數據來源多樣性提出了嚴峻挑戰。

同時，不同區域、不同醫療機構對于同一疾病的認知也可能存在差異，當AI的“老師”意見不一致時，最終產出的醫療AI產品性能也會存在差異。

四是醫師培養體制進步。該種現象當前并不明顯，但未來很有可能發生。以醫療AI技術影響最為深刻的放射科而言，隨著技術進步，越來越多的閱片工作與流程將實現自動化、智能化，放射醫師的主要工作將從體力勞動者化身醫療AI的訓練者與監督者，其日常工作重心及培養方式將不可避免地發生變化。正如馬車夫被汽車駕駛員淘汰一樣，未來放射醫師的學習重點也可能隨著醫療AI技術的進步而發生改變。探索路徑

醫療人工智能早已不是“新生事物”，醫療機構醫教研管的每一個環節都已經能看到醫療人工智能的身影。作為臨床醫務工作者和管理者，我們必須以開放且積極的態度擁抱醫療人工智能，正視醫療人工智能發展中所面臨的技術難題、倫理難題、法律難題，并尋求相關對策，推動醫學技術進步，以技術創新讓人人享有更好的醫療。

首先，嚴格院內管理制度，建立院內風控體系。新技術的應用必然對院內醫療安全產生影響，隱私保護、醫療責任歸屬、產品風險防范等問題必須在醫療AI產品落地之前即進行嚴格論證，建立產品性能及風險評價體系，明確產品應用范圍，遵守“數據不出院”等基礎原則，為醫療安全建立第一道屏障。

其次，加速監管體制創新，明確法律責任。醫療AI產品的監管難點之一在于其技術處于飛速進步之中，相較于傳統藥品及器械品種動輒3～5年，甚至5～10年的審批流程，醫療AI的技術進步以1年計，甚至每半年都會有新功能推出，行業組織及相關部委必須研究“高頻創新”時代的新監管體系及理念，建立動態準入及監管機制，既鼓勵新技術研發的同時，也確保只有真正有用、有價值的醫療AI產品才能落地臨床。

同時，諸多倫理難題，尤其是醫療數據的歸屬、利用、開發、分享等細則必須進一步明確，以法律條文的形式為行業發展奠定基調，明確法律責任之后，必將大力推動相關行業進步，充分利用中國這個全球最大的醫療數據資源寶庫。

再次，發揮頂級三甲醫院的學術帶頭作用，加速行業標準、應用規范的制定，形成行業標準或共識。當前醫療AI產品開發中良莠不齊現象嚴重，水平差距較大，數量雖多但精品稀缺，頂級三甲醫院作為優質醫療資源高地及醫療AI應用先行者，一方面能夠以頂級的數據基礎及診療水平成為醫療AI產品的高水平“導師”；另一方面，也有能力以區域組織或醫聯體為單位推動醫療AI產品的質量評定、信息安全、倫理審查等體系建設，形成區域或行業標準并進行推廣。