人工智能產業開發背景下醫療人工智能的倫理挑戰及對策研究

〔摘要〕隨著人工智能技術的飛速發展，其在醫療領域的應用日益廣泛，推動了醫療產業的創新與發展。然而，醫療人工智能應用逐漸普及的同時，也面臨醫療機器人的權利、醫療機器人的道德責任、個人隱私與數據安全、公平性等與人類利益和價值觀密切相關的倫理挑戰。為解決以上問題，提出應建立法律法規、健全監管機制，加強技術研發和防范措施，多元主體參與、多學科交叉融合，“負責任創新”等倫理治理措施。希望通過這些措施，促進醫療人工智能的可持續發展，實現科技創新與社會價值的和諧統一。

〔關鍵詞〕醫療人工智能；倫理挑戰；人工智能產業

〔中圖分類號〕R-052 〔文獻標志碼〕A 〔文章編號〕1001-8565（2024）09-1046-06

DOI： 10. 12026/j. issn. 1001-8565. 2024. 09. 05

*基金項目：西安市科技局軟科學項目“秦創原人工智能產業開發背景下的醫療人工智能倫理挑戰及對策研究”（22RKYJ0043）；教育部人文社會科學研究項目“德國醫學人文教育經驗及啟發研究”（21XJAZH002）；陜西省教育廳教育教學改革研究項目“陜西省醫學教育創新發展背景醫學人文英語共情教學改革研究”（21ZY010）

Research on ethical challenges and countermeasures of medical artificial intelligence under the background of artificial intelligence industry development

CHEN Chen1， CHEN Lin2， GUO Zikai1， REN Ning1

（1. Research Center for Medical Language and Culture， Xi’an Medical University， Xi’an 710021， China；2. Intensive Care Unit， AnKang Hospital of Traditional Chinese Medicine， Ankang 725000， China）

Abstract： With the rapid development of artificial intelligence （AI） technology， its application in the medical field has become increasingly widespread， greatly promoting the innovation and development of the medical industry. However， as the applications of medical AI gradually become popular， they also face ethical challenges closely related to human interests and values， such as the rights and moral responsibilities of medical robots， personal privacy and data security， and fairness. To address the above issues， measures should be taken such as establishing laws and regulations and improving regulatory mechanisms， strengthening technological research and development and preventive measures， involving multiple stakeholders and cross-disciplinary integration， and implementing ethical governance of“responsible innovation”. By implementing these strategies， it can promote the sustainable development of medical AI and achieve the harmonious unity of technological innovation and social value

Keywords： medical artificial intelligence； ethical challenge； artificial intelligence industry

《健康中國2030規劃綱要》將“推動健康科技創新”上升為國家戰略，《新一代人工智能發展規劃》也將“智能醫療”作為重點發展領域[1]。人工智能在醫療領域的發展有著廣闊的前景和重要的意義，智慧醫療已成為科技競爭的重點領域，2021年中國醫療機器人市場的體量達到近10億美元[2]，上海浦東張江機器人谷年工業產值達221億元[3]。

人工智能技術在醫療領域的應用，可以提高醫療服務的效率和質量，為患者提供更加智能化、個性化的醫療服務，同時能促進醫療產業的升級和發展，推動醫療領域的科技創新和進步，但在醫療人工智能的應用帶來巨大潛力的同時，也引發了一系列倫理問題。

1 醫療人工智能的倫理挑戰

醫療機器人直接關系到患者的生命安全，其倫理風險將給社會帶來極大的隱患。機器人倫理是人工智能倫理體系的重要組成部分，是倫理學研究的新方向、新領域，主要涉及關于機器人技術的使用、機器人與人類之間的倫理關系和問題，尤其是“人—機器人”交互過程中產生的各種社會倫理問題[4]。隨著人工智能技術的不斷發展，機器人在醫學場景中出現的頻率越來越高，而與醫療機器人相關的道德倫理問題也日益凸顯。因此，關于醫療機器人倫理問題的探討和研究具有重要的現實意義和價值，其涉及的核心議題包括：醫療機器人的權利、醫療機器人的道德責任、個人隱私與數據安全、公平性問題等。這些議題與人類的利益和價值觀密切相關，值得深入研究和探討。

1. 1 醫療機器人的權利問題

醫療機器人的權利問題是一個復雜且日益受到關注的議題。隨著醫療機器人技術的快速發展和廣泛應用，其在醫療領域扮演著越來越重要的角色，但同時也引發了一系列倫理和法律問題，其中最為核心的就是醫療機器人的權利問題。醫療機器人是否具有權利？在探討這一問題時，首先需要明確權利的定義及其在法律中的地位。在傳統的法律體系中，權利通常被賦予具有意識和自主性的生物實體，如人類。然而，醫療機器人作為一種高度智能化的機器，雖然不具備生物性和意識，但它們在醫療過程中能夠自主決策和執行任務，通過“理性配置”有了理性和自由意志的萌芽，進入到與人類同等的“范疇”，能夠在表征層面，自我參與、自我反思，進而浮出自身進入環境并產生擾動[5]，因此有學者認為在強人工智能時代，醫療機器人因具備自主決策與深度學習的能力，能夠通過與環境互動作出自主性判斷，具有了相應的主體權利資格[6]。也有學者認為醫療機器人只是人類通過特定的程序編輯表達的類人智慧，是對人類智慧的模仿，只能在編程的范圍內活動，或者對一定的數據進行總結分析，但不能進行創新活動[7]，因此不具有行為能力和權利能力。

然而，醫療機器人的權利問題不是簡單的是非問題。一方面，賦予醫療機器人權利有助于保護其合法權益，防止其被濫用或受到不必要的損害。例如，在手術過程中，如果醫療機器人出現故障或誤操作，可能會對患者造成嚴重傷害，此時如果機器人沒有相應的權利，那么其制造商和使用者可能會逃避責任。另一方面，過度賦予醫療機器人權利也可能引發一系列問題。例如，隨著醫療機器人權利的增加，機器人可能會取代更多的醫療專業人員，從而導致失業和社會不平等問題的加劇；過度依賴醫療機器人可能導致患者的自主權受到侵犯。如果機器人在沒有充分告知或征得患者同意的情況下作出治療決策，可能侵犯患者的知情同意權；醫生群體被迫讓渡部分自主權利，置身于“技術繭房”之中難以擺脫被技術同化的命運。

醫療機器人的權利問題還與其在醫療體系中的角色和定位密切相關。隨著醫療機器人的廣泛應用并逐漸承擔起更多的醫療任務和責任，需要更加明確具體的法律地位和權利保障，包括醫療機器人在醫療決策中的參與程度、其對醫療結果的責任承擔以及與其他醫療人員的協作關系等方面。

在解決醫療機器人的權利問題時需要綜合考慮技術、法律、倫理和社會等多個方面的因素。通過制定和完善相關法律法規和政策，明確醫療機器人的法律地位和權利范圍，同時加強對其技術和行為的監管和評估，才能更好地平衡醫療機器人與人類用戶之間的權益關系，推動醫療機器人技術的健康發展。

1. 2 醫療機器人的責任問題

醫療機器人的責任問題是一個關鍵且復雜的議題，涉及多個層面，包括技術、倫理和法律等。隨著醫療機器人在醫療領域的廣泛應用，其責任問題也日益凸顯。醫療機器人是否應該承擔道德責任？《新一代人工智能倫理規范》為醫療機器人的責任問題提供了指導原則，但具體責任歸屬和界定仍需根據實際情況進行綜合分析和判斷。

首先，從技術層面來看，醫療機器人作為一種高度智能化的醫療設備，其設計和制造過程中可能存在缺陷或漏洞，導致其在實際應用中出現故障或誤操作。這些故障或誤操作可能會對患者造成嚴重傷害，甚至危及生命。因此，醫療機器人的制造商和研發者需要對其產品的安全性和可靠性承擔相應責任。正如Veruggio所言，機器人實際上只是人類創造的工具，它們并不知道自己所作的選擇。因此，人類對其行為負有道德責任[8]。

其次，從倫理層面來看，醫療機器人的自主性可能導致責任歸屬不明確。醫療機器人在醫療過程中甚至能夠自主決策和執行任務，因此可能會出現機器人作出錯誤判斷并導致不良后果的情況。同時，機器人并不具備人類的道德意識和情感，這使得其在面對復雜的醫療情況時可能無法作出恰當的決策。在這種情況下，責任應該由誰承擔就成為了一個問題。因此，需要明確醫療機器人在倫理方面的責任，在人工智能載體的設計階段，應全面考慮其作為人類事務委托者或決策代理者時應遵循的倫理準則，以確保其在使用過程中不會違反倫理原則。

最后，從法律層面來看，醫療機器人的責任問題涉及法律法規的制定和執行。目前，各國對于醫療機器人的法律地位和責任認定尚存在爭議和分歧。一些國家已經開始制定相關的法律法規，明確醫療機器人的法律地位和責任范圍，以確保其在使用過程中能夠受到有效監管和約束。中國法律尚未對醫療機器人的主體資格作出明確規定，醫療責任的歸屬和認定是智能醫療機器人倫理風險防控的關鍵問題[9]。

1. 3 個人隱私與數據安全問題

隨著醫療人工智能技術的快速發展和廣泛應用，個人隱私和數據安全面臨著越來越大的挑戰。按照《新一代人工智能倫理規范》的要求，所有人工智能相關活動，包括醫療人工智能的應用，都必須嚴格遵守隱私保護原則，確保個人數據的安全性和保密性。

個人隱私是患者的第一關切。但是，數據的采集、打通、整合和連接的操作過程，必然存在隱私泄露的隱患[10]。醫療人工智能系統的應用涉及大量的個人隱私信息，包括患者的病歷、診斷結果、治療方案等。這些信息具有極高的敏感性，如果泄露或被濫用，將對患者的個人權益造成損害。例如，美國芝加哥大學向谷歌提供的數十萬條患者記錄并未進行充分的去標識化處理，仍然包含了患者的個人信息、診斷詳情、手術記錄以及用藥情況等敏感數據，導致這些數據可能被用來重新識別患者身份，從而侵犯了個人隱私權。因此，保護個人隱私是醫療人工智能應用中的首要任務。

數據安全也是醫療人工智能應用中不可忽視的問題。醫療機器人本身具有記憶、擴散和復制等功能，無形中增加了醫療數據泄露的可能性，因而患者知情權和個人隱私安全無法得到保障[11]。醫療人工智能系統通常依賴大量的數據來進行訓練和優化，這些數據可能包含患者的個人信息和醫療數據。如果這些數據被非法獲取或遭到惡意攻擊，將對患者的隱私和醫療安全造成嚴重威脅。此外，醫療人工智能系統的數據泄露還可能對醫療機構的聲譽和信譽造成重大損失。目前中國的法律體系尚未明確規定患者隱私延伸出的數據權利，如何保護患者的隱私權成為醫學AI領域倫理治理中亟須解決的關鍵問題[12]。

1. 4 公平性問題

公平性在醫療領域尤為重要，每個人都應該平等地獲得必要的醫療服務，而不受種族、性別、年齡、社會地位或其他任何因素的歧視。在推動人工智能發展的過程中，公平性問題是一個不可忽視的方面，涉及算法決策對個體或群體的潛在影響，人工智能技術的應用會導致資源分配的不平等，使得某些群體無法充分享受其帶來的益處。

首先，數據偏見是一個關鍵問題。醫療人工智能系統的訓練數據通常來自過去的醫療記錄，這些數據可能反映了不公平和偏見，如種族、性別或社會經濟地位的不平等。如果這些數據被用來訓練模型，那么模型可能會無意中放大這些偏見，導致不公平的決策和結果。在算法偏見與算法黑箱的支配下，基因、種族、性別和地域等偏見可能會被無意識地嵌入算法程序中，各種算法歧視與偏見被機器人學習和繼承，且很難通過技術手段剔除，從而導致特定醫患人群被標簽化，引發這些群體在社會就業和職業發展中受到不公待遇，影響社會公平公正[13]。例如在算法的滲透下，老年人群體日益被邊緣化，算法決策機制在本質上就有年齡歧視的風險，因為它更傾向于將資源用于年輕人，老年人的生命價值可能被忽視或低估，導致他們在算法決策中處于不利地位[14]。

其次，可及性也是一個重要問題。各國、各地區的貧富差距和技術差距不斷加大，智能醫療資源的分配存在有失公平公正的倫理風險[15]。事實上，盡管醫療人工智能有潛力提高醫療服務的質量和效率，但由于資源限制、技術基礎設施不足或文化因素等原因，并不是每個人都能平等地獲得這些技術，人們可能無法充分享受醫療人工智能帶來的好處。醫療機器人的應用存在明顯的技術鴻溝、信息鴻溝和服務鴻溝，資源配置的矛盾可能進一步拉大貧富差距，導致醫療服務的不平等分配，加劇現有的社會不平等現象，不利于社會的公平和穩定[16]。

2 醫療人工智能倫理問題的對策

隨著人工智能產業的迅猛發展，醫療人工智能產業在為《健康中國2030》目標提供強大支持的同時，其倫理問題也逐漸表現出來，不僅關乎個體權利，還涉及整個社會的道德和法律底線，因此必須最大限度地降低和規避這些風險。人工智能領域的政策和實踐應與《新一代人工智能倫理規范》的要求保持一致，在推動人工智能項目時應確保項目符合增進人類福祉、促進公平公正等基本原則。在人工智能產品的研發、供應和使用等環節，應加強隱私保護和數據安全，確保個人信息不被非法收集和利用。

2. 1 建立法律法規、健全監管機制

應對醫療人工智能帶來的倫理風險，不能僅停留在理論層面的探討上，而應當落實在法律制度、社會政策以及行為準則等具體且具備執行力的現實層面上，要讓醫療人工智能的應用有法可依。

相關部門需要制定詳細的法律和倫理規范，明確醫療機器人在醫療過程中的權利和責任，以及與人類醫生、患者之間的關系；明確醫療人工智能應用中個人隱私和數據安全的保護標準和責任歸屬；加強國際合作和法律法規的制定和執行，形成統一的國際標準和規范，為醫療機器人的發展提供有力的法律保障。

同時還要建立完善的監管機制，確保醫療機器人的使用符合法律和倫理規范，保障其合法權益的同時防止其濫用權利；對醫療人工智能系統的數據進行嚴格的管理和監督，確保其安全性和可靠性。建立監管機制和倫理指南，確保醫療人工智能的使用符合公平性和倫理原則。

2. 2 加強技術研發和防范措施

加強技術研發和防范措施，提高醫療人工智能系統的安全性和防護能力。當前醫療大數據種類繁雜且分類標準不統一，數據技術應用系統需要進一步創新優化[17]，例如，采用先進的加密技術和數據脫敏技術，保護患者的個人信息和醫療數據不被泄漏和濫用，通過技術手段加強對數據收集、存儲和使用過程的監管，確保數據的合法性和安全性。提升算法的可解釋性和透明度也是方法之一。醫療人工智能算法應具備更高的可解釋性，訓練模型時考慮公平性和無偏見性的原則，以便醫生、患者和監管機構能夠理解其決策依據。通過改進算法的設計和實現方式，降低其產生的倫理風險，并增加人們對算法的信任。此外，還應通過技術手段建立完善的網絡安全體系，防范惡意攻擊和數據泄露等風險。

2. 3 多元主體參與、多學科交叉融合

作為當前最為復雜的新興技術，人工智能技術具有不確定性以及深度專業性，單一機構不能提供支撐決策的全部知識，需要多元主體共同參與治理[18]，工程師、公司職員、政府官員、醫生、患者、倫理學家等多方的參與，才能為醫學人工智能的設計提供具有一定共識的倫理原則，才能從法律法規到社會倫理等方面提供體系支撐。

同時，醫療人工智能的倫理問題涉及醫學、倫理學、法學等多個學科領域。因此，促進多學科交叉合作，共同研究和解決倫理問題是非常必要的。通過跨學科合作，可以綜合不同領域的觀點和方法，為醫療人工智能的倫理風險控制提供更全面和有效的解決方案。

2. 4 “負責任創新”的倫理治理

負責任創新理念最初在歐美國家的科技倫理治理中被提出，著重對研究與創新可能產生的未知影響和結果進行前瞻性評估。這一理念的核心目標在于應對科技發展過程中的責任倫理挑戰，確保科技創新在遵循倫理原則的同時為社會帶來積極的影響。在醫療機器人的設計、研發和創新過程中，要遵循“負責任創新”的理念，對研究和創新的未知影響和結果進行預測評估，應當嵌入人類的倫理準則并遵循人類的價值規范體系，從而使智能醫療機器人可以產生符合倫理規范的判斷和行為，以解決責任倫理問題[19]。

3 結語

在人工智能產業快速發展的背景下，醫療人工智能的應用為醫療體系帶來了巨大的變革和發展機遇。然而，伴隨而來的倫理挑戰不容忽視。為了應對這些挑戰，必須要讓醫療人工智能的應用有法可依，建立高效的監管機制，并通過技術手段加強防范。“負責任創新理念”強調在醫療人工智能研發和創新的整個過程中，以一種包容性的方法使多元主體共同參與、協調，建立科學和社會之間的有效合作，使醫療人工智能符合社會的價值觀、需求和期望，以重點解決醫療機器人的權利、醫療機器人的道德責任、個人隱私與數據安全、公平性等問題。通過全面應對這些挑戰，醫療人工智能的應用才能更好地造福人類健康。

〔參考文獻〕

[1]徐明，韋儼蕓. 數字時代醫療人工智能的算法邏輯、風險及其應對[J]. 中南民族大學學報（人文社會科學版），2024，44（1）：146-154. XU M，WEI Y Y. Algorithm logic，risks，and countermeasures of medical artificial intelligence in the digital era[J]. Journal of South-Central Minzu University（Humanities and Social Sci‐ences） ，2024，44（1）：146-154.

[2]GUO Y，CHEN W，ZHAO J. Medical robotics：opportunities in China [J]. Annual Review of Control，Robotics，and Autonomous Systems，2022，5：361-383.

[3]劉曉潔. 年工業產值221億張江機器人谷何以成為醫療機器人高地？[N]. 第一財經日報，2023-05-09（A04）.

[4]林津如. 機器人倫理學的研究進程：基于英語文獻的分析[J]. 東南大學學報（哲學社會科學版），2021，23（1）：24-31. LIN J R. Research progress of robot ethics in English literature[J]. Journal of Southeast Uni‐versity（ Philosophy and Social Science），2021，23（1）：24-31.

[5]凌晨. 有限理性存在者：智能機器人成為權利主體的理論基石[J]. 法學論壇，2024，39（1）：82-92. LING C. Bounded rational existence： the theoretical cornerstone of artificial intelligence’s capacity as le‐gal Subject[J]. Legal Forum，2024，39（1）：82-92.

[6]趙玲玲，郭遙. 智能醫療機器人倫理風險：類型、成因與防控策略[J]. 醫學與哲學，2023，44（12）：35-39. ZHAO L L，GUO Y. Ethical risks of intelligent medical robot： types，causes，prevention and con‐trol strategies [J]. Medicine and Philosophy，2023，44（12）：35-39.

[7]許中緣.論智能機器人的工具性人格[J].法學評論，2018，36（5）：153-164. XU Z Y. On the instrumental personality of intel‐ligent robots [J]. Law Review，2018， 36（5）：153-164.

[8]ANTONIO ESPINGARDEIRO. A roboethics framework for the development and introduction of social assistive robots in elderly care [D]. Sal‐ford：University of Salford，2014.

[9]翟振明，彭曉蕓.“強人工智能”將如何改變世界：人工智能的技術飛躍與應用倫理前瞻[J]. 人民論壇·學術前沿，2016，95（7）：22-33. ZHAI Z M，PENG X Y. How will “strong artifi‐cial intelligence” change the world：Prospects of the technological progress and application ethics of artificial intelligence[J]. Frontiers，2016，95（7）： 22-33.

[10]葉少芳 ，劉嬋娟. 智能時代數字醫療的倫理進路：基于“道德物化”理論的思考[J]. 浙江社會科學，2023（9）：114-120. YE S F，LIU C J. An ethical approach to digital medicine in the era of intelligence：reflection on the theory of “moral objectification” [J]. Zhejiang Social Sciences，2023（9）： 114-120.

[11]陳皓，蘭候翠，劉伶俐. 醫用機器人的倫理問題及應對之策[J].中國醫學倫理學，2019，32（6）：724-727. CHEN H，LAN H C，LIU L L. Discussion on the ethical problems and countermeasures of medical robots [J]. Chinese Medical Ethics，2019，32（6）：724-727.

[12]葉卓俊，沈艷麗，江曉，等. 醫學人工智能領域倫理治理重點研究[J].中國醫學倫理學，2024，37（1）：39-44. YE Z J，SHEN Y L，JIANG X，et al. Research on the focus of ethical governance in the field of artificial intelligence in medicine [J]. Chinese Medical Ethics，2024，37（1）：39-44.

[13]趙玲玲，郭遙. 智能醫療機器人應用的倫理風險及其治理路徑：基于利益相關者視角[J]. 科技管理研究，2023，43（11）：177-184. ZHAO L L，GUO Y. Ethical risks and governance paths of the intelligent medical robotics’ applica‐tion： from the perspective of stakeholders[J]. Sci‐ence and Technology Management Research，2023，43（11）： 177-184.

[14]徐潔，燕穎川. 算法年齡歧視的現實挑戰與規制路徑[J]. 學術交流，2023（7）：134-155. XU J，YAN Y C. Algorithmic age discrimina‐tion： its realistic challenges and regulatory ap‐proaches[J]. Academic Exchange，2023（7）：134-155.

[15]杜嚴勇. 機器倫理芻議[J]. 科學技術哲學研究，2016，33（1）：96-101. DU Y Y. On machine ethics[J]. Studies in Phi‐losophy of Science and Technology，2016，33（1）： 96-101.

[16]李開復. AI·未來[M]. 杭州：浙江人民出版社，2018：56-62.

[17]楊燁陽，蘇果云. 數字醫療技術應用中的倫理困境及其實踐邊界[J]. 醫學與哲學，2023，44（13）：34-39. YANG Y Y，SU G Y. Ethical dilemmas and prac‐tical boundaries in the application of digital health‐care technology[J]. Medicine and Philosophy，2023，44（13）： 34-39.

[18]黎常，金楊華. 科技倫理視角下的人工智能研究[J]. 科研管理，2021，42（8）：9-16. LI C，JIN Y H. A research on artificial intelli‐gence from the perspective of science and technol‐ogy ethics[J]. Science Research Management，2021，42（8）：9-16.

[19]薛桂波，閆坤如.“負責任創新”視角下技術倫理的政策轉向[J].大連理工大學學報（社會科學版），2018，39（1）：9-14. XUE G B，YAN K R. On the policy turn of tech‐nology ethics from the perspective of RRI[J]. Journal of Dalian University of Technology（So‐cial Sciences），2018，39（1）：9-14.