醫(yī)療人工智能的原則主義審思及治理探析

〔摘要〕醫(yī)療人工智能發(fā)展與應(yīng)用帶來的倫理挑戰(zhàn)，已經(jīng)超脫了傳統(tǒng)生命醫(yī)學(xué)倫理的原則主義框架的規(guī)制邊界，但這并不意味既往的原則主義路徑已經(jīng)“過時”。事實(shí)上，原則主義應(yīng)被視作醫(yī)療人工智能倫理治理的基礎(chǔ)性進(jìn)路，為倫理風(fēng)險的治理提供一個基準(zhǔn)性的價值標(biāo)桿。通過對醫(yī)療人工智能倫理風(fēng)險的原則主義進(jìn)行分析，發(fā)現(xiàn)僅靠疊加更多的倫理原則，或只是在有限語境內(nèi)的重新詮釋和擴(kuò)展既有原則的內(nèi)涵范疇，不足以適應(yīng)快速變化的技術(shù)環(huán)境和倫理風(fēng)險。因而，醫(yī)療人工智能的倫理治理應(yīng)當(dāng)以一種動態(tài)、靈活且持續(xù)性的視角，發(fā)展一種基于優(yōu)化原則主義的醫(yī)療人工智能倫理治理體系，在充分吸納實(shí)際語境倫理訴求的基礎(chǔ)上，建設(shè)包括學(xué)術(shù)研究、機(jī)制建設(shè)、文化培育三個路徑組成的醫(yī)療人工智能倫理治理體系。

〔關(guān)鍵詞〕醫(yī)療人工智能；人工智能倫理；倫理問題；原則主義；倫理治理

〔中圖分類號〕R-052 〔文獻(xiàn)標(biāo)志碼〕A 〔文章編號〕1001-8565（2024）09-1052-09

DOI： 10. 12026/j. issn. 1001-8565. 2024. 09. 06

*基金項(xiàng)目：國家社會科學(xué)基金重大項(xiàng)目“深入推進(jìn)科技體制改革與完善國家科技治理體系研究”（21ZDA017）；國家資助博士后研究人員計劃“基于社會-技術(shù)互構(gòu)論的醫(yī)療大模型倫理治理研究”（GZC20231384）；國家社會科學(xué)基金青年項(xiàng)目“人工智能時代的人-技倫理共同體研究”（21CZX021）

Principle-based reflection and governance exploration of medical artificial intelligence

WANG Chen1，2

（1. School of Social Sciences， Tsinghua University， Beijing 100084， China；2. Research Center of Science Technology and Society， Tsinghua University， Beijing 100084， China）

Abstract： The ethical challenges brought by the development and application of medical artificial intelligence （AI） have transcended the regulatory boundaries of the traditional principle-based framework of bio-medical ethics. However， this does not mean that the previous path of principlism has become “outdated.” In fact， principlism should be regarded as a foundational approach to the ethical governance of medical AI， providing a benchmark value standard for the governance of ethical risks. Through analysis of principlism of the ethical risks of medical AI， it was found that the shortcomings of principlism were insufficient to adapt to the rapidly changing technological environment and ethical risks by simply adding more ethical principles or just reinterpreting and expanding the connotations and scope of existing principles within a limited perspective. Therefore， the ethical governance of medical AI should develop a medical AI ethical governance system based on optimization principle from a dynamic， flexible， and continuous perspective， as well as establishing a medical AI ethical governance system consisting of three paths， including academic research， mechanism construction， and cultural cultivation， based on fully absorbing the ethical demands of the actual context.

Keywords： medical artificial intelligence； artificial intelligence ethics； ethical issue； principlism； ethical governance

大數(shù)據(jù)、人工智能等新一代信息技術(shù)與醫(yī)療保健、公共衛(wèi)生與生命科學(xué)結(jié)合的創(chuàng)新發(fā)展帶來了醫(yī)療智能化轉(zhuǎn)型，而以此為集成的醫(yī)療人工智能，正在以前所未見的形式，帶來傳統(tǒng)（醫(yī)學(xué)）倫理學(xué)應(yīng)對范圍之外新的挑戰(zhàn)，引發(fā)了社會層面的廣泛關(guān)注。在醫(yī)療智能化轉(zhuǎn)型不斷加速的背景下，為了保障醫(yī)療人工智能技術(shù)能夠有效服務(wù)于社會醫(yī)療福祉的實(shí)現(xiàn)和提升，有效的倫理風(fēng)險治理就顯得尤為關(guān)鍵。目前學(xué)界關(guān)于醫(yī)療人工智能存在的倫理問題類型和種類展開了一系列的討論和研究，基本已經(jīng)實(shí)現(xiàn)在現(xiàn)有和未來可預(yù)見的基礎(chǔ)上，窮盡了對醫(yī)療人工智能既存和潛藏倫理問題類型的挖掘和分析，形成了一幅全景式的醫(yī)療人工智能倫理風(fēng)險譜系和結(jié)構(gòu)框架[1]。但既有研究更多是非結(jié)構(gòu)化地提出醫(yī)療人工智能存在的倫理問題，而針對人工智能對醫(yī)療領(lǐng)域介入性賦能所產(chǎn)生的對既往醫(yī)療原則規(guī)約框架的影響卻鮮有系統(tǒng)性的分類研究，提出的對策也主要是問題跟隨式的線性匹配，不同對策之間缺乏相互支撐和配合，未能形成整合式的治理體系。

為此，有必要在深入研究醫(yī)療人工智能倫理治理之前，對醫(yī)療人工智能存在的各類倫理問題進(jìn)行分類與整合，以洞察和知悉醫(yī)療人工智能倫理風(fēng)險的全景圖像，借助原則主義倫理分析方法，結(jié)合人工智能一般性倫理原則作為原則擴(kuò)展，為本文醫(yī)療人工智能倫理治理體制的整體性建設(shè)，提供倫理原則層面的框架指南，并以此為據(jù)，提出基于原則主義的醫(yī)療人工智能倫理治理體系的建設(shè)策略。

1 理論視角：原則主義與人工智能

原則主義，又稱基于原則的倫理，誕生自20世紀(jì)70年代公眾對各種社會實(shí)踐領(lǐng)域的道德后果深刻關(guān)切的社會歷史背景下[2]，是指湯姆·比切姆和詹姆斯·邱卓思提出的生物醫(yī)學(xué)倫理學(xué)四原則，原則主義是扎根于醫(yī)療實(shí)踐價值問題的倫理決策程序[3]，包括四個方面的具體原則要求：尊重自主、不傷害、有利、正義。與功利主義、義務(wù)論、美德倫理為代表的傳統(tǒng)規(guī)范倫理存在本質(zhì)不同，原則主義雖然源于規(guī)范倫理思想，其獨(dú)特之處旨在提供一種處理現(xiàn)實(shí)倫理困境的實(shí)用方法[4]，其原則被認(rèn)為是普遍的，但不是絕對的。作為一類共同道德理論[5]，并沒有對共同道德的具化解釋[6]。原則主義以社會成員所共有的道德常識和共同需求來構(gòu)建基本框架，從而更高效地應(yīng)對現(xiàn)實(shí)倫理困境。原則主義作為醫(yī)療保健和生物醫(yī)學(xué)科學(xué)中常用的倫理分析方法，對于當(dāng)前醫(yī)療人工智能倫理治理有著重要的方法價值。

對于人工智能，其倫理原則是以倫理規(guī)范的形式，將倫理與道德融入人工智能研發(fā)與應(yīng)用的全過程，目的在于約束和規(guī)制人工智能可能產(chǎn)生的風(fēng)險后果。從技術(shù)條件看，醫(yī)療人工智能作為人工智能的技術(shù)應(yīng)用分支之一，應(yīng)用方向決定了醫(yī)療人工智能也是一類新興的生命科學(xué)與醫(yī)療技術(shù)，契合原則主義理論本身于生物學(xué)、生命科學(xué)與醫(yī)學(xué)倫理分析的適應(yīng)性要求。因此，在人工智能與醫(yī)療保健系統(tǒng)結(jié)合落地之前，醫(yī)療從業(yè)者和醫(yī)學(xué)專家應(yīng)考慮四項(xiàng)醫(yī)學(xué)倫理原則[7]。當(dāng)前，醫(yī)療人工智能倫理仍處于“道德起步”階段，在為這類非人工專業(yè)領(lǐng)域建立起一套適用性的倫理準(zhǔn)則之前，最好先從公認(rèn)的原則開始[8]。由此，本文以醫(yī)療人工智能倫理學(xué)術(shù)論文為研究對象，以原則主義作為理論基礎(chǔ)來建構(gòu)本文的分析框架，通過醫(yī)療人工智能涉及的相關(guān)倫理原則對醫(yī)療人工智能倫理研究論文存在的倫理觀點(diǎn)和概念的描述，系統(tǒng)性分析和審查醫(yī)療人工智能的各類倫理風(fēng)險問題。

2 醫(yī)療人工智能倫理的原則主義透視

2. 1 技術(shù)權(quán)利與受眾自主

自主權(quán)是患者的基本權(quán)利，是臨床實(shí)踐中個體的生命價值與人格尊嚴(yán)的體現(xiàn)[9]。在臨床診治的過程中，醫(yī)療人工智能能夠依照患者自身的歷史與實(shí)際情況，做出精準(zhǔn)性、個性化的治療方案的推薦，供患者選擇。但實(shí)際上，由于知識壁壘和專業(yè)權(quán)威的存在，在缺少患者個體的價值觀偏好和患者家庭的實(shí)際訴求的條件下，即使有醫(yī)師參與，醫(yī)療人工智能仍存在著一種“家長式”的權(quán)力邏輯[10]，加劇患者在診療過程中的脆弱性[11]，這實(shí)質(zhì)上是對自我偏好選擇自主性的削弱[12]，尤其在重大疾病的“高壓”語境下[13]，醫(yī)療人工智能以治愈或延長壽命為導(dǎo)向的目標(biāo)排序，顯然是過于簡單化的[14]。此外，在患者自主決策缺位的情況下，自治性的算法是否有資格擔(dān)任代理決策者，仍存在道德主體性意義上的巨大爭議。而在隱性層面，通過流量營銷，構(gòu)建信息繭房，持續(xù)強(qiáng)化患者對部分錯誤醫(yī)療觀念的認(rèn)知，誘導(dǎo)患者作出特定選擇，尤其老年患者在缺乏科學(xué)鑒別知識的情況，通過潛在的操控性，來引導(dǎo)患者選擇。總體上，隨著醫(yī)療人工智能自主性的不斷提升，所面臨的道德決策也將更加棘手。

2. 2 技術(shù)實(shí)踐與傷害止免

不傷害原則是涉及人的臨床研究倫理審查和醫(yī)療臨床試驗(yàn)得以展開的核心前提之一，是醫(yī)療人工智能的底線[15]。醫(yī)療人工智能在網(wǎng)絡(luò)安全、醫(yī)療安全、社會安全等方面存在不少隱患和風(fēng)險，這種潛在的安全問題可以分為兩類：一是與技術(shù)成熟度相關(guān)，由于技術(shù)性能限制且缺乏臨床試驗(yàn)作為檢驗(yàn)參照，難以保證技術(shù)在實(shí)際運(yùn)行過程中不會因系統(tǒng)故障而導(dǎo)致醫(yī)療事故的發(fā)生[16]，這種系統(tǒng)故障主要體現(xiàn)為技術(shù)算法的設(shè)計缺陷，尤其是在數(shù)據(jù)不全面和數(shù)據(jù)本身偏見的情況，都將導(dǎo)致算法結(jié)果偏離現(xiàn)實(shí)預(yù)期，部分錯誤和干擾數(shù)據(jù)還可能干擾算法的預(yù)測趨勢，造成系統(tǒng)性偏差，依據(jù)多數(shù)人口數(shù)據(jù)訓(xùn)練的算法可能會對少數(shù)弱勢群體造成歧視和偏見[17]，以及技術(shù)以外惡意的侵入性和犯罪性干擾；二是精神層面的技術(shù)安全問題，醫(yī)療人工智能自主性的臨床應(yīng)用，需要大量的臨床試驗(yàn)來考察，醫(yī)療人工智能對受試患者的情感因素，即受試者是否會因?yàn)獒t(yī)療人工智能作為非人機(jī)器，而導(dǎo)致對其精神的負(fù)面損害，僅終止試驗(yàn)是無法補(bǔ)償?shù)模绕鋵τ诶夏曜o(hù)理機(jī)器人的使用，是否會讓被賦予歧視“標(biāo)簽”，間接造成老年人產(chǎn)生被拋棄和遺落感[18]，造成對其人格尊嚴(yán)的踐踏，這些都是醫(yī)療人工智能倫理亟待關(guān)注的問題。

2. 3 技術(shù)價值與利他愿景

醫(yī)療人工智能的福祉性是其技術(shù)發(fā)展的價值剛需[19]，要為社會醫(yī)療和保健服務(wù)提供技術(shù)賦能，提供一種非人化利好（beneficent dehumanization）[20]，造福和利好患者和智能健康產(chǎn)品消費(fèi)者是醫(yī)療人工智能發(fā)展的本源初心。但應(yīng)當(dāng)認(rèn)識到，醫(yī)療人工智能的發(fā)展也存在有與利好性原則相違背的風(fēng)險存在。作為一類生命醫(yī)學(xué)與人工智能交叉的創(chuàng)新科技，醫(yī)療保健算法通常是在競爭性風(fēng)險資本主義的背景下開發(fā)的，其價值觀與醫(yī)療保健的價值觀不同，也可能不兼容[21]。患者為人，而非單純數(shù)據(jù)化的樣本、案例和研究對象。醫(yī)療健康大數(shù)據(jù)的迫切需求和算法本身的科學(xué)邏輯，可能會導(dǎo)致醫(yī)療文化中人本主義精神受到科技主義與數(shù)據(jù)主義的沖擊、消解和替代的可能，即在醫(yī)療人工智能的設(shè)計階段，持有一種簡單性思維，忽視了數(shù)據(jù)背后的人作為整體的價值存在；在臨床試驗(yàn)階段，僅關(guān)注試驗(yàn)的輸入與作用于試驗(yàn)對象產(chǎn)出的數(shù)據(jù)結(jié)果，缺乏對患者情緒、感知和訴求的存在關(guān)注，這種情況類似也存在于診療階段，將患者僅作為治療方案簡單的應(yīng)用對象；在產(chǎn)品推廣階段，沒有切身考慮患者和消費(fèi)者實(shí)際情況的情況，僅刻意強(qiáng)調(diào)醫(yī)療人工智能所代表的科學(xué)和高技術(shù)性能作為營銷手段，缺乏對個體適用性的利好關(guān)注，也會背棄醫(yī)療人工智能技術(shù)以人為本的受眾利好要求。

2. 4 技術(shù)效益與形式公正

醫(yī)療人工智能的發(fā)展有其促進(jìn)社會公益的技術(shù)使命。現(xiàn)階段的醫(yī)療人工智能，短期內(nèi)要讓醫(yī)療人工智能產(chǎn)生利潤營收相當(dāng)困難，加之在智能化轉(zhuǎn)型過程中智能醫(yī)療器械繁瑣的審批要求、醫(yī)療技術(shù)和器械的折舊淘汰，都使得醫(yī)療人工智能的（臨床）應(yīng)用無法回避高昂的成本效益與公眾普遍的可及性、可負(fù)擔(dān)性和可持續(xù)性問題。而資源分配問題一直以來都是社會醫(yī)療公平的棘手難題，如若不能協(xié)調(diào)好智能醫(yī)療資源的合理分配，因?yàn)槌杀竞拖∪眴栴}[22]，只能由經(jīng)濟(jì)條件較好的少數(shù)群體獨(dú)享，造成嚴(yán)重的資源分配不均，這不僅違背了醫(yī)療福祉性的社會期望，也會使醫(yī)療人工智能技術(shù)“墮落”至依照收入階層劃分的壟斷困境當(dāng)中，與技術(shù)公正的社會價值和公正目標(biāo)截然相悖。此外，醫(yī)療人工智能的使用、操作與維護(hù)也需要高昂的人力、資金、社會和環(huán)境等條件的支持，加之落后地區(qū)的醫(yī)務(wù)從業(yè)人員數(shù)量少、專業(yè)技能低，兩者綜合壓迫下削弱了人工智能醫(yī)學(xué)應(yīng)用的可及，加劇了資源可及性不均衡，無法讓更多人獲得高質(zhì)量的醫(yī)療健康服務(wù)，無法享受到人工智能的技術(shù)紅利，這一點(diǎn)在偏遠(yuǎn)、低收入和不發(fā)達(dá)地區(qū)尤為嚴(yán)重，智能醫(yī)療獲益的區(qū)域公平問題開始向社群公平問題轉(zhuǎn)移[23]。

2. 5 技術(shù)理解與可解釋性

可解釋性作為人工智能黑箱問題的關(guān)鍵，是人工智能比之其他類型技術(shù)介入醫(yī)療領(lǐng)域的一個特殊的技術(shù)特征。雖然機(jī)器學(xué)習(xí)會提高醫(yī)學(xué)診斷的準(zhǔn)確性，卻往往是以降低可解釋性為代價的[24]，尤其是當(dāng)算法黑箱在評估和診斷疾病時被賦予一定的權(quán)威時，這種問題可能會更加緊張，進(jìn)一步加劇人工智能的責(zé)任問題[25]。可解釋性原則的關(guān)鍵性地位，取決于醫(yī)療領(lǐng)域較之一般性人工智能的特殊性，醫(yī)療臨床過程中的許多具體決策實(shí)際上是生死攸關(guān)的問題，微小的錯誤都可能會威脅患者的生命安全，這時缺乏可解釋性就成為人工智能走向臨床應(yīng)用的限制性因素[26]，這使得可解釋性在建立醫(yī)療人工智能臨床信任方面具有不可替代的作用。在醫(yī)療語境下，從業(yè)者必須根據(jù)自主、有益和正義的原則向患者傳達(dá)有關(guān)算法輸出質(zhì)量的信息的專業(yè)義務(wù)[5]，試想如果算法輸出的結(jié)果僅有所謂“科學(xué)性”的決策指示，而無法就指示的輸出給出明確的決策依據(jù)和機(jī)制說明，那么這種所謂科學(xué)的算法決策在面對敏感的醫(yī)療問題時，就難有可信任的可能。然而，將醫(yī)療人工智能的解釋性從技術(shù)議題延展至倫理領(lǐng)域，可解釋性原則是否應(yīng)當(dāng)與傳統(tǒng)生命醫(yī)學(xué)倫理原則一同納作醫(yī)療人工智能的基本倫理準(zhǔn)則，目前仍存爭議。

3 醫(yī)療人工智能倫理原則主義的再優(yōu)化

3. 1 原則主義思路的效用困境

原則主義路徑的優(yōu)點(diǎn)是明顯的，但弊端也是存在的：忽視情感與個體因素、過分簡化問題和要求普遍性。由其所具化形成的倫理原則，作為一類制度性規(guī)制框架，相應(yīng)的滯后性問題難以避免。在本文的分析過程中也可發(fā)現(xiàn)，醫(yī)療人工智能的技術(shù)倫理問題與現(xiàn)行的傳統(tǒng)倫理準(zhǔn)則之間存在的“撕裂”張力。一方面，傳統(tǒng)倫理原則的確立與穩(wěn)定，能夠一定程度上作為禁令式的“規(guī)制”方式，提供明確的行為指南和規(guī)范，避免倫理困境中的盲目決策，是醫(yī)療人工智能技術(shù)創(chuàng)新的人本主義“底線”所在；但另一方面，一成不變的倫理原則，過于依賴固定的倫理原則也可能導(dǎo)致思維保守和僵化，難以及時跟進(jìn)和匹配醫(yī)療人工智能技術(shù)創(chuàng)新迅猛的發(fā)展勢頭和變幻莫測的應(yīng)用場景，落入倫理原則教條主義的窘境當(dāng)中。尤其是當(dāng)醫(yī)學(xué)倫理四原則與新近形成的人工智能倫理原則疊合后，雖然從預(yù)防醫(yī)療人工智能倫理風(fēng)險的角度，疊加更多的倫理細(xì)分原則似乎更具審慎意味，但也使醫(yī)療人工智能的倫理審查的流程內(nèi)容更加復(fù)雜，加之倫理原則之間的矛盾可能和地方性差異，導(dǎo)致倫理原則成為形式主義的技術(shù)“飾品”。

3. 2 摒棄“僵化”的強(qiáng)原則主義思維

事實(shí)上，原則主義也并非故步自封的，其理論本身就要求扎根情境化和開放性的。醫(yī)療人工智能的交叉屬性，使其倫理問題受到生命醫(yī)學(xué)和大數(shù)據(jù)、人工智能倫理原則的多重規(guī)制。具體來看，生命醫(yī)學(xué)倫理的原則主義提供了廣泛的倫理基礎(chǔ)和價值導(dǎo)向，人工智能倫理原則進(jìn)一步細(xì)化了這些倫理原則在人工智能領(lǐng)域中的再詮釋和內(nèi)涵拓展，例如尊重自主性在人工智能領(lǐng)域可能特別強(qiáng)調(diào)數(shù)據(jù)的知情同意和隱私保護(hù)，公正原則可能轉(zhuǎn)化為對算法偏見和公平性的關(guān)注。同時，作為大數(shù)據(jù)與人工智能在醫(yī)療保健與公共衛(wèi)生的衍生技術(shù)，大數(shù)據(jù)、人工智能倫理原則也理應(yīng)成為醫(yī)療人工智能倫理原則體系規(guī)制的組成部分。此外，在實(shí)際的應(yīng)用過程中，醫(yī)療人工智能發(fā)展所涉及的不同領(lǐng)域的倫理原則應(yīng)當(dāng)相互補(bǔ)充和融合，這種融合是動態(tài)的，以適應(yīng)醫(yī)療人工智能技術(shù)進(jìn)步和社會變化的需求。至此，原則主義也為醫(yī)療人工智能倫理治理的混合路徑提供理論指導(dǎo)，發(fā)展基于原則主義的醫(yī)療人工智能倫理治理體系，可以實(shí)現(xiàn)原則主義與情境主義的互補(bǔ)共進(jìn)，同時整合頂層設(shè)計層面的倫理原則與情境化倫理訴求，融入更多情境敏感性與包容性的價值導(dǎo)向，在將倫理原則融入醫(yī)療人工智能全生命周期的過程中，及時根據(jù)情境中的反饋，調(diào)整基于倫理原則的治理框架的穩(wěn)健性，以適應(yīng)不斷變化的技術(shù)倫理問題及治理困境。

3. 3 推進(jìn)原則主義與醫(yī)療實(shí)踐的融合互塑

為了滿足技術(shù)倫理先導(dǎo)性的發(fā)展目標(biāo)與對倫理風(fēng)險的預(yù)期治理，醫(yī)療人工智能倫理治理體系的建構(gòu)與發(fā)展，在其起步階段應(yīng)堅定地根植于原則主義的框架指導(dǎo)和理論驅(qū)動。盡管原則主義作為一種倫理決策方法在其應(yīng)用過程中顯露出某些局限性和不足之處，但其在提供明確且被廣泛認(rèn)可的倫理指導(dǎo)原則方面的貢獻(xiàn)，不容忽視。原則主義提供了一套明確且廣泛認(rèn)可的倫理指導(dǎo)原則，包括尊重自主性、不造成傷害、造福以及公正。這些原則在醫(yī)療實(shí)踐中歷經(jīng)時間考驗(yàn)，為處理復(fù)雜的醫(yī)療倫理問題提供了可用的參考基礎(chǔ)。重要的是堅守原則主義作為醫(yī)療人工智能倫理治理的出發(fā)點(diǎn)既不是刻板式的遵循，也不是機(jī)械式的規(guī)訓(xùn)，更不是靜態(tài)的規(guī)則堆砌。原則主義理論本身就要求“具體問題具體分析”，強(qiáng)調(diào)在實(shí)際應(yīng)用中需要根據(jù)具體情況進(jìn)行解釋和權(quán)衡，賦予其在處理復(fù)雜生命醫(yī)學(xué)倫理問題時必要的靈活性與情境適應(yīng)性。面對醫(yī)療人工智能這一類顛覆性創(chuàng)新技術(shù)，可能產(chǎn)生的倫理風(fēng)險難以準(zhǔn)確預(yù)見，對其實(shí)施體系化的倫理治理，并不是將原則主義作為教條。相反，應(yīng)將原則主義視為一個起點(diǎn)，基于此發(fā)展出一套更為全面、基于倫理原則的治理體系。這樣的體系將傳統(tǒng)倫理原則作為其指導(dǎo)和基準(zhǔn)，基于過往倫理實(shí)踐形成的共識性倫理原則，為醫(yī)療人工智能的倫理治理提供了基石性的原則目標(biāo)，是醫(yī)療人工智能可持續(xù)發(fā)展不可或缺的價值性要素。

3. 4 將倫理原則轉(zhuǎn)化為醫(yī)療人工智能的價值主張

從技術(shù)發(fā)展的現(xiàn)實(shí)角度看，倫理原則也已經(jīng)成為醫(yī)療人工智能發(fā)展重要的“風(fēng)向標(biāo)”，在塑造技術(shù)的價值、產(chǎn)品與社會形態(tài)過程中，發(fā)揮著至關(guān)重要的作用。因而，倫理原則自然會通過政策文件和制度規(guī)范，得到更進(jìn)一步的具化和延展，如2018年美國醫(yī)學(xué)會（AMA）發(fā)布政策《醫(yī)療保健中的智能增強(qiáng)H-480.940》，2019年英國皇家醫(yī)學(xué)院學(xué)會（AMRC）發(fā)布《醫(yī)療人工智能》，2021年世界衛(wèi)生組織發(fā)布《衛(wèi)生領(lǐng)域人工智能倫理與治理指南》，同年，英國衛(wèi)生和社會保健部發(fā)布《數(shù)字與數(shù)據(jù)驅(qū)動健康技術(shù)的向善實(shí)踐指南》。已經(jīng)形成了一系列豐富的醫(yī)療人工智能倫理原則體系，為醫(yī)療人工智能倫理治理提供了框架性的指導(dǎo)基準(zhǔn)。醫(yī)療人工智能倫理治理是一項(xiàng)系統(tǒng)性工程，作為醫(yī)療人工智能社會-技術(shù)體制重要的組成部分，通過制定適應(yīng)性的倫理原則，在醫(yī)療人工智能技術(shù)條件演變的現(xiàn)實(shí)基礎(chǔ)上，將醫(yī)療人工智能的倫理價值制度化，一方面為醫(yī)療人工智能的設(shè)計、研發(fā)與應(yīng)用提供價值導(dǎo)向；另一方面也可為醫(yī)療人工智能倫理治理提供框架依據(jù)。因而，倫理原則在醫(yī)療人工智能倫理治理過程中，發(fā)揮的不僅是一種規(guī)制性、限制性和監(jiān)察性的依據(jù)功能，更是一種價值牽引和價值導(dǎo)向，引導(dǎo)醫(yī)療人工智能技術(shù)真正實(shí)現(xiàn)以人為本的向善創(chuàng)新。

綜上可見，不論是從理論層面，還是從實(shí)踐意義上，醫(yī)療人工智能倫理問題已經(jīng)在事實(shí)上超脫出傳統(tǒng)生命醫(yī)學(xué)倫理原則的覆蓋范疇，最具代表性的是關(guān)于可解釋性作為倫理原則，是既往所不存在的倫理位面。這使得原則主義的治理思路存在乏力和失靈的可能。但這并不意味著醫(yī)療人工智能倫理風(fēng)險的創(chuàng)新治理，要徹底摒棄原則主義的框架思路。放棄和失去原則主義的支持，醫(yī)療人工智能的倫理治理就會成為“無本之木”，淪為一種“大膽”且不負(fù)責(zé)任的試驗(yàn)性嘗試，更是讓醫(yī)師、患者和智能健康產(chǎn)品消費(fèi)者等技術(shù)受眾直接暴露在倫理風(fēng)險的威脅之下，背離醫(yī)療人本主義的初衷和愿景。為此應(yīng)當(dāng)明確：醫(yī)療人工智能倫理治理是在既往生命醫(yī)學(xué)倫理治理的基礎(chǔ)框架之上，針對顛覆性技術(shù)創(chuàng)新所進(jìn)行的一種新型治理機(jī)制與模式的探索。因而，需要在批判對強(qiáng)原則主義的基礎(chǔ)上，尋求切實(shí)符合醫(yī)療人工智能技術(shù)與受眾需求與現(xiàn)實(shí)的倫理治理路徑，進(jìn)而并行推進(jìn)技術(shù)創(chuàng)新與倫理治理的協(xié)同發(fā)展。

4 基于優(yōu)化原則主義的醫(yī)療人工智能倫理治理實(shí)踐

當(dāng)前，醫(yī)療人工智能正在逐步從實(shí)驗(yàn)室的算法設(shè)計與測試，逐步走向臨床實(shí)驗(yàn)和產(chǎn)業(yè)化，為了應(yīng)對醫(yī)療人工智能倫理的系統(tǒng)性風(fēng)險，一方面，出于審慎的目的，仍需要恪守傳統(tǒng)醫(yī)學(xué)倫理原則作為框架約束，并將其作為技術(shù)社會實(shí)驗(yàn)的始準(zhǔn)依據(jù)；另一方面，在原則框架的指導(dǎo)和加持下，構(gòu)建實(shí)踐性治理平臺與監(jiān)測機(jī)制，在小規(guī)模、半封閉的語境條件下，從技術(shù)臨床試驗(yàn)和產(chǎn)品實(shí)測的信息反饋，評估、補(bǔ)充和完善切實(shí)符合醫(yī)療人工智能倫理實(shí)際的原則框架，構(gòu)建“原則-實(shí)際”雙向循環(huán)、動態(tài)互補(bǔ)和正向反饋的治理機(jī)制。為此，本文依據(jù)理論與實(shí)際、剛性與軟性協(xié)同共進(jìn)的發(fā)展邏輯，提出包括學(xué)術(shù)研究、機(jī)制建設(shè)和文化培育三個分項(xiàng)組成的醫(yī)療人工智能倫理風(fēng)險的應(yīng)對策略，以此支持倫理原則與倫理訴求的交互聯(lián)合，在發(fā)展中逐步健全和完善基于優(yōu)化原則主義的醫(yī)療人工智能倫理治理體系。見圖1。

4. 1 研究維度：理論與實(shí)踐交互并行，夯實(shí)倫理治理的機(jī)制支撐

第一，加強(qiáng)醫(yī)療人工智能倫理學(xué)術(shù)研究，深化對倫理原則的內(nèi)涵詮釋，補(bǔ)強(qiáng)優(yōu)化原則主義的理論基礎(chǔ)。建議國家和地方公共衛(wèi)生與健康部門設(shè)立醫(yī)療人工智能倫理專項(xiàng)研究項(xiàng)目和基金資助，進(jìn)一步加強(qiáng)對醫(yī)療人工智能原則主義的基礎(chǔ)哲學(xué)、倫理學(xué)與治理理論研究，緊跟技術(shù)發(fā)展前沿、條件及特征，均衡倫理原則的普遍適用性與特殊性之間的矛盾問題，識別哪些原則在醫(yī)療人工智能應(yīng)用中具有普遍適用性，哪些原則需要根據(jù)特定情境進(jìn)行調(diào)整，以及可能存在的應(yīng)用空白，形成一個綜合性的動態(tài)理論體系。同時，引入情境模擬方法與工具，將傳統(tǒng)的倫理原則具體化到醫(yī)療人工智能的應(yīng)用情境中，模擬醫(yī)療人工智能在具體應(yīng)用中的倫理決策過程，分析倫理原則在實(shí)際操作中的可行性和效果，以實(shí)現(xiàn)對不同倫理原則的創(chuàng)新詮釋。

第二，建設(shè)多學(xué)科專家評估委員會，制定醫(yī)療人工智能倫理原則指南，推進(jìn)優(yōu)化原則主義的理論具象化進(jìn)程。掛靠國家衛(wèi)生健康委員會，針對傳統(tǒng)倫理原則的時代性和對醫(yī)療人工智能新技術(shù)的響應(yīng)，建設(shè)一個由多學(xué)科專家組成的醫(yī)療人工智能倫理原則專項(xiàng)評估委員會，專門跟蹤醫(yī)療人工智能領(lǐng)域的最新技術(shù)發(fā)展和應(yīng)用趨勢，負(fù)責(zé)定期評估醫(yī)療人工智能技術(shù)的發(fā)展及其倫理影響，旨在深化對倫理原則靈活性的理解，確保其能夠與時俱進(jìn)，適應(yīng)技術(shù)進(jìn)步和社會變遷的需求，為醫(yī)療人工智能倫理原則能夠貼合技術(shù)與社會文化演變的動態(tài)適應(yīng)性存在，奠定理論層面的邏輯可行性，并以此為據(jù)，制定一套醫(yī)療人工智能倫理原則的操作指南，明確各原則在不同醫(yī)療人工智能應(yīng)用場景下的具體操作建議。

第三，以優(yōu)化原則主義為實(shí)踐基準(zhǔn)，跨學(xué)科協(xié)作構(gòu)建醫(yī)療人工智能倫理治理框架。依托國內(nèi)領(lǐng)軍型醫(yī)療研究機(jī)構(gòu)、醫(yī)學(xué)院、國家實(shí)驗(yàn)室、重點(diǎn)研究中心或?qū)W科平臺，促成哲學(xué)、倫理學(xué)與治理理論與方法的跨學(xué)科、跨領(lǐng)域交叉研究，定期舉辦原則創(chuàng)新工作坊或?qū)ｎ}會議，并在會后發(fā)布白皮書或建議書。同時，鼓勵醫(yī)療人工智能相關(guān)實(shí)驗(yàn)室設(shè)立開放基金，專業(yè)學(xué)術(shù)期刊開設(shè)系列選題專欄，邀請倫理學(xué)家、技術(shù)專家、法律專家和醫(yī)師等多方參與，發(fā)揮各學(xué)科優(yōu)勢和理論互補(bǔ)，集合不同學(xué)科的理論框架和研究方法，以更全面和充分地建構(gòu)醫(yī)療人工智能倫理治理的理論框架、內(nèi)涵與體系。此外，還應(yīng)建設(shè)開放性的在線協(xié)作門戶網(wǎng)站，實(shí)時交流和共享研究成果，該平臺可以設(shè)立專門的討論區(qū)，用于發(fā)布最新的研究進(jìn)展、案例研究及倫理挑戰(zhàn)。

4. 2 機(jī)制維度：健全倫理風(fēng)險審監(jiān)執(zhí)行體系，推進(jìn)倫理治理建制化進(jìn)程

第一，推進(jìn)倫理原則/價值的法治化進(jìn)程，為醫(yī)療人工智能倫理治理提供強(qiáng)制性制度加持。在《中華人民共和國科技進(jìn)步法》《中華人民共和國基本醫(yī)療衛(wèi)生與健康促進(jìn)法》等法律法規(guī)框架下，將醫(yī)療人工智能倫理的規(guī)范要求、價值原則與實(shí)施標(biāo)準(zhǔn)，細(xì)化并落實(shí)為醫(yī)療人工智能領(lǐng)域的具體政策，以確保其轉(zhuǎn)化為技術(shù)發(fā)展的制度基石，并制定專門針對醫(yī)療人工智能技術(shù)倫理相關(guān)的法律法規(guī)，建立全面的法治框架，不僅明確規(guī)定技術(shù)開發(fā)與應(yīng)用的法律責(zé)任和倫理界限，還應(yīng)詳細(xì)闡釋權(quán)利行使程序，也為醫(yī)療人工智能的倫理治理提供法理基礎(chǔ)。同時，邀請公眾代表參與，通過公開征求意見、舉辦論壇和研討會等方式收集社會各界的意見與訴求，積極引入社會各界代表的視角和反饋，增強(qiáng)政策制定透明度的同時，還能以此為據(jù)，進(jìn)行必要的制度修訂、完善和補(bǔ)充，協(xié)助倫理原則與社會實(shí)踐，以法制化為中介，形成一個良好的循環(huán)協(xié)同關(guān)系。

第二，推進(jìn)醫(yī)療倫理委員會組織改革，明確新型醫(yī)療科技倫理委員會的職責(zé)權(quán)限。立足既有醫(yī)學(xué)倫理委員會（MEC），在國家科技倫理委員會的組織框架下，重新構(gòu)建由醫(yī)學(xué)、人工智能、倫理、法律等多學(xué)科領(lǐng)域?qū)＜遗c公眾代表匯集而成的新型醫(yī)療科技倫理委員會。在倫理原則的指導(dǎo)下，委員會的主要職能包括提供針對性的立項(xiàng)倫理審查、專業(yè)咨詢服務(wù)及深度風(fēng)險分析，并為相關(guān)機(jī)構(gòu)和政策制定提供專業(yè)性建議，肩負(fù)對后續(xù)研究、研發(fā)、治療及其技術(shù)擴(kuò)散的持續(xù)性監(jiān)督責(zé)任，對識別出的倫理風(fēng)險和問題提出具體、權(quán)威的調(diào)整或終止建議，這種權(quán)威性不僅是基于專業(yè)知識和公眾信任，也是通過明確的倫理制度支持來實(shí)現(xiàn)的。此外，委員會應(yīng)與國際倫理標(biāo)準(zhǔn)和實(shí)踐保持一致，銜接和促進(jìn)全球范圍內(nèi)的醫(yī)療人工智能倫理原則及其實(shí)踐的共識與合作。

第三，發(fā)展醫(yī)療人工智能倫理專業(yè)智庫，推進(jìn)優(yōu)化原則主義的量化評價體系建設(shè)。建議在中國科協(xié)與民政部的統(tǒng)一指導(dǎo)下，在整合現(xiàn)有醫(yī)學(xué)、倫理學(xué)、自然辯證法、公共管理專業(yè)二級學(xué)會或委員會的基礎(chǔ)上，推進(jìn)跨學(xué)科、綜合性醫(yī)療人工智能倫理的智庫建設(shè)，職能包括收集、分析國內(nèi)外在醫(yī)療人工智能應(yīng)用中的案例，構(gòu)建一個專門的醫(yī)療人工智能倫理案例庫，同時建立一個輿情監(jiān)測平臺，用于實(shí)時跟蹤和分析公眾對于醫(yī)療人工智能倫理問題的態(tài)度和反應(yīng)。在此基礎(chǔ)上，開發(fā)出一套倫理風(fēng)險量化評價體系，并不斷更新和完善倫理原則與風(fēng)險評估體系的原則指標(biāo)。該體系旨在為倫理原則的具體化和實(shí)證基礎(chǔ)的建立提供支持，通過量化方法評估倫理風(fēng)險，從而為倫理治理決策和制度設(shè)計提供科學(xué)、可靠的實(shí)證依據(jù)。

4. 3 文化維度：完善倫理教育體系，強(qiáng)化倫理素養(yǎng)培育工作

第一，融入倫理議題與批判性思維，將優(yōu)化原則主義嵌入醫(yī)療人工智能倫理教育。在教育部高校科技倫理教育專項(xiàng)專家組和秘書處的統(tǒng)籌設(shè)計下，在現(xiàn)有生命醫(yī)學(xué)與人工智能倫理的教育體系中融入醫(yī)療人工智能的倫理議題，通過案例分析、模擬決策過程等教學(xué)方法，優(yōu)化專業(yè)倫理教材內(nèi)容，開發(fā)典型倫理問題的教學(xué)案例，定期審視和更新教學(xué)內(nèi)容，引入最新的研究成果和倫理案例，引導(dǎo)學(xué)習(xí)者理解和掌握醫(yī)療人工智能特有的倫理分析方法與決策原則，增強(qiáng)專業(yè)技術(shù)人員、醫(yī)護(hù)從業(yè)者對倫理原則的學(xué)習(xí)和認(rèn)識。此外，應(yīng)當(dāng)強(qiáng)調(diào)批判性思維的培養(yǎng)，鼓勵學(xué)習(xí)者不僅僅停留在理論原則的條例式、機(jī)械式和規(guī)訓(xùn)式學(xué)習(xí)，而是通過批判性思辨，深入探討醫(yī)療人工智能技術(shù)的倫理影響，激發(fā)學(xué)習(xí)者主動思考如何將原則主義的倫理思維方式與具體的技術(shù)研發(fā)及應(yīng)用場景相結(jié)合，切實(shí)提高其對技術(shù)倫理沖突的敏感性和處理問題的能力。

第二，將倫理教育整合融入科學(xué)普及工作，完善醫(yī)療人工智能倫理文化建設(shè)。在“科學(xué)普及與科技創(chuàng)新‘兩翼齊飛’”的理論指導(dǎo)下，借力科普讀物、科技觀以及新媒體傳播工具，將倫理融入醫(yī)療人工智能科普內(nèi)容和科技傳播，為醫(yī)療人工智能倫理設(shè)置專項(xiàng)的應(yīng)急科普機(jī)制，提高社會公眾的通識性倫理素養(yǎng)、風(fēng)險意識和反思性思維，使得社會公眾認(rèn)識到倫理原則并非不可變通的“金科律令”。配合利用科技博覽、公開講座、線上研討會等平臺，以短視頻、播客和知識問答的形式，定期發(fā)布關(guān)于醫(yī)療人工智能倫理的最新研究成果、政策動態(tài)和倫理指導(dǎo)原則，鼓勵公眾參與評論和討論。此外，還應(yīng)建立與教育機(jī)構(gòu)和社區(qū)組織的合作，開發(fā)適合學(xué)校和社區(qū)的教育項(xiàng)目和宣講計劃，旨在提高青少年和老年的技術(shù)倫理素養(yǎng)，為他們提供原則主義的思想工具，使其在面對醫(yī)療人工智能倫理問題時，從文化素養(yǎng)層面，培育能夠具體運(yùn)用倫理原則分析和維護(hù)自身應(yīng)有權(quán)益的能力。

第三，構(gòu)建職業(yè)化醫(yī)療人工智能倫理教育的終身學(xué)習(xí)機(jī)制。發(fā)展醫(yī)療人工智能倫理的終身學(xué)習(xí)，為醫(yī)療人工智能技術(shù)人員和醫(yī)師提供常態(tài)化的倫理培訓(xùn)。建議國家藥品監(jiān)督管理局高級研修學(xué)院（NMPAIED）與中國人工智能學(xué)會（CAAI）人工智能倫理與治理工作委員會、中國計算機(jī)學(xué)會（CCF）職業(yè)倫理與學(xué)術(shù)道德委員會，聯(lián)合開發(fā)和舉辦醫(yī)療人工智能倫理周期性、實(shí)用性、職業(yè)化的繼續(xù)教育項(xiàng)目。通過醫(yī)療與人工智能不同專業(yè)組織機(jī)構(gòu)的深度合作，幫助專業(yè)人員了解并應(yīng)對由于人工智能技術(shù)的快速進(jìn)步所帶來的倫理挑戰(zhàn)和標(biāo)準(zhǔn)更新。培訓(xùn)形式上，可采用靈活性的線上課程、研討會、工作坊等形式進(jìn)行培訓(xùn)，使人工智能技術(shù)人員、醫(yī)療專業(yè)人員能夠在緊張的工作日程中參與學(xué)習(xí)，及時跟進(jìn)醫(yī)療人工智能倫理風(fēng)險和原則的動態(tài)變化，推動倫理意識的持續(xù)進(jìn)步和自我更新。

5 結(jié)語

傳統(tǒng)生命醫(yī)學(xué)倫理原則面對醫(yī)療人工智能倫理問題，存在適用性“潰堤”與可靠性“失靈”的可能，使得既往基于傳統(tǒng)原則主義的倫理治理路徑，難以適應(yīng)醫(yī)療人工智能倫理風(fēng)險的復(fù)雜語境，尤其是在人工智能快速進(jìn)化的當(dāng)下，醫(yī)療人工智能倫理治理亟須從既往原則主義體制下的慣性路徑中“抽離”開來。然而，這并不意味著醫(yī)療人工智能倫理治理體系的建設(shè)要完全摒棄原則主義。相反的是，原則主義在面對醫(yī)療人工智能倫理問題仍有其獨(dú)有的價值意義。在“倫理先行”的共識指導(dǎo)下，醫(yī)療人工智能倫理治理的初級階段確實(shí)需要依托于現(xiàn)有的原則主義倫理傳統(tǒng)和治理路徑，作為初始階段的指導(dǎo)和基礎(chǔ)。然而，隨著實(shí)踐的深入和反饋的積累，醫(yī)療人工智能倫理治理應(yīng)當(dāng)，發(fā)展一種新型的優(yōu)化原則主義治理思路，推進(jìn)原則框架與語境反饋的雙向互補(bǔ)，建構(gòu)一種“自上而下”與“自下而上”整合的動態(tài)的、可持續(xù)性、自適應(yīng)的醫(yī)療人工智能倫理治理框架，以此匹配醫(yī)療人工智能未來創(chuàng)新，同時向下兼及細(xì)分的技術(shù)場景變化。可以認(rèn)為原則主義在醫(yī)療人工智能倫理治理中的作用不僅未減，反而更加凸顯其重要性，在其基礎(chǔ)上發(fā)展起來的優(yōu)化原則主義思路，將繼續(xù)為醫(yī)療人工智能的倫理治理發(fā)揮著理論支撐和指導(dǎo)效用。

〔參考文獻(xiàn)〕

[1]汪琛， 孫啟貴， 徐飛. 醫(yī)療人工智能倫理研究的發(fā)展趨勢：主題分布、知識基礎(chǔ)與未來展望[J].自然辯證法通訊， 2023， 45（12）：18-29. WANG C， SUN Q G， XU F. Development trends of ethical research onartificial intelligence in medicine： topic distribution， knowledge base andfuture prospects[J]. Journal of Dialectics of Nature， 2023， 45（12）：18-29.

[2]白惠仁. 科技倫理中的原則主義[J]. 道德與文明， 2023（1）：54-63. BAI H R. Principlism in ethics of science and technology[J]. Morality and Civilization， 2023（1）：54-63.

[3]TOON P D. Medical ethics：a brief response to Seedhouse[J]. Journal of Medical Ethics， 1995，21（1）：47-48.

[4]HAIN R， SAAD T. Foundations of practical eth‐ics[J]. Medicine， 2016， 44（10）：578-582.

[5]HOLM S. Handle with care： assessing perfor‐mance measures of medical AI for shared clinical decision‐making[J]. Bioethics， 2022， 36（2）：178-186.

[6]Z？LZER F. Ethics of radiological protection—re‐cent developments[J]. Journal of Public Health，2020， 42（1）：183-187.

[7]FARHUD D D， ZOKAEI S. Ethical issues of arti‐ficial intelligence in medicine and healthcare[J]. Ira‐nian Journal of Public Health， 2021， 50（11）：i–v.

[8]HARRELL R M. Bioethical considerations of ad‐vancing the application of marine biotechnology and aquaculture[J]. Marine Drugs， 2017， 15（7）：197.

[9]劉星， 盧曉然， 吳影， 等. 人工智能應(yīng)用于臨床試驗(yàn)的倫理問題分析及對策[J].中國臨床藥理學(xué)與治療學(xué)， 2022， 27（3）：322-327. LIU X， LU X， WU Y， et al. Ethical analysis and countermeasures of artificial intelligence ap‐plication in clinical trials[J]. Chinese Journal of Clinical Pharmacology and Therapeutics， 2022，27（3）：322-327.

[10]MCDOUGALL R J. Computer knows best？The need for value-flexibility in medical AI[J]. Journal of Medical Ethics， 2019， 45（3）：156-160.

[11]MCLENNAN S， FISKE A， TIGARD D， et al. Embedded ethics： a proposal for integrating eth‐ics into the development of medical AI[J]. BMC Medical Ethics， 2022， 23：6.

[12]TOSONI S， VORUGANTI I， LAJKOSZ K，et al. The use of personal health information out‐side the circle of care：consent preferences of pa‐tients from an academic health care institution[J]. BMC Medical Ethics， 2021， 22（1）：29.

[13]BILLER-ANDORNO N， FERRARIO A，JOEBGES S， et al. AI support for ethical decision-making around resuscitation：proceed with care[J]. Journal of Medical Ethics， 2022，48（3）：175-183.

[14]MEIER L J， HEIN A， DIEPOLD K， et al. Al‐gorithms for ethical decision-making in the clinic：a proof of concept[J]. American Journal of Bio‐ethics， 2022， 22（7）：4-20.

[15]郭旭芳， 劉輝. 生物醫(yī)學(xué)領(lǐng)域人工智能應(yīng)用的倫理問題[J]. 基礎(chǔ)醫(yī)學(xué)與臨床， 2020， 40（2）：285-288. GUO X F， LIU H. Ethical issues in artificial in‐telligence application in biomedicine[J]. Basic and Clinical Medicine， 2020， 40（2）：285-288.

[16]候雄， 劉玉秀， 錢蕾， 等. 醫(yī)療人工智能發(fā)展的倫理問題及疏解[J]. 醫(yī)學(xué)研究生學(xué)報， 2019， 32（10）：1080-1083. HOU X， LIU Y X， QIAN L， et al. Ethical is‐sues in the development of medicalartificial intelli‐gence and solutions[J]. Journal of Medical Post‐graduates， 2019， 32（10）：1080-1083.

[17]KOSTICK-QUENET K M， COHEN I G，GERKE S， et al. Mitigating racial bias in ma‐chine learning[J]. Journal of Law， Medicine and Ethics， 2022， 50（1）：92-100.

[18]陳昫. 責(zé)任倫理視角下數(shù)字時代機(jī)器人養(yǎng)老服務(wù)治理[J]. 武漢大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2022， 75（4）：173-184. CHEN X. Carebots’ Services governance in the digital era：a study based on the ethics of responsi‐bility[J]. Wuhan University Journal（Philosophy and Social Science）， 2022， 75（4）：173-184.

[19]CAWTHORNE D， WYNSBERGHE A R. An ethical framework for the design， development，implementation， and assessment of drones used in public healthcare[J]. Science and Engineering Ethics， 2020， 26（5）：2867-2891.

[20]PALMER A， SCHWAN D. Beneficent dehu‐manization：employing artificial intelligence and carebots to mitigate shame-induced barriers to medical care[J]. Bioethics， 2022， 36（2）：187-193.

[21]ROGERS W A， DRAPER H， CARTER S M. Evaluation of artificial intelligence clinical applica‐tions：detailed case analyses show value of health‐care ethics approach in identifying patient care is‐sues[J]. Bioethics， 2021， 35（7）：623-633.

[22]PAPALEXOPOULOS T P， BERTSIMAS D，COHEN I G， et al. Ethics-by-design： efficient，fair and inclusive resource allocation using ma‐chine learning[J]. Journal of Law and the Biosci‐ences， 2022， 9（1）：lsac012.

[23]關(guān)健. 智慧醫(yī)療發(fā)展中的倫理問題[J]. 中國醫(yī)學(xué)倫理學(xué)， 2022， 35（4）：357-361. GUAN J. Ethical issues in the development of smart healthcare[J]. Chinese Medical Ethics，2022， 35（4）：357-361.

[24]GROTE T， BERENS P. On the ethics of algo‐rithmic decision-making in healthcare[J]. Journal of Medical Ethics， 2020， 46（3）：205-211.

[25]DE BOER B， KUDINA O. What is morally at stake when using algorithms to make medical di‐agnoses？ expanding the discussion beyond risks and harms[J]. Theoretical Medicine and Bioeth‐ics， 2021， 42（5-6）：245-266.

[26]江婧， 曹東， 鄢來均. 可解釋人工智能醫(yī)療應(yīng)用的倫理問題[J]. 中國醫(yī)學(xué)倫理學(xué)， 2022， 35（12）：1322-1328. JIANG J， CAO D， YAN L. Ethical issues of ex‐plainable artificial intelligence for medical applica‐tions[J]. Chinese Medical Ethics， 2022， 35（12）：1322-1328.