論醫學人工智能的運用、倫理風險與規制

[摘 要]隨著人工智能發展的日新月異，人工智能在醫學影像、輔助診斷、手術、健康管理和護理、藥物研發、疫情診斷和可視化監控方面得到有效應用。同時人工智能也帶來了醫學倫理風險，包括患者隱私權的保護缺失、醫者主體的模糊和人工智能主體資格認定爭論、算法歧視風險、醫學人工智能的技術依賴、患者自主性缺失、醫療責任認定難等。人工智能醫學倫理風險必須得到及時有效的規制，具體對策包括成立專門的倫理組織進行相關倫理認定、堅持人工智能醫學倫理的五大原則、健全相關的法律制度、培育醫護人員的醫學倫理道德、構建人工智能的第三方風險評估機制。

[關鍵詞]人工智能;醫學倫理;風險;規制

[中圖分類號]B82-057 [文獻標識碼]A [文章編號]1671-8372（2022）02-0063-07

On the application， ethical risk and regulation of medical artificial intelligence

TAO Lin

（School of Marxism， Nanjing Medical University， Nanjing 211166， China）

Abstract：With the rapid development of artificial intelligence， this technology has been effectively applied in medical imaging，auxiliary diagnosis，surgery， health management and care， drug research and development， epidemic diagnosis and visual monitoring. At the same time， it also brings the risks of medical ethics， including the lack of protection of patients’ privacy right， the fuzziness of the medical subject and the dispute of the qualification of the artificial intelligence subject， the risk of algorithm discrimination， the technological dependence of medical artificial intelligence， the lack of patients’ autonomy， and the difficulty of medical liability identification. The medical ethics risks of artificial intelligence must be regulated timely and effectively， and the specific countermeasures include setting up special ethical organization for relevant identification， adhering to five principles of medical ethics in artificial intelligence， perfecting the relevant legal system， and constructing a third-party risk assessment mechanism of artificial intelligence.

Key words：artificial intelligence; medical ethics; risk; regulation

人工智能（Artificial Intelligence 簡稱為AI）的使用，為人類未來嶄新的生活方式打開了一扇大門。“機器人給人類帶來的影響將遠遠超過個人計算機和互聯網在過去幾十年間已經對世界造成的改變。”[1]目前國內學界對于人工智能可能導致的各種社會風險進行了相關研究[2]，醫學人工智能的倫理風險及其規制也是當前醫學倫理學的研究熱點之一[3]。2017年7月，國務院印發了《新一代人工智能發展規劃》，提出發展智能醫療，實現智能影像識別、病理分型和智能診斷多學科會診等。但人工智能的發展帶有不確定性和風險性，人工智能在醫學治療、診斷、預防等方面得到有效應用的同時客觀上帶來了一些醫學倫理風險。醫學人工智能倫理風險的研究“無論怎么強調都不過分”[4]，需高度重視人工智能對人類社會帶來的重大變革，采取客觀謹慎的心態對待醫學人工智能可能帶來的醫學倫理風險，并制定相應對策有效規制。

一、醫學人工智能應用的現狀

在醫學影像、診斷輔助[5]、健康管理、疾病預測等相關醫學領域，人工智能得到廣泛應用，新興的醫學人工智能技術產品逐步從模擬性研究轉向實踐性臨床應用，“醫學人工智能正在醫學影像、醫學診斷、藥物研發、健康管理等領域掀起一場新的創新革命”[6]。從醫學領域分類看，目前醫學人工智能運用大致分為六大方面。

（一）醫學人工智能的智能影像運用

2014年，國際著名醫學影像公司英利蒂克（Enlitic）開發出通過X光照片和CT掃描圖像識別惡性腫瘤的軟件，之后相關人工智能的醫療影像軟件得到開發和運用。目前，人工智能在醫學影像領域中應用較廣且表現優異的是腫瘤影像識別，“如一種基于乳腺X線鉬靶的AI早期乳腺癌自動分類技術區分腫瘤良性與惡性的準確率高達95.83%”[7]。

（二）醫學人工智能的輔助診斷

人工智能可以輔助醫生進行病情診斷，增加診斷結果的準確性，可以超越以往專家或醫療設備單獨工作能夠達到的診斷水平[8]。武警黑龍江省總隊醫院對2018年7月—2019年6月門診智能導診機器人應用效果進行了評價，發現智能導診幾乎減輕了分診護士50%以上的工作量，患者滿意度提高了14%[9]。又如，“以腦卒中為例，將放射科的腦卒中AI應用和神經內科的臨床輔助決策系統融合到移動卒中單元中，快速實現患者的診斷、病情評估和治療方案推薦，可以為急診醫生節省寶貴時間”[10]。再如，“從數據庫中搜集青光眼的癥狀圖像，將圖像進行特征萃取并用于卷積類神經網絡進行訓練，其結果能達到100%的辨識準確率”[11]。

（三）醫學手術機器人的運用

醫學手術機器人已在神經外科、腹外科、胸外科、骨科、血管外科等多領域得到廣泛運用。1994年首臺商業外科手術機器人在美國出現，1997年利用這臺機器人美國完成世界首例腹腔鏡下的膽囊切除手術。2013年上海交通大學成功研制出第一臺智能輪椅機器人。美國食品藥品監督管理局（Food and Drug Administration）已經批準將達芬奇機器人手術系統用于成人和兒童的普通外科、胸外科、泌尿外科、婦產科、頭頸外科以及心臟手術。2016年首款真正意義上的智能組織自動化機器人（Smart Tissue Autonomous Robort）在美國誕生[12]，標志著手術機器人正式進入自主化階段。表1顯示了近年來醫療機器人的使用熱門主題。隨著5G技術的高速發展，遙控操作、遠程手術操作成為可能。2020年，國際頂級學術期刊《Nature》將醫療機器人結構的靈活性、人機交互技術的高效性以及遠程操作技術列為未來產業發展重點[13]。

（四）醫學人工智能在健康管理和護理中的運用

人工智能在健康監測、慢病管理、情緒調節、合理膳食指導方面具有一定的優勢。包括：1. 降低疾病風險。人工智能技術可以利用互聯網與傳感器等獲取人類的飲食、心理、身體健康等多方面的個體化信息，對人類身體素質進行綜合評估，從而提供更科學的個性化健康管理方案。2. 高效輔助康復醫療。利用智能化穿戴設備或智能家居可以獲取患者各方面的生理參數等健康信息[15]。3. 輔助護理。在國外人工智能已普遍運用于人們的日常生活護理中，“如日本研究機構Riken開發的機器人Robear，能將病人從床上抬起，幫助行動不便的病人行走、站立等;應用AI開發的機器人能為老年人及癱瘓患者提供喂飯、日常照護等服務”[16]。

（五）醫學人工智能運用于智能藥物研發

借助人工智能深度學習和大數據平臺，在智能藥物研發中醫學人工智能具有一定的優勢。在新藥研發、老藥新用、藥物篩選、藥物副作用動態監測等方面，醫學人工智能可對較有可能成為藥物的化合物進行虛擬高通量篩選，預測化合物的活性。在臨床試驗階段，醫學人工智能可對受試者進行精準挖掘，對疾病數據進行深度研究。因此，人工智能運用于藥物研發可以節約研發成本，如某公司基于人工智能系統能夠比傳統方法節省3/4時間和成本得到靶點藥物研發的新候選藥物[17]。

（六）醫學人工智能在新冠肺炎疫情的診斷和可視化監控中的運用

在國內新冠肺炎疫情防控中，醫學人工智能得到了應用和推廣，在有效精準防控疫情方面作出了一定的貢獻。人工智能借助大數據技術可以通過影像識別、自動體溫檢測和病毒溯源等輔助新冠肺炎診治以及疫情監測預警。基于人工智能的疫情監控云平臺監測預警、疫情地圖、確診及密切接觸人員軌跡追蹤、人群流動監測等預警關鍵技術，人工智能在減少人力成本、降低感染風險的同時可以顯著提升抗疫效率。但“因數據壁壘、數據標準和算法瓶頸等原因，其優勢在抗擊疫情中沒有得到充分發揮”[18]。

二、醫學人工智能倫理風險的困境

（一）患者隱私權的保護缺失

大數據和人工智能應用于醫學治療，患者的相關信息資料會被保存在系統中，包括姓名、家庭住址、聯系方式、工資收入的銀行卡號、社保卡號、病史、用藥情況、付費情況等等。這樣做一方面方便醫生了解患者相關信息以做出及時診斷，另一方面則存在患者信息泄露的風險。因為患者的信息被保存在醫院的系統中，但目前并沒有相關法律法規規定醫生和醫院必須對患者信息進行保護。在我國現有法律法規中，還沒有專門的隱私權保護法，僅《中華人民共和國民法典》《中華人民共和國侵權責任法》《中華人民共和國執業醫師法》《中華人民共和國護士管理辦法》等部分法律條文涉及隱私權保護，且這些法律條文的規定也比較籠統。如果患者的信息被醫護員工或者商業公司用于商業用途，患者將遭受公民隱私權嚴重侵犯等不必要的風險，如患者或因某一病史而受到就業歧視，或在購買相關保險產品時受到限制。

（二）醫者主體的模糊和人工智能主體資格認定的爭論

在醫學人工智能得到逐步運用的同時，學術界和醫學界關于醫者主體的模糊和人工智能主體資格認定的問題產生了爭論，其中醫學人工智能未來能否取代醫生成為爭論的焦點之一。一些學者認為雖然目前人工智能尚處于低級階段，但是人工智能具有深度學習和進化的特征，因此從發展趨勢看，人工智能的主體資格認定將在不久的將來成為法學的熱門話題。從世界范圍看，一些國家已經立法，同意人工智能機器人具備公民資格。如2017年10月25日，機器人Sophia（索菲亞）在沙特阿拉伯獲得國籍，成為首位具有公民資格的機器人。從醫學臨床中遠程醫療、機器篩查、手術機器人等的運用可以看出，人工智能具備效率較高、不會疲勞等優勢。“2018年在全球首場神經影像人機競賽中，由中國國家神經疾病AI研究中心研制的醫學AI機器人，成功擊敗了由全球25名神經系統疾病診斷專家組成的團隊。”[19]未來人工智能機器人能否取代醫生實際上涉及哲學的重要命題，即機器人未來是否會取代人類。從馬克思主義的科技哲學思想看，人與機器的關系應該是辯證統一的，機器的發明和使用是為人類造福，機器是工具，人才是目的;從醫學技術自身看，治理診斷患者不僅需要專業的醫學知識積累，還需要長期的臨床實踐，醫生和護士的醫療技術不僅僅是顯性知識，還包括隱性知識，醫學人工智能只能是醫生或者護士的助手。人工智能通過對大量數據的辨識和分析計算，能夠給醫生提供具有一定參考性的常規醫療方案，但是醫生對于患者的診斷和救治，不能完全依賴于技術，因為在實際工作中，患者的病情錯綜復雜，不同的病情，診斷的方法也不同，再精密的醫療技術數據分析也不能代替醫生的人腦，醫生需要根據具體病情做出綜合判斷。

（三）算法歧視風險

“算法是AI的核心”[20]，若算法出現差錯，就會使得人工智能天生地對特定人群產生“算法歧視”。但“即便算法公開，也并不能解決算法歧視等問題”[21]。也就是說，從目前人工智能發展程度看，算法自身存在的缺陷，可能導致侵犯患者病情知情權的問題，同時“出現的算法安全和準確性問題可能損害患者的身體健康”[22]。尤其是當“算法歧視”針對特定人群或者一些疾病患者時，會造成影響社會公正的后果，從而產生特定醫患人群的標簽化效應，進而可能導致在社會就業和職業發展中“限制或排除他們的權利或機會”[23]。

（四）醫學人工智能的技術依賴

醫學人工智能在使用過程中，應該只是一種輔助手段，但是在實踐運用中易出現醫生對人工智能技術依賴的現象。多數臨床場景下，人工智能系統提供的結果僅作為參考信息。“維也納醫科大學皮膚科探究了醫師如何采納人工智能系統提供的診斷建議，得到如下結論：①經驗越少的醫師越容易相信人工智能診斷結果而非醫師的診斷（即使醫師的診斷是正確的）;②專家在信心充分時不易根據人工智能結果改變自己的判斷;③不同經驗水平醫師在缺乏信心時均易接受人工智能的診斷建議;④若醫師過度依賴人工智能系統的診斷結果，可能導致隨著人工智能系統的誤診而改變自己正確判斷的結果。”[24]

（五）患者自主性的缺失

醫學人工智能的使用，雖然帶來便捷診斷的益處，但是也可能造成患者自主性的缺失。第一，醫患關系在人工智能時代需要重新構建。例如老人護理機器人的發展和使用可能會通過限制老人的活動范圍和種類而威脅和減少老人的積極自由。再例如，在傳統的醫患關系中，醫生重視和患者面對面的溝通，但是運用人工智能之后，醫生要花費更多的時間閱讀患者的電子病例，可能忽視甚至壓縮和患者的交流時間。借助于醫學人工智能，一些診斷可能被設計出來，患者只需要按照程序就可以看病并做出診斷。從這種意義上看，患者的自主意識在缺失，患者可能缺少相應的生命關懷和自我認知。第二，患者知情同意權可能被侵害。“知情同意（Informed Consent），是指患者在獲得醫師提供其醫療決定所必需的足夠信息的基礎上，做出醫療同意的過程。”[25]借助于大數據和深度學習，一些病癥可能會被醫學人工智能及時檢測，醫生根據人工智能的檢測結果進行診治，在這個過程中患者的知情同意權可能被忽視。應將醫學人工智能的使用納入知情同意程序，在運用人工智能，尤其是使用機器人診斷及手術時，應將相關情況和可能導致的風險及時告知患者及家屬。據調查，“國內患者更能接受的醫療AI應用場景是掛號、繳費、查詢體檢報告等醫療后勤環節，接受率達到84.53%，而對于醫生使用人工智能進行診斷和治療，接受率則僅為3.59%;在診斷、治療環節，醫療人工智能介入的程度越高，患者的接受度越低”[26]。

（六）醫療責任認定的難題

在傳統的醫患關系中，患者具有知情權，醫療事故認定的對象主要是醫護員工，是人。隨著醫學人工智能的使用，患者可能在手術時面對的是人工智能醫生，這可能導致醫療事故責任認定的困難。即一旦發生醫療事故，責任由誰來承擔？是做手術的機器人，設計人工智能的研究人員，還是使用人工智能進行輔助治療和診斷的相關醫護人員？究竟是完全責任，還是連帶責任？目前看，醫學人工智能運用中的醫療責任方面的立法比較薄弱，責任界定模糊，爭論也比較多。在當前的醫學人工智能運用中，即使人工智能實施了手術，手術的主體依舊為醫生，醫生仍處于主導地位。未來隨著人工智能技術的不斷發展，人工智能可能出現脫離設計主體設計目的的活動，那將會帶來更多的法律和倫理責任難題。

通過以上分析可以看出，患者隱私權的保護缺失、醫者主體的模糊和人工智能主體資格認定的爭論、算法歧視風險、技術依賴是醫學人工智能面臨的主要倫理風險。這些風險并非人工智能在醫學領域應用中面臨的獨有問題，而是其應用于各個領域都面臨的普遍性問題。具體到醫學領域，這些問題究其本質涉及的是醫患關系和醫療責任的認定，屬于醫學倫理的經典問題，只是醫學人工智能的運用，將這些問題放大和凸顯。醫學人工智能倫理風險必須得到高度重視并加以有效規制。

三、醫學人工智能倫理風險的規制

基于協同治理的理論和分析框架，提出以下人工智能醫學倫理風險規制措施。

（一）成立專門的倫理組織進行相關倫理認定

目前，歐盟、德國、新加坡等相繼成立了人工智能倫理委員會，對人工智能的倫理風險問題進行審查。“為了確保安全，設立委員會來審查資源和評估項目至關重要。”[27]可借鑒國外經驗，建立全國和全省統一的倫理審查委員會。倫理審查委員會組成人員包含相關學科學者、政府部門官員、相關企業代表、相關社會組織成員。倫理審查委員會針對醫學人工智能涉及的各種風險難題，如決策算法、就業、隱私侵犯、責任認定、創新原則等重大問題進行定期論證，通過加強相關社會組織、各類學科專家學者的對話與協商尋找協同治理的最佳方案。

（二）堅持構建人工智能醫學倫理的五大原則

1942年阿西莫夫在科幻小說《我，機器人》中提出著名的“機器人三法則”。2017年電氣電子工程師協會發布了《人工智能設計的倫理規則》（第2版），強調人權、福利、問責、透明的原則。2019年北京智源人工智能研究院發布的《人工智能北京共識》，提出了隱私保密、安全、透明度、問責制、公平性原則。借鑒以上學者和研究機構頒布的原則，本文提出以下五項基本原則。

一是倫理先于技術原則。人工智能的字面意義即人造的智能，其出發點是為人類服務，因此應該堅持倫理優先的原則，人工智能不得損害人類的安全和健康。以救治患者為例，醫療診斷應該依據醫學人工智能系統給出的救治方案，還是以具有豐富臨床經驗的醫生建議為標準？對于這一問題，應堅持倫理優先技術的原則，重視醫生對于患者的人文關懷，擺脫其對于醫療技術的依賴。

二是以人為本的原則，人優于機器。雖然人工智能具有深度學習能力，但無論現在還是未來，人工智能醫學應用都應堅持以人為本的原則，人是目的，人工智能本質上還是一種工具，使用工具的目的在于保障醫療事業的發展、患者的健康，幫助醫生更好地診斷和服務患者。人工智能不得侵犯公眾的合法權益，相關患者的隱私權應該得到保護，醫學人工智能應該是安全的、可控的，偏離以人為本這一原則的任何醫學人工智能在沒有倫理審查之前都不得適用于臨床。

三是公平性原則。公平性原則“包含程序向度與實質向度”[28]。患者應該擁有知情權，且不應被歧視，公平享受相關的醫療服務。因此在醫學人工智能使用中，需要擺脫資本的邏輯，不能讓患者承擔過度檢查的高昂診斷費用。

四是法治和德治的原則。一方面通過相關法律制度規范人工智能的使用，界定責任，保護患者隱私權;另一方面則需要德治，培育和健全相關醫療人員的倫理修養和法律素養，使其充分認識醫學人工智能的各種風險，自覺遵守醫療道德規范。

五是漸進審慎的原則。對于人工智能的技術風險應該堅持積極審慎的態度，不可盲目樂觀，認為人工智能很快會取代人腦，也不要消極悲觀，認為人工智能終將毀滅人類。跟蹤人工智能技術的進展，保持動態的調整的原則，相關技術成熟之后要對其進行風險倫理評估，然后才能逐步應用于醫療實踐中。

（三）健全相關的法律制度

首先，通過立法保障患者的權益，對于侵犯患者隱私權責任的追究、醫患糾紛的處理做到有法可依，有法必依。醫用軟件包含個人醫療信息的搜集與儲存，管理不當可能引發患者隱私權的泄密。2016年頒布的《中華人民共和國網絡安全法》雖然在個人信息保護方面提出了具體要求，但并未針對隱私權保護做出具體規定。《中華人民共和國侵權責任法》將隱私權的保護歸結為人格權的保護。目前隱私權保護的相關法律還不健全，迫切需要制定和頒布一部統一的隱私權保護法。隱私保護法需對隱私權的相關界限做出規定，政府部門和醫療機構除了特殊需要，不得泄露患者的隱私。“建立隱私數據保護庫，嚴格規范對隱私數據存取的行為，切實保護隱私安全。”[29]在保護公眾的知情權的同時保障患者的隱私權，堅持公共數據的信息共享和嚴禁用于商業用途的統一;對數據儲存技術不佳及管理不當、醫護從業人員泄密等相關情況進行法律規制，嚴肅追究相關法律責任;對醫療事故的責任認定進行規定，包括人工智能設計者、生產者和使用者的責任歸屬問題。

其次，人工智能的法律人格問題。人工智能是否具有法律人格的問題，尚存在爭議。如果人工智能具備獨立人格，則其應該獨立承擔相應的道德和法律責任;如果人工智能不具備獨立人格，則相關道德和法律責任需要由研發者、運營者，或是使用者承擔。對此可以應用現有法律中民法和刑法的相關條款進行規制：“在現行法律制度下，人工智能作為權利客體并無異議，但不能被確定為權利主體，也不能賦予姓名權、肖像權等人格權。”[30]人工智能發展到高級階段，當人工智能可以進化，具有超越甚至具有人的意識時，可以考慮動態地更新完善相關法律制度。

再次，對醫學人工智能的發展全過程進行法律監管。在事前，堅持預防的原則，明確相關的主體責任。在事中，實時監測醫學人工智能各個系列產品，定期測評產品的安全性、風險性、危害性等。在事后，加強監督，運用相關的法律法規加強對于廠家、醫院、政府部門的監督，明確其責任，加大技術濫用的處罰力度。針對醫療行業的特殊性，國家和相關機構應實行醫療機器人強制登記制度，以便溯源，從而實現追責和有效監管。

最后，頒布相關法律，通過透明性原則消除算法歧視問題。“2017年，美國計算機學會公眾政策委員會公布了知情原則、質詢和申訴原則、算法責任認定原則、解釋原則、數據來源披露原則和可審計原則等六項原則。”[31]人工智能醫學算法屬于商業秘密的問題，可以通過相關法律，強調由相關醫學人工智能研發系統自我規制。這種自我規制，“通過數據保護影響評估”和“經由設計的數據保護”等方式來履行數據保護義務[32]。此外還需要通過相關法律規定研發公司的社會責任披露機制，包括定期向政府部門或者公眾公布相關的系統研發進展情況、可能遇到的風險和風險應對措施方案等。

（四）培育醫護人員的醫學倫理道德

“人是唯一的道德主體，只有具有理性思維和決策能力、能獨立承擔責任的理性主體才具有道德主體的地位。”[33]醫護人員是醫學人工智能的使用者，因此培育醫護人員的醫學倫理道德是有效規制醫學人工智能風險的重要渠道。具體做法包括：強化醫護人員的倫理責任意識和法律意識，提高其科技素養和道德修養，增強其保護患者隱私權的意識;通過定期教育培訓讓醫生了解人工智能的最新進展，認識到目前醫學人工智能僅僅是醫生的助手和參謀，不會完全取代醫生的職業，在治療的過程中，醫生一方面可以合理借助人工智能機器人進行治療，另一方面則可以利用節省出來的時間加強醫患溝通，緩解患者心理壓力;在醫藥類大學設置人工智能課程，較早地培養醫學大學生尤其是臨床醫學等專業的醫學大學生的醫學倫理道德。

（五）構建人工智能的第三方風險評估機制

建立第三方風險評估機制，即組建包括醫學專家、人工智能專家、哲學家、社會學家、倫理學家等的專家委員會，由其對人工智能應用中的各種風險進行風險等級評估和綜合評估。具體包括：第一，借助大數據平臺，對醫學人工智能以及相關案例和風險進行綜合分析，實現風險評估機制的智能化。第二，構建參與式風險評估模式，吸納各類專家、公眾進行風險評估，對醫學人工智能可能存在的技術風險、漏洞、責任追究進行分析，定期向政府部門和生產廠家遞交報告。第三，加強信息共享和國際合作。人工智能醫學倫理風險屬于全球治理問題，可以合理借鑒不同國家人工智能規則的相關制度、標準、法律，進行綜合歸納和分析。有些信息可以實現共享，積極尋求醫學人工智能的全球治理合作。第四，建立系統的風險分析框架，包括醫學人工智能風險識別、評估、處理、監控、反饋等機制。明確各責任主體的不同責任。通過定期評估，不斷強化醫學人工智能產品的風險等級，為政府部門和相關企事業單位決策提供有效參考。第五，建立包括預警、信息搜集、預案措施、風險等級的機制，實現從單一的風險評估到風險評估、風險溝通和化解機制的多維構建。

四、結語

現階段，醫學人工智能仍屬輔助性工具，主導權掌握在人類醫生手中。醫學人工智能發展仍處于初級階段，除了技術成熟度有待提升，針對性的倫理規范和法律法規還有待健全。隨著人工智能的發展，醫學人工智能得到不斷升級，其已經推動了數字化健康革命，未來在疾病初篩、輔助和提升人工診斷效率、醫學科研前沿探索、智慧醫院建設等方面，可以有更大的發展空間。據國際機器人聯盟統計數據，預計到2025年，我國智能醫療機器人市場規模將突破百億元[34]。但是在以發展的眼光看待醫學人工智能技術的同時，也要在發展中保持客觀謹慎的心態，高度重視醫學人工智能可能導致的醫學倫理風險，采取各種有效措施對醫學倫理風險進行防范和規制，在實踐中豐富和拓展醫學人工智能的內涵，有效協調人機的辯證關系，以保障人類的福祉為最高目的，提升防控和規制醫學倫理風險的能力，推進我國“人工智能+醫療”的發展，為健康中國貢獻力量。

[參考文獻]

杰瑞·卡普蘭. 人工智能時代[M]. 杭州：浙江人民出版社，2017：序言. 3.

陶林. 近年來國內關于人工智能社會風險的研究綜述[J].云夢學刊，2021（1）：53-62.

PATRIARCA R，FALEGNAMI A，BILOTTA F. Embracing simplexity：the role of artificial intelligence in peri procedural medical safety [J]. Expert Review of Medical Devices，2019，16（2）：77-79.

范瑞平. 前言：人工智能醫學應用的倫理糾纏[J].中國醫學倫理學，2020（7）：777.

韓貴來，李海霞. 人工智能大背景下的醫學圖像處理教學改革探討[J].計算機時代，2020（11）：117-119.

ELLAHHAM S，ELLAHHAM N，SIMSEKLER M C E.Application of artificial intelligence in the health care safety context：opportunities and challenges[J].American Journal of Medical Quality，2020，35（4）：341-348.

ORTIZ-RODRIGUEZ J M，GUERRERO- MENDEZ C，MARTI" NEZ-BLANCO M D R，et al. Advanced Applications for Artificial Neural Networks[M]. London：INTECH，2018.

LAKHANI P，SUNDARAM B. Deep learning at chest radiography：automated classification of pulmonary tuberculosis by using convolutional neural networks[J]. Radiology，2017，284（2）：574-582.

張金慧，徐慧雁. 智能導診機器人在門診患者就診流程中的應用效果[J]. 名醫，2020（3）：279.

朱文珍，呂文志. 醫療人工智能發展現狀及展望[J].放射學實踐，2022（1）：1-3.

周文康. 醫療人工智能前沿研究：特征、趨勢以及規制[J].醫學與哲學，2021（19）：38-45.

2017人工智能賦能醫療產業研究報告[EB/OL].（2018-10-17）[2017-08-25].https：//www. iyiou. com/research/20181017583.

《Nature》發布“自然聚焦—中國醫療機器人”特刊[EB/OL].（2020-06-26）[2021-01-26].https：//www. sohu. com/a/404208813_107808？_f=index_betapagehotnews_4，2020.

任佳妮，張薇，楊陽，等.“人工智能+醫療”新興技術識別研究：以醫療機器人為例[J]. 情報雜志，2021（12）：45-50.

王笛，趙靖，金明超，等. 人工智能在醫療領域的應用與思考[J].中國醫院管理，2021（6）：71-74.

金春林. 人工智能在醫療健康領域的應用及挑戰[J].衛生經濟研究，2018（11）：3-7.

劉伯炎，王群，徐俐穎，等. 人工智能技術在醫藥研發中的應用[J]. 中國新藥雜志，2020（17）：1979-1986.

龍坤，程柏華，劉世旋. 人工智能在抗擊新冠肺炎疫情的應用與啟示[J]. 信息安全與通信保密，2020（12）：16-24.

徐飛，張榮. 從智能到智慧：醫學人工智能發展再思考[J].醫學與哲學，2020（20）：1-7.

閆坤如. 人工智能技術異化及其本質探源[J].上海師范大學學報（哲學社會科學版），2020（3）：100-108.

王夙.人工智能發展中的“算法公開”能否解決“算法歧視”？[J].機器人產業，2019（3）：17-22.

郭銳. 人工智能的倫理風險及其治理[J].北京航空航天大學學報（社會科學版），2020（6）：18-23.

葉名怡. 個人信息的侵權法保護[J].法學研究，2018（4）：88.

TSCHANDL P，RINNER C，APALLA Z，et al. Human-computer collaboration for skin cancer recognition[J]. Nat Med，2020，26（8）：1229-1234.

劉鑫. 醫事法學[M]. 北京：中國人民大學出版社，2015：69-70.

劉伶俐，賀一墨. 患者對人工智能醫療的認知及信任度調查[J]. 中國醫學倫理學，2019（8）：986-990.

崔偉奇，程倩春.論科技研究倫理政策建設的價值基礎[J].自然辯證法研究，2019（12）：45-51.

周琬琳. 人工智能醫學應用的分類與倫理問題反思[J].中國醫學倫理學，2020（7）：826-831.

王東，張振. 人工智能倫理風險的鏡像、透視及其規避[J].倫理學研究，2021（1）：109-115.

任虎. 人工智能和未來法律制度：從本質到目的[J].中國政法大學學報，2019（4）：16-30.

鄭智航. 人工智能算法的倫理危機與法律規制[J].法律科學，2021（1）：14-27.

程瑩. 元規制模式下的數據保護與算法規制[J].法律科學，2019（4）：48.

閆坤如.人工智能機器具有道德主體地位嗎？[J].自然辯證法研究，2019（5）：47-51.

新時代下我國智能醫療機器人發展趨勢與挑戰[EB/OL].（2019-05-15）[2021-01-26]. http：//www.robot-china.com /new s /201905 /15 /57011.html，2019.