醫療人工智能科技異化及其倫理風險探析*

劉 琪 谷笑穎

隨著人們對精準醫療及個性化醫療的追求，加之人口紅利消失以及老齡化情況加劇等因素的影響，醫療人工智能在醫學中的應用不斷增加。但同時在醫療人工智能與人類交互的過程中存在的技術異化的現象變得愈來愈突出，醫療人工智能是否會取代醫生的角色？如何消解人性技術化現象？如何實現技術向善？本文將對醫療機器人的科技異化現象進行探討，并對醫療人工智能科技異化中的倫理風險問題進行分析，并以此為基礎采取適當的應對態度及預防策略。

1 醫療人工智能發展現狀概述

醫療人工智能是一種新型的交叉研究領域，它集成了許多學科，如醫學、生物力學、力學、材料科學、計算機圖形學、計算機視覺、數學分析、機器人學和其他學科[1]。醫療人工智能有助于提高醫學治療的精確度，減輕醫生體力勞動，提高患者的生活質量，以及他們參與社會活動的能力。根據用途，醫療人工智能大致可以分為手術人工智能、康復人工智能、醫療服務人工智能。

1.1 手術人工智能

1985年，美國加州放射醫學中心的研究人員用PUMA 560工業機器人完成了機器人輔助神經外科活檢，這是人工智能技術首次應用于醫療手術，標志著醫療人工智能發展的開始。此后，隨著人工智能技術在醫療領域的不斷發展，醫療人工智能已在神經外科、腹腔外科、胸外科、骨外科、血管介入、顱面外科等手術中得到了廣泛的應用。目前，由美國直觀醫療研發的達芬奇手術人工智能是國際上技術最為成熟和完備的外科機器人系統，受到了許多國家和地區的青睞。大量患者受益于達芬奇手術這一先進的微創技術。我國在手術人工智能領域的發展也十分迅速。北京天智航醫療科技股份有限公司是全球第五家取得醫療器械產品注冊許可證的公司，其推出的天璣骨科手術人工智能是國際上唯一能夠開展創傷骨科、脊柱外科手術的骨科機器人，現已投入市場銷售。

1.2 康復人工智能

輔助性康復人工智能主要應用于康復護理、康復器具(假肢)和康復治療等方面，可以有效地幫助老年人群、殘疾人群、慢性病患者、亞健康人群。最早出現的康復機器人是由英國Mike Topping公司1987年研制的Handy1，成功地幫助一名患有腦癱的11歲男孩獨立地用餐[2]。目前，最先進的康復機器人是可穿戴外骨骼機器人，它穿戴于患者的肢體，患者佩戴后可以確保機器人的運動模式和人體自由度同軸，實現更有效的康復訓練。我國許多企業和大學也一直在對康復人工智能進行研究，并取得了一定成效。錢璟康復聯合多所國內院校，歷時多年開發出的Flexbot多體位智能康復訓練機器人，打破了國外企業對該產品的市場壟斷。

1.3 醫療服務人工智能

醫療服務人工智能主要包括護理機器人、救援機器人和轉運機器人。護理機器人主要用來協助護士完成餐食、更換床單、藥品和醫療器械的傳送等日常工作。救援機器人用于配合醫療人員在發生道路交通事故、礦難、火災、地震等情況時將傷員安全救出。轉運機器人主要用于危重病患者的特殊檢查和運送。目前，歐美和日本在醫療服務機器人市場中處于主導地位。日本機械工程研究所開發的MELKONG護理機器人可平穩地將病人從床上運送到衛生間、浴室等。美國 Vecna 公司研發的救援機器人“Vecna's Bear”可以抱起受傷士兵行走長達50分鐘。燕山大學王洪波教授和日本Fumio Kasagami教授共同研制的“C-Pam”轉運機器人不需患者移動身體，就可以將患者移動到床板上[3]。我國在醫療服務類型機器人方面發展仍處在初期，創立時間普遍在近兩年，產業尚處于培育前期。

2 醫療人工智能發展中的科技異化表現

馬克思將“異化”厘定為：在一定歷史條件下，現實的人作為活動主體通過對象化活動創造出的客體逐漸和主體疏遠，變成獨立于客體的東西，反過來反對主體，并成為支配和控制主體的異己力量[4]。科技異化是指科技在產生、發展和應用過程中，違背人類研究初衷，成為支配人、控制人的異己力量，從而出現了人原有的正常的性質和本質被壓抑、扭曲，甚至被否定的情況。隨著醫療人工智能的廣泛應用，科技異化現象也逐漸顯現出來。醫療主體變更、醫患關系變異、醫學宗旨背離、人的道德責任弱化等都是醫療人工智能異化的表現。

2.1 醫療人工智能社會角色的轉變

如今，醫療人工智能走向了越來越多的醫療崗位，醫療人工智能代替醫生完成了許多重復單調和難度極高的工作,醫療技術在醫學中地位的不斷提升使得醫生獲得了更高的地位和權力，導致醫生對高科技的依賴感也逐漸增加，即使有些憑主觀思維就能夠把握的疾病，醫生也要利用技術手段對患者進行檢查和診斷，醫生的技能逐漸轉變成了對儀器設備的操作水平。醫療機器人技術的成功應用也使得很多患者和家屬陷入了盲目的技術崇拜，認為只要使用高新醫療技術就能達到好的治療效果，所以將治愈疾病的希望寄托于高科技醫療設備，忽視甚至懷疑醫生的專業水平，迷失在醫療高新技術里。

醫生、患者和家屬對醫療人工智能不同程度地膜拜和依賴致使醫療人工智能的角色在無形中發生了變化，醫療人工智能的角色由原來的工具、手段轉變為了醫院的核心競爭力。一方面，醫療人工智能角色的轉變使得醫生過分依賴醫療智能儀器對疾病的判斷和診斷，人們對高新醫療技術的推崇遠遠超過了對醫生的重視，醫生將變得無足輕重，醫生的主體地位也因此出現弱化。另一方面，醫療人工智能的高應用成本轉嫁給患者和家屬，高新技術的過度使用增加了家庭的經濟負擔，當高昂的醫療價格未能滿足其治療期待時，勢必會激發家屬的不滿情緒，醫患矛盾加深，最終導致醫患雙方信任關系的崩塌。因此，醫療人工智能社會角色的轉變不僅致使其自身的角色發生了異化，也使得醫生、患者及其家屬、醫患關系發生了異化。

2.2 醫療科技異化引發的人性異化

弗洛姆認為人性亦即人之本性、人之本質，是人通過人所處的情境表現出來的人的生存欲望和需求[5]。可見，人性異化是人們在欲望中迷失了自我，喪失了本性。科技的突飛猛進給人類帶來了前所未有的巨大財富，但人類在依附于科技的同時也喪失了人類的主體性、主動性和目的性。在醫療領域，醫療人工智能的推廣和應用使現代醫學逐漸失去了傳統醫學中的藝術與溫情，人性異化現象越來越明顯，通過對人性異化問題的成因進行分析，大致上可以把其原因分為以下幾種。

2.2.1 現代醫學的過度技術化

目前，人工智能對包括醫學在內的所有人類活動都產生了重大影響，因為在醫學領域，對數據分析和解釋的需求很高，而科技為人類打開了新的視角。隨著自動化時代的到來，重復性的工作將會消失，人工智能的作用將繼續增長，使得醫生在醫學活動中過度依賴并夸大醫學技術的作用。

在技術倫理學中，當人類完全被看作實現某種目的的手段時，這在倫理上是不可接受的。如果對醫學技術的使用不加以管控，那么人與機器、技術的主客體關系就會完全發生顛倒。一方面，患者變成了客體，作為機器、技術、工具的支配對象被迫地受到機器的控制。例如，醫療機器人對每個年滿五十歲的患者進行結腸鏡檢查時，就像裝配流水線上的產品一樣，被動地適應機器運轉，根本不會顧及患者的情緒。又如，醫療機器人以同樣的方式治療所有膝關節骨性關節炎患者，而不考慮特定患者之間的差異。另一方面，機器變成了主體，機器成為醫生的主宰，醫生則變為機器的奴隸。隨著醫療人工智能覆蓋的領域越來越廣，醫生的作用越來越單一化，少數醫生被固定在一個位置上重復著單調、乏味的同一個操作程序，被動地適應機器運轉。醫生沒有了思想、樂趣，他們的時間和工作性質完全根據技術和機器的指令來安排和決定。這種患者商品化和醫生機械化現象大大消解了人性。

面對復雜多樣的醫療需求，需要醫生不斷創新，努力學習新的醫學知識。醫院自動化增強，更多的機器人取代了醫生，就會限制醫生專業特長的發揮，削弱工作的激情，從而限制了醫生潛能的發展。此外，如果機器決策出現偏差，那意味著即使錯誤，醫生也傾向于接受機器的決策，而醫療決策的錯誤可能會危及患者的生命，引起醫療沖突和糾紛。

2.2.2 人工智能責任的缺失

人工智能給人類帶來的潛在危機和發展隱患，涉及到社會的多重因素，因其應用帶來的數據泄露問題、隱私問題、算法黑箱問題、失業問題等，這一系列問題其實都是因為人工智能責任的缺失導致，給人類帶來了諸多的倫理困境。在醫療領域，醫療人工智能的廣泛應用使得醫生的工作只是按一下按鍵，對診斷流程和最終結果一無所知，也不需要對患者的問題是否解決負責。一旦患者提及機器是如何以及為什么做出重要決策的時候，如果醫生告訴我們：“我不知道你為什么生病，但是我的機器說‘吃這些藥’”，或者“我不知道你為什么生病，但是我的機器建議你做手術”。我們當中會有多少人對這個結果感到滿意呢？但機器決策是由算法決定的，臨床醫生能夠解釋的內容可能會受到限制，那么責任歸屬的轉移就會影響患者對臨床醫生和醫療機構的信任。

為了應對人工智能這一創新技術帶來的潛在風險，歐美國家興起的“負責任創新”理念旨在解決科技發展中的責任倫理問題[6]。該理念強調對研究與創新的未知影響和結果進行預測與反饋，以對科技的社會角色“負責”[7]，實現“技以致善”[8]。尤其在醫療領域，醫療人工智能的應用引發的倫理問題更是凸顯了對人工智能負責任創新的必要性。鑒于此，應該意識到，科技的應用不僅僅是技術挑戰，更是一項道德、法律和社會的挑戰，人工智能責任的治理不僅僅是科學家和工程師的事情，人工智能學術界、產業界，以及倫理、哲學、法律等社會學科各界都應緊密合作，積極應對人工智能發展過程中的倫理道德風險。

2.2.3 名利與技術的“合謀”

醫療人工智能給患者帶來的高治愈率導致醫療機構認為誰有先進的醫療設備，誰就在同行中占據領先地位，醫療的原始宗旨逐漸被異化為對利潤的追逐，在利潤的驅動下，醫療機構對人工智能的過度投入使得人們在一定程度上被技術所掌控，醫療人工智能產品的研發、銷售及使用甚至演變為一些人致富的工具，醫療領域人工智能的不斷應用也為科技公司未來的發展提供了方向，醫療合作與商業利益捆綁在一起，從而大肆宣揚人工智能，吸引更多熱情的投資者和擁護者，但這種過度資本化的行為并不總會對患者有利，所以在開發和應用醫療人工智能的同時也要謹防資本逐利的本性。機器對人的異化越來越凸顯。

對于醫務人員來說，從一名醫學生成長到醫生花費了大量的時間和精力，而由于大規模醫療人工智能的使用，醫療勞動的價值就完全被忽視了，醫生的個人價值和社會價值得不到體現，醫生的積極性下降，醫療環境日趨惡化。此外，過度醫療檢查行為所帶來的利益誘惑也使醫務工作者出現道德偏離甚至缺失。對于患者來說，高昂的治療費用會使得數以萬計的家庭因病致貧、因病返貧，進而增加了看病難、看病貴等社會問題。

2.3 技術人性化和人性技術化

人性技術化是指人們迷失在技術及其產品的價值中，逐漸喪失了自己的創造性和主體性，最終導致人性發生異化。技術人性化是指將人性賦予技術,在技術中融入人性，是與人的本性相和諧的技術，技術人性化其實是技術積極的“異化”。所以人們在享受醫療人工智能帶來優質快捷服務的同時，也必須認識和警惕人性技術化的嚴重后果，必須思考如何使醫療人工智能的應用更加人性化，實現技術和人之本性的和諧。

2.3.1 人性技術化的表現

在醫療領域，醫療人工智能導致的人性技術化現象表現在兩個方面：一方面，對自然人性的影響。醫生過度依賴醫療人工智能會導致醫生智力的相對弱化和退化。傳統醫療模式中，醫生往往通過閱讀醫學文獻和實踐來鍛煉思維，最終做出理性的判斷及相應的治療分析，如今，醫生在臨床診斷及后續治療中往往把這些工作都交給高度精密和極高速度的機器，這就在一定程度上使醫生人工工作相對懈怠，甚至導致醫生對其過分依賴從而造成醫生智力的退化和理性判斷力的弱化。在此趨勢下，人在科技面前愈來愈缺乏人性，人性逐漸被技術所吞噬。那么，不得不思考人類究竟是技術的主人還是奴隸？另一方面，對社會人性的影響。醫療人工智能給人們帶來了許多倫理困境。如何面對醫療人工智能泄露患者隱私的風險？如何處理人工智能引發的醫療事故？未來是否會賦予人工智能人權？等等。這些問題都給傳統的醫患關系帶來了巨大的挑戰。

其實，無論是醫生還是患者在醫療人工智能技術面前都漸漸失去了對生命的尊重。在醫生的思維中，技術理性占據了主導地位。醫生忠誠于機械設備的每一個步驟，甚至把患者也當成了機械，忽視患者的感受，醫生對生命失去了可貴的悲憫和敬畏。而患者懷著迷茫和希望將自己的身體交給機械設備，忠誠地配合著醫生的每一個指令，輕視了自己生命的尊嚴。在理性、冰冷的醫療機械面前，醫學的目的變成了治病不治人，醫學中的人文關懷也逐漸喪失。

2.3.2 從人性技術化走向技術人性化

愛因斯坦[9]曾指出“科學最突出的實際效果在于它使那些豐富生活的東西的發明成為可能”，“所有這些發明給予人類的最大實際利益，我們就應當把它歸功于科學的實際效果”。所以要從醫療機器人的設計、發明、創新開始就要堅持“以人為本”的原則。研發方面，科學家和工程師要對潛在風險和安全隱患進行評估，提升技術水平控制各種風險。在此基礎上，設計要合乎倫理，體現出多樣性與包容性，盡可能地惠及更多人。在使用方面，提倡善用和慎用，避免誤用和濫用，應確保患者對其權益所受影響有充分的知情與同意。因此，要從醫療人工智能的研發和使用上規避倫理道德風險，才能使醫療人工智能更好地為患者服務。

3 醫療人工智能科技異化中的倫理風險問題分析

醫療人工智能科技異化現象使得傳統醫學倫理價值和生命倫理觀念受到了沖擊，不斷地消蝕著傳統道德。如果漠視這一切，現代醫學的發展就會陷入困境。所以，深入剖析醫療醫療人工智能異化的表現，反思醫療人工智能的倫理風險并最大限度地降低和規避其風險，對于構建和諧的醫患關系具有重大意義。

3.1 人的主體性和“人-機”統一性之間的矛盾

目前，對道德主體的研究已經從人類拓展到動物甚至是技術人工物，但以人是唯一道德主體的思路考慮，只有具有理性思維決策能力、能夠獨立地承擔責任的理性主體才具有道德主體地位[10]，顯然，機器是不具有道德主體地位的。醫學側重于對以人為主體的情感關懷，所以，即使醫生在知識儲備和對信息的掌控方面與醫療人工智能技術相比具有自己的局限性，但機器是不可能取代醫務人員的。

醫療診斷和治療的過程并不是單純地將患者視為一架需要修理的精密“機器”，只從生物學的角度對患者進行治療，醫護人員對患者的關愛和尊重對患者來說也十分重要。醫療咨詢是患者就醫的第一步，而良好的溝通是醫療咨詢的核心。患者不僅想要醫生了解他們的癥狀，也希望醫生能夠理解他們的感受。例如，醫生只有經歷過頭痛才能真正理解頭痛患者的抱怨，或者利用其他經歷來想象這樣的疼痛可能是什么樣的。當醫生響應時，患者可以感知到醫生診斷和治療的努力。由于機器人不可能患病，所以就無法體會到患者的痛苦，難以實現醫患共情。另外，非語言交流在醫療咨詢中也十分重要。例如，身體姿勢、眼睛注視、語音語調、面部表情、手上的安慰觸覺、醫生與患者之間的距離。這些表達雖然微小，但會增強醫生和患者之間的情感，包括同理心、關注和安慰。這樣，患者在醫生面前可以充分表達他們的癥狀、擔憂、想法、感受和期望。即使醫療機器人可以執行這些操作，也難以知道如何以及何時適當地使用這樣的手勢，患者會對醫療機器人的觸摸有所響應嗎？雖然在某些情況下，有效的診斷和治療就足夠了，但是對于慢性病和絕癥患者來說，他們希望醫生提供的不僅是更多的技術手段，而且提供人類的智慧和同情心，畢竟人類在疾病和死亡面前是脆弱的。因此，同情心對于醫患關系至關重要，而這是醫療人工智能所不具備的。

人工智能歸根結底還是人類創造的產物，其職責是更好地為人類服務。醫療行業是一個特殊的服務類行業，必須堅持醫務人員為主導，醫療機器人為輔助這一原則，構建以醫生為主體的“人-機”共同體。

3.2 醫生、機器、患者的權益公平性的矛盾

醫療人工智能技術的應用和發展解決了醫學難題，延長了人類壽命，對人類健康事業作出了巨大貢獻，當我們過度使用醫療技術時，我們不得不面對醫生和患者的相關權益受到威脅的倫理困境，主要表現在以下兩個方面。

3.2.1 隱私侵犯風險

在電子醫療記錄時代，人工智能使已經復雜的網絡安全環境變得更加復雜。在劍橋分析公司竊取Facebook用戶隱私數據事件之后，關于如何平衡隱私與更好的用戶體驗的辯論正在持續發展，特別是在涉及諸如醫療信息的敏感數據時。數據是技術開發的一個組成部分，特別是對于人工智能來說[11]。醫療人工智能需要訪問醫療大數據才能向人工智能設備提供資料，以便它們可以進行更精準的治療。但問題是，患者的敏感數據可能被非法獲取，患者的隱私易受到侵犯。每個人就醫時的信息都在虛擬的網絡系統中留下了痕跡，即便刪除也可以找回，任何人都有可能從中獲取信息，即使有加密措施也不能完全阻止信息被不法分子竊取。而且隨著智能移動終端和可穿戴設備的廣泛使用，也給不法分子提供了獲取患者信息的途徑。公民健康信息和患者隱私保護是醫療人工智能面臨的重大挑戰，應對該挑戰需從技術、法律制度等多方面著手，需要患者、醫療機構、人工智能公司、政府和社會各界的共同努力。

3.2.2 責任風險

盡管現在醫療人工智能技術較為成熟，故障率很低，但由于人工智能技術的復雜性，除了極少數人能夠理解它們是如何工作的，幾乎對所有人來說都是一個“黑匣子”[12]。醫療人工智能行為異常將由一個或多個邊界條件的失敗引起。例如，一個編程錯誤可以導致系統重啟；障礙物會使機械臂的運動發生偏離；連接控制臺和機器人的導線損壞會使機器人無法響應外科醫生的指令，等等。那么由于機器人異常行為對患者造成的嚴重傷害，誰會對這種傷害負責？如何厘清醫生、算法設計者、制造者等各方的責任？人工智能一旦脫離人類的束縛，機器人可能會做出超出設計者設計意圖的行為，其責任如何認定？由于現階段缺乏明確的倫理規范和法律法規的要求，因此，有必要針對智能機器人建立健全相關的規范要求，使得相關責任方承擔起自己應盡的責任。

3.2.3 技術價值中立和道德向善的矛盾

對價值中立進行系統論述的德國社會學家馬克思·韋伯認為價值中立就是在進行社會學研究的時候只是力求反映事物的真實情況，而避免政治的、倫理的影響，不對它進行價值判斷[13]。技術本身是中立的，但人類進行科技活動難道僅僅是為了追求真理，完全撇開主體的目的、利益、情感、欲望等主觀偏好嗎？2018年賀建奎“基因編輯嬰兒”事件在社會上引起了軒然大波。如果試驗脫靶，不僅對嬰兒的發育和成長留下難以預料的隱患，也將會改變整個人類的基因池。賀建奎為了達成他的科學目的冒著危及整個人類社會的風險，這其中難道沒有追逐個人名利的目的嗎？可見，雖然高技術在食品、醫療、交通和信息獲取等各個方面都給人類帶來了福祉，但也讓我們置于復雜的困境之中。人始終是技術的主人，科技給人類帶來的是善還是惡完全取決于人，人類決定著科技的發展方向。四川警方利用人工智能跨年齡人臉識別技術，成功地找到了4名走失約10年的孩子。這告訴人們將科技與善意結合，技術才能變得更有溫度。

在醫療人工智能這種有爭議的技術進展面前，如果國家通過法律對技術發展進行回應和保護會加大醫療人工智能帶給人類的福祉。例如，根據新聞文章中的調查和采訪，新罕布什爾州多佛市的Wentworth-Douglass醫院發生的醫療機器人行為異常引發的醫療事故是由于機器人系統訓練不足而導致的：外科醫生沒有足夠的時間和資源來學習如何正確使用機器人。Wentworth-Douglass醫務人員的一些成員宣稱他們只在豬和人類尸體上練習2天，而擁有豐富機器人經驗的外科醫生至少需要200次手術才能熟練掌握醫療機器人[14]。雖然這一觀點需要進一步證明和完善，但加強對醫生的培訓和監管是十分必要的。又如，如果在算法設計中暗藏某種歧視，一旦被機器人學習并繼承，很難通過技術手段消除，這種醫療人工智能應用于實踐中是不利于社會公正的。所以應對算法輸入進行嚴格監管，當出現算法歧視之后，要求事后公開審查，使得編程人員的行為受到約束，這樣才能削弱或避免人工智能出現算法歧視。因此，有必要加快我國相關立法，增強醫學行業自律等措施，讓法律成為保護和實現善的最有效機制，實現人與科技的友好相處。

4 結語

雖然醫療人工智能的發展和應用給人們帶來了許多倫理難題，但醫療智能化將是醫療領域的必然趨勢，人們對待醫療人工智能的態度將決定人工智能的發展方向。要認識到：醫療人工智能并不是要取代醫生，而是將醫生所獲得的時間和精神上的余地留給患者。如果醫生能夠有效地利用人工智能，人工智能可能會比以往任何時候都更加成為人們的盟友，醫療人工智能的發展也將會造福于人類。