醫學人工智能應用若干問題的哲學思考

張 青 楊衛敏 徐一峰

人工智能用以描述計算機系統模擬認知過程，這一概念1956年在達特茅斯(Dartmouth)最早提出，定義為人工智能是用機械和電子裝置來模擬和代替人類的某些智能，也稱“機器智能” 或“智能模擬”[1]。近兩年人工智能發展迅猛，多國提出人工智能發展戰略，中國政府則在2017年7月宣布下一代人工智能發展計劃，推動人工智能技術及相關規制、倫理法則、安全性等方面研究[2]。公眾對人工智能應用持正面態度，但也存在隱憂，如擔心人工智能對工作和就業的影響[3]，倫理及哲學學者則關注人工智能技術對人類尊嚴、自由意志等人的本體存在性的影響[4]。

人工智能在生命醫學領域的應用已觸及多個方向，包括精神衛生、影像病理、居家養老等。在腦健康及精神醫學領域，盡管有學者認為人工智能應用尚缺乏完備的倫理守則和可行的指導策略[5]，但“聊天機器人”、在線心理咨詢已有實踐，又如使用人工智能進行抑郁癥患者追蹤，通過語音語義識別、面部表情以及交互式聊天等方式，幫助抑郁癥患者在線支持[6-9]。人工智能在危機干預與自殺預防中具有積極意義[10]，如自殺干預項目，“樹洞救援團”通過算法識別語義和語用，識別具有高自殺風險的人員，給予及時人工干預，作為生命支持系統和危機干預的應用得到推廣[11]。

醫學影像是人工智能應用的熱門領域：基于人工智能的影像讀片，輔助診斷提高醫學影像數據處理能力[12-14]。在生命情感支持中，人工智能機器人通過人臉識別、情緒識別，以及高仿真的柔性材料使用，愈發呈現出人“情感”特征，如陪伴機器人可能承載孤獨老人晚年的情感寄托[15]，或是緩解遠方子女因無法陪伴的愧疚。人工智能機器的演進，已遠超越哈洛恒河猴實驗中裹著絨布的裝置，在交互體驗中被嘗試性地賦予價值和人文關懷，并必然對醫療組織運行、醫療決策、醫患關系等產生深遠影響[16]。機器在不知不覺中融入人的日常生活，引發人工智能發展進程，對機器之芯和人類之心[17]、公平與正義、價值評估與歧視、安全與隱私、道德義務規制[18]等的憂慮與反思，或許真如海德格爾[19]所說的：有一天人類連自身都交付給了技術。

1 多重關系的產生與界定

人類歷史上歷次技術革命都涉及人與機器、人與人的關系改變，特別是近代工業革命肇始，人與機器關系復雜而對立，機器“任勞任怨”且生產效率高，沖擊就業而導致人類對機器的憤怒。隨著人工智能發展，新技術革命不僅沖擊人與人、人與機器的關系，同時提出機器與機器關系的新命題。

在醫學領域人工智能將引起醫患關系的深刻變化。協助醫療決策的人工智能機器已遠不是一個X光機或排隊叫號軟件，人工智能通過可準確讀識的醫療信息進行算法分析，提供診療建議從而解放醫生時間[20]；但也不乏導致醫生群體的困擾，如當患者拿著網上檢索的疾病診療知識咨詢醫生時，醫生覺得其行醫過程被干擾與冒犯。傳統醫患關系因此正被迅速異化為患者-機器-醫生多元關系。又如，基于互聯網的輕問診被廣泛推廣，人工智能替代傳統導診，部分承擔起接診、分診功能，成為患者與醫生接觸的“中間人”，甚至通過自動應答，完成在線咨詢。新技術同時增加了患者與患者直接聯系，如各類患者俱樂部提供虛擬網絡社區；醫生建立患者“粉絲”群以增進患者黏性并提供線上指導；通過人工智能從網絡社群中提取特定語義詞匯，主動尋找高危自殺人員并采取干預，這些應用服務都深度融合了人工智能算法的支持。

信息化時代的萬物互聯提出了人工智能機器之間的關系問題，機器與機器發生指令沖突時依據怎樣的規則或如何確定指令的優先等級，各類傳感器采集的生命體征信息是根據證據等級還是其他原則進行采信，人與人的關系模式是否可以套用到機器之間的關系處理中，諸如此類問題都需要批判性考察。人工智能的算法技術目前仍不透明，由此產生對主體間、主客體間、客體間關系的影響將是深遠的。這些變化將引起關系邊界的重新確立、道德責任的變化、爭議與沖突機制的重構問題等。

2 不確定性與決策悖論

醫療環境和生命系統都具有極大不確定性，人工智能如何能夠應對諸多不確定，是否具有程序自洽且符合倫理原則的決策系統？如何將各類經由可穿戴傳感器、智能終端產生于復雜環境的醫療及健康數據整合形成一體化的數據集？研究復雜環境下機器學習和數據挖掘技術，對人工智能開發具有重要意義[21]。面對不確定性，《人工智能創新發展道德倫理宣言》客觀地指出：人工智能發展在深度與廣度上都是難以預測的[22]。這種困難不僅是技術層面上發展的不確定性，更是生命支持及醫療應用場景中的不確定性。正如2019年LancetGastroenterolHepatol發表的關于人工智能與計算機輔助診斷在結腸鏡檢查的應用系統綜述所指出機器學習面臨的挑戰：如學習數據基于回顧性研究，機器深度學習需要構建更大樣本量的數據庫，以應對臨床實踐中不確定性的挑戰[23]。

算法與決策制定總希望在一個相對確定的前提下進行，人工智能如何通過一個非穩態的模型建構和學習，產生相對確定的行動決策？決策基于何種預設的價值系統以符合生命倫理的道德律令？這些問題的回答需要在算法中植入基于情境的道德代碼，正如有研究者提出的：在機器中加入明確的倫理維度，使其具有倫理決策功能和社會幫輔功能[24]。

3 道德主體困惑

法律意義上對人作為法律主體界定是明確的，但當人類由純粹自然演進走向基因編輯、人類智能模擬時代，傳統民法約定的主客體邊界正發生動搖[25]。人工智能倫理主體問題，美國達特茅斯學院哲學系教授摩爾[26]根據智能機器的自主性程度，將機器劃分出四種人工道德主體：有道德影響的主體、隱性道德主體、顯性道德主體和完全道德主體。隱性倫理規則作為普遍性倫理共識成為人工智能發展早期倫理規約，顯性倫理規則以代碼形式被編制進人工智能算法規則。也有人認為由于人工智能主體缺乏自主性、意識以及動機，因而不符合道德主體的特征[27]。

以康德道德哲學審視機器道德主體合法性，康德[28]認為理性與自由意志是判定道德行為主體的重要特征，《人工智能創新發展道德倫理宣言》認為人工智能自主意識非自由意志屬性[22]，即不承認人工智能的道德主體地位，這如同盧卡斯-彭羅斯利用哥德爾不完全性定理所提出“人心勝過機器(圖靈機)”，認為心靈是不可計算的[29]。但相反觀點如米歇爾·巴洛恩(Michael Byron)認為：以人的自我認知革命為特點的第四次革命正日益挑戰人類所獨有的自由意志以及自我認知能力[30]。

技術主體性的提修斯之船(Ship of Theseus)在多大程度上脫離而形成新的自我，使人類喪失獨占的主體性自我，沖擊人類中心主義的倫理底線？人工智能發展提出了生命個體邊界問題，當雷·庫茲韋爾(Ray Kurzweil)預言的“奇點”一旦出現，比人更聰明的人工智能將真正沖擊人的本體存在地位[31]。

4 價值立場及信任考量

技術通常被認為是價值中立的，技術應用結果的善惡取決于使用者的價值立場，但人工智能在道德價值判斷上是否仍舊是中立的，特別當智能算法日益沖擊人類自主意識，使人工智能機器越發具有邏輯推理能力的類道德主體時，這種價值中立的立場是否依舊成立？瓦拉赫(Wendell Wallach)和艾倫(Colin Allen)[32]認為弱人工智能道德更是一種“操作性道德”，但隨著人工智能交互性的提高，將出現“功能性道德”，甚至完全道德行為，價值問題勢必成為新的倫理挑戰。

人工智能作為技術的價值中立立場動搖時，人類是否依舊對技術本身給予信任？這一問題早在1942年阿西莫夫通過“機器人三大原則”進行約定：(1)機器人不可以傷害人或者通過不作為，讓任何人受到傷害；(2)機器人必須遵從人類的指令，除非那個指令與第一定律相沖突；(3)機器人必須保護自己的生存，條件是那樣做與第一、第二定律沒有沖突。三原則是人類以近乎上帝視角與機器人訂立契約，機器人成為聽命于人、隨時準備為人類“犧牲”的臣民，但問題是：為什么智能機器必然需要聽命于人類？

Taddeo[33]提出對人工智能信任需滿足的三個條件：(1)行動者的交互；(2)交互中基于共同的規范與倫理準則；(3)交互中的各部分可識別。Herman分析Moor對人造機器信任等級的劃分，提出不同場景下信任等級確定的三條特征：自主性(與獨立機器相關)、風險/脆弱性(與人機系統中的機器相關)，以及交互性(人主體與機器之間直接或間接交互性)[27]。

5 數據來源與隱私

目前，人工智能數據來源于不同場景下開發的各種應用，醫學領域中人工智能通過深度學習，形成一套算法模型，機器學習數據來源于精巧設計的臨床研究或真實世界，前者所謂循證醫學數據缺乏普遍性，但后者數據又可能混雜大量冗余信息，大數據的人工智能轉向將如何規制[34]？此外，數據采集過程中所包含的地區社會文化傳統習俗，及可能潛隱其中的不公正甚或歧視，通過人工智能學習，使這樣一些現實問題被承繼到算法中，從而通過一種拙劣的模仿將人類缺點[35]，凝固在未來算法中，這是否使人工智能繼承了人類的“原罪”？

醫療數據所有權關涉隱私保護，但所有權問題也并非是顯而易見的，如加拿大醫療數據所有人包括患者個人以及收集醫療信息的醫療機構、政府部門等，也有觀點認為患者擁有具有身份信息的醫療數據所有權，醫療服務提供者及政府相關部門具有脫敏后去身份信息的數據所有權[36]。非直接用于臨床的回顧性數據使用需要較大樣本量的情形，及具有明確社會利益且低風險的數據使用，被認為可以在脫敏情況下二次使用并免除知情同意，加拿大在2014年修改《人相關倫理行為和研究》，提出對于二次使用的脫敏數據非必須知情同意[37]。我國于2016年10月發布的《涉及人的生物醫學研究倫理審查辦法》，規定醫學研究要遵循知情同意原則，對已同意捐獻樣本及相關信息可用于所有醫學研究的，允許經倫理委員會審查批準后，免除簽署知情同意書[38]，但對于人工智能數據的使用規則并未做明確規定。

6 不公平、歧視與風險責任

人工智能需秉持公平與客觀，摒棄帶有偏見的數據和算法，杜絕可能的歧視性結果，但通過算法識別，實現精準營銷和價格歧視政策[39]，為特定消費者提供特定產品及不同的價格已事實存在。數據挖掘導致的歧視不僅限于商業利潤最大化，還有因民族、宗教、社會文化習俗差異所導致的不公平。層出不窮的軟件應用，通過后臺信息收集，對用戶畫像和標簽化并針對性推送信息，從而產生信息繭房效應[40]，經機器選擇的信息傳播中，被精準推送的人偏向于只能接收到與自己價值觀、偏好相關的信息，從而導致信息閉塞。另一個是所謂過濾泡問題，那些不符合用戶喜好和與群體或個人價值觀念不符合的信息被自動過濾[41]。

人工智能有助于醫療資源使用效率和效果提升，如通過電子病歷的數據挖掘，對于住院患者的診療、疾病進展預后，開發機器學習算法[42]。醫療數據整合需要不同數據產生部門形成有效交互的數據體系，如患者、醫療服務提供者、保險公司、政府管理部門等，通過數據分析、優化患者治療，提高人工智能時代的醫療公平性[43]。醫療決策行為本身的不確定性特點，以及人工智能學習黑箱性質(black box)[44]，甚至有時程序員自身也不完全明了機器算法的內在過程，使得人工智能輔助醫療決策存在風險，影響患者利益。

人工智能算法存在風險，其所給出的臨床診療決策錯誤，由誰來承擔相應責任？美國和歐盟對人工智能應用風險及責任采用等級評估規制，如美國對人工智能實施三級風險評估，不同風險等級的技術應用對安全性及有效性給予不同的監測，甚至實行產品的全生命周期管理[45]，歐盟也就人工智能技術應用進行規則制定及提出需要建立完善的培訓機制[46]。

7 倫理審查與治理

人工智能為數據安全提出嚴峻的現實問題，在人工智能仍處于類似于庫恩所提出的科學發展階段的“前范式”期，亟待通過建立一種倫理審查制度，使人類與智能機器相互信任原則得到制度性保障，使人工智能成為人類生活的福祉。人工智能倫理審查機制，在《一般數據保護條例》(General Data Protection Regulation，GDPR)及《阿西洛馬人工智能 23 條原則》都提出有規約，但是人工智能基于算法與代碼，倫理審查是深入到編碼過程，還是僅審查算法執行效果？前者從過程管理對人工智能加以約束，是更為實質的前置性審查，后者更多地有賴于程序員自身的倫理道德自律，采取后置性審查方式。

人工智能在生命科學領域應用的倫理審查，因技術復雜性和應用場景多樣性，需要由來自于不同領域專家組成，包括醫學、生命科學、計算機科學、倫理學、法律等學科，設置倫理審查委員會應當成為人工智能時代倫理治理的重要制度性安排，Winfield等[47]提出的倫理治理策略，考慮計算機工程、機器人、信息與交流技術等方面：制定操作性倫理法則、全員覆蓋的科研倫理培訓、負責任的創新及倫理風險評估、公開透明、非預警式有助于價值提升的倫理治理策略，構建積極前置有能力應對潛在技術倫理問題的倫理治理體系。

時代前進的步伐不會因為懷舊或者恐懼而停止，歷次工業革命表明支撐性技術發展和革新是無法阻擋的，對技術迎接和擁抱同時又懷有畏懼和抵抗，是人類永恒面對的存在性命題。后現代生命倫理境遇的啟幕，人工智能時代的降臨，人的生命正被數字革命重構，這終將是一個極富挑戰的領域[48]，盡管尚難以判斷這是一場災難的序曲還是一個偉大自由時代的黎明，人工智能對于既有關系顛覆將是全方位的，甚至是一種對于人的本體存在的根本性質疑，無論人類是否已經準備好，人工智能終將向著尼爾森(Nilsson)所說的堅定不移的強人工智能的方向發展，能夠獨立自主完成任務的智能機器人將必然出現。

因此，需要構建人工智能社會生態系統，在生命哲學與道德哲學對于人之本體存在的高度自覺中，建立一個善的人工智能社會倫理基礎架構和實現規則。無論人工智能作為生命支撐性技術或者作為朝向具有人類自由意志的方向演進，科技的倫理治理，都不應遺忘亞里士多德所提出的：倫理學的目的是讓“人類生活得好”。