人工智能醫療的三個邏輯

王程韡

人工智能(artificial intelligence,AI)在醫療中的應用似乎已經成為一個世界性的趨勢。大量的研究顯示，AI在發現腫瘤、預測老年癡呆、監測心率失常、評估(體外受精)胚胎質量，以及縮短藥物研發周期等方面存在著不可比擬的優勢[1-2]。甚至在圖像學、病理學等常規臨床場景以外，AI還可以提供區分長期幸存者/短期幸存者預后的相關信息[3]；輔助治療毒癮、兒童孤獨譜系癥等精神疾病[4]——有人以此樂觀地認為：作為一系列連鎖作用的結果，家長式的(paternalistic)醫療模式必將逐漸被以病患為中心的醫療民主化所淘汰[5]。

與普遍的樂觀態度形成鮮明對照的是，還是有學者對AI醫療數據共享的困難、隱私泄露的可能性以及算法歧視/偏見等表示了謹慎的擔心[1，6-8]。需要承認，醫療行業的一大不容忽視的特點是擁有豐富的數據集。這被看作是AI“學習”的理想條件[9]。但以數據為核心的技術實施模式也決定了，AI醫療必然會面臨數據和算法相關的一系列共性問題。

本文試圖跳出這個以數據為核心的視角，轉而探究支撐AI與醫療相結合背后的主導邏輯。進而針對中國，更有的放矢地指出這些主導邏輯可能導致AI醫療在未來發展上的風險。

1 當醫療遇上AI

AI的存在最初只是人類的一個美好愿景。如早在1942年，美國作家阿西莫夫(Isaac Asimov)就在其短篇小說《環舞》(Runaround)中以“機器人三定律”的方式提出了AI的初步設想[10]。

真正將設想變為現實的，是戰后兩大陣營之間的意識形態的對抗。20世紀五六十年代，蘇聯在考慮使用AI來管理宏觀經濟的辦法。這一點也引起了美國人的注意?？上莻€時候的科學家至多只能拿出伊莉莎(Eliza)這樣的簡單人機對話程序，兩國之間在AI上的競賽遠不如太空競賽一樣紅火。直到AI被應用到下棋這個場景下，電腦程序對電腦程序的棋藝競爭才與此前棋手之間的對戰一樣，變成了冷戰不可或缺的組成部分[11-12]。最負盛名的首場電腦國際象棋比賽由《每日電訊報》舉辦，從1967年11月22日開始，一直持續了一年。結果，使用了對所有可能策略遍歷搜索的A型算法的蘇聯人取得了勝利[13]。在美國，大量的研究經費涌入AI領域。

毫無意外，當意識形態的對抗弱化的時候，AI的發展也一度進入了嚴冬。1973年，石油危機的爆發迫使美蘇兩國把重心放回到經濟上來。美國國會也隨即開始了對AI研究經費上高額支出的批評。同年，英國數學家萊特希爾(James Lighthill)受英國科學研究理事會(British Science Research Council)委托，發表報告指出：AI機器在國際象棋等游戲中永遠只能達到“有經驗的業余愛好者”的水平，而常識推理永遠超出它們的能力。作為對報告的回應，英國政府終止了除愛丁堡、蘇塞克斯和埃塞克斯三所大學外的所有大學對AI研究的支持，美國政府很快也效仿了英國的做法[10]。25年后，盡管美國IBM公司的AI計算機深藍終于打敗了俄羅斯國際象棋的世界冠軍卡斯帕羅夫(Gary Kasparov)，從而打破了萊特希爾的預言。但此后AI的發展依然不溫不火。

進入到21世紀，依然是政治的力量讓AI重回焦點。美國政府從AlphaGo對戰圍棋職業選手的成功中看到了AI在棋藝競賽以外的其他場景中應用的希望。僅在2016年10月，美國白宮先后發布《國家人工智能研究發展戰略計劃》(TheNationalArtificialIntelligenceResearchandDevelopmentStrategicPlan)和《為人工智能的未來做好準備》(PreparingfortheFutureofArtificialIntelligence)戰略報告等兩個官方文獻為AI技術鼓呼。尤其在戰略報告中，美國描畫了通過AI醫療創造美好生活的場景。

在對給定的淋巴癌細胞是否罹患癌癥的判斷中，基于AI的分析方式的錯誤率為7.5%，人類病理學家的錯誤率是3.5%，人機合作的錯誤率僅有0.5%，錯誤率降低了85%[14]。

報告所引述的這篇文章發表在電子預印本上，當然這本身并沒有什么問題(盡管后來這篇文章也一直沒有正式發表)。但在報告引述的過程中，卻刻意忽略了研究本身競賽(而非實際應用場景)的本質。而且原文中92.5%的接收者操作特征曲線(receiver operating characteristic curve,ROC)，也在報告中被表述成更容易理解的“錯誤率”。相比之下，計算系統本身的腫瘤定位率只有70.51%的事實從未被提及[15]。而且，報告以一種極為巧妙的方式來避免“機器換人”恐慌：在這里，AI技術被表述成病理學家專家知識的有益補充；而大大降低的錯誤率，暗示著技術真正的受益者只可能是普通民眾。為了搶占這一未來戰略的制高點，報告還明確建議“政府需審視各國AI發展情形，并對各國重要發展予以重視”[14]。結果在一種近乎新冷戰思維的激勵下，AI的第二春來臨了。

以數字病理學為代表的數字醫療技術的發展，卻一直在一個相對獨立的技術軌道上進行，見圖1。20世紀60年代，科學家已經開始嘗試將顯微鏡成像的光學數據轉換成矩陣化的光密度值，并在保留空間和灰度短息的基礎上重建數字化圖像[16]，圖中數字醫療和人工智能技術分列橫軸的上、下方。到了20世紀90年代，受到了分析、可視化及查詢衛星遙測獲得的基礎和應用地球科學相關的超大規模數據方法的啟發，全切片成像(whole-slide images,WSI)掃描儀終于被設計出來[17]。從而，困擾了人類許久的顯微鏡的視野與放大倍數之間的矛盾得以有效解決。后來，全切片成像掃描儀的發展一頭扎在了光學模塊的技術軌道上。從自動顯微鏡單光軸連續掃描，到漸進式光耦合裝置(charge coupled device,CCD)掃描系統，再到陣列顯微鏡，都是旨在以一種光學的手段來縮短虛擬切片時間[18]。直到AI技術的相對成熟，計算模塊(如圖像拼接和可視化)才有了進一步提高效率的可能，AI也才具備了與醫療相結合的基本條件。

圖1 AI醫療(數字病理學)發展的里程碑

盡管也被稱作AI，AI醫療在本質上只是數字醫療技術(諸如影像學、病理學的光學模塊所產生)的數據部分與20世紀80年代相繼提出的深度學習、卷積神經網絡等概念和方法的簡單拼接。不具備任何影像學、病理學或是其他醫療方面的知識，AI醫療依然是僅能滿足圖靈測試的基本要求的，“看起來像智能”的弱AI。但為了吸引眼球，AI醫療還是被籠統地稱為AI，而不是更為拗口的蒙特卡洛算法或是卷積神經網絡醫療。

政治推動的一個似乎不可避免的結果是很多“技術細節”，如AI醫療的預測結果并不等同于醫學知識的事實，在政府報告或是媒體宣傳中被巧妙地隱去。取而代之的，是對其低錯誤率的大肆宣揚——和當初在棋藝競賽場景下對勝率的強調一模一樣。而且，這種低錯誤率通常被表述成一種“不可替代但合作更優”的敘事模式。如在德國的一項實驗中，針對皮膚鏡黑瘤識別任務，包括30名專家在內的58位皮膚科醫生中，大部分醫生的表現均優于卷積神經網絡。但是無論醫生的經驗如何，他們均能從AI輔助圖像分類設備中受益[19]。

無論如何在科學與政治聯姻的技術邏輯的主導下，病患的聲音和訴求被無情遮蔽了。他們甚至根本就不在場：既有的AI醫療研究，幾乎無一例外地不報告、不討論模型的使用是否導致了病患照護上的有益改變[1]。通過對“客觀”的錯誤率的強調，AI醫療實際上變成了沒有主體的、純數據生產的過程。

2 市場力量的加入

單純的數據生產并不總是一件壞事情，起碼市場的邏輯是這么看的。

對于市場邏輯而言，愿景本身就可能帶來增長。特別是對于長久低迷的IT市場而言，AlphaGo在技術上的成功和以美國政府為首的高調政治反應，無疑為資本市場打了一劑強心針。高盛公司早在2016年發布的報告《創新概覽：AI、機器學習和數據驅動未來的生產力》中就大膽坦言，“近年來受制于經濟大衰退，股票市場和投資市場都不景氣”。但他們有理由相信，AI技術的成熟，無疑會引領如20世紀90年代一般的“技術(如半導體和計算機)驅動的生產力繁榮”[20]。于是，甚至無關于錯誤率，一種以市場估值為核心的話語悄然興起。2020年AI市場規模預計達183 億美元[20]。

人類學家早就發現，市場估值不過是華爾街所開發出來的一套號稱可以保證公司利潤和個人財產神圣結合的金融工具(但實際上卻是金融危機的罪魁禍首)。不過資本市場卻樂此不疲。而且據說，提高市場估值最好的方法，莫過于“廉價且輕松”的收購[21]。深諳此道的高盛報告自然不會忘記特別提到。

近兩年IBM已經花費超過40億美金來獲得大量的醫療技術和收購數據公司。這些收購的結果是大量的醫療數據(IBM在其“健康云”有超過3億病患的醫療記錄)。用這些醫療數據(包括通過合伙企業所采集的其他數據)和他的沃森技術相結合，IBM正在向腫瘤學、臨床試驗、基因組等用例(場景)提供服務。在醫療垂直領域，其他的初創公司也正在遵循類似的方法來解決醫療影像、藥物發現、診斷等方面的疑難問題[22]。

需要承認，面對世界主要國家人口老齡化的趨勢，醫療顯然是AI未來應用諸多場景中最具發展潛力的一個。也的確早在2011年，AI的先行者IBM就將這種“新技術”應用于美國安德森癌癥醫院進行腫瘤循證診斷，診斷準確率甚至達到了70%～80%[23]。但真正吸引創業者和風險投資的并不是競爭，而是被IBM這樣的巨頭收購的機會。于是，收購金額和頻次的敘事也悄然加入。

2014年，醫療領域AI初創企業的收購金額約為6億美元；到2021年，預計將達到66億美元，年復合增長率為40%[9]。

盡管與火熱的AI醫療影像相比還略遜一籌，但據不完全統計，AI-數字病理的收購在最近3年間就有33起，其中僅2019年(截至2019年11月)就有14起[24]。

那么，市場力量的加入，是否可以讓病患真正受益呢？原本在理論上是具備這樣的可能性的。如早就有研究發現，在線醫學咨詢和支持的網絡模糊了正統醫學知識、消費者知識以及替代醫學知識之間的界限[25-26]。換言之，病患可以以一種市場環境下的消費者身份挑戰醫學專業人士對信息和資源的控制。但很可惜，對于AI醫療而言，這種賦權方式起碼在現階段還無法奏效。一個重要原因便是算法知識對于有著醫學專業知識的醫生而言都是“黑箱化”的，更不用說是普通公眾，真正對它們形成壟斷權的只有“電子工程界”的同仁們。而且在對AI醫療“無知”的這個問題上，醫生和病患竟然奇跡般地站在一起了——他們也被去主體化了。

和技術邏輯一樣，市場邏輯也在試圖消減醫生被AI醫療“去技能化”的擔心。但并不側重在知識上的損益，市場邏輯的敘事通常在以一種近乎戲謔的方式在質問醫生：誰愿意一天8小時都盯著顯微鏡看病理呢？在一項乳腺癌是否存有淋巴結轉移的檢測中，文章這樣寫道：盡管AI還不能完全代替病理學家，但卻大大提高了診斷速度，減輕了病理學家的負擔[9]。

在病理科醫生大量匱乏的中國，更是有人呼吁：影像科和病理科醫生總共才8萬多名，醫生數量增長非常慢，而影像數據每年增長率是63%左右，這一定會促使AI扮演越來越重要的角色，幫助醫生做疾病的篩查，從而降低醫生的工作量……我們電子工程界同仁發展醫療AI不僅是幫助醫生，其實也是幫助我們自己[27]。

的確，相對于人力而言，AI的優勢在于處理更大規模的樣本。但“減輕負擔”的后果是什么，一個針對成年糖尿病患者的128 000多張視網膜眼底圖像的測試道出了真諦。

AI算法對糖尿病視網膜病變和黃斑水腫的檢測具有很高的敏感性和特異性……特別擅長識別那些需要轉診到專業處理的高危病患，以及視網膜臨床表現為無病變或穩定的潛在病患方面，具有高成本效益的普遍應用優勢[28]。

成本收益，顯然是醫院管理層(而不是醫生自身)所關心的問題?？梢灶A想，在AI醫療技術尚不成熟的情況下，院方一般會先把專業醫生穩定在各自工作崗位上，假以時日再以觀后效。但事實上2018年，美國食品藥物監督管理局(Food and Drug Administration,FDA)已經批準了首個使用AI檢測成人糖尿病視網膜病變的醫療設備，見圖1。是否會發生“機器換人”，我們只能拭目以待。

有趣的是，在有著強烈的科學主義傳統的中國，AI醫療竟然還有著節約人力成本以外的“開源”的功效。隨著社會達爾文主義的興起，特別是“科學的春天”以后，科學技術在中國已經儼然成為幾乎一切社會變革的合法性依據，甚至是成為人們崇拜的新偶像，成為一種意識形態[29]。于是引入AI本身，就可以成為吸引病患前來就診的噱頭。一項研究就嚴厲指出了我國某三級醫院利用AI醫療販賣病患焦慮的本質。

根據某城市某三級醫院院網站公開報道，自醫院引入肺結節影像識別AI技術后，肺結節篩查人次三年中增長73%，篩查直接帶來的收益增長81%，加上手術治療，醫院總收益增長100%。隨著效率的提升，醫院業務水平得到極大的提高。從公開的數字看，AI給醫院帶來豐富的經濟回報。但從所在地區的衛生統計年鑒來看，所在地區的非傳染性疾病的疾病譜分布情況未發生明顯改變[7]。

總之，無論是宏觀市場規模、收購金額的增長，還是醫院成本收益的提升，本質上都在強調和強化一種資源配置的市場效率。在這種效率之下，“客觀”的錯誤率都無關緊要，甚至也無法通過事實證明一種解決方案，比如“先進”的AI醫療，會優于另外一種更為“傳統”(如引進優質醫生資源)的解決方案。結果在主體被遮蔽的基礎上，AI醫療又變成了一個沒有客體的純“主觀”價值的生產過程。

3 被忽視的社會邏輯及其危害

不難發現，AI醫療的火熱離不開政治與科學聯姻的技術邏輯，以及大衰退后亟需尋找新的經濟增長點的市場邏輯的雙重推動。在此過程中，不是僅有外行知識的病患的真實訴求被最大程度地忽略，就連傳統意義上擁有專家知識的醫生都被排除在外。究其本質，是因為本不可或缺的社會邏輯被無情忽略所致。大量的歷史案例證明，新技術的出現只能成為改變社會的一個腳本，但還是要受到社會力量的約束；以至于即便是相同或者相似的技術，也可以不同的方式被使用[30]。因此若想實現AI醫療在我國的良性發展，不僅要打開技術的黑箱明確其弱AI的本質，更要對稱地打開社會的黑箱。

首先，AI的確“會消滅部分舊的體力和腦力勞動崗位，也能創造新的工作崗位”[20]。但也確實存在一種可能，AI和醫療的結合會以一種非預期的方式淘汰了最值得寶貴的人才。以影像學為例，影像科(放射科)醫生的數量偏低，的確是制約我國醫療事業發展的一個問題。特別是7萬人的隊伍，和中國龐大的人口基數極不相匹配[27]。而其中一個重要原因在于我國醫學影像學專業本身起步就比較晚。直到1985年前后，天津醫科大學、中國醫科大學、哈爾濱醫科大學、原泰山醫學院、原第一軍醫大學等院校才相繼開辦了醫學影像學專業。醫學影像學專業總體以五年制本科教育為主，但也有兩年中等專業衛生學校畢業的醫士，至協和醫科大學八年制博士。畢業生水平本來就參差不齊，加之“培訓機會不均等，人才不能流動，管理體制滯后，缺乏競爭機制”，以及“?？漆t生待遇低，甚至支撐生活都有一定困難，無法調動培養的積極性”等原因，嚴重制約了醫生隊伍整體水平的提高[31]。在這種情況下，引入AI影像學的一個必然的結果，并不會像自動血壓計的引入一樣，把臨床醫生從繁重的任務中解救出來[32]。而是在此之前，在高等教育專業的選擇階段，就會有越來越少的考生選擇成本收益并不高的醫學影像方向。甚至可以預期，“機器換人”和“去技能化”并不會發生在本來收入水平就很低的醫士身上。相反，是那些苦讀了五年、七年、八年的高學歷醫生，在可能成為醫生之前就被有著同樣甚至更低錯誤率，但實際上不具備任何專業知識的弱AI醫療所逆向淘汰。

其次，即便不考慮技術本身所帶來的醫生隊伍的不穩定，醫療產業的市場邏輯也決定了目前尚很昂貴的AI醫療設備必然優先在醫療資源本來就很豐富的大型醫院集中。截至2019年11月底，我國共有醫院33 972家，其中三級醫院僅有2 681家，占7.89%[33]。然而，三級醫院就診人數卻達到17.65億人次，占全國總人次的51.84%[34]。病患之所以蜂擁至北京、上海等大城市的三級醫院，主要還是看中了這些地方醫生和醫療設備的專業水平。AI醫療設備的引入，正如某三級醫院“肺結節影像識別AI”[7]引入后“貿然接受”的情況一樣，會進一步加劇這種“馬太效應”——和某些專家所預測的“患者及公眾對AI技術的認知不足，信任缺失，甚至可能有負面體驗”[35]截然相反。基層“看病難”問題，還是得不到有效解決。即便是基層醫院在社會資本的助推下，同樣引入了AI醫療設備，也可能由于醫生專業知識的不匹配，引發誤診、漏診后導致患者健康受損后的責任主體劃分難題[20]。

最后，“鑒于現有醫療條件的不平衡分配，僅少部分人能受益于AI的先進診療技術”似乎成為了一個必然[20]。普林斯頓大學的醫學人類學家Biehl[36]曾深刻指出，那些被遮蔽的無法獲得病患身份的人口才是最脆弱的，也最值得被照護的。但現代性公共衛生體制的諷刺之處便在于，幾乎所有疾病的診斷和治療都嚴重依賴于自愿登記(self-registered)的人口。不可見即不存在。在這種情況下，貧困(財力可獲得性)和信息鴻溝(信息可獲得性)等諸多因素始終會將本來就缺醫少藥的那部分人排除在AI醫療所描繪的美好藍圖之外。

4 結論

技術是無法脫嵌于社會存在的，這似乎是老生常談。但事實上，AI醫療發展的現行邏輯卻對此構成了挑戰。部分脫胎于冷戰競賽，AI技術本是科學與政治聯姻而非社會需求滋生的產物。而幾乎同時，數字醫療技術也在截然不同的軌道上獨立發展。直到AlphaGo再次引爆人們眼球，無需對專業知識有任何了解的新一代的AI技術才在美國等政府的強力推動下成為了開啟未來的金鑰匙。此時在數據模塊上已經成熟的數字醫療技術，也順理成章地與之發生了結合。但早在棋類游戲的時代就已經決定了，“客觀”的結果性數據是衡量AI好壞的唯一標準。AI醫療的“客觀”的錯誤率，也毫無意外地成為了技術發展的重點，以至于在病患照護上是否發生了有益的改變都可有可無。

市場力量的加入也絲毫沒有改變這一錯配的情況。相反，AI在醫療等領域的應用被看作是重現20世紀90年代半導體、計算機技術奇跡的又一契機。以影像學、病理學為代表的AI醫療企業受到了資本市場的強烈追逐，并購案頻頻發生，也創造了市場規模、收購金額/頻次等新的敘事模式。在一種成本收益的考量之下，AI醫療甚至還成了醫院開源節流的工具。但這種強調資源配置效率的市場邏輯的本質，卻始終是沒有客觀標準可以衡量的“主觀”價值——如AI技術和宏微觀增長之間的必然聯系，被夸大到了極致。

但本文卻旨在提醒讀者：一個黑箱模型得以實現技術和市場邏輯的重要前提，是將其放置在本不可或缺的社會邏輯當中，通過人類智慧本身的循環予以保障。為此，除了徹底地打開我們所身處的社會的黑箱，別無他法。而不是亦步亦趨地強調“客觀”結果或是“主觀”價值，從而成為科學或是商業霸權體系的附庸[37]。在西方成熟的醫療體制當中，他們可以去擔心的是AI應用可能會危及醫生之間以及醫患之間的關鍵社交互動，從而影響兩類人的服務體驗[32]。但對于專業醫師尚很缺乏、醫療資源分布尚不均衡、部分人口仍缺醫少藥的中國而言，在這些前提下去發展人工智能醫療，才會走出引導其走向真正的“善”。