人工智能在醫(yī)療領(lǐng)域的應(yīng)用和準入

蔣璐伊王賢吉 金春林

1.上海市衛(wèi)生和健康發(fā)展研究中心(上海市醫(yī)學(xué)科學(xué)技術(shù)情報研究所) 上海 200032 2.上海申康醫(yī)院發(fā)展中心 上海 200041

2017年7月，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》(簡稱《規(guī)劃》)，制定了人工智能三步走發(fā)展戰(zhàn)略目標，致力于在2020年、2025年以及2030年分階段完成我國人工智能技術(shù)從與世界水平同步到部分領(lǐng)先、再到總體領(lǐng)先的發(fā)展目標。[1]醫(yī)療是中國人工智能戰(zhàn)略的重要領(lǐng)域。然而醫(yī)療行業(yè)的特殊性以及人工智能威脅論使得人工智能在醫(yī)療領(lǐng)域的應(yīng)用和準入尤為慎重。本文旨在梳理人工智能的歷史沿革以探尋人工智能的本質(zhì)，綜述當前人工智能在醫(yī)療領(lǐng)域的應(yīng)用現(xiàn)狀、現(xiàn)存問題和準入管理等情況，展望人工智能在醫(yī)療領(lǐng)域的未來發(fā)展。

1 人工智能的起源與本質(zhì)

1.1 人工智能的起源

在“機器智能”的啟蒙爭論中，控制論(cybernetics)與人工智能(Artificial Intelligence)兩詞曾并列候選。1955年，約翰·麥卡錫為區(qū)別于諾伯特·維納(控制論之父)的“控制論”一詞而命名為“人工智能”，1956年夏季達特茅斯(Dartmouth)人工智能研討會之后，人工智能開始作為一個獨立的研究領(lǐng)域。

1.2 人工智能的本質(zhì)

麥卡錫和尼爾斯·尼爾森后來對人工智能進行了另一種解釋，即智能的自動化(AI= Automation of Intelligence)，該見解與維納的控制論思想一脈相承，從工程角度看，人工智能的實質(zhì)即是知識的自動化。[2]

斯圖亞特·羅素和彼得·諾維格在《人工智能: 一種現(xiàn)代的方法》一書中嘗試對人工智能進行定義: 人工智能是有關(guān)“智能主體(Intelligent agent)的研究與設(shè)計”的學(xué)問，而“人工智能主體是指一個可以觀察周遭環(huán)境并作出行動以達到目標的系統(tǒng)”。[3]

人工智能分為弱人工智能、強人工智能和超人工智能三個層級，李開復(fù)和奧倫·伊茲奧尼等學(xué)者認為，在很長的一段時間里，我們將處于弱人工智能層級，也稱限制領(lǐng)域人工智能/應(yīng)用型人工智能，指的是專注于且只能解決特定領(lǐng)域問題的人工智能，還沒有到必須分配精力去擔心未來，或為可能的機器威脅做準備的地步。[3]正確并且理性的認識人工智能的本質(zhì)和所處的發(fā)展層級，有利于對當下的把握和對未來趨勢的預(yù)判，為更好地發(fā)展人工智能做準備。創(chuàng)新工場根據(jù)技術(shù)成熟度和未來發(fā)展趨勢預(yù)測人工智能在醫(yī)療領(lǐng)域的發(fā)展將在未來3～5年內(nèi)走向成熟。[3]因此，結(jié)合當前的人工智能所處的層級，我們應(yīng)致力于將人工智能更好、更快地融入醫(yī)療，提升人類的健康和生活水平。

2 人工智能在醫(yī)療領(lǐng)域的應(yīng)用現(xiàn)狀

2.1 國外的應(yīng)用現(xiàn)狀

當前人工智能的發(fā)展迎來了第三次浪潮，其研發(fā)應(yīng)用于各大領(lǐng)域，在醫(yī)療領(lǐng)域進行人工智能探索已有較長的歷史。1972年，由利茲大學(xué)研發(fā)的AAP Help是醫(yī)療領(lǐng)域最早出現(xiàn)的人工智能系統(tǒng)，該系統(tǒng)主要是用于腹部劇痛的輔助診斷以及手術(shù)的相關(guān)需求。[4]在隨后的發(fā)展過程中，先后出現(xiàn)了匹茲堡大學(xué)研發(fā)的INTERNISTI，主要用于內(nèi)科復(fù)雜疾病的輔助診斷；斯坦福大學(xué)研發(fā)的MYCIN[5]，能對感染性疾病患者進行診斷，開具抗生素處方等。20世紀80年代，出現(xiàn)了一些商業(yè)化應(yīng)用系統(tǒng)，比如QMR(Quick Medical Reference)，還有哈佛醫(yī)學(xué)院開發(fā)的DXplain等[6]。近幾年，國際商業(yè)巨頭紛紛涉足醫(yī)療人工智能。目前，廣為人知的有IBM Watson[7]，能夠識別自然語言，在腫瘤治療方面，能夠在幾秒之內(nèi)篩選數(shù)十年癌癥治療歷史中的150萬份患者記錄，并為醫(yī)生提供可供選擇的循證治療方案。此外，谷歌DeepMind于2016年公布成立DeepMind Health部門，與英國國家健康體系(NHS)合作，幫助他們輔助決策，提高效率縮短時間。2017年，DeepMind宣稱將區(qū)塊鏈技術(shù)應(yīng)用到個人健康數(shù)據(jù)的追蹤以幫助解決患者隱私問題。[8]

2.2 國內(nèi)的應(yīng)用現(xiàn)狀

國內(nèi)人工智能在醫(yī)療領(lǐng)域的開發(fā)研究始于20世紀80年代初。1978年，北京中醫(yī)醫(yī)院關(guān)幼波教授與計算機科學(xué)領(lǐng)域的專家合作開發(fā)了“關(guān)幼波肝病診療程序”，第1次將醫(yī)學(xué)專家系統(tǒng)應(yīng)用到我國傳統(tǒng)中醫(yī)領(lǐng)域。近幾年，受到國家政策的鼓勵和科技發(fā)展趨勢的影響，國內(nèi)許多企業(yè)紛紛致力于人工智能的開發(fā)研究。2017年11月，由15個部委合力確定了首批4家國家創(chuàng)新平臺，分別依托百度、阿里云、騰訊和科大訊飛4家企業(yè)，分別開發(fā)自動駕駛、城市大腦、醫(yī)療影像、智能語音等技術(shù)。[9]2016年，百度宣布開啟智能醫(yī)療新時代，推出百度醫(yī)療大腦。2017年7月，阿里健康發(fā)布醫(yī)療AI“Doctor You”，并于10月份宣布成立承載“NASA計劃”的實體組織——“達摩院”，致力于基礎(chǔ)科學(xué)的研究和技術(shù)創(chuàng)新，首批公布的研究領(lǐng)域主要涵蓋人工智能的相關(guān)研究，如人機自然交互、自然語言處理、機器學(xué)習(xí)等。而科大訊飛的智能語音識別技術(shù)已經(jīng)走在了世界的前列，從2015年開始著手AI+醫(yī)療的產(chǎn)業(yè)布局，入局兩年以來主要的研發(fā)成果是“三款產(chǎn)品+一個平臺”，分別是智醫(yī)助理、語音電子病歷、影像輔助診斷系統(tǒng)和一個人工智能輔助診療平臺。[10]其中智醫(yī)助理參加了2017年臨床執(zhí)業(yè)醫(yī)生綜合筆試測試，以高出分數(shù)線96分的成績通過了測試。

總的來說，國內(nèi)外大中型企業(yè)紛紛在“AI+”領(lǐng)域發(fā)力。據(jù)動脈網(wǎng)發(fā)布的《2017醫(yī)療大數(shù)據(jù)與人工智能產(chǎn)業(yè)報告》，當前醫(yī)療人工智能的細分領(lǐng)域主要有9大類，分別是虛擬助手、疾病診斷與預(yù)測、醫(yī)療影像、病歷/文獻分析、醫(yī)院管理、智能器械、新藥研發(fā)、健康管理和基因。[11]根據(jù)蛋殼研究院統(tǒng)計，國內(nèi)和國外的人工智能+醫(yī)療的初創(chuàng)企業(yè)一共有192家，其中國內(nèi)83家，國外109家(未包含基因技術(shù)為主的企業(yè)數(shù)據(jù))。國外的109家企業(yè)在幾大醫(yī)療應(yīng)用場景有較為均衡的布局，而國內(nèi)的84家企業(yè)中有40家企業(yè)涉足醫(yī)療影像，遠高于其他幾項應(yīng)用場景，特別在新藥研發(fā)、基因等高精技術(shù)領(lǐng)域涉足的企業(yè)遠少于外國企業(yè)。我國醫(yī)療人工智能的布局不均衡而較多集中在醫(yī)療影像，大致原因包括以下4個方面: 首先是深度學(xué)習(xí)技術(shù)在圖像識別領(lǐng)域取得了突破。2012年, 深度學(xué)習(xí)模型首次被應(yīng)用在圖像識別大賽(ImageNet)，將錯誤率降至16.4%。2017年的ImageNet挑戰(zhàn)賽中，Momenta團隊利用SENet架構(gòu)取得第一的成績，其融合模型在測試集上獲得了2.251%的錯誤率，而人眼的辨識錯誤率約為5.1%，深度學(xué)習(xí)模型的識別能力超過了人眼；第二是醫(yī)療影像數(shù)據(jù)豐富，醫(yī)療數(shù)據(jù)中90%以上是影像數(shù)據(jù)，且以63%的年增長率遞增，海量的數(shù)據(jù)資源為模型訓(xùn)練提供了豐富的數(shù)據(jù)訓(xùn)練集，有利于系統(tǒng)的開發(fā)；第三是企業(yè)的商業(yè)定位，醫(yī)療影像是相對能夠較快實現(xiàn)從試驗向臨床應(yīng)用突破的分支，有利于新興人工智能企業(yè)迅速起步；最后，由于我國在新藥研發(fā)等一些高精技術(shù)領(lǐng)域相對國外的研發(fā)能力較弱，研發(fā)周期較長，相關(guān)的研發(fā)投入不如國外，因此人工智能的應(yīng)用與布局也不足。

3 人工智能在醫(yī)療領(lǐng)域的現(xiàn)存問題

奇璞研究根據(jù)數(shù)據(jù)有效性和商業(yè)模式的發(fā)展將醫(yī)療人工智能應(yīng)用分為三個階段: 第一階段為數(shù)據(jù)整合階段。醫(yī)療數(shù)據(jù)標準化低，共享機制弱，AI在醫(yī)療行業(yè)的應(yīng)用領(lǐng)域和效果受限。第二階段是“數(shù)據(jù)共享+感知智能”階段。醫(yī)療數(shù)據(jù)融合到一定程度，出現(xiàn)輔助診療、圖像識別等各領(lǐng)域的商用產(chǎn)品。第三階段是“認知智能+健康大數(shù)據(jù)”階段。健康大數(shù)據(jù)的獲取成本降低，人類將步入個性化醫(yī)療時代。[4]雖然我國很多企業(yè)涉足醫(yī)療影像并取得一定成果，但總的來說，我國還未完成第一階段的數(shù)據(jù)整合工作，醫(yī)療數(shù)據(jù)的標準化程度低，共享機制未健全。有些醫(yī)院甚至還未實現(xiàn)數(shù)據(jù)的電子化，2014年參與電子病歷應(yīng)用水平分級評價的醫(yī)院中，有46.4%未形成電子病歷。[4]此外，在數(shù)據(jù)隱私保護方面，美國于1996年頒布了《健康保險攜帶和責任法案》(Health Insurance Portability and Accountability Act，HIPAA)，規(guī)定建立國家電子醫(yī)療交易保障監(jiān)督制度，創(chuàng)建醫(yī)療信息安全和隱私。該法案通過讓醫(yī)療服務(wù)商和醫(yī)療保險行業(yè)接觸健康信息，控制、監(jiān)督醫(yī)療健康信息的正當使用，以最大限度地保護患者的隱私。隨后，美國頒布《安全和創(chuàng)新法案》、《個人可識別健康信息的隱私標準》、《移動醫(yī)療應(yīng)用程序指南》等對互聯(lián)網(wǎng)時代下的電子醫(yī)療信息進行更全面的規(guī)定。[12]而我國目前在醫(yī)療信息的隱私和安全問題的制度性保護尚還缺位。

除了醫(yī)療數(shù)據(jù)的電子化、標準化、共享機制和隱私保護的問題，第二個就是醫(yī)療本身的問題。臨床上很多疾病會呈現(xiàn)相同的癥狀，同一癥狀會對應(yīng)不同的疾病，臨床診斷的復(fù)雜性加大了醫(yī)療人工智能診斷的難度。同時，現(xiàn)代醫(yī)學(xué)還有很多未突破的醫(yī)學(xué)難題，而醫(yī)療人工智能主要基于全人類現(xiàn)有的知識，對于人類當前未知的問題也不能提供相關(guān)的建議。

第三個問題是醫(yī)保支付的問題，由于醫(yī)療人工智能的開發(fā)和引進對開發(fā)者和使用者來說費用較高，醫(yī)療機構(gòu)對引進醫(yī)療人工系統(tǒng)的動力尚不明確。在2017年長江產(chǎn)業(yè)論壇(秋季)暨醫(yī)療健康大數(shù)據(jù)與人工智能大會上，有醫(yī)療影像領(lǐng)域的人工智能企業(yè)領(lǐng)導(dǎo)表示，很多醫(yī)院領(lǐng)導(dǎo)在實際引進人工智能系統(tǒng)中缺乏動機，沒有足夠的動力花費較大的成本以減輕人工閱片的繁重，醫(yī)保支付的引入可以給予一定的激勵引導(dǎo)。同時，納入醫(yī)保的人工智能系統(tǒng)有利于政府部門監(jiān)督管理，從而有利于醫(yī)學(xué)數(shù)據(jù)的保護和利用。

此外，還有責任風(fēng)險問題，主要是在醫(yī)療人工智能系統(tǒng)安全風(fēng)險尚不明確的情況下，應(yīng)用醫(yī)療人工智能系統(tǒng)的醫(yī)療診斷結(jié)果的簽字權(quán)問題。同時，與責任風(fēng)險相關(guān)的技術(shù)準入和管理問題上，我國的法律監(jiān)管還存在缺位。最后，人工智能大力發(fā)展新形勢下，傳統(tǒng)醫(yī)學(xué)人才培養(yǎng)模式也亟待轉(zhuǎn)變，業(yè)內(nèi)人士表示在可見的未來，也許AI還未能取代醫(yī)生，但是懂AI的醫(yī)生將首先取代不懂AI的醫(yī)生。

4 人工智能在醫(yī)療領(lǐng)域的準入管理

得益于算法的增強、算力的提升以及廣泛的大數(shù)據(jù)資源，人工智能在本次的發(fā)展中取得了切實的成果并呈現(xiàn)良好的發(fā)展態(tài)勢，為此世界各國紛紛制定人工智能的發(fā)展戰(zhàn)略暢想未來的發(fā)展，同時也探討人工智能可能帶來的挑戰(zhàn)。如聯(lián)合國在2016年的人工智能政策報告中探討了自動化機器人的使用帶來的挑戰(zhàn)、機器人技術(shù)與機械倫理學(xué)、邁向新的責任分擔機制和決策可追溯的重要性四個方面。[13]2016年，美國白宮推動成立機器學(xué)習(xí)與人工智能分委會(MLAI)。同年，美國白宮科技政策辦公室發(fā)布了《為人工智能的未來做好準備》、《國家人工智能研究和發(fā)展戰(zhàn)略計劃》和《人工智能、自動化與經(jīng)濟報告》。[14]作為在人工智能道德標準及政府監(jiān)管研究領(lǐng)域的領(lǐng)先者，英國下議院的科學(xué)和技術(shù)委員會于2016年10月發(fā)布了《機器人技術(shù)和人工智能》報告，著重闡述了英國將會如何規(guī)范機器人技術(shù)與人工智能系統(tǒng)的發(fā)展，以及如何應(yīng)對其發(fā)展帶來的倫理道德、法律及社會問題。[15]

民間對人工智能監(jiān)管的問題上主要有兩方觀點，一方如特斯拉及Space X的CEO埃隆·馬斯克堅持的應(yīng)該嚴格監(jiān)管；另一方如Facebook的CEO扎克伯格認為的應(yīng)放寬監(jiān)管。但是在國家層面上，一些先行國家已經(jīng)開始著手具體應(yīng)對人工智能帶來的挑戰(zhàn)。

4.1 美國的準入管理

美國于2016年正式通過《21世紀治愈法案》，撥款5億美元資助FDA改革藥物審批程序。法案要求改革并加快對某些抗生素藥物的審批過程，加快醫(yī)療器械的審批通道，為藥物研發(fā)提供全新的指導(dǎo)性文件。一方面，放寬或免檢輔助健康智能軟件和運動保健產(chǎn)品，如智能手環(huán)或卡路里監(jiān)測APP等的審批；另一方面，對那些治療罕見且威脅生命的疾病的藥物審批可縮小臨床試驗規(guī)模。在具體的監(jiān)管實施上，美國食品藥品監(jiān)督管理局(FDA)早在1998年開始建立監(jiān)管計算機輔助識別系統(tǒng)。目前批準使用的用于乳腺排查的影像系統(tǒng)CAD，能夠提升放射科醫(yī)生的讀片工作。[16]2012年，F(xiàn)DA公布了一套相對明確的審查指標來審查集成了機器學(xué)習(xí)算法的軟件，指標包括算法設(shè)計、特征、模型、用于訓(xùn)練和測試算法的數(shù)據(jù)集以及使用的測試數(shù)據(jù)“衛(wèi)生程度”。[17]2015年，F(xiàn)DA發(fā)文將可控制心臟消融導(dǎo)管遠程控制系統(tǒng)定義為Ⅱ類，屬于中等風(fēng)險。[18]FDA致力于加快患者獲得滿足需求的創(chuàng)新醫(yī)療設(shè)備的機會，把一些需要在產(chǎn)品開發(fā)過程中收集的證據(jù)轉(zhuǎn)移到技術(shù)上市之后。目前，大多數(shù)醫(yī)療器械都是在以下兩種途徑中進行審查: 高風(fēng)險設(shè)備(也稱為Ⅲ類產(chǎn)品)一般通過上市前批準(PMA)的評估，制造商必須進行至少一次的臨床研究并向FDA提交相關(guān)數(shù)據(jù)。中、低風(fēng)險的產(chǎn)品(Ⅰ類和Ⅱ類產(chǎn)品)的審查，通常評估它們是否與已上市的設(shè)備相當，這些產(chǎn)品只是偶爾需要臨床試驗數(shù)據(jù)。FDA的目標是在180天內(nèi)完成對PMA應(yīng)用程序的審查(如果評估需要聯(lián)邦咨詢委員會則為320天)。[19- 20]2016年，F(xiàn)DA頒布了對未來醫(yī)學(xué)創(chuàng)新舉足輕重的三條規(guī)范: (1)針對低風(fēng)險普眾健康產(chǎn)品的法律規(guī)范；(2)為支持醫(yī)療器械監(jiān)管決策，提供實際循證的法律規(guī)范；(3)醫(yī)療設(shè)備準入臨床實驗的適應(yīng)性設(shè)計規(guī)范。這三條規(guī)范對于未來醫(yī)療領(lǐng)域的AI創(chuàng)新和創(chuàng)意給予了框架性指導(dǎo)建議。2017年，F(xiàn)DA正式授權(quán)Bakul Patel博士組建一個專門致力于數(shù)字化醫(yī)療和AI技術(shù)審評的新部門，該部門包括13名軟件工程師和開發(fā)人員、AI技術(shù)和云計算專家等。[21]該部門的任務(wù)是為FDA準備好規(guī)范和標準，開始審評越來越多涌入FDA大門的AI產(chǎn)品和有機器學(xué)習(xí)功能的醫(yī)健設(shè)備、器械或醫(yī)用軟件等。他們將重新規(guī)劃智能醫(yī)療機器人、有機器學(xué)習(xí)特質(zhì)的醫(yī)療設(shè)備應(yīng)當采用哪種途徑監(jiān)管和審批。

4.2 我國的準入管理

2017年2月，國家衛(wèi)生計生委修訂了15條“限制臨床應(yīng)用”的醫(yī)療技術(shù)管理規(guī)范。其中包括人工智能輔助診斷的技術(shù)管理規(guī)范和質(zhì)量控制指標。[22]2017年10月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于深化審評審批制度改革鼓勵藥品醫(yī)療器械創(chuàng)新的意見》，指出要完善和落實藥品試驗數(shù)據(jù)保護制度，給予一定的數(shù)據(jù)保護期；醫(yī)療器械上市許可持有人承擔全部法律責任；完善技術(shù)審評制度，組建藥品審評團隊負責新藥審評，組建醫(yī)療器械審評團隊負責創(chuàng)新醫(yī)療器械審評。[23]中國國家食品藥品監(jiān)督管理總局(CFDA)也有一系列監(jiān)管措施，涉及決策支持、輔助診斷的醫(yī)用軟件為Ⅲ類醫(yī)療器械。在2015年頒布的《醫(yī)療器械軟件注冊技術(shù)審查指導(dǎo)原則》中要求軟件描述文檔包括基本信息、實現(xiàn)過程和核心算法。2017年8月發(fā)布了《藥品數(shù)據(jù)管理規(guī)范》意見稿，規(guī)范產(chǎn)品生命周期中全部活動的數(shù)據(jù)管理，要求高層管理人員對藥品數(shù)據(jù)可靠性負最終責任。2017年9月，CFDA規(guī)定申請人應(yīng)當通過總局醫(yī)療器械標準管理中心分類界定信息系統(tǒng)提出分類界定申請。總的來說，中國有部分政策對人工智能的到來作出了一些響應(yīng)，但是目前尚未有一個專門致力于數(shù)字化醫(yī)療和AI技術(shù)審評的新部門，而美國已經(jīng)開始著手成立相關(guān)部門，展望人工智能的未來發(fā)展及其對社會的廣泛影響，成立專職的管理部門刻不容緩。

5 未來展望

相較于臨床醫(yī)生的漫長培養(yǎng)周期，醫(yī)療人工智能一旦實現(xiàn)機器看病，就能以較少的成本在社區(qū)及醫(yī)院迅速鋪開，彌補當前人力資源不足的問題。此外，醫(yī)療人工智能可以實現(xiàn)持續(xù)監(jiān)測，從而能夠做到早發(fā)現(xiàn)、早治療，提升大眾健康。最后，得益于對海量數(shù)據(jù)處理能力的優(yōu)越性，人工智能能夠提高醫(yī)療的準確度，從而能夠更好地輔助臨床醫(yī)生進行診斷治療。

人工智能可以給人類的未來生活帶來光明的前景，同時其不確定的威脅也一直存在。如何將人工智能限制在利好人類的方向發(fā)展，需要全人類在法治、監(jiān)管、技術(shù)、標準等方面做好規(guī)范。

作者聲明本文無實際或潛在的利益沖突。