淺析基于醫學人工智能的社會實驗研究進展

袁鳳 郭程 姜宏 俞曄

摘 要： 人工智能技術已成為推動各種創新應用的重要手段。在醫療衛生領域，人工智能深度應用是未來發展趨勢，也是落實“健康中國”戰略的重大創新實踐。醫學人工智能的發展為經濟增長、社會治理和學科繁榮帶來了新的機遇。開展醫學人工智能社會實驗的研究，對促進醫學人工智能持續健康發展，保障人民健康、促進社會和諧具有重要意義。本文回溯了醫學人工智能產生的背景，梳理了現階段醫學人工智能的研究對象，分析了醫學人工智能社會實驗的研究方法，并提出了醫學人工智能社會實驗研究需注意的幾方面問題，為進一步做好醫學人工智能社會實驗奠定了基礎。

關鍵詞： 醫學人工智能;社會實驗;機器學習;深度學習

中圖分類號： R 4

文獻標志碼： A

Research progress of social experiment based onmedical artificial intelligence

YUAN Feng GUO Cheng JIANG Hong YU Ye

（Shanghai Tenth Peoples Hospital， Tongji University， Shanghai 200072， China）

Abstract： Artificial intelligence technology has become an important means to promote various innovative applications. In the field of health care， the in-depth application of artificial intelligence is not only the future development trend， but also a major innovative practice to implement the "Healthy China" strategy. The development of medical artificial intelligence brings new opportunities for economic growth， social governance and discipline prosperity. The research on social experiment of medical artificial intelligence is of great significance to promote the sustainable and healthy development of medical artificial intelligence， protect people's health and promote social harmony. This paper reviews the background of the emergence of medical artificial intelligence， combs the research objects of medical artificial intelligence at this stage， analyzes the research methods of medical artificial intelligence social experiment， and puts forward some problems that should be paid attention to in the research of medical artificial intelligence social experiment， which lays the foundation for further research on medical artificial intelligence social experiment.

Key words： medical artificial intelligence; social experiment; machine learning; deep learning

人工智能是引領新一輪科技革命和產業變革的戰略性技術，醫療健康是人工智能發展的重要領域，醫學人工智能的發展為經濟增長、社會治理和學科繁榮帶來了新的機遇。但同時，新技術的應用不可避免伴隨著風險，醫學人工智能具有技術屬性和社會屬性高度融合的特點，隨著其應用場景的快速推廣，在技術、法律、社會、心理等角度暴露出諸多盲點。通過開展醫學人工智能社會實驗，分析預判醫學人工智能對人類社會各方面可能帶來的影響，處理好醫學人工智能與人、與社會的關系，是促進醫學人工智能持續健康發展的重要舉措，對保障人民健康、促進社會和諧發展具有重要意義。

1 醫學人工智能研究背景

隨著科技進步，人工智能技術成為了推動各種創新應用的重要手段。人工智能從提出到現在，經歷了60多年的發展積累，經歷了兩落三起。人工智能作為世界三大尖端技術之一，已經實現了從實驗研究向產業發展的飛躍。從智能家居、虛擬助手、人臉識別到智能醫療、機器翻譯和搜索引擎，人工智能已經悄然進入我們生活的多個領域。人工智能在代替人們工作過程中體現出來的明顯優勢帶來了其實際應用的爆發式增長，機器智能水平也相應得到不斷提升。目前，包括醫療行業在內的多個領域都在探索人工智能的應用，根據當前發展形勢，可以預測人工智能在未來的發展過程中，在人類全健康應用領域將更為廣泛，人工智能必將引領人類第四次工業革命，廣泛影響未來人們的生活。

在醫療衛生領域，人工智能深度應用是未來發展趨勢，也是落實“健康中國”戰略的重大創新實踐。《國務院辦公廳關于促進和規范健康醫療大數據應用發展的指導意見》（國辦發〔2016〕47號）、《“十三五”衛生與健康科技創新專項規劃》（國科發社〔2017〕147號）、《國家健康醫療大數據標準、安全和服務管理辦法（試行）》（國衛規劃發〔2018〕23號）等文件的頒布和實施推動了我國人工智能與醫療衛生相結合的健康發展。

毫無疑問，醫學人工智能的中國時代已經到來。隨著長三角區域一體化發展與上海建設具有全球影響力的科技創新中心這兩項國家戰略的深入推進，聚合疊加效應正在形成。這一判斷是基于三個方面，第一，人工智能+醫學的應用基礎和環境。中國人口基數大，醫療資源分布不足，讓人工智能醫療落地應用成為一種剛需;第二，人工智能在各領域的技術積累達到了一個爆破點。從技術層面看，它可以為醫療人工智能落地化產生強大的助推作用;第三，國家政策紅利。從2016年到2021年，國務院、發改委、FAD連續發文，多次提及醫療影像等關鍵技術智能化、云化的趨勢，為推動智能醫療保駕護航。國務院在《新一代人工智能發展規劃》中指出要在醫療領域“推廣應用人工智能治療新模式新手段”，《新一代人工智能發展規劃》是我國第一個國家層級AI發展的中長期規劃，也是我國政府發展及推動AI發展的藍圖，它從整體上部署我國的AI發展，并提出面向2030年我國新一代AI發展的指導思想、戰略目標、重點任務與保障措施等，明晰了未來醫院高質量發展的方向。

2 醫學人工智能研究對象

界定清楚醫學人工智能社會實驗的研究邊界對明確研究對象尤為重要。

（1）按照目前國家衛健委官方圈定的智慧醫院范圍涵蓋三大領域：主要面向醫務人員和患者的“智慧醫療”、主要面向患者的“智慧服務”、主要面向醫院管理者的“智慧管理”，這是在醫學人工智能研究中首先要明確的。

（2）對“醫學人工智能”進行社會實驗研究，一定是基于病種且在大數據統計分析的基礎上，結合ML和DL等算法展開的研究。目前較為成熟的是應用于醫院放射科、超聲科、病理科等場景的人工智能應用。

未來將進一步拓寬醫學人工智能的應用范圍，聚焦服務百姓、服務健康、服務常見病，且有大量社會應用基礎的醫學人工智能場景為醫學社會實驗研究對象，這樣的社會實驗研究才更加具備普適性和社會價值。

3 醫學人工智能社會實驗的研究方法

3.1 社會實驗研究方法

19 世紀，由李比希（Justus von Liebig）率先提出，科學實驗不應局限于實驗室里產生的“模擬世界”，需要進入現實世界，更多關注科學技術在真實世界的作用與影響。此后，隨著社會科學的制度化，孔德（Auguste Comte）、斯莫爾（Albion W.Small）、亨德森（Charles R.Henderson）、亞當斯（Jane Addams）、帕克（Robert E.Park）等社會學家逐步確立了早期社會實驗的研究路徑，即一方面采用自然科學的術語和方法;另一方面把觀測研究的對象—社會環境、城市、社區、個人—的自然演進看作一個實驗過程，研究者通過觀測記錄這種演進過程，獲取可以對比分析的數據，從而更好地理解社會是如何“運作”的。杜威（John Dewey）則進一步發展出“實驗主義”哲學，認為國家形態的建立、政策措施的引入都是在社會實驗中不斷進行嘗試、檢驗和修正。到了20世紀，現代統計學的奠基人費希爾（Ronald Aylmer Fisher）指出，社會實驗除了把模擬環境換成真實環境，其他的操作依然需要遵循實驗室實驗的邏輯，并引入了隨機性的概念，并強調了隨機化（Randomization）、重復性（Repeatability）和干預控制（Intervention Control）是構成社會實驗研究和保證研究內部效度的3個基礎要素。基于這3個要素的不同，一些學者對在真實情境下引入“控制—對照—比較”實驗推理邏輯的研究加以區別，劃分出準實驗（Quasi-experiment）、自然實驗（Natural Experiment）、實地實驗（Field Experiment）等不同類型，成為社會實驗研究方法譜系的重要組成部分。根據實驗中相關情境因素引入程度，“實地實驗”進一步細分為“自然的實地實驗”（Natural Field Experiment）、“框架的實地實驗”（Framed Field Experiment）、“人為的實地實驗”（Artificial Field Experiment）。

3.2 隨機社會實驗研究方法的理論模型

早期的觀點認為實驗方法可以獲得行為結構模型不變的參數估計，但人們通常認為結構模型不能解釋行為。因此關注的問題就從結構模型參數的估計，轉向了那些決定項目實施的因素。

如果我們可以觀察到一個人的兩種不同情景下的行為，就可以通過比較這兩種情景之下他的行為結果來確定該項目的影響程度。我們分別采用Y，Y0表示接受與未接受該項目的兩種狀態，兩者的差異Δ=Y1-Y0。

因為我們尚不能決定這個改變對于某個特殊群體的影響，因此評估者只能關注該政策對不同群體之間的影響分布。尤其，如果一個人隨機地接受了該項目，那么通過比較這兩種不同情景下結果差異的期望值E（Δ）=E（Y1-Y0）就給出了一種平均意義上的影響估計。我們主要關注這些參加者在接受該項目前后的結果差異。我們用d=1和d=0代表參加和未參加兩種狀態，該項目對于參加者的平均影響程度記為：E（Δ│d=1）=E（Y1-Y0│d=1）

現有的估計方法大多關注項目的平均影響估計。當對平均效應進行估計時，要么對整個總體、要么對于那些參加一個自愿項目的效果進行估計。關鍵在于如何構造一種我們所需的“反現實”或“虛擬情景”。例如對于一個自愿參加項目， 為了估計該項目對于參與人的期望效應時，我們需要對該參與人假設沒有參加該項目的期望后果E（Y0│d=1）進行估計，這是比較困難的，因為我們不能用那些沒有參加該項目人的期望結果E（Y0│d=1）來近似替代。如果我們簡單地對這兩者進行差異化處理，E（Y1│d=1）-E（Y0│d=1）實際上它包含了兩種效應：

E（Y1│d=1）-E（Y0│d=1）=0{E（Y1│d=1）-E（Y0│d=1）}+{E（Y0│d=1）-E（Y0│d=1）}

其中第一項代表了我們感興趣的參數估計，第二項代表了選擇性偏差。度量了那些未參與者和那些參與者在未參與狀態時的不同。

隨機的社會實驗方法可以解決這一問題。通過生成一個實驗控制群體，這個群體的人是隨機選擇的，參加與否都是隨機決定的，參加者和未參加者在沒有參加該項目的結果差異效應就是該項政策的實際效應。

3.3 醫學人工智能社會實驗研究的實施步驟

社會實驗方法的目標是要度量醫學人工智能對其對象所產生的真實效果，具有以下一些特點：

（1）保障隨機性。隨機構造兩個群體，控制組與對比組。隨機性體現在不存在選擇和歧視，人們有選擇參加實驗與否的自由，他們不能決定他們參加哪個組。同樣地，這些進行實驗的管理機構要對參與人進行合格性檢查，一旦入選就一定要盡可能地排除人為決定的干擾。

（2）實施干預。一組行動集合來確保這兩個隨機選擇的組成員在他們日常的生活中面臨著不同的情境。一般對比組代表了現有情境下這些參與者的現狀;控制組會受到創新的影響和作用，通過對比這兩個組的行為后果差異來分析人工智能所產生的真實效果。

（3）數據搜集。度量每個組成員的行為及結果。一旦搜集到實驗的相關數據，我們就可以采用恰當的方法來進行深入地分析對比研究。

（4）效果評估。運用統計推斷和專業知識來分析人工智能對于不同人群產生的影響差異，并分析產生差異的原因。

4 醫學人工智能社會實驗研究需注意的幾方面問題

4.1 細化社會實驗設計

其中包括確保樣本的隨機分組等方面。因為醫學人工智能社會實驗研究的一個難點是保障樣本的隨機分組，使樣本被分配到實驗組和對照組的概率一致。因此，需要細化實驗設計，從而增強社會實驗的內外部效度與信度。同時在滿足平行假設的基礎上，確立實驗組和對照組，使實驗組和對照組在其他變量上盡可能接近，使得醫學人工智能所產生的作用，成為實驗組和對照組之間的關鍵性差異。

4.2 強化醫學倫理審查

由于醫學人工智能本身具有高度不確定性和較大倫理風險，新的醫學人工智能應用場景對社會公眾產生的影響可能長期持續并且無法有效調控，所以必須尤其重視醫學人工智能社會實驗中的醫學倫理問題。研究者要嚴格謹慎地遵循尊重、不傷害、有利、公正等基本科研原則，加強對實驗流程、實驗對象選擇、實驗數據采集等各個環節的醫學倫理審查。充分尊重受試者，確保受試者的知情同意權、數據信息隱私權得到有效保護，盡可能降低風險和傷害。

4.3 標準化數據采集

醫學人工智能社會實驗是對技術變革、治理創新與社會轉型的綜合性檢驗，具有長周期、跨領域、多學科的特征，涉及的研究對象涵蓋不同類型的個人和組織，需要采集的數據種類繁多，結構復雜。因此，在數據采集過程中，要特別注重數據的標準化和完備性，為實現不同區域醫學人工智能社會實驗數據的交流共享提供便利，使醫學人工智能社會實驗成為一項系統性科學研究工程。

參考文獻：

[1]BARIC-PARKER J， ANDERSON E E. Patient data sharing for AI： Ethical challenges， catholic solutions[J]. The Linacre Quarterly， 2020： 002436392092269.

[2]AHMAD M A， PATEL A， ECKERT C， et al. Fairness in machine learning for healthcare[J]. Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining， 2020.

[3]CHEN P-H C， LIU Y， PENG L. How to develop machine learning models for healthcare[J]. Nature Materials， 2019， 18（5）： 410-414.

[4]MCCRADDEN M D， STEPHENSON E A， ANDERSON J A. Clinical research underlies ethical integration of healthcare artificial intelligence[J]. Nature Medicine， 2020， 26（9）： 1325-1326.

[5]BARTOLETTI I. AI. Healthcare： Ethical and privacy challenges[J]. Artificial Intelligence in Medicine， 2019： 7-10.

[6]ZERILLI J， KNOTT A， MACLAURIN J， et al. Transparency in algorithmic and human decision-making： Is there a double standard？[J]. Philosophy & Technology， 2018， 32（4）： 661-683.

[7]VAYENA E， BLASIMME A， COHEN I G. Machine learning in medicine： Addressing ethical challenges[J]. PLOS Medicine， 2018， 15（11）： e1002689.

[8]JAIN V， CHATTERJEE J M. Machine learning with health care perspective[M]. CHAM： Learning and analytics in intelligent systems. Springer International Publishing， 2020.

[9]BEAM A L， KOHANE I S. Big data and machine learning in health care[J]. JAMA， 2018， 319（13）： 1317.

[10]WALJEE A K， HIGGINS P D R. Machine learning in medicine： A primer for physicians[J]. Official Journal of the American College of Gastroenterology ACG， 2010， 105（6）： 1224-1226.

[11]WOOD A， NAJARIAN K， KAHROBAEI D. Homomorphic encryption for machine learning in medicine and bioinformatics[J]. ACM Computing Surveys， 2020， 53（4）： 1-35.

[12]MEYFROIDT G， GIZA F， RAMON J， et al. Machine learning techniques to examine large patient databases[J]. Best Practice & Research Clinical Anaesthesiology， 2009， 23（1）： 127-143.

[13]蘇竣，魏鈺明，黃萃. 社會實驗：人工智能社會影響研究的新路徑[J]. 中國軟科學，2020（9）：132-140. DOI：10.3969/j.issn.1002-9753.2020.09.011.

[14]蘇竣，魏鈺明，黃萃. 基于場景生態的人工智能社會影響整合分析框架[J]. 科學學與科學技術管理，2021，42（5）：3-19.

[15]俞鼎. 技術賦能型社會實驗：建設創新型國家的一種新路徑[N]. 中國社會科學報，2021-02-02（004）.

收稿日期：2021-0-00

基金項目：2020年上海市科學技術委員會軟科學重點項目“上海國家新一代人工智能創新與發展試驗區社會實驗研究”（20692118100）;2020年上海市科學技術委員會軟科學重點項目“醫療應急救援的人工智能應用與評價”（20692105500）;2021年上海交通大學中國醫院發展研究院醫院管理建設研究項目“三級公立醫院高質量發展路徑探索與實踐”（CHDI-2021-B-14）;2021年上海交通大學中國醫院發展研究院醫院管理建設研究項目“長三角醫院協同發展專科聯盟作用發揮研究”（CHDI-2021-B-15）;2020年上海交通大學中國醫院發展研究院醫院管理建設研究項目“城市立體化公共衛生應急救援體系構建研究”（CHDI-2020-A-14）;2020年申康醫院管理研究項目“基于人工智能的醫療應急救援應用評價”（2020SKMR-46）

作者簡介：袁鳳（1987—），女，同濟大學附屬第十人民醫院科研處，科員，研究方向：項目管理、科研管理、人工智能;俞曄（1981—）（通信作者），男，上海交通大學附屬第一人民醫院院務辦公室，副研究員，研究方向：人工智能、質量管理、醫聯體，E-mail： qzlglc@163.com。