人工智能醫(yī)療器械標準體系設(shè)計探索

王浩，唐橋虹，郝燁，孟祥峰，李佳戈，李靜莉

中國食品藥品檢定研究院 醫(yī)療器械檢定所，北京 102629

引言

人工智能（Artificial Intelligence，AI）醫(yī)療器械在我國發(fā)展較快，目前已有十多個產(chǎn)品獲得第三類醫(yī)療器械注冊證，技術(shù)轉(zhuǎn)化和臨床應(yīng)用步伐加快。為支持產(chǎn)業(yè)發(fā)展，我國藥品監(jiān)管部門開展了卓有成效的監(jiān)管研究，在AI醫(yī)用軟件產(chǎn)品的分類界定[1]、AI醫(yī)療器械產(chǎn)品的審評審批[2-5]、軟件產(chǎn)品生產(chǎn)質(zhì)量管理[6]等環(huán)節(jié)發(fā)布了多個重要的指導(dǎo)原則和技術(shù)文件，對產(chǎn)業(yè)提供指導(dǎo)。2019年，國家藥品監(jiān)督管理局正式成立了AI醫(yī)療器械標準化技術(shù)歸口單位，組織我國AI醫(yī)療器械標準的制修訂，為監(jiān)管和產(chǎn)業(yè)提供技術(shù)支持，目前已有兩個行業(yè)標準完成報批[7-8]。

標準體系的設(shè)計是開展標準化工作的基礎(chǔ)。由于AI醫(yī)療器械是醫(yī)療器械領(lǐng)域新的分支，目前相關(guān)的國際標準化組織尚未建立專門的技委會。歐美國家近年來相繼發(fā)布了各自的AI標準規(guī)劃，我國的國家標準化管理委員會在2020年也發(fā)布了《國家新一代人工智能標準體系建設(shè)指南，我國的AI醫(yī)療器械標準體系建設(shè)需要結(jié)合行業(yè)實際進行探索。

由于我國的AI醫(yī)療器械產(chǎn)業(yè)剛剛起步，來自教育、科研、監(jiān)管、臨床等領(lǐng)域的利益相關(guān)方參與標準化工作的熱情高漲，思路較為多元化。本文對于AI醫(yī)療器械標準化的趨勢進行了梳理，對AI醫(yī)療器械標準體系的發(fā)展方向提出了建議，旨在促進AI醫(yī)療器械標準化進程，完善質(zhì)量評價體系。

1 標準化發(fā)展趨勢

1.1 行業(yè)前沿動態(tài)

從監(jiān)管歷史來看，對AI產(chǎn)品的監(jiān)管思想建立在傳統(tǒng)計算機輔助診斷軟件基礎(chǔ)上，不斷發(fā)展變化，趨于嚴格。美國食品藥品監(jiān)督管理局（Food and Drug Administration，F(xiàn)DA）在2019年提出了良好機器學習規(guī)范（Good Machine Learning Practice，GMLP）的概念[9]，探討產(chǎn)品的變更和再評價問題，旨在縮短算法更新后的評價周期。在征求社會意見的基礎(chǔ)上，F(xiàn)DA提出了AI/機器學習醫(yī)療器械軟件行動計劃[10]，在調(diào)整監(jiān)管框架、發(fā)展GMLP的同時，提出了以患者為中心、對用戶的透明度、算法偏倚與魯棒性評價、真實世界證據(jù)。歐盟 在“可信賴的AI”倫理思想[11]基礎(chǔ)上，把AI的風險控制納入立法環(huán)節(jié)，其中醫(yī)學AI屬于高風險應(yīng)用。

從國際標準化活動來看，信息技術(shù)領(lǐng)域（通用AI、軟件測試等）、醫(yī)用電氣設(shè)備等諸多領(lǐng)域的標準化成果，對AI醫(yī)療器械的標準化有借鑒意義。表1列舉了近3年來國外已發(fā)布的相關(guān)標準化文件，來自國際標準化組織（International Organization for Standardization，ISO）、國際電工委員會（International Electrotechnical Commission，IEC）和美國國家標準化組織（American National Organization for Standardization，ANSI）等。

表1 國外相關(guān)標準化文件匯總

從信息技術(shù)領(lǐng)域的角度看，ISO、IEC在大數(shù)據(jù)參考架構(gòu)、AI術(shù)語、AI可信賴性、AI軟件測試方法等方向開展大量工作，形成了較多的技術(shù)報告（Technical Report，TR）。從醫(yī)療器械角度看，IEC在醫(yī)療器械自治能力方面形成了TR，與AI醫(yī)療器械存在密切聯(lián)系。從美國ANSI/CTA的情況看，醫(yī)學AI的術(shù)語定義、可信賴性形成了標準，以闡述概念為主，內(nèi)容較為簡短，不涉及具體產(chǎn)品的驗證、確認、測試。

從國外產(chǎn)品公布的上市申請資料來看，這些產(chǎn)品在性能指標、測試方法、測試集等方面存在較多的差異，尚未建立統(tǒng)一的范式[24]。從國外算法模型評價與比對的情況看，AI的臨床應(yīng)用還受到不少問題的制約，例如預(yù)期用途描述不清晰、算法偏倚、過擬合、測試結(jié)果難以重復(fù)、數(shù)據(jù)管理混亂等[25]。在臨床研究領(lǐng)域，AI產(chǎn)品專用的臨床試驗報告要求也成為了研究熱點[12,26]。

1.2 質(zhì)量評價實踐的演化

在產(chǎn)品質(zhì)量評價的實踐環(huán)節(jié)中，對AI醫(yī)療器械產(chǎn)品算法性能的評價也在演化發(fā)展，對標準體系的建設(shè)同樣提供了重要的啟示。本節(jié)以糖尿病視網(wǎng)膜病變輔助診斷軟件為案例，介紹質(zhì)量評價思路的變遷。

在起步階段，此類產(chǎn)品的質(zhì)量評價工作立足于測試集的整體結(jié)果，反映統(tǒng)計學意義下的總體表現(xiàn)。一般來說，測試人員需要收集來自不同地區(qū)、不同機構(gòu)、不同臨床分期的患者眼底圖像構(gòu)建測試集，比較AI給出的分期與參考標準的分期，從而計算準確率等主要指標。

為擴展對產(chǎn)品魯棒性的認識，測試人員可對眼底圖像進行裁剪、插值、濾波等處理，模擬臨床環(huán)境下的數(shù)據(jù)變化和硬件變化，把處理后的圖像輸入AI產(chǎn)品，觀察其輸出的變化。此類測試也稱為對抗測試[2]，側(cè)重產(chǎn)品性能變化的趨勢，有助于制造商更好地限定產(chǎn)品的部署使用環(huán)境及數(shù)據(jù)質(zhì)量要求。

在AI倫理思想的推動下，AI的可解釋性、可預(yù)測性等要求正在影響產(chǎn)品的質(zhì)量評價思路。AI產(chǎn)品性能的“拐點”成為質(zhì)量評價關(guān)注的新問題，即了解AI的性能在何種條件下出現(xiàn)顯著的偏離。本文設(shè)計了算法測試用例，對于糖尿病視網(wǎng)膜病變輔助診斷算法的“拐點”進行觀測和舉例。

由于眼底圖像上的出血斑是臨床醫(yī)生、AI產(chǎn)品進行圖像分期的重要依據(jù)，而出血斑的尺寸因患者而異，具有臨床多樣性。為了直觀地研究出血斑尺寸對AI算法的影響，從增殖性糖網(wǎng)病變的眼底圖像上提取出血斑的圖像，按照不同比例線性改變其尺寸，使用泊松融合算法[27]植入另一幅健康的眼底圖像，從而合成試驗樣本。根據(jù)醫(yī)學定義，合成的圖像屬于糖網(wǎng)二期，屬于需要臨床轉(zhuǎn)診的分期。

將合成的系列圖像輸入開源的糖網(wǎng)AI算法模型，可得到AI分期結(jié)果隨出血斑尺寸變化的曲線和“拐點”（圖1）。隨著出血斑尺寸的增大，AI的分期出現(xiàn)了階梯式的上升；當出血斑的尺寸低于20像素時，算法給出的是假陰性結(jié)果；當直徑大于等于20像素時，算法的分期結(jié)論保持正確。這意味著出血斑的尺寸對AI的準確性有直接的影響，制造商在臨床部署時需更加細化明確產(chǎn)品的適用范圍，開展針對性的驗證和確認。該案例所體現(xiàn)的AI算法性能變化，也反映了AI與人類醫(yī)生認知模式的區(qū)別，有助于用戶了解AI本身性能的限制。

圖1 糖網(wǎng)AI算法分期結(jié)果與出血斑直徑的關(guān)系曲線

通過上述案例可以發(fā)現(xiàn)，AI產(chǎn)品的質(zhì)量評價宜下沉到算法的工作過程中，關(guān)注AI在患者個體、病灶個體上的表現(xiàn)，了解算法的偏倚與能力限制。這種測試思路有助于完善AI醫(yī)療器械的方法標準、產(chǎn)品標準。

2 標準體系設(shè)計建議

根據(jù)上述情況，AI醫(yī)療器械的標準化，需要以問題為導(dǎo)向，在應(yīng)用中落地。本節(jié)對AI醫(yī)療器械的標準體系設(shè)計提出建議。圖2所示為AI醫(yī)療器械標準體系框架圖，分為基礎(chǔ)標準、管理標準、方法標準和產(chǎn)品標準四大板塊，各板塊又可展開成不同的角度。

圖2 AI醫(yī)療器械標準體系框架圖

2.1 基礎(chǔ)標準

以深度學習為代表的新一代AI算法的工作方式具有黑盒特性，難以直觀地理解，因此利益相關(guān)方對產(chǎn)品質(zhì)量缺乏充分的了解和信任，在人機互動方面存在一定的疑惑，制約著AI的應(yīng)用落地。因此，AI醫(yī)療器械產(chǎn)品的安全有效應(yīng)包含可信賴性、透明度、可解釋性、可溯源性等一系列內(nèi)在要求。這是建立健全基礎(chǔ)標準的一大出發(fā)點，需要在產(chǎn)品的安全可信、編碼溯源、隱私保護、人機交互、可用性等方面開展工作，對上述質(zhì)量特性加強控制，增強利益相關(guān)方的信心。

根據(jù)研發(fā)現(xiàn)狀，AI產(chǎn)品設(shè)計受到數(shù)據(jù)、算法雙重驅(qū)動，高質(zhì)量的數(shù)據(jù)集是研發(fā)活動的物質(zhì)基礎(chǔ)；產(chǎn)品形態(tài)以獨立軟件、軟件組件為主，算法的質(zhì)量與軟件的特性密不可分；產(chǎn)品運行環(huán)境日趨靈活，與互聯(lián)網(wǎng)技術(shù)高度融合。上述因素對產(chǎn)品質(zhì)量有直接的影響。因此，基礎(chǔ)標準還需要在數(shù)據(jù)集、數(shù)據(jù)標注、算法框架與模型、軟件特性、網(wǎng)絡(luò)安全等角度開展工作，加強產(chǎn)品的質(zhì)量保證。

2.2 方法標準

由于AI算法具有黑盒特性，產(chǎn)品的質(zhì)量評價目前主要關(guān)注輸入-輸出之間的關(guān)系，性能指標測試結(jié)果與輸入的測試集有一定的關(guān)聯(lián)，產(chǎn)品在真實世界中的表現(xiàn)也可能隨數(shù)據(jù)發(fā)生變化。因此，AI醫(yī)療器械的質(zhì)量評價方法與傳統(tǒng)醫(yī)用電氣設(shè)備、醫(yī)療器械軟件存在較大差別。

從需求來看，AI醫(yī)療器械的方法標準需要解決算法模型、成品的質(zhì)量評價需求，包含上市前驗證與確認、臨床驗收與質(zhì)控、真實世界監(jiān)測等各個環(huán)節(jié)。不僅考慮常見的性能指標（如靈敏度、特異性等），而且對AI特殊的質(zhì)量特性進行評價，如魯棒性等。質(zhì)量評價的維度需要從患者整體向個體進行擴展，關(guān)注算法的細節(jié)表現(xiàn)。此外，根據(jù)慣例，質(zhì)量評價過程需要調(diào)用的方法、工具、平臺，也應(yīng)作為方法標準的一部分進行考量，例如用于擴增測試數(shù)據(jù)的方法等。

2.3 管理標準

AI醫(yī)療器械的發(fā)展依托于數(shù)據(jù)、算法、算力，驗證和確認的方式比較特殊，產(chǎn)品的更新迭代頻繁。其生產(chǎn)質(zhì)量管理一方面執(zhí)行現(xiàn)有法規(guī)[6]和質(zhì)量管理標準（ISO 13485、YY/T 0287等）的通用要求，另一方面需要規(guī)范AI算法、數(shù)據(jù)集[28]本身的設(shè)計開發(fā)流程、生命周期管理，對算法更新與再評價的框架進行創(chuàng)新，對云平臺、計算平臺等特殊的生產(chǎn)設(shè)施加強管理，對標注人員[29-30]、數(shù)據(jù)采集人員的選拔、培訓(xùn)、質(zhì)控進行統(tǒng)籌。AI醫(yī)療器械管理標準的研究，還應(yīng)借鑒醫(yī)療器械軟件監(jiān)管與標準化的思想[31-32]，強調(diào)預(yù)防不良事件、加強產(chǎn)品版本控制與追溯。此外，管理標準的落地，需要具體領(lǐng)域技術(shù)規(guī)范的支持，例如在數(shù)據(jù)集標注與建設(shè)方面編寫配套的專家共識[33]。

2.4 產(chǎn)品標準

目前，我國已上市的AI醫(yī)療器械產(chǎn)品預(yù)期用途包括輔助診斷、輔助檢測、輔助分診等，數(shù)據(jù)模態(tài)包括了CT、MRI、眼底彩照、心電、X線等。由于在每個細分方向的產(chǎn)品數(shù)量還不夠豐富，產(chǎn)品標準的制訂條件尚不成熟，目前暫時處于預(yù)研狀態(tài)，將根據(jù)產(chǎn)業(yè)發(fā)展規(guī)模和監(jiān)管需求提上日程。AI醫(yī)療器械的產(chǎn)品標準將明確具體產(chǎn)品的功能、性能指標、試驗方法、檢驗規(guī)則等內(nèi)容，對基礎(chǔ)標準、方法標準進行呼應(yīng)。產(chǎn)品標準也包括AI醫(yī)療器械附件、原材料（包括數(shù)據(jù)集）的專用要求、指標、驗證方法。

3 討論

我國的AI醫(yī)療器械標準體系建設(shè)，在學習借鑒國際經(jīng)驗的同時還需要兼顧國情，與國外存在一定的差異：一方面，國外的標準研究來源于軟件測試[20]、通用AI[19]、大數(shù)據(jù)[12]等已有的標準化領(lǐng)域和組織，與醫(yī)療器械行業(yè)的結(jié)合比較薄弱，缺乏集中的頂層規(guī)劃。國內(nèi)的AI醫(yī)療器械標準化工作在藥品監(jiān)管部門領(lǐng)導(dǎo)下，立足于監(jiān)管需求，標準化的對象更加豐富，考慮了產(chǎn)品的通用質(zhì)量特性、性能與安全指標、評價方法、原材料（數(shù)據(jù)集）等各個方面，以及生產(chǎn)質(zhì)量管理的各種要素（如數(shù)據(jù)標注），覆蓋產(chǎn)品的全生命周期；另一方面，由于AI技術(shù)本身處于快速發(fā)展中，國內(nèi)的標準化工作一般立足于行業(yè)的普適性、階段性成果，對于具體產(chǎn)品的設(shè)計工藝、核心部件、技術(shù)細節(jié)和最新進展的關(guān)注程度還不夠充分，在細粒度和時效性方面可能存在不足，標準的前瞻性有待提高。

本文在國內(nèi)外文獻調(diào)研和產(chǎn)品測試實踐基礎(chǔ)上，對我國AI醫(yī)療器械標準體系的設(shè)計策略進行了研究，分析了基礎(chǔ)標準、方法標準、管理標準、產(chǎn)品標準各自的發(fā)展需求，并對產(chǎn)品質(zhì)量評價的發(fā)展方向進行了展望。AI醫(yī)療器械標準的發(fā)展，一方面應(yīng)與我國的監(jiān)管法規(guī)做好銜接，發(fā)揮技術(shù)支持作用，另一方面應(yīng)及時吸收國際前沿思想，更好地管控AI醫(yī)療器械的特殊風險，提高對產(chǎn)品質(zhì)量的認識和評價能力。