人工智能醫療器械標準體系設計分析

陳頌忻

（強生（上海）醫療器材有限公司，上海 200030）

人工智能醫療器械，是指融入應用了各種人工智能技術的醫療器械。相較于普通的醫療器械，人工智能醫療器械有著諸多優勢，比如可以實現精準化醫療、個性化醫療、遠程診斷，還能有效緩解因為醫療資源缺乏，導致看病難、醫患關系緊張、醫療事故頻發等問題。為更好地推動人工智能醫療器械產品研發生產，應加強對其標準體系設計探索分析，使其更好地服務于醫療領域，提高我國整體醫療質量水平。

1 人工智能醫療器械研究現狀

1.1 國外研究現狀

關于人工智能醫療器械，從國外研究現狀來看，人工智能醫療器械在種類方面日益豐富，相應的功能作用也日益多樣化，比如在臨床診療路徑、健康干預以及智能醫療服務等方面，人工智能醫療器械均發揮著重要作用。以美國為例，當前該國家食品藥品監督管理總局（簡稱FDA）已正式批準了幾十款人工智能醫療器械產品上市，很多產品均搭載有獨立軟件，比如計算機輔助診斷軟件、輔助探測軟件等。與此同時，當下在國外還出現很多新型人工智能醫療器械產品，這些產品的主要特色是搭載了智能硬件、智能快速重建等功能，部分產品也已經正式上市。在臨床應用方面，人工智能醫療器械的存在，有效提升了臨床工作效率和服務質量，例如借助CT劑量優化、X光智能擺位、圖像質控等優秀的人工智能醫療產品，有效推動了臨床醫療效率與品質提升。不僅如此，人工智能作為一種先進的信息技術，不僅作用于醫療器械本身，而且正逐步融入整個醫療器械研發、生產、質量管理等全過程，推動著傳統醫療器械“人工智能+”升級，帶動了整體醫療行業的進步發展。

1.2 國內研究現狀

相較于發達國家，我國人工智能技術發展起步較晚，因此在人工智能醫療器械行業發展方面，與發達國家也有著一定的差距。但近年來，隨著我國信息技術尤其是人工智能技術的迅猛發展，在人工智能醫療器械方面取得了顯著的進步。與此同時，在推動人工智能技術在醫療領域中的應用方面，我國也發布了很多利好政策，因此有效推動了人工智能醫療器械產學研用發展。在國內，關于人工智能算法研究與臨床應用成果在Nature Medicine、Cell等頂級期刊上發布。與此同時，國內關于人工智能醫療器械產品的研發，也從早期的糖尿病視網膜病變（以下簡稱糖網）眼底照片、肺結節CT影像等，進一步發展升級到醫學影像和醫學信號的方方面面；在人工智能醫療器械產品形態方面，也從單一軟件形式，發展為各種通用、專用智能平臺。國內一些醫療企業也在積極準備人工智能醫療產品注冊上市，并逐步向海外市場擴展，未來發展前景可期。

1.3 人工智能醫療器械產品檢驗與質量研究現狀

從人工智能醫療器械產品檢驗與質量研究發展情況來看，我國在人工智能醫療器械檢驗方面取得了良好成績，同時也面臨著一些挑戰。2018年，國內第一批糖網產品性能檢驗報告問世；2019年，國內第一批肺結節產品的性能檢驗報告也正式誕生，這標志著我國在病灶檢出、分類、區域分割等智能算法功能和相關指標方面能夠真正實現量化評價，宣告以CT為代表的三維醫學影像人工智能醫療產品質量評價已經取得了階段性成果。這為其他放射影像類人工智能醫療產品的質量評價和相關標準的制訂開了一個好頭。在當下，已經有數十家企業通過在中檢院糖網以及肺結節標準數據集的幫助下，正式實施算法性能驗證，部分人工智能醫療產品也已經進入了臨床試驗階段，這為相應的產品正式上市創造了有利條件。2018年，我國的人工智能醫療產品多是以糖網、肺結節等相對單一的產品類型為主，目前，人工智能醫療新產品呈現多元化、差異化趨勢，在預期用途、功能、病種等方面也凸顯了各自的特色。

但當前人工智能醫療器械產品檢驗與質量發展也面臨著一定的挑戰，比如相應的檢驗用標準數據集沒有成功建立，從而對算法性能評價造成了制約影響。為突破這一困境，當前我國中檢院與國內知名醫院以及科研機構合作，在數據集建設的過程中，融入了把質量控制的理念，推動了人工智能醫療器械產品檢驗與質量發展。具體而言，中檢院團隊結合以往累積的醫療器械檢測經驗，從以下幾點入手開展相應的工作：

首先，從檢驗方法研究入手，通過加強各種技術手段的應用，利用現有的臨床數據，圍繞眼底相機、CT和心電等模態，實施了對抗測試。與此同時，還從長遠角度出發，模擬人工智能醫療產品在現實中應用可能面臨的種種問題，并對相應產品魯棒性與泛化能力進行了評價，有效擴展了人工智能醫療器械產品質量評價的維度。當前，關于人工智能醫療器械產品對抗測試研究部分成果已經在國內學術期刊公開發表。與此同時，一些方法在日常檢驗中也得到了落實應用，從而有效彌補了現有檢驗方法的不足，顯著增強了企業對人工質量醫療器械產品質量認識。

其次，在人工智能醫療產品質量評價策略方面，中檢院團隊通過與相關的臨床專家合作，在引入了全生命周期質量控制理念基礎上，結合產品技術，提出了醫學影像人工智能產品的臨床在用質控框架，從多個角度入手，討論了人工智能產品在臨床部署后，該采取何種方法，才能提高質量管理與日常質控質量，同時也探討分析了人機比對、超預期使用等熱點問題，從臨床視角出發，進一步豐富了人工智能醫療器械產品質量評價的內涵。

最后，在新的人工智能醫療器械產品評價方面，中檢院團隊從人工智能+可穿戴設備、臨床輔助決策系統（CDSS）等研究熱點出發，深度實施了標準評估工作，并系統整理了人工智能醫療器械產品特殊風險，總結了一些評價策略，從而促使新產品檢測任務實施有了新的進展，同時也向業內貢獻了更多研究成果，加深了業內對人工智能醫療器械產品質量的認識。在當下，中檢院團隊在人工智能醫療器械產品檢驗與質量評價方面形成了一個完整的體系，相關體系內容包括了人工智能軟硬件測試、人工智能算法性能驗證、人工智能醫療器械產品數據集質量控制與評價等。僅僅在2019年，該團隊便成功申報了多個科技部重點研發計劃課題和省部級課題，同時也推動了國家級醫學人工智能產品全生命周期檢測平臺的建設，使得人工智能醫療器械產品在監管、產業、使用等環節方面技術與服務能力得到了顯著增強。

2 人工智能醫療器械質量評價演變過程

在人工智能醫療器械產品質量評價中，人工智能算法性能評價是其中核心組成部分，這對產品標準體系的建設有著非常重要的指導價值。基于此，文章以糖尿病視網膜病變輔助診斷軟件為例，分析該人工智能醫療器械產品質量評價思路演變過程。

首先，在初步階段，針對該產品質量評價工作的開展，主要依賴于測試集整體結果，利用統計學意義，反映其整體的表現。通常而言，測試人員需要先進行數據收集，數據來源一般為不同組織機構以及臨床分期的患者眼底圖像，然后以這些數據為基礎，完成測試集的構建。并對人工智能提供的分期與參考標準分期進行比較，隨后計算準確率等相關指標，以此來增強對該人工智能醫療器械產品魯棒性認知。

在這一過程中，測試人員還可以通過采取多種方法手段處理眼底圖像，比如通過利用裁剪、插值等處理手段方法，模擬臨床環境下的數據變化。隨后將處理后圖像數據輸入人工智能產品中，查看具體的輸出變化情況。上述這種測試方法也被稱之為對抗測試方法，該方法通常更加關注產品性能變化的趨勢，有助于制造商進一步明確產品部署使用環境，并提高相應的數據質量。人工智能倫理思想的發展，正對人工智能醫療器械產品質量評價思路帶來影響。以糖尿病視網膜病變輔助診斷算法為例，在眼底圖像上，通常會存在出血斑，這是臨床醫生以及人工智能產品開展圖像分期重要依據。而患者個體的不同，實際出血斑大小也有所差異。因此為了更好地了解出血斑尺寸對人工智能算法帶來的影響，可以從增殖性糖網病變的眼底圖像入手，通過提取出血斑圖像，再采用不同的比例，改變相應圖像的尺寸。

在上述基礎上，還需要應用泊松融合算法，完成植健康眼底圖像的植入，如此可以順利合成一個完整的試驗樣本。該樣本圖像在醫學上屬于糖網二期，然后將其輸入糖網人工智能算法模型，即可獲得人工智能分期結果隨出血斑尺寸變化的曲線和“拐點”。此時，伴隨著出血斑尺寸增加，人工智能分期則處于對應的階梯式上升狀態；當出血斑尺寸在20像素以內，通過人工智能算法的計算，可得出假陰性結果；反之，算法分期結論則保持正確狀態。這同時也證明，血斑尺寸大小，能直接影響人工智能準確性。因此制造商可以以此為依據，在后續進行臨床部署時，更加準確地設置產品適用范圍，提高驗證的針對性。

通過上述案例我們能夠認識到，人工智能醫療器械產品質量評價，應提高對算法應用的重視，加強對數據樣本的收集，從個體研究出發，分析患者或病灶個體具體表現，從而能夠了解算法的缺陷，促進人工智能算法完善，同時還能夠顯著提高人工智能醫療器械的產品質量標準。

3 人工智能醫療器械標準體系設計建議

3.1 基礎標準設計

在當前的人工智能算法中，本身已經具備深度學習的功能，受此影響，在實際工作運行方面，則具備了黑盒特點，直觀理解難度較高。基于此，相關利益主體對產品質量也不夠信任，這對人工智能醫療器械產品應用實踐帶來了一定阻礙影響。因此為確保人工智能醫療器械產品安全性，應設置一系列明確的標準指標，比如信賴性、透明度、可解釋性、可溯源性等指標，這是構建基礎標準的一項基本條件。為更好地實現這一條件，需要從安全可信、編碼溯源、隱私保護等方面入手，進一步加強上述質量特性的控制，從而有效消除相關利益主體的疑慮。同時從當前研發情況來看，人工智能產品的設計，還很容易受數據、算法等因素的影響，因此還需要提高數據集質量，在產品形態方面，提高軟件的獨立性，合理配置軟件組件，并進一步保障智能算法質量，才能更好地體現軟件智能功能特色。在人工智能醫療器械產品運行環境方面，應注重提高靈活性，進一步加強與互聯網技術融合的力度。總而言之，在上述基礎標準設計的基礎上，還需要從數據集、數據標注、算法框架與模型等方面入手，做好人工智能醫療器械產品設計的研發，有效提高產品質量。

3.2 方法標準設計

通過上文敘述可知，基于深度學習的人工智能算法本身具有一定黑盒特點，這導致產品在設計測試方面會存在一定的不確定性。與此同時，在人工智能醫療器械產品質量評價中，當下主要關注的是輸入與輸出的關系。對性能指標測試而言，最終的結果與輸入測試集有著密切關系。因此在人工智能醫療器械產品實際應用過程中，可能會面臨數據變化的問題。基于此，針對人工智能醫療器械產品的質量評價，還需要注重滿足算法模型、成品的質量評價需求。同時還應兼顧多個環節，比如在正式上市前，需要對產品進行驗證與確認，還需要進行產品臨床驗收與質控，最終還需要落實到實踐，做好產品使用監測等。在這一過程中除了要關注常見設計指標，比如靈敏度、特異性等，還需要加強對人工智能醫療器械產品質量特性評價，比如魯棒性。在實際評價過程中，應注重關注患者個體，提高對算法細節表現的重視，同時還需要將評價過程中采用的方法、工具等納入標準體系中，促使人工智能醫療器械標準體系設計更加完善。

3.3 管理標準設計

在人工智能醫療器械產品實際發展過程中，對數據、算法、算力等因素較為依賴，實際驗證方式也帶有一定的特殊性，產品更新升級的速度也比較快。在生產質量管理方面，除了要遵循現有的質量管理標準法規外，針對人工智能算法、數據集等，還需要做進一步的規范。與此同時，還需要對算法更新與再評價框架進行創新，進一步加強對云平臺、計算平臺等設施的管理落地。另一方面，還應進一步加強數據采集人員的選拔、培訓工作，從而促使人工智能醫療器械產品管理更加標準化。在這一過程中，還可以參考借鑒醫療器械軟件監管與標準化的思想，從而有效提高對不良事件風險的控制，加強對產品版本控制與追溯。在管理標準具體落實方面，還離不開領域技術規范的支持，比如在數據集標準與建設方面，需要結合實際，編寫與之匹配的專家共識，促使人工智能醫療器械產品管理標準得到有效提升。

4 總結

總而言之，人工智能醫療器械產品標準體系設計是一項復雜的過程。在實際設計探索過程中，除了要了解當前人工智能醫療器械產品發展現狀，還需要從人工智能醫療器械質量評價演進中獲得一定啟示，提出一些具體的設計建議及方法，從而促進人工智能醫療器械標準體系設計更加完善。