近日,美國醫學信息學會(AMIA)向FDA提交了一份建議清單,希望改進其擬議的人工智能、機器學習和醫療器械獨立軟件(SaMD)監管框架。為了提高臨床人工智能和醫療器械獨立軟件(SaMD)的有效性、效率和安全性,AMIA希望FDA能夠針對機器學習工具產品,微調其監管政策,特別是那些能夠基于新數據自動更新算法的工具。
AMIA指出,醫療AI行業往往分兩類算法型產品:一種是“已鎖定的靜態算法”,一種是“不斷學習自動更新的動態算法”,這兩種算法背后的產品差異巨大。根據AIMIA的說法當訓練數據所屬人群與產品受眾不同時,FDA就應該要求審查程序。AMIA還鼓勵FDA將網絡安全風險放在首位,因為黑客攻擊或其他數據操縱均可能對給算法的輸出產生不利影響。例如,建議圍繞“針對防止系統適應錯誤信號的特定類型錯誤檢測”來制定規則。報告還建議FDA在框架中加入一些語言模型,以防止算法偏差對“特定種族、性別、年齡、社會經濟背景、身體和認知能力”的人群造成影響,闡明SaMD技術的開發人員該如何測試他們的產品,以檢測這種偏差并相應地調整算法。