廖桂鑫 甘力



摘要:針對網(wǎng)絡(luò)輕量化后,模型復(fù)雜度降低帶來的檢測性能不足等問題,提出一種基于自適應(yīng)卷積的心電圖(ECG)心律分類方法。首先,采用輕量級的卷積神經(jīng)網(wǎng)絡(luò)模型框架構(gòu)建雙分支結(jié)構(gòu),主分支提取ECG的波形特征,子分支提取ECG樣本與正常心律的差異信息;然后,通過自適應(yīng)卷積的方法,將ECG樣本與正常心律的差異信息融入到主分支中,提高模型的檢測性能;最后,在公開的數(shù)據(jù)集上進(jìn)行實驗,F1分?jǐn)?shù)、準(zhǔn)確率、召回率分別為93.58%、95.53%和91.70%,相較于未加入ECG樣本與正常心律的差異信息的網(wǎng)絡(luò)有明顯提升,驗證了該方法的有效性。
關(guān)鍵詞:心電圖;心律分類;輕量級卷積神經(jīng)網(wǎng)絡(luò);自適應(yīng)卷積;雙分支結(jié)構(gòu)
中圖分類號:TP391 ??????????文獻(xiàn)標(biāo)志碼:A ???????????文章編號:1674-2605(2023)05-0011-06
DOI:10.3969/j.issn.1674-2605.2023.05.011
ECG Rhythm Classification Method Based on Adaptive Convolution
LIAO Guixin ?GAN Li
(Guangdong University of Technology, Guangzhou 510006, China)
Abstract:?A heart rhythm classification method for electrocardiogram (ECG) based on adaptive convolution is proposed to address the issues of insufficient detection performance caused by reduced model complexity after network lightweighting. Firstly, a lightweight convolutional neural network model framework is used to construct a dual branch structure. The main branch extracts the waveform features of ECG, while the sub branches extract the difference information between ECG samples and normal heart rhythm; Then, by using adaptive convolution method, the difference information between ECG samples and normal heart rhythm is integrated into the main branch to improve the detection performance of the model; Finally, experiments were conducted on publicly available datasets, and the F1 score, accuracy, and recall rates were 93.58%, 95.53%, and 91.70%, respectively. This showed a significant improvement compared to the network that did not include the difference information between ECG samples and normal heart rhythm, verifying the effectiveness of this method.
Keywords:?electrocardiogram; heart rhythm classification; lightweight convolutional networks; adaptive convolution; double branch structure
0 引言
心電圖(electrocardiogram, ECG)可以直觀反映心臟各部位除極和復(fù)極的過程,廣泛應(yīng)用于心血管疾病的診斷。然而,醫(yī)生面對大量患者日益增長的需求,難以及時進(jìn)行臨床心電圖的診斷。
近年來,深度學(xué)習(xí)方法在各個領(lǐng)域發(fā)展迅速,包括自動ECG檢測,與醫(yī)生人工診斷相比,患者可實
時獲得心臟狀況的反饋,提高診斷效率。自動ECG檢測根據(jù)心律分類方法大致可分為2種:1) 以支持向量機(jī)[1]、隨機(jī)森林[2]、隱馬爾可夫模型[3]為代表的傳統(tǒng)機(jī)器學(xué)習(xí)方法,此種方法依賴人工進(jìn)行特征提取、經(jīng)驗參數(shù)選擇,難以適應(yīng)ECG信號形態(tài)特征的易變性,檢測性能較差;2) 基于深度學(xué)習(xí)的心律分類方法,可以自適應(yīng)調(diào)節(jié)模型參數(shù),從ECG信號中提取特征,實現(xiàn)端到端的ECG心律檢測。基于深度學(xué)習(xí)的心律分類方法又可以細(xì)分為兩類:第一類為基于卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)的方法[4-7],其將ECG信號轉(zhuǎn)化為二維圖像進(jìn)行分析,如TOMA等[8]通過短期傅里葉變換提取ECG信號的時頻域信息,生成二維頻譜圖像作為CNN的輸入,實現(xiàn)異常心律檢測;ZHENG等[9]將一維ECG信號轉(zhuǎn)換為二維灰度圖像作為CNN的輸入,并引入擠壓激勵(squeeze excitation, SE)模塊,融入通道注意力來提高異常心律的檢測性能;第二類為基于循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural networks, RNN)的方法[10-12],其將ECG信號作為時間序列進(jìn)行分析,提取時序關(guān)聯(lián)特征,實現(xiàn)ECG心律檢測,如SINGH等[13]利用長短時記憶網(wǎng)絡(luò),捕獲ECG前后時序之間的關(guān)聯(lián)性和ECG全局信息,實現(xiàn)ECG異常心律的檢測。但這些端到端的檢測模型參數(shù)較為復(fù)雜,訓(xùn)練時間過長。為此,XIAO等[14]提出一種基于微控制單元(microcontroller unit,?MCU)的低功耗心電分類系統(tǒng)的超輕量級端到端的心電分類神經(jīng)網(wǎng)絡(luò),采用分級分類的方法,減小模型計算復(fù)雜度。但檢測模型規(guī)模減小,不可避免地導(dǎo)致模型的檢測性能下降。
受文獻(xiàn)[14]啟發(fā),正常心律與異常心律存在明顯的差異信息,本文通過預(yù)訓(xùn)練子分支提取的ECG樣本與正常心律的差異信息,并將此差異信息融入主分支中,在不大幅增加主分支模型復(fù)雜度的前提下,提高分類性能。為了更好地融合主分支和子分支的信息,本文提出一種基于自適應(yīng)卷積的心電圖心律分類方法。首先,采用輕量級卷積神經(jīng)網(wǎng)絡(luò)ComvMixer[15]作為模型主干網(wǎng),構(gòu)建雙分支結(jié)構(gòu),其中,主分支用于提取ECG波形特征;子分支采用預(yù)訓(xùn)練的方式,提取ECG樣本與正常心律的差異信息;然后,采用自適應(yīng)卷積的方法,通過ECG樣本與正常心律的差異信息生成自適應(yīng)的卷積核參數(shù),利用自適應(yīng)卷積塊對主分支的波形特征進(jìn)一步表征,從而提高模型的分類性能,增加模型的魯棒性,實現(xiàn)ECG心律的準(zhǔn)確分類。
1 分類網(wǎng)絡(luò)
1.1 ?問題描述
1.2 ?損失函數(shù)及優(yōu)化方法
本文ECG心律分類為多標(biāo)簽分類任務(wù),其中每個類別都被單獨(dú)視為一個二分類任務(wù)。為了對每個類別進(jìn)行獨(dú)立的建模和訓(xùn)練,且不受其他類別的干擾,采用的損失函數(shù)為BCELoss。BCELoss可以獨(dú)立地處理每個類別的概率,并且能夠處理樣本屬于多個類別的情況,計算公式為
為了使損失函數(shù)收斂更快,減少網(wǎng)絡(luò)的訓(xùn)練時間,本文采用的優(yōu)化方法為AdamW優(yōu)化器,學(xué)習(xí)率為,權(quán)重衰減為,每5個epoch學(xué)習(xí)率減少一半,采用5個epoch的預(yù)熱,并采用余弦衰減的方式使學(xué)習(xí)率在每個epoch內(nèi)都動態(tài)變化。
1.3 ?網(wǎng)絡(luò)結(jié)構(gòu)
基于自適應(yīng)卷積的ECG心律分類方法模型框架如圖1所示,其中Convn,/s的卷積核大小為n,滑動窗步長為s;DWConv為深度可分離卷積,本文采用的卷積層均為Conv1d。
基于自適應(yīng)卷積的ECG心律分類模型框架采用雙分支結(jié)構(gòu)。其中,子分支(左上部分)進(jìn)行正常心律(竇性心律)和異常心律(除竇性心律之外的心律類別)的二分類任務(wù),采用預(yù)訓(xùn)練的方式提取ECG樣本與正常心律的差異信息,且在主分支訓(xùn)練時,不更新子分支模型參數(shù);主分支(右上部分)提取ECG的波形特征。
兩個分支采用相同的結(jié)構(gòu)進(jìn)行特征提取,分支結(jié)構(gòu)為:
首先,利用Patch?Embedding進(jìn)行淺層ECG波形特征提取,將ECG時間序列信號分割為小的時序片段,再將每個時序片段轉(zhuǎn)換為固定維度的特征向量進(jìn)行表征,通過提取每個時序片段的關(guān)鍵特征,捕獲ECG的局部信息,使模型更好地表征ECG信號,并實現(xiàn)了數(shù)據(jù)降維,減少模型計算的復(fù)雜度;
然后,采用1×1卷積和深度可分離卷積相結(jié)合的殘差結(jié)構(gòu)對淺層ECG波形特征進(jìn)一步表征,在特征提取過程中不進(jìn)行降采樣操作,可以保留ECG信號更多的細(xì)節(jié)信息,減少信息丟失,提高模型感受野;通過分支結(jié)構(gòu),實現(xiàn)子分支對ECG樣本和正常心律的差異信息提取,主分支對ECG波形特征的提取;
接著,采用自適應(yīng)卷積的方法,將差異信息經(jīng)過自適應(yīng)卷積核[16]生成模塊生成卷積核參數(shù)k和偏執(zhí)參數(shù)b,并構(gòu)建自適應(yīng)卷積塊;主分支經(jīng)過自適應(yīng)卷積塊和以sigmoid和tanh構(gòu)成的激活函數(shù)對ECG波形特征進(jìn)一步表征,實現(xiàn)ECG波形特征與ECG樣本和正常心律差異特征的融合,提高其分類性能;
最后,通過全連接層得到ECG心律分類的結(jié)果。
2??數(shù)據(jù)
2.1 ?數(shù)據(jù)集
本文實驗數(shù)據(jù)來自公開的“合肥高新杯”心電人機(jī)智能大賽復(fù)賽數(shù)據(jù)集(以下簡稱“合肥高新杯”數(shù)據(jù)集)[17]。該數(shù)據(jù)集的采樣頻率為500?Hz,樣本時長為10?s,共有34類樣本,每類樣本有8個導(dǎo)聯(lián),分別為I、II、V1、V2、V3、V4、V5、V6。通過公式(2)~(5)計算其余4個導(dǎo)聯(lián)的數(shù)據(jù),作為12導(dǎo)聯(lián)數(shù)據(jù)輸入。
2.2 ?數(shù)據(jù)預(yù)處理與劃分
為去除偽跡噪聲,本文采用窗寬分別為200?ms和600?ms 的雙中值濾波器消除ECG基線漂移;采用雙線性變換法設(shè)計IIR數(shù)字帶阻濾波器,去除工頻干擾,阻帶截止頻率分別為49?Hz 和51?Hz;采用5級小波變換去除肌電干擾,其中小波基函數(shù)為bior4.4。
實驗數(shù)據(jù)集按7∶2∶1的比例劃分為訓(xùn)練集、驗證集、測試集,各子數(shù)據(jù)集的心電數(shù)據(jù)相互獨(dú)立,取自不同的心電記錄,并保持類別數(shù)量比例統(tǒng)一。
3 ?實驗結(jié)果與分析
3.1 ?實驗環(huán)境
實驗采用Centos Linux 7.9,Python 3.8 安裝Pytorch?1.11深度學(xué)習(xí)框架對本文提出的基于自適應(yīng)卷積的ECG心律分類模型進(jìn)行訓(xùn)練和測試。計算服務(wù)器的CPU為Intel Core?i9-13900K@?5.80?G?Hz,內(nèi)存128?GB,GPU 為NVIDIA Geforce RTX4090,顯存為24?GB。
3.2 ?評價指標(biāo)
本文采用準(zhǔn)確率(precision rate,P)、召回率(recall rate,R)和F1分?jǐn)?shù)(F1-score,F(xiàn)1)作為異常心律分類性能的評價指標(biāo),計算公式分別為
式中:TP、FP、FN分別為檢測到的真陽性樣本個數(shù)、假陽性樣本個數(shù)和假陰性樣本個數(shù)。
對于每個預(yù)測樣本,若該類預(yù)測概率大于0.5,則認(rèn)為該類別預(yù)測正確。
3.3 ?實驗對比與分析
為驗證本文模型ECG心律分類的性能,與以下4種基線方法進(jìn)行對比:1) 1D ResNet-34[6],利用CNN的時域特征提取能力,采用一維殘差網(wǎng)絡(luò)實現(xiàn)異常心律分類;2)SE ECGNet[7],將多導(dǎo)聯(lián)數(shù)據(jù)作為二維矩陣輸入到多尺度殘差網(wǎng)絡(luò),引入SE模塊捕獲不同導(dǎo)聯(lián)層的通道注意力,提高異常心律分類檢測的精度;3)MLWGAT[18],采用自注意權(quán)值與類的先驗共現(xiàn)知識相結(jié)合的權(quán)值生成方法,將每個類作為加權(quán)圖的節(jié)點(diǎn),類依賴關(guān)系用圖的邊權(quán)重表示,增加模型的可解釋性;4)HRNN[19],通過在神經(jīng)網(wǎng)絡(luò)中引入臨床規(guī)則,提高異常心律分類檢測的效果。
上述5種方法的網(wǎng)絡(luò)模型都采用相同的數(shù)據(jù)集劃分比例、損失函數(shù)和優(yōu)化器,實驗結(jié)果如表1所示。
由表1可以看出:本文模型的實驗結(jié)果優(yōu)于其他4種網(wǎng)絡(luò)模型,相較于同樣采用CNN模型的1D?ResNet-34和SE ECGNet,F1、P和R分別提高了約3%、4%和2.5%,證明了本文模型的優(yōu)越性,數(shù)據(jù)集的檢測性能有明顯優(yōu)勢;相較于同樣融入信息的檢測方法MLWGAT和HRNN,F1提高了2%,證明本文模型加入ECG樣本與正常心律的差異信息的可靠性。
對比本文模型有無加入ECG樣本與正常心律的差異信息的ECG心律分類性能。通過在模型框架上增刪ECG樣本與正常心律的差異信息融合模塊,其他實驗條件保持一致,進(jìn)行對比實驗,結(jié)果如表2所示。
由表2可以看出:加入ECG樣本與正常心律的差異信息相較于未加入時,F1提高了0.57%,證明通過加入ECG樣本與正常心律的差異信息可有效提高網(wǎng)絡(luò)ECG心律分類的性能。
對比2種相似結(jié)構(gòu)的基線方法浮點(diǎn)計算量(FLOPs)和參數(shù)量(Params),如表3所示。
由表3可以看出:本文模型的FLOPs和Params與相似結(jié)構(gòu)的1D ResNet-34和HRNN相比較,分別降低了約3.1 GB和0.7 MB,模型結(jié)構(gòu)更簡單,分類性能更好,證明了本文模型的有效性;通過加入自適應(yīng)卷積塊,只額外增加少許計算量,但大幅提高了模型的分類性能,證明本文采用自適應(yīng)卷積方法,在主分支加入子分支提取的ECG樣本與正常心律的差異信息,可以使模型輕量化的同時,提高其分類性能。
4 ?結(jié)論
為了解決輕量級模型因減少模型復(fù)雜度而帶來的檢測性能不足的問題,本文提出一種基于自適應(yīng)卷積的ECG心律分類方法。采用輕量級CNN模型框架ConvMixer作為主干網(wǎng),并通過雙分支結(jié)構(gòu)分別提取ECG波形特征和ECG樣本與正常心律的差異信息,最后采用自適應(yīng)卷積在主分支加入ECG樣本與正常心律的差異信息,只額外增加少許計算量,但提高了網(wǎng)絡(luò)ECG心律分類的性能。在“合肥高新杯”數(shù)據(jù)集上進(jìn)行實驗,驗證了本文方法的有效性。
參考文獻(xiàn)
參考文獻(xiàn)
[1]CELIN S, VASANTH K. ECG signal classification using various machine learning techniques[J]. Journal of Medical Systems, 2018,42(12):241.
[2]ANSARI S, FARZANEH N, DUDA M, et al. A review of automated methods for detection of myocardial ischemia and infarction using electrocardiogram and electronic health records [J]. IEEE Reviews in Biomedical Engineering, 2017,10: 264-298.
[3]BOUCHIKHI S, BOUBLENZA A, CHIKH M A. Discrete hidden Markov model classifier for premature ventricular contraction detection[J]. International Journal of Biomedical Engineering and Technology, 2015, 17(4): 371-386.
[4]CHEN J, ZHENG X, YU H, et al. Electrocardio panorama: Synthesizing new ECG views with self-supervision[J]. arXiv preprint arXiv:2105.06293, 2021.
[5]YAO Q, WANG R, FAN X, et al. Multi-class arrhythmia detection from 12-lead varied-length ECG using attention-based time-incremental convolutional neural network[J]. Information Fusion, 2020, 53:174-182.
[6]BRITO C, MACHADO A, SOUSA A L. Electrocardiogram beat-classification based on a ResNet network[C]//MedInfo, 2019:55-59.
[7]ZHANG H, ZHAO W, LIU S. SE-ECGNet: A multi-scale deep residual network with squeeze-and-excitation module for ECG signal classification[C]//2020 IEEE International Conference on Bioinformatics and Biomedicine (BIBM). IEEE, 2020: 2685-2691.
[8]TOMA T I, CHOI S. A comparative analysis of 2D deep CNN models for arrhythmia detection using STFT-based long dura- tion ECG spectrogram[C]//2022 Thirteenth International Con- ference on Ubiquitous and Future Networks (ICUFN). IEEE, 2022: 483-488.
[9]ZHENG X, MA Y, PAN Z, et al. Arrhythmia detection algorithm based on CNN and SENet[C]//Proceedings of the 5th International Conference on Big Data Technologies, 2022:76-82.
[10]XIONG Z, NASH M P, CHENG E, et al. ECG signal classification for the detection of cardiac arrhythmias using a convolutional recurrent neural network[J]. Physiological Mea- surement, 2018,39(9):094006.
[11]POKAPRAKARN T, KITZMILLER R R, Moorman R, et al. Sequence to sequence ECG cardiac rhythm classification using convolutional recurrent neural networks[J]. IEEE Journal of Biomedical and Health Informatics, 2021,26(2):572-580.
[12]ZHANG J, LIU A, GAO M, et al. ECG-based multi-class arrhythmia detection using spatio-temporal attention-based convolutional recurrent neural network[J]. Artificial Intelli- gence in Medicine, 2020,106:101856.
[13]SINGH S, PANDEY S K, PAWAR U, et al. Classification of ECG arrhythmia using recurrent neural networks[J]. Procedia Computer Science, 2018,132:1290-1297.
[14]XIAO J, LIU J, YANG H, et al. ULECGNet: An ultra-lightweight end-to-end ECG classification neural network[J]. IEEE Journal of Biomedical and Health Informatics, 2021, 26(1):206-217.
[15]TROCKMAN A, KOLTER J Z. Patches are all you need?[J]. arXiv preprint arXiv:2201.09792, 2022.
[16]ZENG Z, WANG J, CHENG N, et al. Lvcnet: efficient condition-dependent modeling network for waveform gene- ration[C]// IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). IEEE, 2021:6054-6058.
[17]TIANCHI. Hefei hi-tech cup ECG intelligent competition [EB/OL]. 2019. Available: https://tianchi.aliyun.com/compe-tition/entrance/231754/information.
[18]WANG H, ZHAO W, LI Z, et al. A weighted graph attention network based method for multi-label classification of elec- trocardiogram abnormalities[C]//2020 42nd Annual Interna- tional Conference of the IEEE Engineering in Medicine & Biology Society (EMBC). IEEE, 2020: 418-421.
[19]BIAN Y, CHEN J, CHEN X, et al. Identifying electrocar- diogram abnormalities using a handcrafted-rule-enhanced neural network[J]. IEEE/ACM Transactions on Computational Biology and Bioinformatics, 2022.
作者簡介:
廖桂鑫,男,1999年生,碩士研究生,主要研究方向:模式識別、生物信號處理。E-mail:?2112104074@mail2.gdut.edu.cn
甘力,男,1996年生,碩士研究生,主要研究方向:模式識別、生物信號處理。E-mail:?695839557@qq.com