基于注意力殘差模型的心律失常分類研究

秦 博，黎 明，黎天翼，丁佳林，李 濤

(湖北師范大學 物理與電子科學學院，湖北 黃石 435002)

0 引言

根據國家心血管疾病中心統計，我國心血管疾病死亡率居于首位，且患者數量龐大[1]。通過便攜式設備對高危人群進行監測，實時識別心電圖(Electrocardiogram , ECG)，可以實時發現冠心病和心律失常等心血管疾病，對患者進行有效的干預和治療。因此在降低識別算法復雜度的條件下做到及時識別心律失常，同時提高識別的準確率，降低漏診率具有重要的意義。

隨著計算機科學理論的發展，已經誕生出許多心電圖分類識別算法。心電圖分類識別算法可分為三類：基于波形形態結構的分類算法、基于波形特征的分類算法和基于深度學習的分類算法。基于波形形態結構的分類算法是利用心電圖的不同特征來進行分類，如RR間隔、QRS波特征和T波特征等，這種方法是在模擬醫生對心電圖進行診斷的步驟。例如：段會龍等人利用QRS波特征和RR間隔等特征，使用模板匹配法針對心室期前收縮的異常波形進行識別分類[2]；Chazal等人通過RR間隔、QRS波長度等12個特征對心電圖數據進行心律失常分類，準確率達到了84.5%[3].基于波形形態結構的分類算法準確率相對較低，對噪聲敏感，不利于實際應用。

基于波形特征的分類算法是通過小波變換[4]、Hermite系數[5]、高階統計特征[6]等算法提取心電圖統計特征或頻域特征等，并通過支持向量機(Support Vector Machines, SVM)或多層感知機等算法進行類別的區分。例如：Mondeja等人結合形態學、小波變換和高階統計特征，并利用SVM對心電信號進行4種心律失常的分類，達到了94.5%的正確率[7]。基于波形特征的分類方法雖然準確率較高，但是需要大量的先驗知識來進行分類識別，并且該類算法魯棒性較差。

隨著深度學習理論的發展，越來越多的學者將循環神經網絡(Recurrent Neural Network,RNN)和卷積神經網絡(Convolutional Neural Networks,CNN)等神經網絡運用在心電圖識別領域。例如：Liu等提出一個組合了CNN和Bi-LSTM(Bi-directional Long Short-Term Memory)的分類算法，在心肌梗塞和正常心電圖的分類中達到99.90%的正確率[8]；Rajpurkar等使用34層的深度卷積神經網絡對采集的心電數據實現了心律失常、竇性心律和心顫等12類心臟病分類[9]；Li等設計了7層的卷積神經網絡，在基于患者特異性的分類模式下對MIT-BIH心電數據庫(MIT-BIH Arrhythmia Database)中的心電數據進行5種心律失常的分類，達到了95.13%的正確率[10，11]。基于深度學習的分類算法不需要先驗知識就能達到較高的準確率，并且算法結構簡單，抗噪能力強。

但是，基于深度學習的心律失常分類算法需要大量樣本進行訓練的特點，使得其在心律失常分類這種樣本極度不平衡的分類任務中有著較高的漏診率和誤診率。例如，文獻[11]中算法對樣本量較少的融合搏動類的敏感性只有82.28%，即漏診率有17.72%，并且漏診率比樣本數量較多的正常搏動類高17個百分點。漏診率是醫學診斷中一個重要的指標，過高的漏診率會造成對患者的醫療干預不及時。因此本文將結合注意力機制的殘差網絡模型應用于心電信號分類，利用殘差塊提取心電信號中的重要特征，并通過注意力機制學習特征之間的關系，最后根據提取的特征采用2層全連接層對心電圖進行分類，將注意力機制與殘差網絡相結合提高算法對稀少類樣本的敏感性，降低漏診率。

1 算法描述

1.1 殘差網絡

隨著卷積神經網絡層數的增加，網絡的學習精度也隨之降低，并且還會出現梯度爆炸和梯度消失等問題。針對上述問題，Kaiming He等人于2015年提出殘差網絡(Residual Network, ResNet)[12]，在卷積神經網絡中引入跳層連接，解決了深層網絡中的網絡退化問題。如圖1所示。

圖1 (a)殘差塊；(b)注意力殘差模塊

圖1(a)為殘差結構，假設殘差塊輸入與輸出關系公式如式(1)所示，

yi=F(xi,wi)+xi

(1)

yi為殘差塊輸出，xi為殘差塊輸入，wi為殘差塊要學習的權重，函數F(xi,wi)包含一維卷積、批量歸一化和激活函數ReLU.當網絡的學習接近飽和時，殘差塊通過跳層連接的方式，使得接下來的學習轉變為對恒等映射的學習，即學習yi=xi.因此，后面的學習是使殘差F(xi,wi)不斷逼近零。當訓練的模型層數較深的時候，模型的精度不會下降，同時也解決了深層網絡中梯度爆炸和梯度消失的問題。在卷積層和激活函數中間使用批量歸一化[13](Batch Normalization，BN)，使得網絡的訓練速度大幅提升，并且有利于克服反向傳播中梯度消失等問題。

1.2 注意力機制

注意力機制是機器學習中的一種優化機制。它的核心思想是使模型關注信息中的更重要特征，同時忽略其他無關特征。在心電圖分類中，注意力機制可以讓模型為提取的不同特征賦予不同的權重，使得重要的特征有著更高的權重，從而提高模型預測的準確率。

4)電源插座短路打火即使產生“微末”，因車庫不是一個密閉空間，飛濺的“微末”只是一個不具“明火”性質的“熱熔珠粒子”，不能點燃“沉淀”于靠近地面處的液化石油氣。

本文提出的分類算法通過插入SE模塊(Squeeze-and-Excitation Block)[14]來實現殘差網絡與注意力機制的結合。如圖1(b)所示，SE模塊先通過全局平均化對輸入的特征圖做壓縮，獲得不同通道上的全局特征。接下來通過兩個全連接層來學習各個通道特征之間的非線性關系，然后采用非線性函數Sigmoid激活。全連接層的使用減少了網絡的參數量和計算量，同時提高了其泛化能力。最后將學習到的特征乘以輸入的原始特征，從而提高了網絡對通道特征的辨別能力。

1.3 結合殘差塊和注意力機制的神經網絡模型

相較于循環神經網絡，卷積神經網絡更適合從小尺度的信號中提取特征，并且心律失常疾病的特征往往集中在小尺度的單個心拍信號之上，因此在模型中采用卷積神經網絡。殘差結構的引入解決卷積層堆疊造成的網絡退化問題，注意力機制可以使算法增加重要特征的權重，從而提高分類模型的準確率和敏感性。

因此，本文將注意力機制與殘差網絡相結合對心電圖進行分類，模型結構如圖2所示，結構參數如表1所示。對輸入的信號使用一維卷積層和最大池化層提取特征并降低特征圖分辨率。為了在不丟失第一次卷積提取的信息，在第一個卷積層后使用雙曲正切函數作為激活函數。接下來用6個注意力殘差模塊來提取特征以及特征權重的分配，為了提取到更多的特征，卷積層先采用較小的卷積核，并在之后逐漸變為較大的卷積核以減少計算量。在經過一個全局平均池化層后，最后采用兩個全連接層作為分類器進行分類。

圖2 注意力殘差神經網絡模型

表1 注意力殘差神經網絡模型參數

1.4 算法描述

本文算法的流程如圖3所示，基于殘差注意力模型的心律失常分類算法分為兩個模塊：

圖3 算法框圖

1)數據預處理模塊：首先采用中值濾波技術去除心電信號中的基線漂移，接著使用小波變換法濾除信號中的肌電噪聲，然后根據R波標注信息將信號分割成心拍信號，根據心電信號標注信息對每個心拍信號進行心律失常類別的標注，最后按照不同的劃分方式將分割標注后的心拍信號劃分為訓練集和測試集。

2)特征提取與分類模塊：首先使用注意力殘差神經網絡模型中的殘差塊部分進行信號的特征提取，然后利用模型中的兩層全連接層進行心拍類型的分類。利用預處理完成后利用訓練集對注意力殘差神經網絡模型進行訓練，并對剩余的測試集數據進行測試。

2 實驗數據與評價指標

2.1 數據集

本文采用PhysioBank[15]中的MIT-BIH心律失常數據庫進行網絡模型的驗證。MIT-BIH心律失常數據庫包含來自不同年齡、不同性別的患者數據。該數據庫包含48條來自47個不同患者的心電記錄，每條記錄約30 min，采樣頻率為360Hz，且包含雙通道數據。采用MLII和V1雙導聯的數據作為輸入數據，同時根據AAMI標準[16]對心電圖進行正常搏動(N)、室上性異位搏動(S)、心室異位搏動(V)、融合搏動(F)和未識別(Q)的搏動的分類。

數據集劃分方式分別采用基于病人內的分類方式和基于患者特異性的分類方式。基于病人內的分類方式是將所有病人信息打亂后再按照8∶2的比例進行訓練集和測試集的劃分；基于患者特異性的分類方式將數據集劃分為包含不同患者信息的兩個數據集DS1和DS2[3]，其中DS1作為全局訓練集，DS2中前5 min數據作為特異性訓練集，DS2中余下的數據作為測試集，采用全局訓練與局部訓練相結合的方式進行訓練[17]。該方式符合AAMI標準中允許從每個患者記錄中使用至多5 min的片段進行訓練的條件。由于本文算法采用雙導聯進行訓練，為保持一致性，對DS1和DS2中不包含導聯MLII和V1的病人數據進行刪減，得到DS1′與DS2′.由于基于患者特異性的分類方式中Q類過少，因此在基于患者特異性的分類方式下只對其余四類進行研究。

2.2 數據預處理

表2 心拍類別分布

2.3 評價指標

本文采用準確率(Accuracy，Acc)、敏感性(Sensitivity，Sen)和特異度(Specificity，Spe)來對分類器進行性能評估，參數定義如式(2)(3)和(4)所示：

(2)

(3)

(4)

其中，TP表示真陽性，TN表示真陰性，FP表示假陽性，FN表示假陰性。同時使用混淆矩陣對分類結果進行分析。

3 實驗結果

3.1 基于病人內方式的分類實驗結果

在基于病人內的分類實驗中，使用測試集對訓練后的注意力殘差網絡進行測試，測試結果的混淆矩陣、敏感性、特異度與準確率如表3所示。本文算法的準確率達到了99.46%，平均特異度達到了99.63%，平均敏感性達到了97.56%，且樣本數量較少的S類和F類敏感性相對較低。

表3 基于病人內的分類結果混淆矩陣

3.2 基于患者特異性方式的分類實驗結果

在基于患者特異性的分類實驗中，使用數據集DS2′對訓練后的算法進行測試，測試結果的混淆矩陣及敏感性、特異度和準確率等參數如表4所示。本文算法的平均敏感性達到了90.03%，特異度達到了97.95%，準確率達到了98.24%，S類和F類敏感性相對較低，存在一定漏診。

表4 基于患者特異性的分類結果混淆矩陣

3.3 噪聲對分類結果的影響

本文選擇疊加不同信噪比的白噪聲，生成含噪聲的心電信號來檢測算法的魯棒性，實驗結果如表5所示。在疊加噪聲后，基于病人內的分類方式下的準確率仍能保持在99%以上，基于患者特異性的分類方式下準確率雖然下降了1到2個百分點，但仍能維持較高的準確率。證明了本文提出的算法抗噪能力強。

表5 抗噪能力測試結果

4 討論

表6為部分基于病人內方式下的分類算法與本文算法的比較，表中列出的方法都采用MIT-BIH數據庫進行測試。文獻[18]使用樣本合成來平衡樣本數量，稀少類的敏感度得到了提升，但整體的準確率和N類的敏感度卻下降了；文獻[19]采用CNN與LSTM相結合的方式進行心律失常分類，達到了99.11%的準確率；文獻[21]采用ResNet進行分類，達到了99.38%的準確率。通過對比，本文模型的F類敏感性和整體準確率更高。

表6 基于病人內方式的分類方法結果對比

表7為部分基于患者特異性方式下的分類算法與本文算法的對比。文獻[17]和文獻[20]都采用CNN進行心律失常分類，且達到了較高的準確率，但S類和F類的敏感性較低。文獻[21]采用雙向LSTM與CNN并行的方式分別對兩個導聯的信號進行特征提取，然后通過全連接層對提取的特征進行心律失常分類，準確率達到了97.37%.與文獻[21]提出的算法相比，雖然本文提出的算法模型在S類敏感性上略微降低，但F類敏感性和準確率方面都有所提升，并且算法結構更加簡單。

表7 基于患者特異性方式的分類方法結果對比

本文還使用未結合注意力機制的殘差網絡進行實驗，在基于病人內方式的分類實驗中，增加注意力機制后F類的敏感性提高了約8個百分點；在基于患者特異性方式的分類實驗中，增加注意力機制后稀少類的敏感性提高了2到7個百分點。在結合注意力機制后，模型的分類性能有著較大提升。

在MIT-BIH心律失常數據庫中，本文從基于病人內的分類方式和基于患者特異性方式兩個方面進行實驗，充分驗證了本文算法的有效性。在殘差網絡中增加注意力機制可以使模型關注心電信號中的更加重要特征，給重要的特征分配更高的權重，由此來提升算法的準確率和對稀少類別的敏感性。

在接下來的工作中，需要將重點放到持續時間更長的心電片段的識別分類上，將深度學習與心電圖的形態特征相結合，進一步提高識別準確率，降低誤診率。同時，研究采用的數據集中異常心拍樣本量較小，需要采集更多的異常心拍信號，并在更大的數據集上進行研究。

5 結論

本文針對心律失常分類算法進行深入研究，構建了殘差網絡與注意力機制結合的算法，實現了在基于病人內的分類方式和基于患者特異性的分類方式下對心律失常的分類。算法在MIT-BIH心律失常數據庫病人內分類方式中達到了了99.42%的正確率，平均特異度達到了99.69%，并且對少數類的敏感性有所提升。同時，在基于患者特異性的分類方式中，算法達到了98.24%的準確率，平均敏感性達到了90.03%，平均特異度達到了97.95%.實驗結果充分說明了殘差網絡與注意力機制相結合后可以有效地提高敏感性，降低漏診率，并且有著較好的魯棒性。