基于改進(jìn)DenseNet網(wǎng)絡(luò)的肺炎X光圖像識(shí)別算法

魏榕劍，邵劍飛

（昆明理工大學(xué)，云南 昆明 650031）

0 引 言

肺炎是一種由細(xì)菌、病毒及真菌引起的肺部疾病，可以引起肺部感染[1]，病情嚴(yán)重時(shí)甚至可能導(dǎo)致病人死亡[2]。肺炎可以通過放射檢查來檢測，如常規(guī)放射檢查、CT或MRI，醫(yī)生會(huì)通過檢查病人的胸部X光片來診斷肺炎[3]。在發(fā)展中國家，肺炎的死亡率特別高。及時(shí)發(fā)現(xiàn)肺炎、為肺炎患者提供治療，對(duì)于肺炎的治療和降低死亡率意義重大。全胸部X光是目前提供肺炎正確診斷和檢測的最佳方法[4]。要診斷并發(fā)現(xiàn)肺炎，需要仔細(xì)檢查胸部X光圖像，這要求放射科醫(yī)生或?qū)＜揖哂胸S富經(jīng)驗(yàn)和專業(yè)知識(shí)，使得肺炎的檢測過程成為一項(xiàng)具有挑戰(zhàn)性的任務(wù)[5]。對(duì)于發(fā)展中國家的偏遠(yuǎn)地域，醫(yī)療資源分布不均勻，診斷肺炎對(duì)于基層醫(yī)療機(jī)構(gòu)來說非常困難。針對(duì)這一問題，計(jì)算機(jī)輔助診斷可以幫助醫(yī)生快速完成肺炎診斷，具有重要的實(shí)際意義。

近年來，隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展，深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN）被廣泛應(yīng)用于醫(yī)學(xué)影像領(lǐng)域，在有影像數(shù)據(jù)集的領(lǐng)域的研究不斷加深。Rajpurkar等人[6]提出一個(gè)基于ChestX-Ray14訓(xùn)練的121層卷積神經(jīng)網(wǎng)絡(luò)CheXNet算法，并用4位職業(yè)的學(xué)術(shù)放射科醫(yī)師標(biāo)注的測試集進(jìn)行測試，可檢測14種疾病，該模型在F1指標(biāo)上的診斷達(dá)到了職業(yè)放射科醫(yī)生的平均水平，但對(duì)于肺炎，其檢測精度達(dá)到92.52%，還有待提升。Khoiriyah等人[7]提出了一種基于CNN結(jié)構(gòu)的模型，采用不同的深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和增強(qiáng)策略來對(duì)胸部X線圖像中的肺炎檢測進(jìn)行分類，使用3個(gè)卷積層和3個(gè)分類層（完全連接），通過調(diào)整大小、翻轉(zhuǎn)及旋轉(zhuǎn)以避免過擬合，運(yùn)用增強(qiáng)策略進(jìn)行精度值提升，沒有增強(qiáng)策略的精度值為80.25%，增強(qiáng)策略的精度值為83.38%，而且該CNN結(jié)構(gòu)體系可以訓(xùn)練小數(shù)據(jù)集，但是其訓(xùn)練精度值不高。Harsh Sharma等人[5]提出不同的深度卷積神經(jīng)網(wǎng)絡(luò)，從胸部X射線圖像中提取特征的架構(gòu)對(duì)圖像進(jìn)行分類以檢測人是否患有肺炎。Abhishek Gawali等人[8]提出了一種用于胸部X光檢查的深度學(xué)習(xí)方法，該方法有3個(gè)卷積層，每層有32個(gè)神經(jīng)元，有3個(gè)不同的通道（3*3），并通過對(duì)圖像進(jìn)行基于不同參數(shù)的變換提高精度，但是該模型準(zhǔn)確率僅為88.68%。

針對(duì)胸部X光圖像的特征，本文在DenseNet深度模型的基礎(chǔ)上，提出一種改進(jìn)的DenseNet模型算法。該算法繼承DenseNet將圖像不同層次特征融合進(jìn)行分類的優(yōu)點(diǎn)，在全連接層加入中心損失（Center loss），使得X光圖像同類特征具有較高的聚合度，并且在最后輸出部分將原DenseNet模型中的交叉熵?fù)p失函數(shù)替換為Focal loss，增強(qiáng)網(wǎng)絡(luò)對(duì)X光肺炎影像病灶的學(xué)習(xí)能力，提升肺炎分類的準(zhǔn)確率。

1 DenseNet模型

DenseNet（密集卷積網(wǎng)絡(luò)）是一種密集連接的卷積神經(jīng)網(wǎng)絡(luò)，是于2017年提出的最優(yōu)深度模型，融合了深度殘差網(wǎng)絡(luò)（ResNet）與Inception網(wǎng)絡(luò)的優(yōu)點(diǎn)。深度殘差網(wǎng)絡(luò)通過加深網(wǎng)絡(luò)層數(shù)提升網(wǎng)絡(luò)性能，Iiception網(wǎng)絡(luò)通過加寬網(wǎng)絡(luò)結(jié)構(gòu)提升網(wǎng)絡(luò)性能，DenseNet網(wǎng)絡(luò)直接從最優(yōu)特征的角度出發(fā)，設(shè)置特征復(fù)用和旁路連接，達(dá)到增強(qiáng)檢測精度和降低網(wǎng)絡(luò)參數(shù)的目的[9]。DenseNet網(wǎng)絡(luò)的特點(diǎn)是，網(wǎng)絡(luò)的任意兩層之間是直接連接的，后面每一層網(wǎng)絡(luò)的輸入都是它前面所有層的輸出的并集，任意一層所學(xué)習(xí)的特征圖同樣會(huì)被直接傳給該層后面的所有層作為輸入；其核心思想是利用特征重用來達(dá)到優(yōu)化模型的目的，密集操作依靠Dense Block（密集連接塊）實(shí)現(xiàn)，多個(gè)Dense Block串聯(lián)便構(gòu)成整個(gè)網(wǎng)絡(luò)架構(gòu)。

一個(gè)完整的DenseNet網(wǎng)絡(luò)如圖1所示。可以看到，多個(gè)Dense Block之間沒有密集連接，采用了建立過渡層的模式。通常過渡層由BN+Conv（1×1）→Pooling（2×2）構(gòu)成，BN層也可以不要。本文提出的改進(jìn)的肺炎X光分類算法正是在DenseNet模型基礎(chǔ)上進(jìn)行展開。

圖1 DenseNet模型

在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)模型中，如果模型層數(shù)為L，則其總連接數(shù)為L；而在DenseNet模型中，層數(shù)為L的模型，其總連接數(shù)Ld滿足：

DenseNet模型中，層與層之間的數(shù)據(jù)傳遞關(guān)系滿足：

式中：xl表示l層的輸入；Hl表示BN、Relu及Conv操作；[x0,x1,…,xl-1]表示通道合并，即將前l(fā)-1層的輸出特征圖進(jìn)行矩陣上的連接。

DenseNet模型的優(yōu)良性能主要依靠密集連接過程中對(duì)特征的充分利用。然而，經(jīng)典的DenseNet模型在應(yīng)用于肺炎X光片肺炎分類任務(wù)中時(shí)，相比卷積神經(jīng)網(wǎng)絡(luò)的其他模型，分類精度有一定的提高，但仍然無法令人滿意。因此，本文提出了改進(jìn)的基于DenseNet網(wǎng)絡(luò)的肺炎X光片分類算法。

2 改進(jìn)的DenseNet深度網(wǎng)絡(luò)肺炎X光圖像識(shí)別算法

在DenseNet網(wǎng)絡(luò)模型的單元結(jié)構(gòu)中，1×1卷積不完全考慮圖像中某個(gè)像素點(diǎn)像素與該像素周邊像素的空間關(guān)系，而是依賴像素點(diǎn)坐標(biāo)位置的線性變換。因此，通常在DenseNet網(wǎng)絡(luò)模型中都會(huì)添加非線性的激活響應(yīng)函數(shù)。Softmax損失函數(shù)是傳統(tǒng)深度學(xué)習(xí)網(wǎng)絡(luò)常用的損失函數(shù)，進(jìn)行空間特征的映射操作。本文提出全連接層加入中心損失（Centerloss），在最后輸出部分將交叉熵?fù)p失函數(shù)替換為Focal-loss。

Softmax損失函數(shù)為：

式中：xl表示第l個(gè)深度特征，屬于第yl類；Wj表示全連接層中權(quán)重W的第j列；b表示偏置項(xiàng)；mm表示小批量大小。

品牌離不開渠道的拓展，陳偉表示，邦力達(dá)·兩河源果業(yè)專業(yè)合作社在果品銷售的傳統(tǒng)渠道和電商渠道同時(shí)發(fā)力，目前已建立起京東旗艦店、微信商城等平臺(tái)，并對(duì)接全國各大主要農(nóng)產(chǎn)品交易市場，同時(shí)還吸引了眾多外地果商進(jìn)行實(shí)地采購。2017年，合作社內(nèi)幫助社員銷售獼猴桃、柑橘等水果500多萬斤。通過在種植管理、農(nóng)資投入、品牌打造到水果購銷等環(huán)節(jié)的全產(chǎn)業(yè)鏈運(yùn)營模式，社員依托合作社的農(nóng)資和服務(wù)種出好果，合作社為社員的好果賦予品牌，實(shí)現(xiàn)了農(nóng)戶、合作社、農(nóng)資企業(yè)、水果消費(fèi)市場等多方的融通共贏。

Center loss函數(shù)為：

式中：cyl表示第yl類深度特征的類中心。

本文采用Softmax loss與Center loss相結(jié)合的函數(shù)去訓(xùn)練，表達(dá)式為：

DenseNet網(wǎng)絡(luò)在輸出部分使用的都是Softmax函數(shù)與交叉墑?chuàng)p失（Cross Entropy loss）相結(jié)合的方式。Loss函數(shù)為：

式中：x表示特征值；i與j表示類別編號(hào)。由于肺炎X光胸片數(shù)據(jù)集存在不平衡，為了提高最終肺炎X光片分類的準(zhǔn)確性，本文在最后輸出部分引入Focal函數(shù)進(jìn)行不平衡校正，F(xiàn)ocal函數(shù)為：

式中：Pt是特征值屬于某一類的概率；γ是調(diào)節(jié)變化幅度的參數(shù)。在模型中引入Focal loss函數(shù)后，損失函數(shù)為：

3 實(shí)驗(yàn)和分析

3.1 實(shí)驗(yàn)數(shù)據(jù)集

本文實(shí)驗(yàn)數(shù)據(jù)集來源于kaggle。該數(shù)據(jù)集包含兩個(gè)類（肺炎、正常）共5 860張X光胸片圖像。其中，訓(xùn)練集包含3 876張肺炎X光胸片和1 342張正常X光片。測試集包含390張肺炎X光胸片和234張正常X光片。正常肺部X光片如圖2所示，肺炎肺部X光片如圖3所示。

圖2 正常肺部X光片示例

圖3 肺炎肺部X光片示例

3.2 實(shí)驗(yàn)設(shè)置

3.3 實(shí)驗(yàn)結(jié)果及分析

本文利用肺炎胸部X光片數(shù)據(jù)集進(jìn)行肺炎X光片分類的準(zhǔn)確率研究。樣本集中，訓(xùn)練集占89%，驗(yàn)證集占11%。準(zhǔn)確占比如表1所示。

表1 數(shù)據(jù)集分布

驗(yàn)證集和訓(xùn)練集的X光胸片數(shù)量比例約為1∶10，為滿足模型需求，采用拉伸縮放的方式，將所有X光胸片的大小調(diào)整為320×320。

本文在實(shí)驗(yàn)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，實(shí)驗(yàn)參數(shù)包含Accuracy（訓(xùn)練精度）、Val_Accuracy（驗(yàn)證精度）、Loss（訓(xùn)練損失）及Val_Loss（驗(yàn)證損失）。實(shí)驗(yàn)精度曲線如圖4所示。實(shí)驗(yàn)損失函數(shù)曲線如圖5所示。

圖4 精度曲線

圖5 損失函數(shù)曲線

實(shí)驗(yàn)結(jié)果顯示，在訓(xùn)練的10個(gè)epochs內(nèi)，其訓(xùn)練精度在開始的6個(gè)epochs內(nèi)不斷提升，達(dá)到一定訓(xùn)練精度后便開始波動(dòng)，從驗(yàn)證精度曲線來看，由于驗(yàn)證數(shù)據(jù)集的不平衡性，驗(yàn)證精度低于訓(xùn)練精度且不斷波動(dòng)。從訓(xùn)練損失函數(shù)曲線來看，訓(xùn)練損失在訓(xùn)練epochsn內(nèi)損失不斷降低，但驗(yàn)證損失偏高且不斷波動(dòng)，這是驗(yàn)證數(shù)據(jù)集數(shù)據(jù)量少且數(shù)據(jù)不平衡造成的。

本文將改進(jìn)的DenseNet-121網(wǎng)絡(luò)與DenseNet-121層卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)比，DenseNet-121網(wǎng)絡(luò)在肺炎分類任務(wù)中其訓(xùn)練分類精度達(dá)到91.22%，測試精度為89.58%；本文提出的基于改進(jìn)的DenseNet-121網(wǎng)絡(luò)的肺炎分類算法模型，其最高分類精度達(dá)到94.52%，測試精度90.46%。

4 結(jié) 語

針對(duì)肺部X光胸片影像的特點(diǎn)，本文提出了基于DenseNet網(wǎng)絡(luò)改進(jìn)的肺炎X光片分類算法模型，在kaggle提供的Chest-X-Ray數(shù)據(jù)集上進(jìn)行訓(xùn)練和測試，最終將胸部X光肺炎分類精確度提升至94.52%。然而改進(jìn)的DenseNet網(wǎng)絡(luò)參數(shù)依然龐大，訓(xùn)練非常耗時(shí)。在未來的研究中，進(jìn)一步提升肺炎X光分類精度，提出科學(xué)合理的剪枝策略降低訓(xùn)練時(shí)效，可作為未來的研究方向。