基于改進(jìn)EfficientNet-B4模型的病理圖像分類

【關(guān)鍵詞】皮膚腫瘤;組織病理圖像;遷移學(xué)習(xí);EfficientNet-B4;Adam

【中圖分類號(hào)】R739.5 【文獻(xiàn)標(biāo)識(shí)碼】A 【文章編號(hào)】2026-5328（2022）03--01

1 引言

在臨床上皮膚腫瘤主要分為黑素細(xì)胞性和非黑素細(xì)胞性兩大類，黑素細(xì)胞性主要包括惡性黑色素瘤、色素痣等，非黑素細(xì)胞性主要包括基底細(xì)胞癌、鱗狀細(xì)胞癌、角化棘皮瘤等[1]。隨著我國(guó)老齡化程度的不斷加深，皮膚腫瘤的發(fā)病率也呈現(xiàn)上升趨勢(shì)。

近年來(lái)，隨著深度學(xué)習(xí)[2]等人工智能算法在計(jì)算機(jī)視覺(jué)領(lǐng)域的不斷成功，以圖像分類為核心的計(jì)算機(jī)輔助診斷技術(shù)得到極大的發(fā)展，為深度學(xué)習(xí)在醫(yī)學(xué)圖像的處理領(lǐng)域打下了良好基礎(chǔ)。深度學(xué)習(xí)算法可以提取具有代表性的高層特征，避免了傳統(tǒng)的機(jī)器學(xué)習(xí)算法中復(fù)雜的特征提取等過(guò)程，因此在圖像識(shí)別和分類方面具有極大的優(yōu)勢(shì)和潛力。

本文提出一種殘差結(jié)構(gòu)與EfficientNet網(wǎng)絡(luò)相結(jié)合的模型來(lái)對(duì)四類皮膚腫瘤進(jìn)行分類，包括基底細(xì)胞癌、黑色素瘤、毛發(fā)上皮瘤和毛母細(xì)胞瘤。其中引入的殘差結(jié)構(gòu)提高了網(wǎng)絡(luò)模型的精度，并將改進(jìn)后的模型與不同的優(yōu)化器進(jìn)行結(jié)合，最后再對(duì)比分析其他的網(wǎng)絡(luò)模型驗(yàn)證改進(jìn)后模型的性能效果。

2 研究方法

2.1 EfficientNet網(wǎng)絡(luò)

EfficientNet[3]系列網(wǎng)絡(luò)模型自2019年首次提出以來(lái)受到了廣泛的關(guān)注，它采用一種新的模型縮放方法對(duì)網(wǎng)絡(luò)深度、網(wǎng)絡(luò)寬度和模型輸入圖像的分辨率三個(gè)不同維度進(jìn)行合理且高效的調(diào)整搭配，不僅提高了模型訓(xùn)練速度，也提升了模型精度。

EfficientNet-B4網(wǎng)絡(luò)是在EfficientNet-B0的基礎(chǔ)上，放大網(wǎng)絡(luò)深度、網(wǎng)絡(luò)寬度的倍數(shù)分別為1.4、1.8，輸入分辨率調(diào)整為380x380。基準(zhǔn)網(wǎng)絡(luò)主要是由16個(gè)倒置瓶頸卷積模塊、2個(gè)Conv卷積層、1個(gè)全局平均池化層和1個(gè)全連接層組成。其中倒置瓶頸卷積模塊中又包含深度可分離卷積、批處理歸一化、Swish激活函數(shù)以及通道注意力模塊。

2.2 基于殘差結(jié)構(gòu)的 EfficientNet 模型改進(jìn)

神經(jīng)網(wǎng)絡(luò)在一般情況下呈現(xiàn)網(wǎng)絡(luò)越深，模型效果也會(huì)更好的現(xiàn)象，但是隨著網(wǎng)絡(luò)深度的不斷增加，梯度消失和梯度爆炸問(wèn)題也隨之而來(lái)。He[4]等人提出的殘差結(jié)構(gòu)網(wǎng)絡(luò)有效的解決了上述兩個(gè)梯度問(wèn)題以及網(wǎng)絡(luò)性能的退化問(wèn)題。因此本文采用殘差結(jié)構(gòu)去優(yōu)化網(wǎng)絡(luò)，保證網(wǎng)絡(luò)深度的同時(shí)，又可以減少梯度帶來(lái)的問(wèn)題，更好地提取特征信息，提升網(wǎng)絡(luò)性能。

本文采用3x3的卷積核來(lái)改進(jìn)殘差結(jié)構(gòu)，更強(qiáng)的提取病灶區(qū)域在低層中的表征信息。改進(jìn)后的EfficientNet-B4的整體網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示，其中不同的顏色代表著不同的階段。

3.1 實(shí)驗(yàn)環(huán)境與數(shù)據(jù)集

實(shí)驗(yàn)所采取的數(shù)據(jù)為某醫(yī)院皮膚科提供，并出具相應(yīng)診斷信息。數(shù)據(jù)集中使用 HE 染色制成病理切片，經(jīng)全切片數(shù)字掃描儀放大 40 倍后制成的無(wú)損數(shù)字病理圖像。

3.2 評(píng)價(jià)指標(biāo)

在分類階段本文采用準(zhǔn)確率（ACC）、靈敏度（sensitivity）和特異性（specificity）作為評(píng)價(jià)指標(biāo)，三者計(jì)算公式如下所示。

但是由于測(cè)試集采取的方法是用整張病理圖像分塊去測(cè)，因而四種皮膚腫瘤的測(cè)試集數(shù)目并不一致，所以模型研究的準(zhǔn)確率等于模型靈敏度。因此模型的評(píng)價(jià)指標(biāo)增加一個(gè)F1分?jǐn)?shù)，其公式如式（4）所示。

3.3 實(shí)驗(yàn)結(jié)果及分析

分類模型的實(shí)驗(yàn)結(jié)果如表1所示。可以看出，本文提出的模型分類準(zhǔn)確率最高，模型的特異性、靈敏度與F1分?jǐn)?shù)也占據(jù)優(yōu)勢(shì)。

結(jié)束語(yǔ)

本文以四類皮膚腫瘤的組織病理圖像為研究對(duì)象，在分類階段分析了不同模型對(duì)于分類的影響，得到最優(yōu)的模型EfficientNet-B4網(wǎng)絡(luò)并進(jìn)行改進(jìn)，同時(shí)選擇不同的優(yōu)化器進(jìn)行實(shí)驗(yàn)對(duì)比分析，最終得出模型最優(yōu)的改進(jìn)方式為EfficientNet-B4網(wǎng)絡(luò)與殘差結(jié)構(gòu)相結(jié)合并選用Adam作為優(yōu)化器。本文提出的研究方法與原始EfficientNet-B4模型相比，在速度相近的情況下其準(zhǔn)確率與靈敏度提高了2.5%，特異性提高了0.6%。

實(shí)驗(yàn)結(jié)果表明，所提出的模型是適合于多分類皮膚腫瘤組織病理圖像的，但該模型的大小以及速度并不具備優(yōu)勢(shì)。在之后的研究中將進(jìn)一步對(duì)網(wǎng)絡(luò)進(jìn)行優(yōu)化，增強(qiáng)網(wǎng)絡(luò)分類準(zhǔn)確率的同時(shí)縮短訓(xùn)練時(shí)間。

參考文獻(xiàn)：

唐志銘，傅宏陽(yáng)，荊夢(mèng)晴等.皮膚鏡在皮膚腫瘤診斷中的應(yīng)用[J].皮膚病與性病，2021，43（03）：352-354+361.

LeCun Y， Bengio Y， Hinton G. Deep learning[J]. Nature， 2015， 521（7553）：436–444.

Tan M， Le Q. EfficientNet： Rethinking model scaling for convolutional neural networks[C]//Proceedings of the 36th International Conference on Machine Learning. New York：PMLR， 2019：6105-6114.

He K，Zhang X，Ren S，et al.Deep Residual Learning for Image Recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. New York： IEEE， 2016： 770-778.

作者簡(jiǎn)介：賈夢(mèng)菊（1994—），女，漢族，沈陽(yáng)工業(yè)大學(xué)信息科學(xué)與工程學(xué)院碩士，主要從事圖像處理、智能信息處理方面的研究。