DenseNet和SeNet融合殘差結(jié)構(gòu)的DR分類方法

宋鵬飛 吳云

摘 要：

糖尿病性視網(wǎng)膜病變（diabetic retinopathy，DR）是糖尿病在發(fā)病過(guò)程中影響視網(wǎng)膜的癥狀。針對(duì)模型下采樣過(guò)程中特征提取DR圖像微動(dòng)脈瘤等病灶區(qū)域信息丟失問(wèn)題，提出了一種DenseNet融合殘差結(jié)構(gòu)的模塊。該模塊首先連接兩個(gè)連續(xù)的dense block，然后利用殘差結(jié)構(gòu)對(duì)特征信息求和，并行融合處理特征圖像信息，以防止有效特征信息的丟失，最后殘差連接兩個(gè)含有dropout的卷積塊，抑制過(guò)擬合現(xiàn)象。針對(duì)以往卷積操作中未對(duì)病變區(qū)域的特征圖通道加權(quán)的問(wèn)題，提出了一種SeNet融合殘差結(jié)構(gòu)的模塊。該模塊首先連接SeNet，把全局平均池化和全局最大池化的特征信息相加，以提高有效通道信息的利用率，然后通過(guò)Conv1×1的殘差方式來(lái)保證特征圖信息的完整性。基于以上兩個(gè)模塊的設(shè)計(jì)，提出了一種DenseNet和SeNet融合殘差結(jié)構(gòu)的DR分類方法。該模型在APTOS2019數(shù)據(jù)集上的精確度達(dá)到89.8%，特異性達(dá)到97.0%，在Messidor-2數(shù)據(jù)集上的精確度達(dá)到78.8%，特異性達(dá)到91.9%，能夠有效地提高視網(wǎng)膜圖像病變程度的分類能力。

關(guān)鍵詞：糖尿病性視網(wǎng)膜病變；DenseNet；SeNet；殘差結(jié)構(gòu)

中圖分類號(hào)：TP391?? 文獻(xiàn)標(biāo)志碼：A??? 文章編號(hào)：1001-3695（2024）03-043-0928-05doi： 10.19734/j.issn.1001-3695.2023.06.0305

DR classification methods for DenseNet and SeNet fusion residue structures

Song Pengfeia，b， Wu Yuna，b

（a.State Key Laboratory of Public Big Data， b.College of Computer Science & Technology， Guizhou University， Guiyang 550025， China）

Abstract：

Diabetic retinopathy is the symptom of diabetes affecting the retina during the onset of diabetes. Aiming at the problem of information loss of lesion areas such as microimages during model downsampling， this paper proposed a module of DenseNet fusion residual structure. This module firstly connected two consecutive dense blocks， then sumed the feature information using the residual structure， and processed the feature image information in parallel to prevent the loss of effective feature information. Finally， the residual connected the two convolution blocks containing drop out to suppress the overfitting phenomenon. To solve the problem of the channel weighting of the feature graphs of lesion areas in previous convolution operations， this paper proposed a module of SeNet fusion residue structure. This module firstly connected SeNet， added the feature information of global average pooling and global maximum pooling to improve the utilization of effective channel information， and then ensured the integrity of feature graph information through the residual mode of conv1×1. Based on the design of the above two modules， this paper proposed a DR classification method of DenseNet and SeNet fusion residue structures. The model achieves 89.8% precision and 97.0% specificity on the APTOS2019 dataset， 78.8% accuracy and 91.9% specificity on the Messidor-2 dataset， which can effectively improve the classification ability of the degree of retinal lesions. Key words：diabetic retinopathy; DenseNet; SeNet; ResNet

0 引言

糖尿病性視網(wǎng)膜病變是糖尿病最常見(jiàn)的微血管并發(fā)癥之一，影響到約35%的糖尿病患者［1］。根據(jù)國(guó)際臨床糖尿病視網(wǎng)膜病變等級(jí)表（表1），DR的病變嚴(yán)重程度被分為了五個(gè)等級(jí)，分別是正常、輕微、中等、嚴(yán)重和增值，不同階段的DR等級(jí)［2］在醫(yī)學(xué)上具有不同的治療方式。

糖尿病視網(wǎng)膜病變?cè)诎l(fā)展過(guò)程中具有不同的癥狀與等級(jí)。病變癥狀的嚴(yán)重程度決定了等級(jí)的大小。由于人工分級(jí)是一個(gè)很費(fèi)力的過(guò)程，準(zhǔn)確率也不高，所以實(shí)現(xiàn)對(duì)DR等級(jí)自動(dòng)分類對(duì)眼部醫(yī)學(xué)領(lǐng)域具有重要意義。

早些年，隨著機(jī)器學(xué)習(xí)的興起，DR圖像自動(dòng)分級(jí)的算法主要是基于手工特征進(jìn)行分類的。

Acharya等人［3］先從眼底圖像提取血管、微動(dòng)脈瘤、滲出和出血區(qū)域，之后統(tǒng)計(jì)不同區(qū)域面積，最后使用SVM進(jìn)行分類。Sohini等人［4］直接對(duì)眼底圖像提取LBP特征，然后利用KNN算法進(jìn)行分類。May等人［5］先從眼底圖像提取血管、滲出和微動(dòng)脈瘤區(qū)域，然后對(duì)微動(dòng)脈瘤計(jì)數(shù)，計(jì)算滲出面積和血管周長(zhǎng)，最后使用人工神經(jīng)網(wǎng)絡(luò)KNN進(jìn)行分類。Qin等人［6］提出了一種改進(jìn)的深森林模型，稱為MFgcForest（多類特征提取深森林），用于糖尿病視網(wǎng)膜的多分類。然而，手工特征需要對(duì)DR圖像的血管和視盤(pán)進(jìn)行相關(guān)數(shù)據(jù)測(cè)量，存在大量誤差，并且特征提取過(guò)程中需要一定的經(jīng)驗(yàn)知識(shí)。

近年來(lái)，DR圖像自動(dòng)分類算法主要采用深度學(xué)習(xí)的算法。這種方法不需要手工特征提取，將大量的眼底圖像輸入到網(wǎng)絡(luò)中，根據(jù)標(biāo)簽值和預(yù)測(cè)值之間的誤差進(jìn)行反向傳播，自動(dòng)更新權(quán)重參數(shù)，實(shí)現(xiàn)端到端的分類。

在殘差結(jié)構(gòu)方面，徐常轉(zhuǎn)等人［7］通過(guò)融合特征圖原本的特征信息與注意力單元得到的通道信息，為微小特征增加了網(wǎng)絡(luò)的權(quán)重，再使用除操作去除特征圖中的冗余信息，得到注意力機(jī)制特征作為雙任務(wù)的輸入。殘差結(jié)構(gòu)通過(guò)短路連接引入剩余學(xué)習(xí)函數(shù)，極大地提高了模型的DR圖像分類能力。

在注意力機(jī)制方面，包括空間注意力、通道注意力和自注意力等。孫福權(quán)等人［8］提出了一種基于注意力機(jī)制的糖尿病視網(wǎng)膜病變分類算法，實(shí)現(xiàn)對(duì)視網(wǎng)膜圖像病變程度的精確分類。Zerg等人［9］提出了一個(gè)具有多尺度自注意模塊的深度學(xué)習(xí)網(wǎng)絡(luò)，將全局上下文聚合到學(xué)習(xí)特征中，用于DR圖像檢索。注意力機(jī)制通過(guò)增加關(guān)注重要區(qū)域的權(quán)重且減少非重要區(qū)域的權(quán)重，來(lái)提高DR圖像分類能力。

在DenseNet模塊方面，Christian等人［10］提出了一種新的基于自動(dòng)深度采集的基于單張彩色眼底照片的嚴(yán)重程度檢測(cè)方法。該文采用DenseNet169的編碼器來(lái)構(gòu)建一個(gè)可視化的嵌入結(jié)構(gòu)。DenseNet對(duì)于DR圖像分類領(lǐng)域具有良好的泛化性能，且計(jì)算量極少。

盡管上述各個(gè)方面對(duì)于DR圖像分類方法已取得一定的成果，但是由于DR圖像的特點(diǎn)，目前使用深度學(xué)習(xí)的DR分級(jí)診斷依舊面臨兩個(gè)重要問(wèn)題：a）DR病灶區(qū)域細(xì)微丟失而且多種病變類型容易混淆，DR多分類模型評(píng)價(jià)指標(biāo)表現(xiàn)不夠理想；b）DR通道信息處理過(guò)程中權(quán)重過(guò)大，不能高效地利用以體現(xiàn)病灶區(qū)域的通道信息。為了解決以上問(wèn)題，本文提出了一種解決DR分類問(wèn)題的模型方案。其主要貢獻(xiàn)點(diǎn)如下：

a）提出一個(gè)RDM（residual dense module）模塊，利用resi-dual結(jié)構(gòu)和dense block模塊思想，并行融合dense block和重構(gòu)的transition layer block，然后對(duì)特征信息進(jìn)行residual block提取，在保證DR分類中每一層的空間特征信息融合的同時(shí)，防止微小病灶區(qū)域特征信息的丟失。

b）提出一個(gè)RSEM（residual squeeze excitation module）模塊，在SeNet基本模塊中利用最大以及平均池化，進(jìn)行DR通道信息的壓縮與釋放，同時(shí)采用residual結(jié)構(gòu)把之前特征信息與之后特征信息有效融合，提高泛化能力的同時(shí)保證有效特征的信息。

c）在APTOS2019［11］和Messidor-2［12］兩個(gè)數(shù)據(jù)集上分別進(jìn)行五分類，驗(yàn)證本文模型的泛化能力和DR分類效果。

1 相關(guān)工作

1.1 通道注意力機(jī)制

通道注意力機(jī)制是一個(gè)基于通道的Attention模型，它通過(guò)建模各個(gè)特征通道的重要程度，然后針對(duì)不同的任務(wù)增強(qiáng)或者抑制不同的通道。SeNet通過(guò)網(wǎng)絡(luò)，根據(jù)loss學(xué)習(xí)特征權(quán)重，獲取到每個(gè)特征圖的重要程度，然后用這個(gè)重要程度給每一個(gè)特征通道賦予一個(gè)權(quán)重值，從而讓神經(jīng)網(wǎng)絡(luò)重點(diǎn)關(guān)注某些特征圖，使得有效的特征圖權(quán)重大，無(wú)效或效果小的特征圖權(quán)重小，使模型達(dá)到更好的效果。Al-Antary等人［13］為了增強(qiáng)特征表示的鑒別能力，在高級(jí)表示的基礎(chǔ)上采用多尺度注意機(jī)制。Fu等人［14］提出了一種新的端到端架構(gòu)，利用ResNet50結(jié)合通道注意（SENet）提取特征，引入疾病注意模塊來(lái)補(bǔ)充DME的疾病特定信息，可以在不額外獲取中央凹和HEs的情況下獲得更高的分級(jí)結(jié)果，降低分級(jí)成本。Xu等人［15］提出的混合注意機(jī)制包括平行空間注意機(jī)制和通道注意機(jī)制，可以提取出視網(wǎng)膜病變圖像的通道維度和空間維度中的關(guān)鍵特征，并減少背景信息對(duì)分類結(jié)果的負(fù)面影響。Nagur等人［16］提出的模型由一個(gè)預(yù)先訓(xùn)練的VGG16提取初始空間表示，從視網(wǎng)膜掃描圖像，空間注意自動(dòng)編碼器學(xué)習(xí)病變特殊潛在表示空間維度和通道注意鉸鏈神經(jīng)網(wǎng)絡(luò)，識(shí)別基于類別的鑒別特征通道維度和分類視網(wǎng)膜病變的嚴(yán)重程度。Zhao等人［17］提出了一種新的魯棒DR分級(jí)深度學(xué)習(xí)架構(gòu)，稱為SEA-Net，其中空間注意和通道注意交替進(jìn)行并相互增強(qiáng)，提高了分類性能。DR圖像分類中，融合通道注意力機(jī)制可以增加病灶區(qū)域通道的權(quán)重而抑制普通非病灶區(qū)域通道權(quán)重，通過(guò)病灶區(qū)域的關(guān)鍵特征信息產(chǎn)生較好的DR分類效果。

1.2 DenseNet

DenseNet［18］不對(duì)特征圖求元素加操作，而是通過(guò)拼接將特征圖拼接在一起，DenseNet中的卷積層知道前面每一步卷積發(fā)生了什么。DenseNet的優(yōu)勢(shì)是良好的泛化性能和極少的計(jì)算量。Cheena等人［19］提出了兩種深度學(xué)習(xí)（DL）架構(gòu)，一種結(jié)合VGG16和XGBoost類分類的混合網(wǎng)絡(luò)，以及DenseNet 121網(wǎng)絡(luò)，用于DR檢測(cè)和分類。深度學(xué)習(xí)模型的集成比任何單一貢獻(xiàn)模型都有更好的預(yù)測(cè)能力和性能。改進(jìn)的DenseNet101和ResNeXt，這兩種深度學(xué)習(xí)模型被集成用于糖尿病視網(wǎng)膜病變的檢測(cè)。DenseNet具有很好的泛化性能和較少的計(jì)算量，非常適合解決DR數(shù)據(jù)集的數(shù)據(jù)量較少且病灶類別易混淆的問(wèn)題。因此DenseNet在DR圖像分類領(lǐng)域有較大的應(yīng)用空間。

2 本文方法

2.1 模型總體結(jié)構(gòu)

在設(shè)計(jì)DR分類模型的思想方面，本文綜合考慮到網(wǎng)絡(luò)結(jié)構(gòu)、參數(shù)數(shù)量、訓(xùn)練速度和分類性能等因素，在不遷移大模型的基礎(chǔ)上，體現(xiàn)模型DR分類的高性能。模型總體結(jié)構(gòu)如圖1所示，本文用設(shè)計(jì)RSEM和RDM兩個(gè)模塊代替?zhèn)鹘y(tǒng)的卷積層，池化方式采用最大值池化。原始DR圖像經(jīng)過(guò)預(yù)處理后，圖像首先依次經(jīng)過(guò)4層RSEM模塊、RDM模塊和下采樣池化，然后再連接一層RSEM模塊、RDM模塊，連接GAP（global average pooling）層，最后連接一個(gè)５類的全連接層，在全連接層中添加 dropout（設(shè)置為0.2），為防止過(guò)擬合現(xiàn)象，激活函數(shù)采用softmax，得到DR分類結(jié)果。

DR圖像在模型中提取特征時(shí)，模型中的特征圖數(shù)量和大小如表2所示。

2.2 RDM模塊

糖尿病視網(wǎng)膜病灶圖像的特征信息在卷積操作過(guò)程中容易丟失特征信息，特別是微小病灶區(qū)域信息，對(duì)于DR圖像分類特別重要。尤其針對(duì)正常類型和輕微類別的DR圖像，人眼基本看不出區(qū)別。residual dense module（RDM）是一種基于DenseNet和ResNet［20］類型的神經(jīng)結(jié)構(gòu)的網(wǎng)絡(luò)結(jié)構(gòu)（圖2），同時(shí)從DR-VNet［21］分割模型中得到啟發(fā)。DenseNet讓網(wǎng)絡(luò)的每一層輸入變成所有前面層的疊加，然后把它的特征圖傳遞給所有接下來(lái)的網(wǎng)絡(luò)層，通過(guò)特征圖重用的方式來(lái)探索卷積層的潛能。DR病灶圖像的特征信息在卷積操作過(guò)程中容易丟失特征信息，特別是微小病灶區(qū)域信息，對(duì)于DR圖像分類特別重要。針對(duì)此問(wèn)題，重新設(shè)計(jì)residual block和transition layer，主要的作用就是高效地提取特征和增加DR模型泛化能力，防止過(guò)擬合。由此，該模塊所提出的網(wǎng)絡(luò)塊由dense block、transition layer block和residual block組成。dense block采用兩個(gè)連續(xù)的子塊順序連接，每個(gè)子塊連接BN、ReLU、conv3×3、dropout，最后利用殘差結(jié)構(gòu)與輸入特征信息拼接。transition layer block采用conv1×1對(duì)輸入特征進(jìn)行跨通道信息的交互，同時(shí)增加非線性映射次數(shù)，連接順序?yàn)锽N、ReLU、conv1×1、dropout。以上兩個(gè)并行分支特征信息相加的結(jié)果作為第二個(gè)子塊的輸入。residual block采用密集殘差方式，子塊中連續(xù)連接兩個(gè)conv3×3，進(jìn)行特征信息交互，并以特征信息加操作的方式連接輸入特征圖，連接順序?yàn)閏onv3×3、dropout、BN、ReLU、conv3×3、dropout。最后連接ReLU激活函數(shù)、BN（批處理歸一化操作），得到RDM的輸出結(jié)果。為了防止過(guò)擬合現(xiàn)象的發(fā)生，在每個(gè)卷積層之后都加入dropout（drop rate設(shè)置為0.1），隨機(jī)部分特征信息，增加模型的泛化能力。

3.5 在APTOS2019數(shù)據(jù)集上的實(shí)驗(yàn)

為了評(píng)估該方法的性能，本文使用了公開(kāi)可用的APTOS2019數(shù)據(jù)集。遵循了在文獻(xiàn)［13，29］中提到的相同設(shè)置，將數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集。在第一個(gè)評(píng)估策略中，本文應(yīng)用了提出的DR分類模型來(lái)對(duì)糖尿病視網(wǎng)膜病變圖像進(jìn)行分類。

通過(guò)圖5混淆矩陣可看出，本文模型對(duì)APTOS2019 DR分類的五個(gè)級(jí)別都能以較高概率區(qū)分。對(duì)于級(jí)別0（NO DR）、級(jí)別1（Mild）和級(jí)別2（Moderate）能夠準(zhǔn)確快速地區(qū)分且準(zhǔn)確率較高，對(duì)于比較難區(qū)分且容易錯(cuò)分的級(jí)別3（PDR）和級(jí)別4（Severe）也能夠基本區(qū)分。

通過(guò)圖6每一個(gè)類的ROC曲線及AUC面積，可以清晰地看出，本文模型在APTOS2019數(shù)據(jù)集上對(duì)于每一個(gè)類別的AUC面積都大于等于95%，每個(gè)類別分類準(zhǔn)確率以及預(yù)測(cè)概率較高。

通過(guò)圖7和8可以看出，本文模型在100個(gè)epoch以內(nèi)，模型的test loss從0.9左右伴隨train loss下滑，在0.4～0.5達(dá)到平穩(wěn)狀態(tài)，test loss不再下降，模型的test acc從0.71伴隨train acc一直上升直到0.85～0.86達(dá)到平穩(wěn)狀態(tài)，高達(dá)0.898的分類準(zhǔn)確率。

由表5看出，本文模型對(duì)比最近的其他DR分類方法。以0a61bddab956.png圖像為例，本文方法在分類精度precision（81.6%）、準(zhǔn)確率accuracy（89.8%）、特異性specificity（97.3%）、F1-score分?jǐn)?shù)（77.6%）、AUC面積 （97.2%）及參數(shù)量（7.91 M）方面，在多項(xiàng)指標(biāo)上都達(dá)到了不錯(cuò)的表現(xiàn)。

3.6 在Messidor-2數(shù)據(jù)集上的實(shí)驗(yàn)

為了驗(yàn)證本文模型的泛化能力和對(duì)其他DR分類數(shù)據(jù)集的廣泛適用性，特別在Messidor-2數(shù)據(jù)集上再次驗(yàn)證模型的高精度分類能力。模型的全部設(shè)置與在APTOS2019數(shù)據(jù)集實(shí)驗(yàn)設(shè)置相同，在所用條件不變的情況下，更能直觀體現(xiàn)模型針對(duì)DR分類問(wèn)題的完美表現(xiàn)。

通過(guò)圖9混淆矩陣可看出，本文模型對(duì)Messidor-2數(shù)據(jù)集DR分類的五個(gè)級(jí)別基本都能區(qū)分。對(duì)于級(jí)別0（NO DR）、級(jí)別3（PDR）和級(jí)別4（Severe）能夠準(zhǔn)確快速地區(qū)分且準(zhǔn)確率較高，對(duì)于比較難區(qū)分且容易錯(cuò)分的級(jí)別1（Mild）和級(jí)別2（Moderate）也能夠基本區(qū)分。

通過(guò)圖10每一個(gè)類的ROC曲線及AUC面積，可以清晰地看出，本文模型在Messidor-2數(shù)據(jù)集對(duì)于每一個(gè)類別的AUC面積都大于等于85%，分類能力優(yōu)越。并且，除了在級(jí)別1（Mild）類型的較難區(qū)分且容易混淆的圖像AUC面積等于85%外，其他類別AUC面積都在93%以上。

通過(guò)圖11和12可以看出，本文模型在100個(gè)epoch以內(nèi)，模型的test loss從1.1左右伴隨train loss下滑，在0.7左右達(dá)到平穩(wěn)狀態(tài)，test loss不再下降，模型的test acc從0.57伴隨train acc一直上升直到0.75～0.76達(dá)到平穩(wěn)狀態(tài)，最高達(dá)到0.788的分類準(zhǔn)確率。由于測(cè)試集數(shù)據(jù)量較少，acc和loss曲線出現(xiàn)振蕩現(xiàn)象，但模型分類效果提升明顯。

Messidor-2數(shù)據(jù)集相較于APTOS2019數(shù)據(jù)集，其數(shù)據(jù)量更少，模型可以學(xué)習(xí)到的圖像特征更少，圖像分類難度更大。本文模型用Messidor-2數(shù)據(jù)集驗(yàn)證模型DR分類能力，正如表6所示，分類結(jié)果也超過(guò)其他用Messidor-2數(shù)據(jù)集的模型方法。以IM002585.jpg圖像為例，本文方法在分類精度precision（81.9%）、準(zhǔn)確率accuracy（78.8%）、特異性specificity （91.9%）、F1-score分?jǐn)?shù) （71.8%）、AOC曲線及AUC面積 （93.0%）方面，都達(dá)到了很好的表現(xiàn)。

4 結(jié)束語(yǔ)

本文提出了一個(gè)解決DR多分類問(wèn)題的模型方法，該模型集中了DenseNet、SeNet、ResNet結(jié)構(gòu)的優(yōu)點(diǎn)，在模型下采樣池化過(guò)程中每一層都融合壓縮激勵(lì)模塊和通道注意力機(jī)制，同時(shí)應(yīng)用殘差多種連接方式，形成一種新型針對(duì)DR分類的模型結(jié)構(gòu)。模型在APTOS2019和Messidor-2數(shù)據(jù)集上表現(xiàn)在性能指標(biāo)遠(yuǎn)超其他DR分類模型結(jié)構(gòu)。本文模型能夠快速且準(zhǔn)確地得到分類結(jié)果，增加模型實(shí)用性，在模型參數(shù)量方面始終保持最優(yōu)化。在未來(lái)工作中，筆者將會(huì)以提高模型敏感度為基準(zhǔn)，同時(shí)保持模型其他性能指標(biāo)最優(yōu)化，全面提高DR圖像分類能力。

參考文獻(xiàn)：

［1］Paul M T，Lin Chengmao，Keil J M，et al. Novel atypical PKC inhibitors prevent vascular endothelial growth factor-induced blood-retinal barrier dysfunction ［J］. Biochemical Journal，2012，446（3）： 455-467.

［2］Shion H，Hidetoshi Y. International clinical diabetic retinopathy disease severity scale ［J］. Japanese Journal of Clinical Medicine，2010，68（Supply 9）： 228-235.

［3］Acharya U R，Lim C M，Dennis P H，et al. Computer-based detection of diabetes retinopathy stages using digital fundus images ［J］. Journal of Engineering in Medicine，2009，223（H5）： 545-553.

［4］Sohini R，Dara D K，Keshab K P. DREAM： diabetic retinopathy analy-sis using machine learning ［J］. IEEE Journal of Biomedical and Health Informatics，2014，18（5）： 1717-1728.

［5］May P P，Somsak C，Rapeeporn Y M D. Detection of lesions and classification of diabetic retinopathy using fundus images ［C］// Proc of International Conference on Biomedical Engineering. 2016： 1-5.

［6］Qin Xiwen，Chen Dongxue，Zhan Yichang，et al. Classification of diabetic retinopathy based on improved deep forest model ［J］. Biome-dical Signal Processing and Control，2023，79（Part1）： 104020.

［7］徐常轉(zhuǎn)，吳云，藍(lán)林，等. 融合注意力機(jī)制與多任務(wù)學(xué)習(xí)的DR分級(jí)模型 ［J］. 計(jì)算機(jī)工程與應(yīng)用，2021，57（24）： 212-218. （Xu Changzhuan，Wu Yun，Lan Lin，et al. DR classification model of fusing attention mechanism and multi-tasking learning ［J］. Computer Engineering and Application，2021，57（24）： 212-218.）

［8］孫福權(quán)，鄒彭，崔志清，等. 基于注意力機(jī)制的糖尿病視網(wǎng)膜病變分類算法 ［J］. 計(jì)算機(jī)科學(xué)，2022，49（S2）： 377-381. （Sun Fuquan，Zou Peng，Cui Zhiqing，et al. Classification algorithm for diabetic retinopathy based on attention mechanism ［J］. Computer Science，2022，49（S2）： 377-381.）

［9］Zeng Ming，F(xiàn)ang Jiansheng，Miao Hanpei，et al. A multi-scale self-attention network for diabetic retinopathy retrieval ［C］// Proc of the 4th International Conference on Control and Computer Vision. 2021： 101-106.

［10］Christian S，Sergey I，Vincent V. Inception-v4，Inception-ResNet and the impact of residual connections on learning ［C］//Proc of AAAI Conference on Artificial Intelligence. 2017： 4278-4284.

［11］Aravind Eye Hospital. APTOS 2019 blindness detection Kaggle （EB/OL）. （2020-07-20）. https：//www. aptos2019-blindness-detection.

［12］Michael D A，James C F，Han D P，et al. Automated analysis of retinal images for detection of referable diabetic retinopathy ［J］. JAMA Ophthalmology，2013，131（3）： 351-357.

［13］Al-Antary M T，Yasmine A. Multi-scale attention network for diabetic retinopathy classification［J］. IEEE Access，2021，9： 54190-54200.

［14］Fu Yinghua，Lu Xin，Zhang Ge，et al. Automatic grading of diabetic macular edema based on end-to-end network ［J］. Expert Systems with Applications，2023，213（PartA）： 118835.

［15］Xu Lianghui，Wang Liejun，Cheng Shuli，et al. MHANet： a hybrid attention mechanism for retinal diseases classification ［J］. PLoS One，2021，16（12）： e0261285.

［16］Nagur S S，Teja K C. Hinge attention network： a joint model for diabetic retinopathy severity grading ［J］. Applied Intelligence，2022，52（13）： 15105-15121.

［17］Zhao Ziyuan，Kartik C，Zeng Zeng，et al. Sea-Net： squeeze-and-excitation attention net for diabetic retinopathy grading ［C］//Proc of IEEE International Conference on Image Processing. 2020： 2496-2500.

［18］Gao Huang，Zhuang Liu，Kilian Q W，et al. Densely connected convolutional networks ［EB/OL］. （2018）.https：//arxiv.org/abs/1608. 06993.

［19］Cheena M，Sakuntala M，Biswaranjan A，et al. Using deep learning architectures for detection and classification of diabetic retinopathy ［J］. Sensors （Basel），2023，23（12）： 5726.

［20］He Kaiming，Zhang Xiangyu，Ren Shaoqing，et al. Deep residual learning for image recognition ［C］//Proc of International Conference on Computer Vision and Pattern Recognition. 2016： 770-778.

［21］Ali K，Rozenn D，Donal J S. DR-VNet： retinal vessel segmentation via dense residual UNet ［C］//Proc of International Conference on Pattern Recognition and Artificial Intelligence.2022： 198-210.

［22］Mark V G，Bram V G，Carel B H，et al. Fast convolutional neural network training using selective data sampling： application to hemorrhage detection in color fundus images ［J］. IEEE Trans on Medical Imaging，2016，35（5）： 1273-1284.

［23］José I O，Elena P，Mariana D F，et al. Learning to detect red lesions in fundus photographs： an ensemble approach based on deep learning ［EB/OL］. （2017）. https：//arxiv.org/abs/1706. 03008.

［24］Christian S，Liu Wei，Jia Yangqing，et al. Going deeper with convolutions ［C］//Proc of Computer Vision and Pattern Recognition. 2015： 1-9.

［25］Andrew G H，Zhu Menglong，Chen Bo，et al. MobileNets： efficient convolutional neural networks for mobile vision applications ［EB/OL］. （2017）. https：//arxiv.org/abs/1704. 04861.

［26］Karen S，Andrew Z.Very deep convolutional networks for large-scale ima-ge recognition［EB/OL］.（2014）.https：//arxiv.org/abs/1409.1556.

［27］Bodapati J D，Veeranjaneyulu N，Shareef S N，et al. Blended multi-modal deep convNet features for diabetic retinopathy severity prediction ［J］. Electronics，2020，9（6）： 914.

［28］Sara H K，Peyman H K，Reza K，et al. Diabetic retinopathy classification using a modified Xception architecture ［C］//Proc of International Symposium on Signal Processing and Information Technology.2019：1-6.

［29］Islam M，Abdulrazak L F，Nahiduzzaman M，et al. Applying supervised contrastive learning for the detection of diabetic retinopathy and its severity levels from fundus images ［J］. Computers in Biology and Medicine，2022，146： 105602.

［30］Mohammad D A. Texture attention network for diabetic retinopathy classification ［J］. IEEE Access，2022，10： 55522-55532.

［31］Mohamed M F，Mariam F，Amr T A. Automatic severity classification of diabetic retinopathy based on DenseNet and convolutional block attention module ［J］. IEEE Access，2022，10： 38299-38308.

［32］趙爽，穆鴿，趙文華，等. 基于特征融合網(wǎng)絡(luò)的糖尿病視網(wǎng)膜病變分類 ［J］. 激光與光電子學(xué)進(jìn)展，2023，60（14）： 308-314. （Zhao Shuang，Mu Ge，Zhao Wenhua，et al. Classification of diabetic retinopathy based on a feature-fusion network ［J］. Laser & Optoelectronics Progress，2023，60（14）： 308-314.）

［33］Shankar K，Zhang Yizhuo，Liu Yiwei，et al. Hyperparameter tuning deep learning for diabetic retinopathy fundus image classification ［J］. IEEE Access，2020，8： 118164-118173.

［34］Shanthi T，Sabeenian R S. Modified AlexNet architecture for classification of diabetic retinopathy images ［J］. Computers & Electrical Engineering，2019，76： 56-64.