基于改進膠囊網絡的肺結節良惡性分類

摘" 要： 肺結節良惡性鑒別在肺癌早期診斷中具有重要價值，深度學習技術特別是卷積神經網絡（CNN）已成為該領域核心方法。然而，當前方法在處理肺結節大小、形狀、生長方向等特征之間的空間關系時尚顯不足，易受無關特征和噪聲干擾。膠囊網絡在處理特征空間關系和噪聲上具有獨特優勢，但原始膠囊網絡因其初始為單層卷積結構，只能處理手寫數字體等簡單圖像，因此，文中提出一種改進的膠囊網絡架構來解決上述問題。文中改進主要是對原始膠囊網絡模型的增強與擴展，融入了雙路并行卷積結構和反卷積層。并行卷積結構強化了模型對復雜圖像特征的捕獲能力，反卷積層增強了模型的空間解析力，提升了圖像局部細節的識別精度。結合兩者，改進的膠囊網絡在肺結節良惡性分類任務中展現出高效的特征捕獲能力和對噪聲的魯棒性。實驗結果表明，在LIDC?IDRI標準數據集上，文中提出模型的各項性能指標優于現有方法，精確率達到了95.70%，特異性達到了98.58%，同時AUC高達97.98%。

關鍵詞： 深度學習； 醫學圖像； 圖像識別； 肺結節； 良惡性； 卷積神經網絡； 多尺度卷積； 膠囊網絡

中圖分類號： TN911.73?34" " " " " " " " " " " " "文獻標識碼： A" " " " " " " " " " " "文章編號： 1004?373X（2025）03?0050?06

Improved capsule network based classification of benign

and malignant pulmonary nodules

DONG Fengwei， YAN Yang， QU Chaofan

（College of Computer Science and Technology， Changchun Normal University， Changchun 130032， China）

Abstract： The differentiation of benign and malignant pulmonary nodules is of great value in the early diagnosis of lung cancer. Deep learning technology， especially convolutional neural network （CNN）， have become the core method in this field. However， the current methods are not so incompetent in dealing with the spatial relationships among the features of the size， shape and growth direction of pulmonary nodules， and are susceptible to irrelevant features and noise interference. Capsule network has unique advantages in dealing with the space relationships among the features and eliminating the noise interference. However， the original capsule network can only process simple images such as handwritten numbers due to its initial single?layer convolutional structure. Therefore， an improved capsule network architecture is proposed. The improvement mainly involves enhancing and expanding the original capsule network model， and the model incorporates a dual?channel parallel convolution structure and deconvolutional layers. The parallel convolution structure strengthens the model′s ability to capture complex image features， while the deconvolutional layers enhance the model′s spatial resolution and improve the recognition accuracy of local image details. By combining the two， the improved capsule network demonstrates efficient feature capture ability and robustness to noise in the task of classifying benign and malignant pulmonary nodules. Experimental results show that on the standard dataset LIDC?IDRI， the performance indexes of the proposed model are superior to the existing methods， with an accuracy rate of 95.70%， a specificity of 98.58%， and an area under the curve （AUC） of 97.98%.

Keywords： deep learning; medical image; image recognition; pulmonary nodule; benign and malignant; CNN; multi?scale convolution; capsule network

0" 引" 言

2022年中國國家癌癥中心發布數據表示肺癌在我國的死亡率居于惡性腫瘤之首[1]。《柳葉刀》發表的肺癌篩查綜述指出，CT篩查可顯著降低肺癌死亡率[2]。早期肺癌檢查注重肺結節良惡性的診斷，良性肺結節呈現更均勻的紋理和密度，惡性肺結節具有不規則的形態特征[3]。目前CT閱片主要依賴于醫生的主觀判斷，相關研究發現，基于深度學習的方法可顯著提高肺結節檢測準確性和效率[4]。

現有肺結節良惡性自動分類方法分為兩種：一種是基于影像組學的方法，對圖像進行量化特征提取和分類；另一種是采用深度學習方法進行分類。前者根據需求人工提取特征，然后訓練支持向量機（Support Vector Machine， SVM）、K近鄰（K?nearest Neighbor， KNN）等傳統機器學習方法實現分類，如文獻[5]利用Gabor濾波器、多分辨率LBP（Local Binary Pattern）以及融合LBP提取結節特征以指導KNN和SVM訓練。基于影像組學方法的圖像特征提取方法由人工設計，無法對圖像進行深層次分析，而深度學習方法可自動捕捉圖像特征。文獻[6]設計了一種基于多視圖采樣的卷積神經網絡分類結構，使分類性能有所提升，但忽略了全局特征，且需要大量數據預處理操作。為了捕捉更復雜的特征，文獻[7]利用殘差網絡加強信息層間流動對肺結節進行分類，但是模型參數過多，訓練效率較低。文獻[8]在殘差網絡中引入注意力機制來預測結節惡性程度，使曲線下面積（AUC）指標有所提升，但多次池化操作造成部分特征損失。文獻[9]在拉平特征圖后，使用Transformer編碼器提取肺結節全局特征，但忽略了像素間的局部空間信息。

目前的深度學習方法在結節分類上具有一定效果，但忽視了結節大小、形狀、生長方向等特征間的復雜關聯，且易受噪聲干擾。文獻[10]設計的膠囊網絡（Capsule Network）引入了“膠囊”這一概念，使網絡能深入探索特征間關系，減弱噪聲影響，但原始膠囊網絡因其初始結構為單層卷積提取復雜特征能力較差。因此，本文對膠囊網絡進行改進，融入雙路并行卷積結構和反卷積層（Deconvolutional Layer）用于肺結節良惡性分類任務。實驗結果表明改進后的模型提升了分類精度，對惡性結節的檢出更加敏感。

1" 深度學習模型

1.1" 卷積神經網絡

卷積神經網絡（CNN）是一種深度學習模型，由卷積層、池化層和全連接層組成，其中卷積層通過卷積核提取圖像局部特征，池化層對特征下采樣以減少計算量，全連接層將特征映射到最終輸出。

1） 雙路并行卷積結構

Inception結構是一種改進的卷積神經網絡，本質是將不同尺度的卷積和池化操作組合成一個模塊，使網絡并行處理不同尺度信息從而提高特征提取能力。原始Inception結構使用的卷積核尺寸為1×1、3×3和5×5，并在卷積后進行最大池化，最后在通道維度上將特征拼接，該設計提高了網絡對不同尺度目標的識別能力[11]。為減少信息冗余，增大卷積感受視野，提升對復雜特征的提取能力，本文對Inception結構進行了改進，設計了雙路并行卷積結構，將原始Inception模塊的三層并行卷積改為兩層，并將卷積核尺寸增大為9×9。

2） 反卷積

反卷積又稱轉置卷積（Transposed Convolution），是一種特殊的卷積操作，主要用于將低維特征映射回高維空間。卷積通過卷積核在輸入數據上滑動計算重疊部分的點乘和，得到比輸入數據更小的特征圖，起到降維的作用，理論依據是統計不變性中的平移不變性（Translation Invariance），反卷積則反之，其原理是通過調整卷積核的大小、步長和填充等參數逐步增大特征圖的尺寸和復雜度。生成對抗網絡（GAN）就是應用反卷積層將輸入的隨機噪聲或低維特征轉換為高分辨率的圖像[12]。

1.2" 膠囊網絡模型

膠囊網絡基于膠囊的概念，膠囊是神經元的集合，能夠封裝特征存在的概率及其姿態參數（如位置、方向和大小）。膠囊的輸出是向量，表示特定實體的實例化參數，向量長度表示特征存在概率，而方向編碼姿態信息[13]。膠囊網絡由初始卷積層和膠囊層組成，初始卷積層用來提取低級特征。膠囊層的第一層為初級膠囊，將卷積層的特征圖轉換為膠囊形式，高級膠囊層則捕捉更抽象的特征表示。膠囊之間采用動態路由機制進行信息傳遞，通過計算子膠囊輸出向量與父膠囊預測向量的點積來確定一致性，并根據一致性確保每層膠囊將其輸出發送至下一層中合適的膠囊，此過程是迭代的，如圖1所示。

膠囊動態路由機制具體步驟如下。

1） 初始權重分配

每層的膠囊[i]為下一層的每個膠囊[j]生成一個預測向量[uji]。預測向量的計算如下：

[uji=Wijui] （1）

式中[Wij]是層[l]中膠囊[i]和層[l]+1中膠囊[j]之間的權重矩陣。

2） 計算路由系數

路由系數[cij]由一個歸一化的softmax函數確定，該函數對[bij]進行歸一化。

[cij=exp（bij）kexp（bik）] （2）

3） 預測向量加權求和

下一層的每個膠囊[j]接收來自上一層所有膠囊的預測向量的加權和：

[sj=icijuji] （3）

4） 向量的非線性激活

向量[sj]通過Squashing非線性激活函數生成膠囊[j]的最終輸出：

[vj=sj21+sj2sjsj] （4）

5） 通過一致性進行路由

[bij]根據[uji]和[vj]之間的一致性進行更新：

[bij←bij+uji?vj] （5）

這種一致性增加了與輸出膠囊的預測一致的路由系數，從而在多次迭代中對正確的路由路徑進行加強。

1.3" 改進的膠囊網絡

原始的膠囊網絡在處理特征關系與噪聲方面具有優勢，但處理具有復雜特征的肺結節圖像能力欠佳，因此，本文對膠囊網絡進行改進以更好地處理肺結節圖像。受Inception模塊啟發，本文設計了雙路并行卷積結構，將原始Inception模塊的三層并行卷積改為兩層并增大了卷積核尺寸，并用該結構代替原始膠囊網絡的初始卷積層以提取多尺度特征。此外，本文在膠囊網絡的上采樣通路中融入反卷積層以增強模型的重構能力，使經過訓練后的模型能更準確地反映結節的細節特征，改進的膠囊網絡結構如圖2所示。

輸入數據首先通過2個并行的卷積層，每個卷積層使用大小為9×9的卷積核。每個卷積層包含128個濾波器，并使用ReLU（Rectified Linear Unit）激活函數進行非線性轉變。隨后，卷積層輸出在通道維度上拼接，得到通道數為256的特征圖數組。這一步驟允許網絡同時利用兩個卷積層提取的不同特征，從而更全面地捕捉肺結節的復雜特性，稱之為雙路并行卷積結構。

隨后，膠囊層對提取的特征做進一步處理，雙路并行卷積層的輸出首先進入PrimaryCaps層，這一層將特征圖轉化為多個長度為8的膠囊，為數據進入高級膠囊層做鋪墊。PrimaryCaps層的輸出接著被傳遞給DigitCaps層，將多個長度為8的膠囊轉化為兩個長度為16的膠囊，分別代表良性和惡性兩個類別。借助動態路由算法，本層能夠計算出最終的輸出向量，并以此判定圖像屬于某一類別的概率。數據的維度變化如表1所示。

此外，網絡還對DigitCaps層的輸出進行上采樣以實現圖像重構。膠囊網絡通過引入重構損失來訓練網絡的特征提取能力，總訓練損失由分類損失和重構損失共同組成。原始膠囊網絡的上采樣通路僅采用了全連接層的簡單堆疊，無法重建擁有復雜特征的肺結節圖像，因此，本文在上采樣通路中融入了兩層反卷積層。反卷積層能夠有效地將低分辨率的特征圖轉換為高分辨率的圖像，使得肺結節圖像的重建更加準確清晰。通過這一改進，不僅能夠提高模型對肺結節圖像的識別能力，還為臨床提供了更為直觀的診斷依據，圖3為重構后的肺結節CT圖像示例。

2" 分析與討論

2.1" 數據集和預處理

本文采用LIDC?IDRI數據集[14]，它囊括胸部醫學圖像文件及其對應的醫師診斷標注，結節按惡性程度被分為5個等級。本文參考文獻[15]對結節惡性度評分進行平均計算，評分大于3判定為惡性，小于3為良性，等于3不計入參考，最終挑選出了6 691例結節，其中良性結節4 113例，惡性結節2 578例。結節圖片示例如圖4所示。

本文設計的網絡針對的是根據標注結果數據集中提取的包含肺結節區域的64×64的圖像塊，為了訓練和評估模型，將原始數據集劃分為訓練集和測試集，測試集的占比為33%。本文使用數值裁剪的方法對數據進行預處理，將HU值限制在-1 000～320范圍內，并在訓練前進行了歸一化。本文對訓練數據集做了增廣，用自定義函數控制圖像隨機平移，在每次迭代中生成新的數據批次，得到大量變體數據。

2.2" 實驗參數設定與評價指標

本文模型訓練詳細參數設置如表2所示，實驗采用Python 3.7、TensorFlow 2.4.1+Keras框架進行編程，在裝備有NVIDIA Tesla P100 GPU的機器上進行訓練與測試。

本文采用準確率（ACC）、召回率（REC）、精確率（PRE）、特異性（SPE）、[F1]值來評價模型的分類性能。

[ACC=TP+TNTP+TN+FP+FN] （6）

[REC=TPTP+FN] （7）

[PRE=TPTP+FP] （8）

[SPE=TNTN+FP] （9）

[F1=2TP2TP+FP+FN] （10）

式中：ACC表示正確區分良惡性結節的個數占總共結節個數的比例；REC表示所有惡性結節中被識別為惡性的比例；PRE表示預測為惡性結節的樣本中實際為惡性結節的比例；SPE表示所有良性結節中被識別為良性的比例；[F1]表示精確率和召回率的調和平均；TP代表真陽性；TN代表真陰性；FP代表假陽性；FN代表假陰性。

本文還引入了受試者工作特征（Receiver Operating Characteristic， ROC）曲線及其曲線下面積（Area Under the Curve， AUC）。

2.3" 實驗結果與分析

使用改進的膠囊網絡訓練和分類6 691張肺結節圖像，經過100次epoch的訓練，模型訓練集準確率達到97.50%，測試集準確率為95.70%。圖5為模型訓練圖，圖6為各模型的ROC曲線。

2.3.1" 與其他分類方法比較

為了驗證本文方法的有效性，將其與圖像分類領域中五個經典模型：VGG16、ResNet?50、InceptionV3、Vision Transformer（ViT）、原始膠囊網絡在相同數據集上進行對比，各項分類指標如表3所示。

結果顯示，本文方法在各種指標上都取得了顯著改進，本文方法準確率（ACC）為95.70%，召回率（REC）為95.94%，特異性（SPE）為98.58%，精確率（PRE）為96.02%，[F1]分數為94.60%，曲線下面積 （AUC）為 97.98%。

并行卷積結構使本文方法可以在初始階段從輸入圖像中捕獲更細致的特征，從而增強模型的正確識別能力。召回率的提高表明本文方法在減少假陰性方面的有效性，可及時避免惡性結節的遺漏。特異性和精度指標強調了模型在正確識別良性結節方面的穩健性及總體分類準確性，這歸因于反卷積增強了解碼器的能力。反卷積改進了特征重建過程，在增強分類性能的同時還提高了模型對醫學圖像復雜特征進行概括的能力。[F1]分數和AUC分別反映了模型在精確率和召回率之間的平衡性能，以及其在不同閾值設置下的一致準確性，這凸顯了并行結構和增強解碼能力的協同效應。

2.3.2" 消融實驗

本文對改進膠囊網絡的不同架構進行了比較分析，以了解每個組件的貢獻，實驗結果如表4所示。分別對比了不加入并行卷積和反卷積模塊的模型A，僅加入反卷積模塊的模型B，僅加入并行卷積模塊的模型C，用Inception模塊替換并行卷積模塊的模型D，用自注意力機制模塊替換并行卷積模塊的模型E。

本文方法對比模型A在ACC、REC和AUC上的提升突出了原始膠囊網絡在捕獲數據內部特征關系方面的局限性。模型B在大多數指標上較A有輕微提升，但較本文方法在ACC、REC和AUC上仍有劣勢，表明反卷積在增強特征重建方面的特性對分類有積極影響，但依靠反卷積不足以捕獲復雜的圖像特征。模型C在REC和PRE上的提升印證了并行卷積模塊在模型早期提取多樣化相關特征的能力，C相對于A和B的改進盡管落后于本文方法，但其表明并行卷積有積極效應，其最高效力是在與反卷積模塊結合時實現的。與A相比，D在所有指標上的性能下降表明Inception模塊不適合這個特定任務的膠囊網絡架構，原因歸結于過度參數化。E在ACC和AUC上的大幅下降歸因于注意力機制為膠囊網絡引入過多復雜性，使此模塊帶來的上下文益處并不明顯。

本文方法融合了并行卷積的強大特征提取能力與反卷積模塊的特征重建能力，從而確保了模型在捕獲廣泛相關特征的同時，能夠高效利用這些特征進行分類。這種創新性的結合在肺結節良惡性分類方面展現了卓越性能，這一優勢在各項指標中得到了充分驗證。消融研究不僅揭示了并行卷積和上傳遞卷積模塊各自對模型性能的貢獻，更突顯了它們的協同作用。

3" 結" 語

本文對膠囊網絡進行改進，在網絡中融入了雙路并行卷積結構和反卷積結構以更好地進行肺結節良惡性分類任務，這一創新設計增強了模型性能，提升了分類準確率，成功克服了其他方法在該任務上的局限性。為減少模型的過擬合現象，本文采用了數據增強技術增強模型的泛化能力，并設計對比實驗驗證模型的有效性。實驗結果表明，本文所訓練的改進型膠囊網絡模型在肺結節分類任務上表現出色，其測試準確率高達95.70%，這一成績優于VGG16、InceptionV3、ViT等主流模型，同時也超過了原始的膠囊網絡模型。

盡管膠囊網絡目前仍處于發展初期，但其在圖像分類領域的潛力已初步顯現。在未來的研究工作中將進一步聚焦于優化膠囊網絡的內部結構，或者探索將其與已有的成熟網絡模型相結合的可能性，以期在模型性能的優化上取得更為顯著的進展。

注：本文通訊作者為燕楊。

參考文獻

[1] 鄭榮壽，陳茹，韓冰峰，等.2022年中國惡性腫瘤流行情況分析[J].中華腫瘤雜志，2024，46（3）：221?231.

[2] ADAMS S J， STONE E， BALDWIN D R. Lung cancer screening [J]. Lancet， 2023， 401（10374）： 390?408.

[3] MAZZONE P J， LAM L. Evaluating the patient with a pulmonary nodule： A review [J]. The journal of the American Medical Association， 2022， 327（3）： 264?273.

[4] 張正華，蔡雅倩，韓丹，等.基于深度學習的肺結節篩檢和定性診斷分析[J].腫瘤防治研究，2020，47（4）：283?287.

[5] FARAG A A， ALI A， ELSHAZLY S， et al. Feature fusion for lung nodule classification [J]. International journal of computer assisted radiology and surgery， 2017， 12（10）： 1809?1818.

[6] SAHU P， YU D T， DASARI M， et al. A lightweight multi?section CNN for lung nodule classification and malignancy estimation [J]. IEEE journal of biomedical and health informatics， 2019， 23（3）： 960?968.

[7] NIBALI A， HE Z， WOLLERSHEIM D. Pulmonary nodule classification with deep residual networks [J]. International journal of computer assisted radiology and surgery， 2017， 12（10）： 1799?1808.

[8] AL?SHABI M， LAN B L， CHAN W Y， et al. Lung nodule classification using deep Local?Global networks [J]. International journal of computer assisted radiology and surgery， 2019， 14（10）： 1815?1819.

[9] LIU D X， LIU F H， TIE Y， et al. Res?trans networks for lung nodule classification [J]. International journal of computer assisted radiology and surgery， 2022， 17（6）： 1059?1068.

[10] SABOUR S， FROSST N， HINTON G E. Dynamic routing between capsules [J]. Advances in Neural Information Processing Systems 30 Annual Conference on Neural Information Processing Systems 2017. [S.l.： s.n.]， 2017： 3856?3866.

[11] SZEGEDY C， VANHOUCKE V， IOFFE S， et al. Rethinking the inception architecture for computer vision [C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. New York： IEEE， 2016： 2818?2826.

[12] KARRAS T， LAINE S， AILA T. A style?based generator architecture for generative adversarial networks [C]// Procee?dings of the IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. New York： IEEE， 2019： 4401?4410.

[13] ZHANG X Q， ZHAO S G. Fluorescence microscopy image classification of 2D HeLa cells based on the CapsNet neural network [J]. Medical amp; biological engineering amp; computing， 2019， 57（6）： 1187?1198.

[14] ARMATO S G， MCLENNAN G， BIDAUT L， et al. The lung image database consortium （LIDC） and image database resource initiative （IDRI）： A completed reference database of pulmonary nodules on CT scans [J]. Medical physics， 2011， 38（2）： 915?931.

[15] TANG N， WEI Z L， ZHANG R， et al. Comparative study on classification of pulmonary nodules based on multi?scale and multi?mode image [J]. Computer engineering and applications， 2020， 56（3）： 165?175.