殘差網(wǎng)絡(luò)算法在隧道襯砌病害識別中的應(yīng)用

李夏利，焦良葆，曹雪虹，

（1.南京郵電大學(xué)通信與信息工程學(xué)院，江蘇南京 210003；2.南京工程學(xué)院信息與通信工程學(xué)院，江蘇南京 211167）

0 引言

進入21 世紀以來，我國地下工程建設(shè)蓬勃發(fā)展，大量隧道工程陸續(xù)投入運營［1-3］。隨著時間的推移，混凝土結(jié)構(gòu)常會發(fā)生惡化，導(dǎo)致各種結(jié)構(gòu)病害，如充氣空洞、脫空和排水不良導(dǎo)致的含水層等。這些病害隨時可能對繁忙的交通產(chǎn)生威脅，給社會帶來無法挽回的損失，因此隧道襯砌結(jié)構(gòu)檢測十分重要。探地雷達（Ground Penetrating Ra?dar，GPR）作為一種新興的無損檢測技術(shù)，具有定位準(zhǔn)確、速度快、使用靈活、探測精度高等特點，已被廣泛應(yīng)用于探測淺層地下未知物體［4］。Shao 等［5］提取探地雷達反射波的幅度譜特征，并使用支持向量機（SVM）分類器自動分類檢測鐵路路基道砟病害；周輝林等［6］提取探地雷達反射波的時域—小波域特征，使用SVM 分類器自動檢測高速公路淺層病害；趙勐［7］在分析鐵路路基和典型病害圖像特征的基礎(chǔ)上，提出基于二維小波分析的特征提取算法，并將算法應(yīng)用于測試樣本的病害識別，驗證了算法的有效性；廖立堅等［8］根據(jù)小波變換的反濾波突出層面和病害位置，并結(jié)合層結(jié)構(gòu)檢測方法，使用SVM 分類器自動解譯鐵路路基探地雷達圖像病害，結(jié)果表明，該算法對鐵路路基病害的提取識別率大于90%；Ristic 等［9］利用訓(xùn)練的人工神經(jīng)網(wǎng)絡(luò)（ANN）定位探地雷達圖像中的異常區(qū)域，通過搜索雙曲線圖像模式和峰值點確定反射發(fā)生位置，但是對于在探地雷達圖像中不表現(xiàn)為雙曲線特征的目標(biāo)體，該算法有效性大大降低。目前大多數(shù)識別方法是通過提取病害特征，使用SVM 分類器或模型處理探地雷達數(shù)據(jù)，最終識別分類病害，而利用殘差網(wǎng)絡(luò)實現(xiàn)病害分類的相關(guān)研究較少。

2016 年，He 等［10］提出ResNet 模型，ResNet 結(jié)構(gòu)中的殘差學(xué)習(xí)思想總體解決了訓(xùn)練更深網(wǎng)絡(luò)中存在的梯度消失或爆炸問題，較大程度地提升了分類準(zhǔn)確率。近年來，殘差網(wǎng)絡(luò)廣泛應(yīng)用于農(nóng)業(yè)、工業(yè)等領(lǐng)域。文獻［11］采用改進型殘差網(wǎng)絡(luò)進行礦井圖像分類；文獻［12］采用改進深度殘差網(wǎng)絡(luò)進行番茄病害圖像識別分類。在現(xiàn)有研究的基礎(chǔ)上，本文從準(zhǔn)確率、召回率、平均準(zhǔn)確率等方面進行評價，分析不同層數(shù)殘差網(wǎng)絡(luò)在實測數(shù)據(jù)集上的表現(xiàn)，測得ResNet-34 神經(jīng)網(wǎng)絡(luò)在隧道病害數(shù)據(jù)集上的識別率為98.9%，為隧道襯砌病害識別提供了新方法。

1 ResNet 模型簡介

ResNet 卷積神經(jīng)網(wǎng)絡(luò)又稱為深度殘差網(wǎng)絡(luò)，其通過加入殘差單元解決傳統(tǒng)Alexnet［13］、Inception［14］、NIN［15］等經(jīng)典神經(jīng)網(wǎng)絡(luò)出現(xiàn)的問題。ResNet 大幅度提高了模型檢測速度與精度，并解決了隨著網(wǎng)絡(luò)層數(shù)增加而出現(xiàn)的梯度消失或爆炸［16-18］、網(wǎng)絡(luò)衰退問題，適合應(yīng)用于實際場景中［10］。ResNet 借鑒高速網(wǎng)絡(luò)的跨層連接思想，并對其進行了改進。本文采用的是ResNet-34 網(wǎng)絡(luò)結(jié)構(gòu)，其有34 層網(wǎng)絡(luò)，包括4 個殘差模塊，每個殘差模塊都有不同的卷積層數(shù)。為避免網(wǎng)絡(luò)對初始化權(quán)重不敏感，每個卷積層后面都設(shè)有1個批處理層。ResNet-34 具體是由1 層7×7×64 大小的卷積層，16 個由3 個卷積層構(gòu)成的block 殘差模塊以及1 層全連接層構(gòu)成［19］。

1.1 ResNet 網(wǎng)絡(luò)結(jié)構(gòu)殘差學(xué)習(xí)

針對網(wǎng)絡(luò)中的堆積層結(jié)構(gòu)，假定輸入為x，期望輸出為H(x)，即H(x)是網(wǎng)絡(luò)學(xué)習(xí)到的數(shù)據(jù)特征。殘差網(wǎng)絡(luò)借助跨層連接的思想，利用多個有參網(wǎng)絡(luò)層對網(wǎng)絡(luò)輸入與輸出數(shù)據(jù)之間的殘差F(x)=H(x)-x 進行學(xué)習(xí)，其中H(x)-x 表示有參網(wǎng)絡(luò)層學(xué)習(xí)輸入與輸出之間的殘差，若神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)達到比較飽和的準(zhǔn)確率，即輸入x 近似接近于輸出H(x)，則x 為恒等映射（Identity Mapping）［10］。

殘差學(xué)習(xí)（Residual Learning）［10］的思想可表示為圖1。圖1 中右側(cè)的連接為沒有帶入任何參數(shù)的跳層連接，是將上一層或幾層的特征信息直接與本層處理后的特征信息相加，然后進行線性激活，其數(shù)學(xué)表達式為：

式中，xl為 第L 個殘 差單元 的輸 入特 征，xl+1為第L 個殘差單元的輸出特征，Wl為1 組與第L 個殘差單元相關(guān)的權(quán)重，F(xiàn)(xl?Wl)為1 個殘差函數(shù)。在ResNet 中，h(xl)=xl是恒等連接，f(*)為1 個ReLU（Recitified Linear Unit）激活函數(shù)。

1.2 恒等映射

ResNet 中的恒等映射結(jié)構(gòu)是指將當(dāng)前此層輸出直接傳入下一層網(wǎng)絡(luò)。當(dāng)網(wǎng)絡(luò)輸入與輸出通道數(shù)相同時：

式中，x 為網(wǎng)絡(luò)輸入，y 為網(wǎng)絡(luò)的期望輸出。

當(dāng)網(wǎng)絡(luò)輸入與輸出通道數(shù)不同時，有兩種恒等映射方式：一種是簡單地將x 相對y 缺失的通道直接補零使其對齊，另一種是通過使用1×1 的conv 表示W(wǎng)s映射，從而使最終輸入與輸出的通道數(shù)目相同，即：

式中，Ws為1×1 的卷積。

1.3 瓶頸結(jié)構(gòu)

為減少深度網(wǎng)絡(luò)的參數(shù)量和卷積量，可加入瓶頸結(jié)構(gòu)。其通過使用1×1 的卷積改變維度，從而使3×3 卷積的過濾器數(shù)目不受上一層輸入的影響，同時其輸出也不會對下一層模塊造成干擾，最后通過1×1 的卷積恢復(fù)特征維度，如此可節(jié)省計算時間。瓶頸結(jié)構(gòu)如圖2 所示。

Fig.1 Residual learning圖1 殘差學(xué)習(xí)

Fig.2 Bottleneck structure圖2 瓶頸結(jié)構(gòu)示意圖

2 算法改進

設(shè)計一種基于深度學(xué)習(xí)ResNet 神經(jīng)網(wǎng)絡(luò)的隧道襯砌病害識別算法，以實現(xiàn)5 種隧道襯砌病害的分類。面對多分類問題，向ResNet-34 網(wǎng)絡(luò)中加入Softmax 函數(shù)，其將多個神經(jīng)元的輸出映射到（0，1）區(qū)間內(nèi)，在多分類任務(wù)中提升了訓(xùn)練效率。同時選擇交叉熵分類損失函數(shù)與正則化損失函數(shù)，以加快網(wǎng)絡(luò)收斂速度，限制過擬合現(xiàn)象產(chǎn)生。

2.1 ResNet-34 網(wǎng)絡(luò)流程

對于輸入的1 張圖像，首先通過1 個大小為7×7，步長為2 的卷積核對其進行特征提取，圖片長寬變?yōu)樵瓉淼囊话耄黄浯屋斎氲? 個最大池化層進行特征區(qū)域劃分，即將區(qū)域中的最大值作為區(qū)域代表以降低計算量和參數(shù)數(shù)目；然后將池化后的圖像作為輸出通過16 個block 模塊，繼續(xù)進行圖像特征提取；最后將圖片輸入平均池化層和全連接層，輸出的數(shù)據(jù)特征由全連接層映射到一維向量中，并將該向量通過Softmax函數(shù)進行回歸，將分類結(jié)果以概率的方式呈現(xiàn)。

2.2 Softmax 函數(shù)

訓(xùn)練圖片經(jīng)過卷積、正則化、激活、池化處理，輸出數(shù)據(jù)特征由全連接層映射到一維向量中。該向量通過Soft?max 函數(shù)運算后將隧道襯砌病害分類結(jié)果以概率的方式呈現(xiàn)，即將全連接層輸出的特征向量轉(zhuǎn)化為指數(shù)函數(shù)，并將1個N 維的任意實數(shù)向量映射為另1 個N 維的實數(shù)向量，使向量中每個元素的值介于0～1 之間，最后對所有結(jié)果相加進行歸一化，從而以概率的形式呈現(xiàn)出來。

Softmax 計算公式如下：

式中，labels 為隧道襯砌病害圖像的標(biāo)簽；y 為1 項1×numclasses 的向量，其實際隧道襯砌病害類別標(biāo)簽對應(yīng)的位置為1，其余位置均為0，numclasses 為隧道襯砌病害圖像標(biāo)簽的分類數(shù)目；Pi為該隧道襯砌病害屬于第i 種圖像分類的概率；lossi為對應(yīng)隧道襯砌病害類別的損失函數(shù)；logitsi為輸出向量logits的第i 值。

2.3 損失函數(shù)

損失函數(shù)可用于評價模型預(yù)測值與真實值的差異程度，損失函數(shù)越好，模型的性能越佳。本文采用交叉熵［20］作為損失函數(shù)，隨著預(yù)測概率偏離實際標(biāo)簽，交叉熵損失會逐漸增加。采用權(quán)重正則化［21］計算正則損失，損失函數(shù)總體損失值為分類損失與正則損失的總和。

分類損失是指計算batch 中每個病害類型樣本的真實標(biāo)簽（labels）與病害類別預(yù)測結(jié)果（logits）之間的系數(shù)Soft?max 交叉熵，并取該矩陣的平均值。利用稀疏Softmax 交叉熵計算分類損失旨在最大程度地減少病害類別預(yù)測結(jié)果與樣本真實標(biāo)簽之間的距離，并擴大預(yù)測結(jié)果與其余錯誤類別標(biāo)簽之間的距離，從而減少重疊并提高匹配性能。交叉熵損失函數(shù)的公式如下：

式中，y 指該樣本的真實標(biāo)簽，K 為病害總類數(shù)，N 為1個batch 中的樣本數(shù)量，pi,k為第i 個樣本預(yù)測為第k 種類別的概率。

在訓(xùn)練過程中對網(wǎng)絡(luò)權(quán)重增加正則化，以保留所有特征，減少參數(shù)大小，防止過擬合現(xiàn)象并提高模型泛化性能。權(quán)重正則化損失函數(shù)的形式為：

式中，α為正則項系數(shù)，W 為網(wǎng)絡(luò)權(quán)重，θ為隧道襯砌病害類別預(yù)測值，x 為隧道襯砌病害樣本數(shù)據(jù)特征，T 為權(quán)重項數(shù)。

3 實驗方法與結(jié)果分析

為驗證基于ResNet 的隧道襯砌病害識別與分類效果，采用模擬數(shù)據(jù)與浙江翁垟隧道檢測數(shù)據(jù)為數(shù)據(jù)集進行實驗測試及相應(yīng)結(jié)果的分析與討論。

3.1 數(shù)據(jù)集制作

將數(shù)據(jù)集分為兩組，第1 組采用數(shù)值模擬方法建立數(shù)據(jù)集，采用Gprmax 探地雷達仿真軟件創(chuàng)建混凝土結(jié)構(gòu)空洞、脫空、含水層以及不密實的仿真地質(zhì)結(jié)構(gòu)模型，得到仿真探地雷達數(shù)據(jù)圖像。建立基于實測圖像的噪聲模型，根據(jù)不同深度噪聲強度不同的實際情況，對模型加入噪聲，使其更接近于實測數(shù)據(jù)。第2 組數(shù)據(jù)集為部分仿真圖像加入實際測量數(shù)據(jù)，實測數(shù)據(jù)為采用探地雷達探測出的浙經(jīng)翁垟1 號、2 號隧道圖片。

在隧道運營期，由于服役環(huán)境變化、結(jié)構(gòu)性能劣化、施工質(zhì)量差異等因素的綜合作用，隧道襯砌結(jié)構(gòu)內(nèi)部經(jīng)常會產(chǎn)生各種病害，主要包括脫空、空洞、含水層、不密實等。將模擬數(shù)據(jù)圖片按照7∶2∶1 的比例分為訓(xùn)練集、測試集與驗證集，其中訓(xùn)練集3 693 張，測試集1 051 張，驗證集531 張，圖片尺寸均為224×224。5種隧道襯砌病害圖例如圖3所示。

Fig.3 Simulated diseases圖3 模擬仿真病害

將實際測量數(shù)據(jù)圖片按照3∶1∶1 的比例分為訓(xùn)練集、測試集與驗證集。5 種隧道病害類型圖例如圖4 所示。

Fig.4 Measured diseases圖4 實測病害

3.2 數(shù)據(jù)預(yù)處理

由于設(shè)備環(huán)境等因素影響，實測數(shù)據(jù)圖片質(zhì)量較差，故首先對實測數(shù)據(jù)進行去噪處理，再提取病害區(qū)域。為使圖片數(shù)據(jù)更好地適應(yīng)模型，解決實測數(shù)據(jù)與模擬數(shù)據(jù)圖片大小不一致的問題，需要在實驗前采用數(shù)據(jù)歸一化處理將數(shù)據(jù)集圖片統(tǒng)一為224 ×224 大小。

3.3 實驗評價指標(biāo)

采用準(zhǔn)確率（Accuracy）、精確率（Precison Rate）、召回率（Recall Rate）、F1 等作為分類模型的評價指標(biāo)。

3.3.1 準(zhǔn)確率、精確率、召回率、F1

準(zhǔn)確率指預(yù)測正確的樣本數(shù)占全部預(yù)測正確樣本數(shù)的比例。

精確率指在被分類為正類別的樣本中確定為正類別的比例。

召回率指在所有正類別樣本中被正確分類為正類別的比例。

F1指精確率與召回率的加權(quán)調(diào)和平均。當(dāng)α為1 時，則Fα=F1，當(dāng)F1較高時，說明結(jié)果較為理想。公式［22］如下：

3.3.2 宏精確率、宏召回率、宏F1

宏精確率（macro-P）指在多分類問題中先分別計算出每一類別的準(zhǔn)確率，再求得的平均值，公式［22］如下：

宏召回率（macro-R）指在多分類問題中先分別計算出每一類別的召回率，再求得的平均值，公式［22］如下：

宏F1（macro-F1）指在多分類問題中先分別計算出每一類別的F1值，再求得的平均值，公式［22］如下：

3.4 實驗結(jié)果分析

本文采用不同層數(shù)ResNet 網(wǎng)絡(luò)作為ResNet-34 的對照組，訓(xùn)練完成后采用帶有GPU 的臺式機調(diào)用該模型對測試集圖片進行測試，實現(xiàn)了基于ResNet 的隧道襯砌病害識別。ResNet 各層測試結(jié)果總體如表1 所示，具體數(shù)據(jù)如表2—表9、圖5—圖8 所示。

Table 1 Comparison of experimental results表1 實驗結(jié)果對比 （%）

3.4.1 ResNet-18

ResNet-18 網(wǎng)絡(luò)的測試結(jié)果如圖5、表2、表3 所示。

Fig.5 Accuracy and loss change curve of ResNet-18 training set and validation set圖5 ResNet-18 訓(xùn)練集與驗證集準(zhǔn)確度與損失變化曲線

Table 2 Training results of first set of ResNet-18表2 ResNet-18 第1 組訓(xùn)練結(jié)果 （%）

Table 3 Training results of second set of ResNet-18表3 ResNet-18 第2 組訓(xùn)練結(jié)果 （%）

3.4.2 ResNet-34

ResNet-34 網(wǎng)絡(luò)的測試結(jié)果如圖6、表4、表5 所示。

Fig.6 Accuracy and loss change curve of ResNet-34 training set and validation set圖6 ResNet-34 訓(xùn)練集與驗證集準(zhǔn)確度與損失變化曲線

Table 4 Training results of first set of ResNet-34表4 ResNet-34 第1 組訓(xùn)練結(jié)果 （%）

Table 5 Training results of second set of ResNet-34表5 ResNet-34 第2 組訓(xùn)練結(jié)果 （%）

3.4.3 ResNet-50

ResNet-50 網(wǎng)絡(luò)的測試結(jié)果如圖7、表6、表7 所示。

Fig.7 Accuracy and loss change curve of ResNet-50 training set and validation set圖7 ResNet-50 訓(xùn)練集與驗證集準(zhǔn)確度與損失變化曲線

Table 6 Training results of first set of ResNet-50表6 ResNet-50 第1 組訓(xùn)練結(jié)果 （%）

Table 7 Training results of second set of ResNet-50表7 ResNet-50 第2 組訓(xùn)練結(jié)果 （%）

3.4.4 ResNet-101

ResNet-101 網(wǎng)絡(luò)的測試結(jié)果如圖8、表8、表9 所示。

Fig.8 Accuracy and loss change curve of ResNet-101 training set and validation set圖8 ResNet-101 訓(xùn)練集與驗證集準(zhǔn)確度與損失變化曲線

Table 8 Training results of first set of ResNet-101表8 ResNet-101 第1 組訓(xùn)練結(jié)果 （%）

Table 9 Training results of second set of ResNet-101表9 ResNet-101 第2 組訓(xùn)練結(jié)果 （%）

從上述表格和圖像中可以看出，相較于其他模型，ResNet-34 網(wǎng)絡(luò)模型具有更高的準(zhǔn)確率和更快的識別速度，滿足了對隧道襯砌病害類別進行實時檢測分類的需求。

實驗結(jié)果表明，在一定范圍內(nèi)，迭代步數(shù)與模型識別準(zhǔn)確率呈正相關(guān)。在ResNet-34 模型的實驗訓(xùn)練中共迭代10 次，每迭代1 次便對測試集圖片進行1 次測試，并記錄其準(zhǔn)確率。由圖7 可以看出，隨著迭代次數(shù)的上升，模型準(zhǔn)確率不斷升高，Loss 值不斷下降，當(dāng)?shù)螖?shù)達到7 次時，網(wǎng)絡(luò)趨近收斂，Loss 值與準(zhǔn)確率均趨于穩(wěn)定。

4 結(jié)論

本文選用一種抗干擾能力強、檢測速度快、準(zhǔn)確率高的基于ResNet 的隧道襯砌病害識別方法，通過對ResNet-34 網(wǎng)絡(luò)進行有監(jiān)督的訓(xùn)練，使其能夠準(zhǔn)確且實時地對隧道襯砌病害進行識別。驗證實驗結(jié)果表明，該方法病害識別準(zhǔn)確率高、檢測誤差小，可以滿足實際工程需求。

深度學(xué)習(xí)方法對樣本數(shù)據(jù)要求較高，目前成熟的數(shù)據(jù)庫樣本往往數(shù)以十萬甚至百萬計，大量樣本不僅可以提高模型訓(xùn)練的識別率，還可以避免機器學(xué)習(xí)中常出現(xiàn)的過擬合問題。本文嘗試建立隧道結(jié)構(gòu)病害特征圖像樣本庫，但目前數(shù)量還遠遠不夠，且樣本來源比較單一（目前主要為浙江翁垟隧道樣本），開展樣本收集整理是下一步研究任務(wù)之一。