修剪型神經網絡在錨桿錨固缺陷識別中的應用

孫曉云， 吳世星， 韓 廣， 田 軍， 成 琦(.石家莊鐵道大學 電氣與電子工程學院，石家莊 050043；.河北省發展與改革委員會，石家莊 050043)

錨桿錨固技術能夠充分挖掘巖土自身能量，調用巖土的自身強度和自穩能力，起到加固和支護圍巖的作用，加之其能夠減輕結構自重、節省工程材料、減少場地面積等優點，錨桿錨固技術在國內外得到了快速發展。但是，錨桿錨固施工技術具有高度隱蔽性，使得很難發現其質量問題，一旦出現質量問題將會造成人員和財產的巨大損失。因此，識別錨桿錨固是否有缺陷及缺陷類型成為了檢測錨桿錨固質量的一項重要任務。

傳統的錨桿錨固質量檢測方法有拉拔試驗法[1-2]和取芯法[3]，它們耗時費力，具有破壞性。而無損檢測技術的研究彌補了傳統檢測方法的不足，成為了現階段檢測錨桿錨固質量的一大發展趨勢。Thurner[4]提出利用超聲波檢測錨桿，但超聲波法激發條件苛刻、衰減速度很快，只適用于短錨桿，難以適用于種類繁多，長度較長的錨桿。汪明武等[5-7]通過錨桿錨固室內模型和現場試驗的無損檢測，提出了聲頻應力波法，它的工作核心是錨固段長度的測定和系統參數的設定。李義等[8-9]，以一維彈性桿的振動理論為基礎，提出了應力波反射法，該方法基本滿足錨桿施工安全檢測及錨桿支護優化的要求。但是它對底端反射信號不能很好識別。以上方法存在著許多影響因素， 如：敲擊頻率、自由段長度、注漿密實度等，因此，很難根據實測曲線判斷錨桿錨固質量。針對以上不足本文采用修剪型神經網絡判斷錨桿錨固質量，并對其進行缺陷識別。從采集的錨桿信號中提取特征值作為人工神經網絡的輸入，通過網絡訓練、測試對錨桿錨固質量進行智能化分類，從而判斷出錨桿錨固質量的缺陷類型。

近年來，研究者們提出一些修剪型神經網絡算法。Le等[10]提出了一種早期的神經網絡剪枝算法：最優腦損傷(Optimal Brain Damage,OBD)算法，該算法是通過計算各個權值對網絡誤差的特征值，刪除特征值最小的權值，實現網絡結構的簡化。但該算法的不足之處在于，每次剪之前都要完整的訓練一次神經網絡，這樣不僅會降低算法的效率，而且還需要大量的計算時間。在OBD的基礎上Hassibi等[11]提出了一種最優腦外科結構(OBS),這種模型利用修改Hessian矩陣的方法對神經網絡的誤差函數進行調整，該算法可以同時修剪幾個權值，還可以對剩余的神經元參數進行修正，但是該算法的不足之處是，Hessian矩陣及其求逆的過程需要耗費大量的時間。李倩等[12]基于遺傳算法和局部搜索算法，提出了混合剪枝算法，該算法在尋優能力，簡化網絡結構，保證網絡穩定性方面具有明顯的優勢，適合大規模的神經網絡結構優化問題。Philippe等[13]提出了基于敏感度分析(SA)的修剪型神經網絡。利用神經網絡輸出值的敏感度分析，確定隱含層神經元對輸出神經元的貢獻，刪除貢獻較小的隱含層神經元，從而達到簡化網絡結構。喬俊飛等[14]提出一種快速修剪算法其實質是求取隱含層神經元對神經網絡輸出的靈敏度。根據各神經元的靈敏度，按照一定的準則削減冗余神經元，獲得緊湊的神經網絡結構。

本文針對不同缺陷類型的錨桿錨固提出了一種自適應閾值前饋神經網絡修剪算法對其缺陷進行分類識別。以錨桿錨固加速度信號的特征值作為樣本數據，利用顯著性指數判斷隱含層神經元對網絡輸出的貢獻值大小，通過自適應調節網絡閾值，調整網絡結構，對樣本進行分類識別。實驗分析表明：該算法能夠優化網絡結構，提高網絡性能并且能夠準確的識別出錨桿錨固的缺陷類型，提高錨桿錨固的識別精度。

本文結構如下：

(1) 主要介紹了錨桿錨固模型和數據采集及特征值提取。

(2) 修剪型網絡結構設計，主要介紹了前饋神經網絡、BP算法以及自適應閾值的設定。

(3) 實驗分析，用設計好的網絡模型對采集的錨桿錨固數據進行訓練測試，對錨桿錨固缺陷進行分類識別。采用工程案例對此算法做了進一步驗證。

1 錨桿錨固數據采集及特征提取

1.1 錨桿錨固模型

帶錨固體的錨桿分為三部分：錨頭、自由段和錨固段。本實驗室已完成的錨桿錨固模型：2 m的正常的加固錨桿模型和2 m的帶缺陷的錨桿模型，其錨固段所選用的水泥漿材料是由砂、42.5號符合硅酸鹽水泥、水按比例為4∶2∶1混合而成的，樁體外殼是由直徑0.2 m的PVC管包裹。兩類錨桿的自由段長度為1 m，螺紋鋼直徑為0.02 m，錨固段長度為1 m，澆筑段直徑為0.2 m，缺陷錨桿的缺陷段長度為0.2 m，直徑為0.1 m。錨桿錨固的實物模型如圖1所示。

圖1 加固錨桿實物模型

1.2 數據采集及特征提取

為了識別出不同缺陷類型的錨桿錨固，本文基于ANSYS-DYNA有限元分析軟件模擬出常見的四種類型的錨桿錨固：正常加固錨桿、長度欠長加固錨桿、長度過長加固錨桿、帶空洞的加固錨桿。首先，建立好有限元網格模型后，設置采樣頻率為20 kHz，用小錘激勵信號對錨桿的錨頭進行敲擊，并由安裝在自由端端頭的加速度傳感器接收錨桿頂端加速度曲線。由于不同狀態下錨桿錨固的加速度反射信號所攜帶的能量是不相同的，利用小波包分解將反射信號分解到不同的頻帶，這些不同的頻帶所對應的能量值作為系統的特征向量。

利用小波包分解對加速度信號進行特征提取過程：①對四種類型的加速度信號進行3層小波包分解，得到各層的低頻信號和高頻信號;②對四種信號從低頻到高頻的各個節點的小波系數進行重構,計算各重構信號的能量;③構造特征向量并將其歸一化處理。

根據以上步驟將得到的8維特征能量作為自組織神經網絡的輸入，錨桿缺陷類型作為輸出，錨桿缺陷類型的期望輸出采用“n中取1”法即輸入被識別為哪一類時，輸出就對應取為1，其余為0。如表1所示。

表1 缺陷類型的期望輸出表

2 自適應閾值修剪型網絡結構設計

2.1 前饋神經網絡

前饋神經網絡各神經元從輸入層開始，接收前一級輸入，并輸入到下一級，直至輸出層，整個網絡中無反饋。一般前饋神經網絡有三層組成即：輸入層、隱含層、輸出層。不同層神經元之間由權值相連接，而隱含層神經元的節點數由問題的復雜程度來決定。三層神經網絡結構圖,如圖2所示。

圖2 三層神經網絡結構

輸入層神經元個數為m個，隱含層神經元個數為n個，輸出層神經元個數為k個，輸入層與隱含層神經元之間的連接權值用w表示，隱含層與輸出層神經元之間的連接權值用v表示。隱含層的輸入是輸入層的輸出與對應權值乘積的加權和。同理，輸出層的輸入是隱含層的輸出值與隱含層與輸出層之間對應權值乘積的加權和。隱含層的激活函數采用sigmiod函數，輸出層采用線性函數。

2.2 BP算法

圖2三層神經網絡，其正向傳播過程：

輸入層：輸入函數取線性函數，則第i個神經元輸出為

ti=xi

(1)

隱含層：激活函數采用的sigmiod函數，其第j個神經元的輸出為

(2)

輸出層：激活函數采用的線性函數則第k個神經元的輸出為

(3)

若神經網絡輸出y與期望值z不一致,則誤差函數為e=z-y。通過梯度下降法調整權值使誤差函數絕對值達到最小。

神經網絡的訓練指標為

(4)

由梯度下降法得Δv(k)的變化量為

(5)

權值v(k)更新可表示為

v(k+1)=v(k)-ηΔv(k)

(6)

其中η為學習率

同理可得輸入層與隱含層神經元權值Δw(k)的變化量

(7)

其中

(8)

權值w(k)更新表示如下

w(k+1)=w(k)-ηΔw(k)

(9)

BP神經網絡是神經網絡的主要模型之一，但是它在使用之前需要事先確定網絡結構，而神經網絡的結構關系著網絡的性能，網絡結構復雜，將會出現冗余節點，導致網絡泛化能力降低。修剪型神經網絡不用事先確定網絡結構，它可以根據問題的復雜度動態地調整網絡結構，減少網絡冗余節點，提高識別精度。

2.3 自適應閾值前饋神經網絡修剪算法

修剪算法[15]是一種在線調整神經網絡結構(如圖3所示)，刪除網絡中多余的神經元個數，有效的解決了網絡中由于神經元過多而出現的過擬合問題，是一種將復雜結構簡單化的算法。

圖中虛線所連接的神經元是對網絡輸出貢獻值較小的，在刪減過程中該神經元和其連接權值將被刪除。由公式表示刪減過程中網絡權值的變化如下

刪減前連接權值

(10)

刪減后連接權值

(11)

結合圖和公式可以看出隱含層第2號和第4號節點對網絡的輸出貢獻值少，在刪減過程中該節點和其連接權值都被刪除。由神經網絡的輸出公式(3)可知隱含層神經元對網絡輸出的貢獻值不僅與隱含層神經元的輸出有關，還與隱含層和輸出層之間的連接權值有關。因此，本文提出利用隱含層神經元節點輸出的顯著性來判斷該節點的重要性。將式(3)擴展可得以下公式

圖3 修剪型神經網絡

(12)

(13)

(14)

式中：SIj表示第j個隱含層神經元顯著性指數；n表示隱含層神經元的個數。

刪減過程中，隱含層的節點數和顯著性指數是不斷變化的，則刪減閾值的設定應根據顯著性指數和隱含層節點個數的變化自適應調整，因此可將刪減閾值表示為

(15)

如果GSIjPth，表明隱含層第j個節點對整個網絡輸出的貢獻值較大，不刪除，當隱含層所有節點的全局顯著性指數都大于閾值時，刪減結束。

3 實驗設計

3.1 實驗分析

首先，對由ANSYS-DYNA有限元模擬的四種錨桿錨固類型進行數據采集，對四種類型的錨桿錨固分別采集50組加速度信號，其次，對采集到的200組數據用小波提取能量的方法對其加速度信號進行特征提取，最后，隨機抽取160組數據用于訓練，剩余的40組數據用于測試。給定一個有足夠隱含層節點的神經網絡，根據錨桿的樣本數據，設置其輸入層神經元個數為8，輸出層神經元個數為4，用BP神經網絡對數據進行訓練，根據顯著性判斷隱含層神經元對網絡輸出貢獻值大小并刪除網絡中貢獻值小的節點。其中學習率為η=0.15，訓練過程中隱含層節點個數變化曲線如圖4所示。

圖4 隱含層神經元個數變化曲線

Fig.4 The change curve of the number of neurons in the hidden layer

隱含層神經元全局顯著性變化曲線圖5所示。

網絡訓練過程中閾值變化曲線如圖6所示。

圖5 隱含層神經元全局顯著性曲線圖

圖6 刪減閾值變化曲線圖

網絡訓練過程中誤差變化曲線如圖7所示。

圖7 網絡訓練誤差曲線圖

從圖4隱含層神經元個數變化曲線看出經過神經網絡修剪算法，隱含層結點個數呈下降趨勢并最終達到穩定，實現了網絡結構簡單化。

刪減閾值的設定影響網絡的最終性能，因此，選擇合適的網絡閾值是十分的重要的，通過改進閾值，使得刪減閾值隨著隱含層節點個數的變化和顯著性的變化實現動態調整。本文主要從自適應閾值和固定閾值、自適應修剪型網絡和固定網絡進行了比較分析，比較結果如表2、表3所示。

表2 自適應閾值和固定閾值對比結果

對比結果表明：從隱含層節點個數、誤差值和識別率中自適應閾值在錨桿錨固缺陷識別中都優于固定閾值。

固定網絡結構和自適應修剪型網絡結構對比效果如表3所示。

表3 網絡結構對比結果

表2和3對比結果表明：在對錨桿錨固缺陷識別中修剪型神經網絡在網絡結構和錨桿識別精度上都優于一般神經網絡。

3.2 工程案例驗證

表4為某隧道[16]錨固工程中14根錨桿采用質量動測法時加速度由小波包分析得到的各頻帶的能量分布；對采集到的錨桿錨固加速度信號進行3層小波包分解，其中，(3,0)～(3,7)表示由小波包分解得到的第三層低頻到高頻的8個頻段，將其頻段下的能量值歸一化后作為神經網絡的輸入信號。由拉拔試驗測得：對14根錨桿進行測試，其中前10根錨桿中，第9號錨桿在施加荷載至50 kN時，拔出錨桿，其低頻成分信號能量變大，期望輸出為(0,1)，表示為不合格；其余9根錨桿的輸出為(1,0)，表示為合格。根據前10根錨桿測得的結果，將其分為正常錨桿和缺陷錨桿兩類。樣本集1～10號錨桿作為訓練樣本，11～14號錨桿作為測試樣本，根據前10根錨桿的已知屬性來進行判斷和分類如表4所示。

表4 加速度各頻帶能量的分布

由于加速度頻帶能量值較大，在使用前需對其進行歸一化處理，將歸一化后的前10根錨桿數據作為自適應閾值前饋修剪型網絡的訓練樣本，用待判別的后4根錨桿數據作為測試樣本，并將測得的結果和前10根錨桿期望輸出作比較判斷其為正常錨桿還是缺陷錨桿。自適應閾值前饋修剪型網絡預測得的結果和前人用BP網絡預測的結果作對比，結果如表5所示。

表5 網絡結構預測對比結果

測得的輸出值幾乎都為(1,0)，所以后4根錨桿均為正常錨桿。與文獻[16]中BP神經網絡預測值對比準確度更高，分類效果更好。通過誤差比較，修剪型神經網絡的誤差值明顯降低，因此，修剪型神經網絡對錨桿錨固的識別效果更高，精度更準。

本文分別從自適應閾值和固定閾值、自適應修剪型網絡和固定網絡結構對工程案例中的14組數據進行訓練和測試，對比結果如表6和表7所示。

表6 自適應閾值和固定閾值對比結果

表7 網絡結構對比結果

表6閾值比較、表7網絡結構兩個方面對比結果表明在錨桿錨固缺陷識別中自適應閾值前饋神經網絡修剪算法在訓練和測試時具有較高的識別效果和測試精度，并且能夠簡化網絡結構，刪除網絡中的冗余節點。

4 結 論

本文在研究錨桿錨固缺陷識別的基礎上，結合人工神經網絡自組織、自學習能力的特點。提出一種自適應閾值前饋神經網絡修剪算法對錨桿缺陷進行分類識別，通過模擬實驗和工程實例對該算法進行了驗證，得出以下結論：

自適應閾值修剪算法可以根據顯著性指數和隱含層節點個數的變化動態地調整網絡結構，刪除網絡中貢獻值較小的隱含層節點，提高其泛化能力。在對錨桿錨固缺陷識別中，通過從閾值和網絡結構兩面對比，自適應修剪算法識別精度更高，誤差更小。

[1] 賀若蘭, 張平, 劉寶琛. 錨桿拉拔試驗的理論和數值分析[J]. 巖土力學, 2006(增刊2): 855-859.

HE Ruolan, ZHANG Ping, LIU Baochen. Theoretical and numerical analysis of bolt pullout test[J].Rock and soil mechanics, 2006(Sup2): 855-859.

[2] 朱自強, 何現啟. 全長錨固錨桿拉拔試驗研究[J]. 探礦工程(巖土鉆掘工程), 2005(增刊1): 115-118.

ZHU Ziqiang, HE Xianqi.Study on pullout test of full size anchoring bolt[J].Exploration Engineering (Rock & Soildrilling and Tunneling),2005(Sup1): 115-118.

[3] 蔣劍雄. 在樁基檢測中低應變反射法與鉆孔取芯法的應用[J].廣西城鎮建設,2008(8):268-269.

JIANG Jianxiong. Application of low strain reflection method and drilling core method in pile foundation detection[J].Urban Construction in Guangxi, 2008(8):268-269.

[4] THUMER H F. Boltometer-instrument for non-destructive testing of grouted rock bolts[C]//2nd International Symposium onFiled Measurements in Geomachanices. Rotterdam,1988.

[5] 汪明武, 王鶴齡. 錨固質量的無損檢測技術[J].巖石力學與工程學報,2002,1(21):126-129.

WANG Mingwu, WANG Heling. Nondestructive testing technique of anchorage quality[J].Chinese Journal of Rock Mechanics and Engineering, 2002,1(21):126-129.

[6] 汪明武, 王鶴齡. 聲頻應力波在錨桿錨固狀態檢測中的應用[J].地質與勘探,1998,4(34):56-58.

WANG Mingwu, WANG Heling. The application of audio frequency stress wave in theanchoring of state detection[J]. Geology and exploration, 1998,4(34):56-58.

[7] 汪明武, 王鶴齡, 羅國煜, 等. 錨桿錨固質量無損檢測的研究[J].工程地質學報,1999,1(7):72-76.

WANG Mingwu, WANG Heling, LUO Guoyu, et al. Research on nondestructive testing of anchorage quality of anchor bolts[J].Journal of Engineering Geology, 1999,1(7):72-76.

[8] 李義, 王成. 應力反射波法檢測錨桿錨固質量的實驗研究[J].煤炭學報,2000,2(25):160-164.

LI Yi, WANG Cheng. Experimental study on the detection of anchorage quality of anchor rod by stress reflection wave method[J].China Coal Society, 2000,2(25):160-164.

[9] 王猛, 李義, 董嘉. 應力波法錨桿錨固質量無損檢測現場實驗研究[J]. 煤炭技術, 2013, 32(1): 203-204.

WANG Meng, LI Yi, DONG Jia.Field experimental study on ondestructive testing of anchorage quality of anchor bolt by stress wave method[J]. China Coal Society, 2013, 32(1): 203-204.

[10] LE C Y, DENKER J S,SOLLA S A. Optimal brain damage[C]// Advances in Neural Information Processing System.San Mateo,CA:Morgan Kauffman,1990,2:598-605.

[11] HASSIBI B, STROK D G. Second order derivativs for network pruning:optimal brain surgeon[C]// Advances in Neural Information Processing System.San Mateo,CA:Morgan Kauffman,1993,5:164-171.

[12] 李倩, 王永縣, 朱友芹.人工神經網絡混合剪枝算法.清華大學學報(自然科學版),2005,45(6):831-834.

LI Qian, WANG Yongxian, ZHU Youqin. Hybrid pruning algorithm for artificial neural network training[J].Journal of Tsinghua University(Natural Science), 2005,45(6):831-834.

[13] PHILIPPE L, ERIC F, THIERRY A M. A node pruning algorithm based on a Fourier amplitude sensitivity test method[J]. IEEE Transactions on Neural Networks, 2006, 17(2): 273-293.

[14] 喬俊飛, 李淼, 劉江. 一種神經網絡快速修剪算法[J].電子學報,2010,4(38):831-834.

QIAO Junfei, LI Miao, LIU Jiang. A fast pruning algorithm for neural networks[J]. Chinese Journal ofelectronics, 2010,4(38):831-834.

[15] 喬俊飛, 張穎. 一種多層前饋神經網絡的快速修剪算法[J].智能系統學報,2008,3(2):206-210.

QIAO Junfei, ZHANG Ying. A fast pruning algorithm for multi layer feedforward neural networks[J]. CAAI Transactions on Intelligent Systems, 2008,3(2):206-210.

[16] 許明, 張永興, 陰可. 某隧道錨桿完整性的無損檢測方法[J]. 土木工程學報,2004,5(37):78-80.

XU Ming. ZHANG Yongxing, YIN Ke. Study on nondestructive detection of bolts’ integrality in a tunnel[J]. China Civil Engineering Journal, 2004,5(37):78-80.