基于遷移學習的框架結構損傷識別研究

滕 輝,康 帥,王自法,2,殷 琳

(1. 河南大學 土木建筑學院,河南 開封 475004; 2. 中震科建防災減災研究院有限公司, 廣東 韶關 512029;3. 寧波工程學院 建筑與交通工程學院,浙江 寧波 315211)

0 引言

土木結構在使用期間受外荷載影響可能會發生不同程度的損傷,這些損傷在不斷的累積下會降低結構的安全性,為了及時修復損傷確保結構的安全,對結構進行損傷檢測是必要的[1]。

當結構受損時,剛度和質量等物理特性會發生變化時,從而導致振動響應發生變化,根據這一特性部分學者提出了基于非參數(振動信號)的結構損傷識別方法[2]。趙懷山等[3]采用小波降噪和主成分分析對鋼架橋結構進行損傷識別,該方法能夠有效提取振動信號的特征信息,準確的進行結構損傷識別;任宜春等[4]對結構加速度響應進行改進的HHT分析, 通過結構響應瞬時頻率的變化判斷結構是否損傷和出現損傷的時間;劉寧等[5]通過經S變換后得到的振動信號時頻譜以及時頻譜能量對結構進行損傷識別。這些時頻域方法雖然在結構損傷識別中表現良好,但是在對數據進行處理過程中,容易使振動響應中的部分損傷特征扭曲或丟失[6]。

隨著機器學習理論不斷的發展和完善,一些學者通過機器學習模型來提取振動響應信號中的損傷特征,以此實現結構損傷識別。HAGIWARA等[7]通過利用支持向量機(SVM)從少量的傳感器中獲得詳細的損壞信息,驗證了SVM應用在結構損傷檢測的有效性;閆維明等[8]提出結合BP神經網絡采用加速度響應相關特性作為結構損傷因子的損傷識別方法,對簡支梁結構進行損傷識別,驗證了該方法的有效性。 但在應用傳統的機器模型對振動信號進行訓練時,容易出現模型訓練效率低下,產生過擬合等現象。

隨著人工智能與深度學習的發展,以卷積神經網絡(CNN)為代表深度學習模型的出現彌補上述方法的缺陷[9-10],能夠用采用更少的參數得到更好的識別效果。李書進等[11]構建了可以從結構動力反應信號中進行學習并完成分類診斷的1-D CNN和2-DCNN,并對結構進行了損傷識別,驗證了卷積神經網絡在結構損傷識別的可行性;李雪松等[12]采用卷積神經網絡提取振動響應信號中的特征,并且與傳統的經驗模態分解法和小波包變換法進行對比,驗證了卷積神經網絡模型相對傳統識別方法有更強的提取特征的能力;ZHANG等[13]提出一種基于多振動信號決策級融合和卷積神經網絡的結構損傷識別方法,對某鋼架橋梁進行了損傷識別;WANG等[14]使用時域振動響應,采用密集連接卷積神經對結構進行損傷識別,結果表明該方法有著較高的準確度和良好的魯棒性。

以往的研究表明采用卷積神經網絡模型對結構進行損傷識別有較好的識別效果,但構建并訓練出有較高準確度和良好魯棒性的卷積神經網絡,需要對網絡模型的結構和超參數進行不斷調整,直至到達最優效果。為了節省人力成本和時間成本,本文采用貝葉斯方法對一維卷積神經網絡的結構和超參數進行了優化,并構建了基于遷移學習的ResNet-18模型[15-16],通過數值模擬數據和實驗數據分別考慮單測點數據(單通道)和多測點數據(多通道)對這兩種模型進行訓練,并對損傷識別結果進行對比分析。通過在數據集中加入高斯噪聲,根據預測結果分析兩種模型的抗噪性。

1 深度學習理論

1.1 卷積神經網絡基本原理

完整的卷積神經網絡包括輸入層、卷積層、池化層、全連接層和分類輸出層,卷積神經網絡結構如圖1所示。其中卷積層和池化層為核心網絡層,卷積層具有局部感知和權值共享等特性,可以降低卷積神經網絡模型的計算參數,提高模型的計算效率。卷積層通過卷積運算對上一層網絡輸出的數據進行特征提取,隨著卷積層數量的增加,網絡模型可以提取更為復雜的數據特征。

圖1 卷積神經網絡示意圖 圖2 卷積運算示意圖

卷積層的卷積運算是通過卷積核矩陣與輸入數據上的感受野窗口矩陣對應位置相乘再求和,再將求和后的數據返回到輸出矩陣中,一維卷積運算過程見圖2。在進行卷積運算時一般卷積核按照從上到下來進行計算,卷積核的大小和個數,卷積步長,卷積運算前是否對數據進行填充這些稱為卷積神經網絡的超參數,是由網絡設計者根據自己需求進行設置。

池化層的設置可以有效過濾冗余而保留特征值,提高計算的效率。池化層常用的兩種池化方式分別為最大值池化和均值池化,最大值池化是將卷積運算后的子矩陣中最大值提取出來,最大值池化用來過濾像素中無用的信息,均值池化是將卷積運算后的子矩陣中所有數據求平均值將平均值作為結果,平均池化可以防止高維信息丟掉太多。

數據輸入網絡后,經過多次卷積和池化提取數據特征,通過全連接層將這些特征值展平為一維向量,將一維向量輸入softmax層計算損傷數據與標簽對應的概率,將概率最大值視為預測結果。全連接層在神經網絡種主要起到整合池化層中提取的重要特征信息,其每層神經元都與上一層神經元相連接,連接處都有一個權重來計算特征的重要程度。

1.2 遷移學習

遷移學習是把在某個任務中學習到的知識,遷移到目標任務中,使目標任務能夠取得更好的學習效果。核心思想是將已通過大量數據訓練的網絡模型遷移到目標任務中進行訓練和預測,其原理如下[17]:用D={λ,P(X)}表示域,其中λ和P(X)表示特征空間和邊概率分布,用T={y,f(x)}表示該域的任務,其中:y和f(x)表示標記空間和目標預測函數。給定一個基于Dt(目標域)的學習任務Tt,從Ds(源域)中獲得學習任務Ts的幫助,通過發現和轉移Ds和Ts的潛在知識來提高學習任務Tt的預測函數f(x)的性能。

在遷移學習過程中需保持模型的網絡結構不變,然后載入在預訓練模型中訓練好的權重與參數,通過改變輸入層和輸出層尺寸使結構的振動響應數據輸入模型進行訓練和預測。最后對模型的部分超參數進行微調,并將采集到的結構響應數據輸入模型進行訓練和預測。

1.3 貝葉斯超參數優化

貝葉斯優化是一種全局優化算法,可用于求解表達式未知的函數的極值問題[18]。在訓練機器學習模型時,需要不斷調整模型的超參數使模型能夠得到最優解,這一過程可抽象為函數極值問題,其變量為模型的超參數,函數值為機器學習模型的性能指標如準確率和預測速度等。因此,可以通過貝葉斯算法自動對機器學習模型的超參數進行優化,解決了人工優化耗時耗力的問題。

貝葉斯優化的思路是首先隨機產生初始化樣本點,通過樣本點對高斯過程進行估計和更新,再通過提取函數來確定新的樣本點,重復上述步驟,直至迭代終止。該優化方法能夠考慮歷史參數信息提高搜索新樣本點的效率,并且使用較少的迭代次數就能得到機器學習模型超參數的最優解。

2 數據集及深度學習網絡模型的構建

2.1 數值模型

本文采用六層鋼框架結構,首層高度為4.5 m,其余層高為3.6 m,跨度和進深均為6 m,梁和柱均采用H型鋼,截面尺寸如表1所示。結構阻尼采用瑞利阻尼,柱底固定和梁柱節點為剛接,結構平面布置如圖3所示,采用ABAQUS梁單元建模(單元類型:B31),楊氏模量為210 GPa,泊松比為0.3,密度為7 850 kg/m3。

表1 結構構件信息Table 1 Information on structural members

圖3 結構平面布置圖Fig. 3 Plane layout of the structure

為了表示結構的損傷程度,將構件的彈性模量降低來模擬損傷,例如彈性模量分別降低10%、30%和50%,代表該構件損傷程度為10%、30%和50%。為了模擬不同位置的構件損傷,將結構中某個構件的彈性模型進行折減,表示該位置構件損傷。每層選擇一個柱、橫梁和縱梁進行損傷,共設定了18種損傷位置,每個損傷位置下共有3種損傷程度,數據集共有54種損傷工況。

通過有限元方法計算出在高斯白噪激勵下的不同損傷工況下的加速度響應,每次激勵時長為16 s,采樣頻率為100 Hz,每個樣本長度為1 600,每次以0.02的步長對高斯白噪聲進行調幅,共進行30次激勵。將每層層頂設置一個測點,提取每層測點的時程加速度作為訓練樣本,單個測點共有1 620個訓練樣本,全部測點共有9 720個訓練樣本,將訓練樣本80%用于訓練,20%用于驗證和測試。

2.2 一維卷積神經網絡模型

一維卷積神經網絡模型的構建需要根據訓練集和驗證集正確率、損失值、訓練速度等因素對模型的結構和超參數進行不斷修正來確定,為了使模型能更快和更準確的識別結構損傷,本文在構建單通道(單個測點數據)和多通道(多個測點數據)一維卷積神經網絡模型時采用貝葉斯法對模型的卷積層個數、卷積核大小、學習率和正則化進行優化。在優化過程中,對模型參數范圍進行設置,其中每個卷積塊中卷積層層數范圍設定為(1,2),模型中共有三個卷積塊,卷積核大小范圍設定為(3,35),由于卷積核一般設置為奇數,故選取的卷積核大小為范圍內的奇數,學習率范圍設定為(1e-3,1e-2),正則化范圍設定為(1e-4,1e-2)。部分模型優化過程如圖4所示,所有模型優化結果見表2。

表2 網絡結構及超參數優化結果Table 2 Optimization results of network structure and hyperparameters

圖4 模型優化過程Fig. 4 Optimization process of model

2.3 基于遷移學習的ResNet-18網絡模型

殘差神經網絡(ResNet)能有效的緩解梯度消失問題[19],極大的提高了網絡模型的深度,從而提高了模型提取特征的能力。其中:ResNet-18網絡模型有良好的提取特征的能力,在分類問題上有較好的識別精度。本文將通過大量數據預訓練的ResNet-18模型遷移學習到本案例中,將遷移學習后的模型分別采用單通道(單側點數據)和多通道(多測點數據)進行訓練和預測,ResNet-18網絡結構如圖5所示。

圖5 ResNet-18網絡結構Fig. 5 Network structure of ResNet-18

3 數值算例識別結果

3.1 一維卷積神經網絡識別結果

采用頂層測點的加速度數據來構建單通道數據集,每層測點數據來構建多通道(7通道)數據集,將構建的單通道數據集和多通道數據集輸入網絡模型進行訓練并通過測試集對模型進行評估,最終識別結果見表3。由表3可知:采用多通道數據訓練出的模型正確率更高,因為多通道數據相較于單通道數據包含更多的結構損傷特征。本文因數據集相對較小而構建的一維卷積神經網絡較淺,對于損傷特征不明顯的數據容易識別錯誤,而多通道數據補充了單通道中不明顯的損傷特征從而使正確率有所提升。

表3 一維卷積神經網絡模型識別結果Table 3 Recognition results of the 1-D convolutional neural network model

3.2 基于遷移學習的ResNet-18模型識別結果

將單通道數據集和多通道數據集輸入2.3節所述的網絡模型進行訓練,訓練后通過測試集對模型進行評估,結果見表4,該模型提取損傷特征的能力較強,無論是在單通道數據的訓練下還是在多通道數據的訓練下損傷定位和損傷程度識別都可以達到100%,對比兩種模型在框架上的損傷識別結果可知:一維卷積神經網絡模型在進行訓練時用時較短,但其網絡結構相對較淺共16層,對不明顯的損傷特征無法有效的識別出來,而基于遷移學習的ResNet-18網絡模型相較于一維卷積神經網絡提取損傷特征的能力更強,在單通道數據的訓練模型正確率仍能達到100%,但該網絡較深共有71層,在進行網絡訓練時需要的訓練時間相對于一維卷積神經網絡的要更多。

表4 遷移學習的ResNet-18模型識別結果Table 4 ResNet-18 model recognition results of transfer learning

4 模型實驗驗證

4.1 實驗模型介紹

本文采用的實驗數據是來自卡塔爾大學公開的看臺結構縮尺實驗數據[20],實驗模型見圖6,尺寸為4.2 m×4.2 m,由25根填充梁和8根主梁組成,支撐在4個柱子上。8根主梁長4.6 m,懸臂部分填充長約1 m,其余填充梁長0.77 m。傳感器布置在填充梁和主梁接頭處,通過填充梁和主梁接頭(節點)處的連接螺栓來實現結構該位置損傷。在整個框架中每次損傷一個節點作為一個工況,共設置了30個損傷工況。

圖6 鋼框架看臺模型

對上述的每種工況,采用激振器對結構進行隨機振動激勵,并采集加速度信號,采樣頻率為1 024 Hz,共記錄256 s的加速度信號。將記錄的信號按照相等時長分段,每段長度為1 s,每種損傷工況一個加速度計共256個樣本,所有工況共7 680個樣本。為了分析實驗數據中通道對模型損傷識別的影響,分別建立了單通道數據集和五通道數據集。

4.2 模型識別結果

將上節所制作的數據集輸入構建的兩種模型進行訓練,并用測試集對訓練后的模型進行評估,兩種模型的識別效果見表5,在實驗數據的訓練下,遷移學習后的ResNet-18模型的識別準確率仍高于一維卷積神經網絡模型,訓練模型所需的時間仍多于一維卷積神經網絡。

無論是數值模擬數據還是實驗數據都驗證了基于遷移學習的ResNet-18模型提取特征的能力要好于一維卷積神經網絡,但在損傷特征較為明顯的多通道數據中,一維卷積神經網絡也有很好的識別效果并且訓練效率要高于基于遷移學習的ResNet-18模型。

4.3 噪聲影響下的識別結果

由于該實驗是在室內實驗室進行的,在采集振動信號時基本沒有受到噪聲影響,而在實際結構檢測中采集的振動信號不可避免會參雜各種噪聲,為了測試單通道數據集和多通道數據集訓練的兩種模型在噪聲影響下的結構損傷識別效果,分別在單通道數據集和多通道數據集中加入信噪比為1dB的噪聲,含噪聲的振動信號為[21]:

ay=awgn(a,snr,′measured′)

式中:ay為添加噪聲后的加速度信號,a為原始加速度信號,snr為信噪比。

將加入噪聲的單通道數據集和多通道數據集分別輸入一維卷積神經網絡模型和基于遷移學習的ResNet-18模型進行訓練,訓練結果見表6,由表6可以看出加噪后數據訓練的兩種模型的預測正確率都有不同程度的下降,但多通道數據訓練的模型仍然有著很高的正確率。

表6 加噪后模型的識別結果Table 6 Recognition results of the model after adding noise %

對比這兩個模型在單通道數據集和多通道數據集訓練后模型的預測結果可以看出:多通道訓練的模型和單通道訓練的模型相比有著較強的抗噪能力,對比這兩個模型的識別效果可以看出:遷移學習的ResNet-18模型的抗噪性要優于一維卷積神經網絡模型。

5 結論

本文基于振動信號構建了一維卷積神經網絡模型和結合遷移學習的ResNet-18網絡模型,采用有限元模擬數據和實驗數據分別考慮單測點數據(單通道)和多測點數據(多通道)對模型進行訓練并對預測結果進行對比分析,主要結論如下:

1)基于遷移學習ResNet-18模型和一維卷積神經網絡模型都能較為準確的進行結構損傷識別,對比兩者的訓練效率和識別精度可以得出前者有較強的提取損傷特征的能力,但由于網絡結構較深,訓練模型所需的時間較長,后者因網絡結構較淺相較于前者有較高的訓練效率,但提取特征的能力相對較弱。

2)多通道數據相對于單通道數據包含的結構損傷特征更多,訓練出的模型都有較好的識別效果,采用提取特征能力較弱的一維卷積神經網絡也能夠準確進行損傷定位和損傷程度識別。多通道訓練的模型受噪聲的影響相對較小,加入噪聲后,兩種模型仍然有較高的識別正確率。

3)基于遷移學習的ResNet-18 模型比一維卷積神經網絡模型的抗噪能力強,加入噪聲后,無論是單通道數據還是多通道數據訓練出的模型,前者的正確率均高于后者。