基于無監督學習卷積神經網絡的振動信號模態參數識別

方 寧，周 宇，葉慶衛，李玉剛

(寧波大學 信息科學與工程學院，浙江 寧波 315211) (*通信作者電子郵箱zhouyu@nbu.edu.cn)

基于無監督學習卷積神經網絡的振動信號模態參數識別

方 寧，周 宇*，葉慶衛，李玉剛

(寧波大學 信息科學與工程學院，浙江 寧波 315211) (*通信作者電子郵箱zhouyu@nbu.edu.cn)

針對現有的時域模態參數識別方法大多存在難定階和抗噪性差的問題，提出一種無監督學習的卷積神經網絡(CNN)的振動信號模態識別方法。該算法在卷積神經網絡的基礎上進行改進。首先，將應用于二維圖像處理的卷積神經網絡改成處理一維信號的卷積神經網絡，其中輸入層改成待提取模態參數的振動信號集合，中間層改成若干一維卷積層、抽樣層，輸出層得到的為信號對應的N階模態參數集合；然后，在誤差評估中，對網絡計算結果(N階模態參數集)進行振動信號重構；最后，將重構信號和輸入信號之間差的平方和作為網絡學習誤差，使得網絡變成無監督學習網絡，避免模態參數提取算法的定階難題。實驗結果表明，當所構建的卷積神經網絡應用于模態參數提取時，與隨機子空間識別(SSI)算法及其局部線性嵌入(LLE)算法對比，在噪聲干擾下，構建的卷積神經網絡識別精度要高于SSI算法與LLE算法，具有抗噪聲強、避免了定階難題的優點。

卷積神經網絡；模態參數；無監督學習；學習誤差；隨機子空間識別；局部線性嵌入

0 引言

振動信號的模態參數識別是大型結構健康監測和結構損傷探測領域振動檢測技術的核心，日益成為一種有效而實用的故障診斷和安全檢測方法。目前工程中常用的環境激勵下模態參數識別方法[1-4]有時域法(依式時域法(Ibrahim Time Domain, ITD)、隨機子空間識別(Stochastic Subspace Identification, SSI)算法、稀疏時域法(Spare Time Domain, STD)、隨機減量法等)、頻域法(最小二乘圓擬合法、Levy法、正交多項式擬合法等)和時頻分析法。現存的一些時域方法也存在著一定的缺點, 比如在實測響應信號中常常包含噪聲,所識別的模態中除了系統模態外,還包含噪聲模態。如何甄別和剔除噪聲模態,以及合理的模型定階等問題,一直是時域法研究中的重要課題。隨著各種現代信號處理技術的不斷涌現,為研究結構模態參數識別提供了新的思路[5]。如文獻[6]以流行學習為理論，從提取結構的幾何或固有特征出發，以系統結構的響應數據為分析對象，提出一種利用局部線性嵌入(Locally Linear Embedding, LLE)的模態識別方法。

國內外的許多研究表明,現代信號處理技術如人工神經網絡能夠應用到環境激勵下的結構參數識別中,文獻[7]提出的基于線性神經網絡的自回歸滑動平均模型(Auto-Regressive and Moving Average Model, ARMA)提取模態參數方法,具有很強的抗噪性，并且具有很高識別精度, 但線性神經網絡在確定網絡輸出權重時存在穩態失調誤差和收斂速度相矛盾的問題；文獻[8]提出BP神經網絡非參數化模型代替ARMA模型的參數化模型來進行結構物理參數抽取,但BP神經網絡存在學習速度慢、易陷入極值等問題；文獻[9]提出的基于連續小波變換和反向傳播神經網絡的模態參數辨識方法,在信號的采樣時間很短的時候也能夠準確識別各階模態，實用性較強，并體現出一定的抗噪能力。由于在信號幅度的突變處延拓信號的質量較差給阻尼比的估計帶來一定影響。從提取模態參數消耗的時間來看,信噪比越低，訓練神經網絡所需要的時間越長。

卷積神經網絡(Convolutional Neural Network, CNN)是人工神經網絡的一種，已成為當前語音分析[10]和圖像識別領域[11-12]的熱點。卷積神經網絡已廣泛應用于特征學習中。如謝智歌等[13]提出基于卷積-自動編碼機的三維形狀特征學習，根據卷積神經網絡與自動編碼機的兩者結合，結合兩者的優點，具有訓練速度快、表達能力強等良好性質，自動編碼機是一種無監督的神經網絡，但是自動編碼機的神經元可以有效地可視化，在加上卷積特征映射階段之后，神經元的可視化方法并沒有那么直接。

為了解決自動編碼機與卷積神經網絡過程中的結構復雜的問題，本文提出無監督學習卷積神經網絡的模態參數提取方法。在原有卷積神經網絡的基礎上，將輸入改為一維振動信號的網絡，通過多核卷積運算把一維的時序信號映射到合適的高維空間，有效地去分離信號模態特征、去除時間相關性；并且為了避免模態參數定階，在訓練網絡過程中將反向傳播的誤差改為計算輸出模態參數重構相加得到的復原信號與輸入信號之間的誤差，使構建的卷積神經網絡為無監督學習的網絡，并同傳統的時域方法SSI和流行學習的LLE算法進行了實驗對比。

1 經典卷積神經網絡

CNN是一種結構簡單的多層感知器，是一種為圖像處理而特別設計的一種人工神經網絡，卷積神經網網絡的結構不同于其他網絡的兩大突出特點：稀疏連接和權重共享。稀疏連接和共享權重帶來的直接好處是減少網絡各層之間的連接，降低網絡復雜度，同時又降低了過擬合的風險，主要應用于特征提取和識別研究[14-15]。網絡由輸入層、卷積層、采樣層和輸出層組成。如圖1所示。

圖1 卷積神經網絡結構

卷積神經網絡權重更新執行的是導師訓練學習方法，網絡的學習過程包含前向傳播階段和后向傳播過程，卷積神經網絡的訓練過程[16]如下。

1.1 前向傳播階段

1)卷積層的前向傳播。

(1)

2)采樣層的前向傳播。

(2)

1.2 反向傳播階段

通過計算前向傳播階段得到的實際輸出O與理想的輸出Y之間的平均誤差代價函數E，通過反向傳播誤差進行修正權重和偏置，分為三個步驟：反向傳播求殘差、梯度計算和修正權重和偏置過程，修正權重和偏置的公式：

(3)

其中：w為現有權重，w′為修正后的權重，b為現有偏置，b′為修正后的偏置。

1)卷積層的反向傳播。卷積層的殘差計算公式為：

(4)

(5)

卷積層梯度計算：

(6)

2)采樣層的反向傳播。采樣層的殘差計算公式為：

(7)

采樣層梯度計算：

(8)

3)輸出層的殘差計算公式：

(9)

其中：tL為理想輸出，yL為全連接得到實際輸出，將輸出層部的殘差δL通過式(7)傳遞到采樣層，再將采樣層的殘差經過式(4)得到卷積層的殘差，依次進行反向傳遞。將式(6)和(8)代入到式(3)中進行權重和偏置的修正。

2 無監督學習卷積神經網絡的構建

一般粘性阻尼系統的多模態振動信號模型表達式為：

(10)

其中：gk(t)為單模態信號，單模態信號的表達式為：gk(t)=ake-λktcos(ωkt+φk);M為模態個數。(ak,λk,ωk,φk)為第k階模態參數，其中ak為振型系數，λk為衰減系數，ωk為主頻率，φk為初始相位。

對有阻尼結果的自由衰減振動才成立，為了提取式(10)中的各階模態參數{(a1,λ1,ω1,φ1),(a2,λ2,ω2,φ2),…,(aM,λM,ωM,φM)}，使用卷積神經網絡改進算法，如圖2所示為無監督學習卷積神經網絡結構。

圖2 無監督學習卷積神經網絡結構

2.1 改進卷積神經網絡的前向傳播過程

將原輸入為二維信號的網絡改成輸入為一維振動信號f(t)，經過CNN中的卷積層C1,C3和采樣層S2,S4后得到的輸出為各階模態參數。如圖3為一維信號的卷積神經網絡前向傳播過程。

圖3 一維信號的卷積神經網絡前向傳播過程

改進后CNN網絡卷積層和采樣層的前向傳播過程如下。

卷積層輸出為：

(11)

使用均值采樣，采樣層輸出為：

(12)

2.2 改進卷積神經網絡的反向傳播過程

用各階模態參數通過單模態振動信號公式重構各階單模態振動信號，分別為g1(t),g2(t),…,gM(t),表達式為：

(13)

其中：k=1,2，…,M。將重構的單模態振動信號gk(t)相加得到復原振動信號F(t)為：

(14)

通過計算復原信號F(t)與輸入振動信號f(t)之間的誤差，通過BP學習算法進行反向傳播誤差不斷調整權值。

根據現有網絡卷積層的殘差計算式(4)可得到一維振動信號的神經網絡的殘差計算公式為：

(15)

卷積層梯度計算：

(16)

根據式(7)可以得到一維信號的網絡采樣層的殘差為:

(17)

采樣層梯度計算公式為：

(18)

輸出層誤差為：

(19)

其中B為信號采樣點的集合。輸出層的殘差公式為：

(20)

改進的卷積神經網絡提取振動信號模態參數具體流程如圖4所示。

圖4 改進的卷積神經網絡提取模態參數流程

3 實驗驗證

3.1 實驗數據集

在實驗中使用Matlab作為仿真工具進行計算，實際振動信號使用多模態振動信號，因此在仿真過程中使用多模態振動信號進行訓練和測試。根據式(10)表達式，在a=-1:0.1:2,λ=0.1:-0.001:0.001,ω=1:0.1:6,φ=0:0.05:0.5中分別自由選取組合的多模態振動信號中隨機選取1 250條，其中1 000條作為訓練集T1，另外250條作為測試集T2。實際振動信號測量過程中的實驗儀器的頻率一般為50Hz,所以仿真過程中對振動信號的采樣頻率選為100Hz。

3.2 實驗結果與分析

假設測試集T2中的一個三模態仿真信號x0(t)，其具有較低的頻率成分，與大橋斜拉索頻率接近，仿真信號為:

x0(t)=0.5e-0.012tcos(1.8t+0.25)+ 1.2e-0.019tcos(1.4t+0.1)- 0.6e-0.025tcos(2.6t+0.05)

(21)

由理論計算得到該振動信號的固有頻率分別為w1=0.287，w2=0.223，w3=0.414；阻尼比分別為ξ1=0.041 8,ξ2=0.085 2 ,ξ3=0.060 4；模態振型分別為Ω1=0.5，Ω2=1.2，Ω3=-0.6。

根據表1可以得到結論：一維振動信號的改進卷積神經網絡能準確提取振動信號的模態參數，識別精度較高。在實際信號的采集和測量過程中振動信號會出現噪聲的干擾，所以為了驗證本文提出的算法的實際意義，在下面仿真實驗中，討論噪聲強度和網絡迭代次數的取值對一維卷積神經網絡提取精度的影響。

表1 本文算法模態識別結果

3.2.1 噪聲強度對頻率提取的影響

在測試卷積神經網絡的過程中測試集由振動信號加上白噪聲組成，選取迭代次數10，訓練集為1 000的網絡進行實驗。實驗結果如圖5所示，在圖中可以看到信噪比(Signal-to-NoiseRatio,SNR)在0～50dB變化，隨著SNR的變化，頻率平均相對誤差基本上都在0.6%附近變化。根據實驗結果可以得出結論：頻率的平均相對誤差基本不隨著噪聲強度的變化而變化，所以卷積神經網絡的抗噪性強，提取出的模態參數準確，受噪聲的影響小。

圖5 頻率平均相對誤差與噪聲強度SNR的關系

3.2.2 迭代次數對頻率提取的影響

在卷積神經網絡的訓練過程中，實驗結果會受迭代次數的影響，所以為了保證數據的準確性，選取訓練集為1 000，噪聲強度SNR=20的網絡進行實驗。實驗結果如圖6所示，通過圖可以看出頻率誤差隨著迭代次數的增加而減小，在迭代次數為10次的時候頻率誤差達到穩定值，在迭代次數較小的情況下，頻率誤差幅度較大，此時數據的隨機性比較大，所以在訓練卷積神經網絡的過程中，要綜合訓練速度和準確率來選擇合適的迭代次數。

圖6 頻率平均相對誤差與迭代次數N的關系

綜合上述實驗結果，可以得出結論：訓練出的卷積神經網絡除了保證提取模態參數的準確性，另一方面還要保證訓練速度，要選擇合適的迭代次數才能得到穩定的網絡，這就是本文的關鍵。

3.2.3 與時域識別算法對比分析

將通過不斷訓練得到的一維信號的卷積神經網絡提取模態參數法與環境振動模態參數時域識別方法中的隨機子空間法(SSI)與局部線性嵌入(LLE)算法進行對比。結果如圖7所示。

由圖7可以看出：SSI算法識別頻率的精度隨著信噪比的增加而增加，SSI算法在信噪比在16 dB時識別頻率的精度跟卷積神經網絡方法識別的精度差不多，SSI方法表現出來的是對噪聲敏感；同時LLE算法在噪聲干擾大的時候提取精度低于本文算法；而相反的是卷積神經網絡法識別的頻率平均相對誤差一直保持穩定值，表現出很強的抗噪性，識別精度受噪聲干擾小。

3.3 實例應用

用本文算法對實際采集的振動信號進行模態參數提取，工程數據來自寧波斜拉索大橋，如圖8。大橋全長67 m,由102根直徑0.15 m拉索構成支撐系統；用WS-ZHT2振動設備及雙傳感器采集振動信號，雙傳感器安裝在拉索和梁端的鉸支部位，能有效感應索-梁耦合的拉索振動。

圖7 卷積神經網絡方法與SSI和LLE方法對比

圖8 斜拉索大橋

根據振動設備及傳感器采集的振動信號，取其中一條，波形圖如圖9所示，可看到采集的振動信號受噪聲干擾。使用本文算法和時域法中的隨機子空間識別法(SSI)、局部線性嵌入算法(LLE)分別對其進行模態參數提取。使用本文算法的實驗參數設為振動信號采樣頻率為100 Hz，訓練數為1 000的訓練集，網絡迭代次數為10次，通過訓練網絡，測試集得到的實驗結果與環境振動模態參數時域識別方法中的隨機子空間識別法(SSI)和LLE算法進行比較。

圖9 斜拉索大橋振動信號

由表2三種方法的模態識別結果可以看出本文算法的結果要更加接近于頻率理論值(大橋管理服務有限公司提供)，提取的精度要高于SSI和LLE算法。SSI和LLE受噪聲的影響比較大，且SSI算法和LLE算法識別模態的時候需要定階、消噪處理，在實際信號處理過程中比較困難，由于卷積神經網絡是非線性映射，對噪聲不太敏感，所以提取過程稍微簡單，識別精度也高于SSI和LLE算法，在斜拉索的監測過程中進一步驗證了無監督學習卷積神經網絡的抗噪性。

表2 三種方法模態參數識別結果對比

4 結語

本文算法在卷積神經網絡的基礎上，將原用于圖像處理的神經網絡改為處理一維信號的結構，在輸出層引入無監督思想，不需要指定教師信號，避免模態參數提取算法中的定階難題。將該算法用于實際斜拉索大橋橋梁振動信號的模態參數提取，將其與SSI和LLE進行對比實驗。實驗結果表明，本文算法具有更好的抗噪性和識別精度。針對卷積神經網絡的BP方向學習存在易陷入極值的問題，使用粒子群算法進行尋優，以提高識別精度，是下一步需要深入的問題。

References)

[1] 曹樹謙，張文德，蕭龍翔.振動結構模態分析理論、實驗與應用[M].天津:天津大學出版社,2001：152-156.(CAO S Q, ZHANG W D, XIAO L X. The Theory, Experiment and Application of Structure Vibration Modal Analysis [M]. Tianjin: Tianjin University Press, 2001: 152-156.)

[2] 續秀忠,華宏星,陳兆能.基于環境激勵的模態參數辨識方法綜述[J].振動與沖擊,2002,21(3):1-5.(XU X Z, HUA H X, CHEN Z N. Review of modal identification method based on ambient excitation [J]. Journal of Vibration and Shock, 2002, 21(3): 1-5.)

[3] 秦世強,蒲黔輝,施洲.環境激勵下大型橋梁模態參數識別的一種方法[J].振動與沖擊,2012,31(2):95-100.(QIN S Q, PU Q H, SHI Z. A method of modal parameters identification using ambient vibration measurements for a large-scale bridge [J]. Journal of Vibration and Shock, 2012, 31(2): 95-100.)

[4] 單德山,李喬.橋梁結構模態參數的時頻域識別[J].橋梁建設,2015,31(2):26-31.(SHAN D S, LI Q, Model parameters of bridge structure in time-frequency domain [J]. Bridge Construction, 2015, 31(2): 26-31.)

[5] 付志超,程偉,李晶,等.一種基于神經網絡的模態參數識別方法[J].機械強度,2010,32(6):899-904.(FU Z C,CHENG W,LI J,et al.Model parameters identification via an ANN-based method [J]. Journal of Mechanical Strength, 2010, 32(6):899-904.)

[6] 白俊卿,閆桂榮,王成.利用局部線性嵌入的模態識別[J].西安交通大學學報,2013,47(1):85-89.(BAI J Q, YAN G R, WANG C. Modal identification method following locally linear embedding [J]. Journal of Xi’an Jiaotong University, 2013, 47(1): 85-89.

[7] 孫宗光,高贊明,倪一清.基于神經網絡的損傷構件及損傷程度識別[J].工程力學,2006,23(2):18-22.(SUN Z G, GAO Z M, NI Y Q. Identification of damaged members and damage extent in bridge deck by neural network [J]. Engineering Mechanics, 2006, 23(2): 18-22.)[8] 許斌,龔安蘇,賀佳,等.基于神經網絡模型的結構參數提取新方法[J].工程力學,2011,28(4):35-41.(XU B, GONG A S, HE J, et al. A novel structural parameter extraction with neural network based nonparametric model [J]. Engineering Mechanics, 2011, 28(4): 35-41.)

[9] 代煜,張建勛.基于小波變換和反向傳播網絡的模態參數辨識[J].振動與沖擊,2012,31(3):55-59.(DAI Y, ZHANG J X. Identification of modal parameters based on wavelet transform and back propagation network [J]. Journal of Vibration and Shock, 2012, 31(3): 55-59.)

[10] 張晴晴,劉勇,潘接林,等.基于卷積神經網絡的連續語音識別[J].工程科學學報,2015,37(9):1212-1217.(ZHANG Q Q, LIU Y, PAN J L, et al. Continuous speech recognition by convolutional neural networks [J]. Journal of University of Science and Technology Beijing, 2015, 37(9): 1212-1217.)

[11] DRUKI A A, SPITSYN V G. Development of sequential optimizational algorithms for object detection in images [C]// Proceedings of the 2015 International Siberian Conference on Control and Communications. Piscataway, NJ: IEEE, 2015: 21-23.

[12] 徐姍姍,劉應安,徐昇.基于卷積神經網絡的木材缺陷識別[J].山東大學學報(工學版),2013,43(2):23-28.(XU S S, LIU Y A, XU S. Wood defects recognition based on the convolutional neural network [J]. Journal of Shandong University (Engineering Science), 2013, 43(2): 23-28.)

[13] 謝智歌,王岳青,竇勇,等.基于卷積-自動編碼機的三維形狀特征學習[J].計算機輔助設計與圖形學學報,2015,27(11):2058-2064.(XIE Z G, WANG Y Q, DOU Y, et al. 3D feature learning via convolutional auto-encoder extreme learning machine [J]. Journal of Computer-Aided Design and Computer Graphics, 2015, 27(11): 2058-2064.)

[14] ABDEL-HAMID O, MOHAMED A, JIANG H, et al. Convolutional neural networks for speech recognition [J]. IEEE Transactions on Audio, Speech and Language Processing, 2014, 22(1): 1533-1545.

[15] SWIETOJANSKI P，GHOSHAL A，RENALS S. Convolutional neural networks for distant speech recognition [J]. IEEE Signal Processing Letters, 2014, 21(9): 1120-1124.

[16] BOUVRIE J. Notes on convolutional neural networks . 〖2016- 01- 25〗. https://core.ac.uk/download/pdf/86960.pdf.

This work is partially supported by the National Natural Sciences Foundation of China (61071198), the Natural Science Foundation of Zhejiang Province (LY13F010015 ), the Science and Technology Innovation Team of Zhejiang Province (2013TD21), the Scientific Research Foundation of Ningbo University (xkx11417).

FANG Ning, born in 1992, M. S. candidate. Her research interests include vibration signal processing ,deep learning.

ZHOU Yu, born in 1960, M. S., professor. His research interests include vibration signal processing, network communications, information security.

YE Qingwei, born in 1970, Ph. D., associate professor. His research interests include vibration signal processing, intelligent optimization.

LI Yugang, born in 1991, M. S. candidate. His research interests include vibration signal processing.

Modal parameter identification of vibration signal based on unsupervised learning convolutional neural network

FANG Ning, ZHOU Yu*, YE Qingwei, LI Yugang

(CollegeofInformationScienceandEngineering,NingboUniversity,NingboZhejiang315211,China)

Aiming at the problem that most of the existing time-domain modal parameter identification methods are difficult to set order and resist noise poorly, an unsupervised learning Convolution Neural Network (CNN) method for vibration signal modal identification was proposed. The proposed algorithm was improved on the basis of CNN. Firstly, the CNN applied to two-dimensional image processing was changed into the CNN to deal with one-dimensional signal. The input layer was changed into the vibration signal set of modal parameters to be extracted, and the intermediate layer was changed into several one-dimensional convolution layers, sampled layers, and output layer was the set ofN-order modal parameters corresponding to the signal. Then, in the error evaluation, the network calculation result (N-order modal parameter set) was reconstructed by the vibration signals. Finally, the squared sum of the difference between the reconstructed signal and the input signal was taken as the network learning error, which makes the network become an unsupervised learning network, and avoids the ordering problem of modal parameter extraction algorithm. The experimental results show that when the constructed CNN is applied to modal parameter extraction, compared with the Stochastic Subspace Identification (SSI) algorithm and its Local Linear Embedding (LLE) algorithm, the convolutional neural network identification accuracy is higher than that of the SSI algorithm and the LLE algorithm under noise interference. It has strong noise resistance and avoids the ordering problem.

Convolutional Neural Network (CNN); modal parameter; unsupervised learning; learning error; Stochastic Subspace Identification (SSI); Locally Linear Embedding (LLE)

2016- 08- 19;

2016- 10- 29。

國家自然科學基金資助項目(61071198)；浙江省自然科學基金資助項目(LY13F010015)；浙江省科技創新團隊資助項目(2013TD21); 寧波大學科研基金(學科項目)資助項目(xkx11417)。

方寧(1992—),女,湖北黃岡人,碩士研究生,主要研究方向:振動信號處理、深度學習; 周宇(1960—),男,山東威海人,教授,碩士,主要研究方向:振動信號處理、網絡多媒體通信、信息安全; 葉慶衛(1970—),男,浙江衢州人,副教授,博士,主要研究方向:振動信號處理、智能優化; 李玉剛(1991—),男,安徽合肥人,碩士研究生,主要研究方向:振動信號處理。

1001- 9081(2017)03- 0786- 05

10.11772/j.issn.1001- 9081.2017.03.786

TP

A