基于在線神經網絡算法的混合試驗方法

王 濤， 翟緒恒， 孟麗巖， 王 貞

(1. 中國地震局工程力學研究所 中國地震局地震工程與工程振動重點實驗室，哈爾濱 150080；2.黑龍江科技大學 建筑工程學院，哈爾濱 150022； 3. 哈爾濱工業大學 土木工程學院，哈爾濱 150090)

WANG Tao1,2，ZHAI Xuheng2，MENG Liyan2, WANG Zhen3

(1.Institute of Engineering Mechanics, China Earthquake Administration Key Laboratory of Earthquake Engineering and Engineering Vibration of China Earthquake Administration, Harbin 150080, China; 2. School of Civil Engineering, Heilongjiang University of Science & Technology, Harbin 150022, China; 3. School of Civil Engineering, Harbin Institute of Technology, Harbin 150090, China)

基于在線神經網絡算法的混合試驗方法

王 濤1,2， 翟緒恒2， 孟麗巖2， 王 貞3

(1. 中國地震局工程力學研究所 中國地震局地震工程與工程振動重點實驗室，哈爾濱 150080；2.黑龍江科技大學 建筑工程學院，哈爾濱 150022； 3. 哈爾濱工業大學 土木工程學院，哈爾濱 150090)

混合試驗是一種將數值模擬與物理試驗相結合的新興結構抗震試驗方法，得到了相關研究者們的廣泛關注。如何模擬具有強非線性的數值子結構仍是混合試驗亟待解決的問題。在傳統的離線神經網絡基礎上提出一種在線學習的神經網絡算法，并應用于混合試驗中來在線預測數值子結構恢復力。在線學習算法僅利用當前步的系統輸入和觀測樣本，采用遞推形式更新每一步的權值和閾值。針對兩個自由度非線性結構，分別進行了基于在線學習和離線學習神經網絡的混合試驗數值仿真。研究表明：與離線學習神經網絡算法相比，在線學習神經網絡算法具有更好的自適應性，能夠有效提高恢復力預測精度和計算效率；基于在線學習神經網絡算法的結構混合試驗方法可以提高混合試驗結果精度。

混合試驗；神經網絡；在線預測；恢復力

結構混合試驗是將試驗加載與數值模擬相結合，以較小成本來反映真實結構地震反應的一種新型試驗技術。混合試驗的數值積分算法[1-2]、加載控制[3-4]、時滯補償[5]、誤差累計[6]、網絡協同以及混合試驗平臺建設[7]等關鍵技術問題正得到國內、外研究者們的廣泛關注，并取得了較大的研究進展。

在傳統的混合試驗中，通常選取結構或構件中關鍵部分作為試驗子結構進行真實物理加載試驗，剩余部分作為數值子結構進行數值模擬。然而，對于一些大型高層建筑以及橋梁結構的混合試驗，研究者們會遇到較大的困難。受到作動器數量及試驗條件的限制，數值子結構中不可避免會包含一些模擬困難的部分，這些數值部分的模型及模型參數準確程度就會直接影響數值子結構恢復力的計算，進而影響整體混合試驗結果。因此，如何提高數值子結構恢復力的計算精度是混合試驗亟待解決的問題。

在混合試驗中，當數值子結構包含與試驗子結構的滯回性能相同構件時，可以充分利用物理加載的觀測信息來在線修正數值子結構中相應部分的數值模型或模型參數，即模型更新混合試驗方法。Kwon等[8]提出一種多個模型線性疊加的更新方法，試驗結果表明該疊加數值模型很好地復制了物理試件的性能。Hashemi等[9]將UKF應用到非線性結構混合試驗中，在線更新數值子結構Bouc-Wen模型參數，通過數值模擬和試驗驗證了模型更新試驗方法的有效性。王濤等[10-12]提出一種約束UKF算法，改進的算法可以有效減小了參數識別值前期波動幅度，提高了參數識別收斂速度和模型更新精度，并被應用到防屈曲支撐結構混合試驗中。Wu等[13]針對截面恢復力模型，進行了基于UKF的模型更新，并進行了鋼框架柱的混合試驗驗證。上述模型更新方法核心思想是基于假定模型的參數在線更新，因此參數識別效果很大程度上依賴于模型本身的準確性。神經網絡(Neural Network，NN)算法[14]不用基于系統具體的非線性數學模型，可以減少數值模型誤差所帶來的不利影響，具有更好的一般性。

近年來，研究者們將神經網絡算法應用在土木工程領域，并取得了較大的研究進展。在時滯控制系統方面，涂建維等[15]提出了采用神經網絡預測的方法來減小磁滯效應對振動控制的不利影響。根據過去時刻和當前時刻的結構響應來預測將來時刻的結構響應，有效的補償了磁滯時間，使控制效果能夠接近無磁滯效應的控制效果。周大興等[16]振動臺子結構試驗中利用神經網絡對作動器的信號進行預測，通過仿真分析驗證了方法的有效性。在結構恢復力預測方面，Yang等[17]采用變神經元BP神經網絡模擬非線性結構的恢復力模型，進而來預測結構的恢復力。Yun等[18]提出五變量的神經網絡輸入，并根據輸入變量在滯回曲線不同位置的正負號初步應用在恢復力識別中。張健[19]在此研究成果上又增加了三個輸入變量，并應用在混合試驗中預測數值子結構恢復力。

標準的NN算法采用離線學習方式，這種批量的學習方式并不適用于混合試驗中數值子結構恢復力在線預測。為了提高NN算法在線預測的精度和計算效率，本文提出一種基于在線學習方式的神經網絡算法，并應用于兩個自由度非線性結構混合試驗中，以驗證改進的NN算法性能及恢復力在線預測混合試驗方法的有效性。

1 標準NN算法預測原理

圖1 標準神經網絡原理圖Fig. 1 Schematic diagram of standard NN

圖1中系統的輸入數據X為n×N的矩陣，具體形式為

X可分別采用行向量以及列向量表示，即：

X=[x1x2…xi…xn]T=
[x1x2…xk…xN]

式中：xi=[xi1xi2…xik…xiN]為系統第i個輸入向量；xk=[x1kx2k…xik…xnk]T為系統第k個輸入樣本。

同理，系統的觀測輸出數據Y為m×N維矩陣，具體形式為

將Y分別以行向量以及列向量表示，即：

Y=[y1y2…yj…ym]T=
[y1y2…yk…yN]

式中：yj=[yj1yj2…yjk…yjN]為系統第j個輸出向量；yk=[y1ky2k…yjk…ymk]為系統第k個輸出樣本。

標準的NN算法雖然可以逼近任意非線性系統，然而當需要進行在線預測應用時就會遇到困難。標準NN算法的學習采用批量訓練，即在預測前需要已知系統所有的輸入和觀測樣本。在實際預測過程中，若無法事先獲取系統的全部樣本時，則要利用當前及之前步已有的全部樣本對初始的神經網絡進行重復訓練。這種訓練方式本質上屬于離線的學習方法，算法的計算量會隨著輸入和觀測樣本數量的逐步增加而顯著增大，計算效率隨之下降。另外值得注意的是每一步新到的樣本會被前面所有步的樣本信息逐漸湮沒，這將導致訓練算法的自適應性變差。結構混合試驗本質上是一種在線的閉環控制，試驗的每一步加載過程中只能記錄到試驗子結構當前及之前所有加載步的輸入和觀測數據。顯然，標準的神經網絡算法并不適用于數值子結構恢復力的在線預測問題，為此，針對神經網絡在學習階段出現的弊端下面將提出一種在線學習的神經網絡算法。

2 在線NN算法

在線學習算法在標準的NN算法基礎上主要進行了兩個方面改進。一是在線學習算法僅需利用當前第k步的系統輸入和觀測數據集{xk,yk}對神經網絡進行訓練，當滿足性能目標后，便得到最優的權值Wk和閾值θk。相比而言，標準的NN算法則需要采用當前第k步及之前的所有系統輸入和觀測數據集{x1,…，xk,y1,…,yk}進行訓練，可見改進算法能夠降低訓練算法的計算負荷，提高計算效率；二是在線學習算法每一步的權值Wk與閾值θk都是基于前一步網絡訓練完后的權值Wk-1與閾值θk-1進行訓練，使得權值與閾值計算具有遞推形式。這樣算法可以充分利用了前一步的訓練結果信息，提高了算法的自適應能力。相比而言，標準NN算法第k步權值Wk與閾值θk均是基于隨機的初始權值W0與閾值θ0進行迭代訓練。一個典型的三層在線神經網絡在第k步的訓練示意圖如圖2所示。

圖2 在線NN算法第步訓練示意圖Fig.2 Training diagram of online NN algorithm at step

在線NN算法的學習階段包括信號的正向傳播和誤差的反向傳播兩個過程。第k步樣本輸入后的訓練迭代過程具體如下:

(1)信號的正向傳播

隱含層的輸入Uk為所有輸入xk的加權之和，即

Uk=Wk(1)xk-θk(1)

(1)

設隱含層的激活函數為g(?)，則隱含層的輸出Vk為

Vk=g(Uk)

(2)

輸出層的輸入Zk為所有隱含層的輸出Vk加權之和，即

Zk=Wk(2)×Vk-θk(2)=Wk(2)g(Uk)-θk(2)=
Wk(2)g(Wk(1)xk-θk(1))-θk(2)

(3)

設輸出層的激活函數為h(?)，則輸出層的輸出Dk為

Dk=h(Zk)=h(Wk(2)Vk-θk(2))=
h(Wk(2)g(Wk(1)xk-θk(1))-θk(2))

(4)

(2)誤差的反向傳播

相比離線學習的NN算法，在線算法不需要記憶全部的訓練樣本，重新定義在線學習算法在第k步的目標誤差性能函數Ek設為

(5)

進行誤差反向傳播時，將目標誤差性能函數分別對各層的連接權值與閾值進行求偏導，得到當前第k步第r次迭代下的權值與閾值的改變量，進而調整第r+1次權迭代后的權值與閾值。每當信號正向輸出與期望輸出的誤差達不到目標誤差時，便開始進行權值的反向調整，如此循環下去，直至系統輸出達到預測的目標誤差要求或最高迭代次數為止。隱含層到輸出層當前權值的改變量

考慮在由元件C1、C2構成的并聯系統中，如何配置負載冗余元件R使系統可靠性更高，假設X1,X2,Y服從參數為λ1、λ2、λ的指數分布，比較以下兩個系統的壽命：

(6)

(7)

(8)

(9)

閾值的修正方法同上，此處不再闡述。

經過多次迭代后，此時計算得到的權值矩陣Wk(1)、Wk(2)和閾值矩陣θk(1)、θk(2)則為第k步的最優值，從而在線神經網絡有了即時預測的能力。當第k+1步的輸入數據與觀測樣本到來后，網絡中權值與閾值的初始值分別為前一步的Wk(1)、Wk(2)、θk(1)、θk(2)，利用目標誤差Ek+1對權值與閾值進行再次迭代，最終得到第k+1步時最優的權值矩陣Wk+1(1)、Wk+1(2)和閾值矩陣θk+1(1)、θk+1(2)，如此遞推下去，直至試驗系統樣本輸入完畢。在線BP神經網絡權值閾值遞推關系以及訓練流程示意圖分別如圖3和圖4所示。

3 基于在線NN的混合試驗方法

3.1 基于在線NN的混合試驗原理

圖3 權值與閾值遞推關系圖Fig.3 Recursive relation of weights and thresholds

圖4 在線神經網絡算法流程Fig. 4 Flow chart of online NN algorithm

圖5 基于在線NN的混合試驗模擬示意圖Fig. 5 Schematic of the hybrid testing based on online NN

3.2 基于在線NN的混合試驗仿真算例

3.2.1 試驗結構及其參數

(10)

為了驗證本文提出的基于在線NN的混合試驗方法的有效性，共進行了三個類型對比試驗，分別為：

(1)真實混合試驗，采用“Exact”表示。試驗子結構與數值子結構采用模型參數真實值，其試驗結果作為真實值。

(2)基于離線學習NN的混合試驗，采用“Offline-NN”表示。試驗子結構采用模型參數真實值，數值子結構的模型采用離線學習方式的神經網絡系統，即當前步的恢復力預測所需要的神經網絡訓練樣本為試驗子結構加載后獲取的所有輸入以及輸出真實數據。

(3)基于在線學習NN的混合試驗，采用“Online-NN”表示。試驗子結構采用模型參數真實值，數值子結構的模型采用在線學習方式的神經網絡系統，即將當前步的試驗子結構的輸入和輸出數據作為神經網絡訓練樣本來進行恢復力預測。

圖6 子結構模型示意圖Fig. 6 Skeleton of substructure model

3.2.2 選取神經網絡輸入量及結構

由于Bouc-Wen模型具有較強的非線性關系，為了能夠比較全面的模擬滯回模型，采用張健提出的八變量作為神經網絡的輸入變量，分別為uk、Rk-1uk-1、Rk-1sign(Δuk)、uk-1、Rk-1、ut、Rt和ek-1。其中，下標k為試驗加載步數；uk為結構層間位移；Rk-1為結構恢復力；ut和ft分別表示在滯回環轉折點處的位移和恢復力；ek-1=(Rk-1+Rk-2)(uk-1-uk-2)/2，ek-1表示滯回系統第k-1步的耗能；sign(Δuk)為第k步位移增量的符號函數。神經網絡結構示意圖，如圖7所示。

采用具有兩層隱含層的BP神經網絡拓撲結構，每層隱含層具有15個神經元節點，首層激活函數采用雙曲正切S型函數，二層激活函數采用對數S型函數。輸出層具有一個變量，即結構的恢復力，激活函數采用線性函數。神經網絡訓練方法選用LM-BP算法，神經網絡的訓練參數為目標函數采用均方差，Levenberg-Marquardt算法的控制因子μ為0.001，最大訓練步數為50步，目標誤差設定為10-4。

圖7 神經網絡結構示意圖Fig.7 Skeleton of NN structure

4 結果分析

為了檢驗基于在線NN與離線NN的混合試驗預測效果，圖8～圖13分別給出了三種類型試驗的數值仿真結果對比。圖中“Exact”表示真實混合試驗；“Offline-NN”表示基于離線學習NN的混合試驗；“Online-NN”表示基于離線學習NN的混合試驗。

圖8 試驗子結構位移時程曲線 Fig.8 Displacement curve of testing substructure

圖9 數值子結構位移時程曲線Fig.9 Displacement curve of numerical substructure

圖11 數值子結構恢復力時程曲線Fig.11 Restoring force curve of numerical substructure

圖12 試驗子結構滯回曲線Fig.12 Hysteretic curve of testing substructure

圖13 數值子結構滯回曲線Fig.13 Hysteretic curve of numerical substructure

圖8和圖9分別為試驗子結構和數值子結構位移時程反應，可以看出采用離線神經網絡得到的位移分別大約在5 s和7 s后開始出現偏移，并且隨著時間逐漸增大，而采用在線神經網絡得到的位移與真實混合試驗結構位移反應吻合較好。圖10和圖11分別給出了試驗子結構和數值子結構恢復力時程反應，可以看出采用離線神經網絡與在線神經網絡預測的恢復力整體上與真實結構恢復力吻合，但離線神經網絡預測的恢復力在地震動峰值附近偏差較大，誤差最大約為2 000 kN。圖12和圖13分別給出了試驗子結構和數值子結構的滯回曲線，可以看出采用離線神經網絡的試驗結果與真實反應存在很大偏差，而本文提出的在線神經網絡的試驗結果有了很大改善。圖14給出了數值子結構恢復力誤差對比，結果表明：與離線NN混合試驗相比，在線NN混合試驗數值子結構恢復力誤差明顯減小，提高了混合試驗精度。

圖14 數值子結構恢復力誤差對比Fig.14 Comparison of restoring force errors for numerical substructure

為了驗證在線NN算法的計算效率，同時記錄下基于離線NN和在線NN混合試驗數值仿真用時，分別為328.039 s和255.473 s。相對離線算法，在線神經網絡算法的計算用時縮短了22%。可見，針對樣本數量多且冗余度高的訓練集，在線NN算法較離線NN算法具有更快的訓練速度，原因在于單個樣本收斂所需的迭代次數遠小于整個訓練集的樣本同時收斂的迭代次數。即使在線算法的訓練集樣本數量大于離線算法，其訓練所需得總時間較后者也會大大減少。

另外，為了定量分析試驗預測精度，文中選用量綱1的誤差指標：相對均方根誤差(The Root Mean Square Deviation,RMSD)，數學表達式為

(12)

由于神經網絡結構參數中權值與閾值的初始值是系統在較小范圍內隨機給定的，考慮到每次仿真結果的差異性，筆者通過訓練20次后求取平均值作為預測結果。圖15給出了在線與離線算法的數值子結構恢復力預測精度對比。

由圖15可以看出, 在線NN算法全局誤差明顯小于離線NN算法，在25 s時在線算法與離線算法相對均方根誤差為0.258 61和0.331 52。結果表明：在學習同等數量的樣本條件下，在線NN算法的預測精度優于離線NN算法。

圖15 離線與在線NN算法數值子結構恢復力預測精度對比Fig.15 Comparison of prediction accuracy of offline and online NN algorithms

5 結 論

本文提出了基于在線NN算法的混合試驗方法，通過兩個自由度非線性結構混合試驗數值仿真驗證了該方法的有效性。試驗結果表明，與離線NN算法相比，在線NN算法具有更好的自適應性，能夠有效提高恢復力預測精度和計算效率；基于在線NN算法的結構混合試驗方法可以提高混合試驗結果精度。

目前，神經網絡算法在混合試驗中的應用仍然有很多方面值得深入研究：

(1)在線神經網絡雖然較離線神經網絡預測的結果有很大改善，但與結構的真實反應仍存在一定的誤差，進一步提高算法精度和計算效率仍是未來研究的重點。

(2)在線算法仍是一種基于前饋型的靜態神經網絡，利用靜態前饋網絡對動態系統進行辨識，實際上是將動態時間建模問題變為靜態建模問題，需要繼續探討動態神經網絡及其在混合試驗中的應用。

(3)神經網絡系統相對復雜，包含輸入與輸出變量的選擇、隱含層的層數以及節點個數、激活函數的選取、學習率的取值等多方面的影響因素，需進一步研究算法的魯棒性。

[1] WU B, BAO H, OU J, et al. Stability and accuracy analysis of the central difference method for real-time substructure testing[J]. Earthquake Engineering and Structural Dynamics, 2005, 34:705-718.

[2] JUNG R, SHING P, STAUFFER E, et al. Performance of a real-time pseudo dynamic test system considering nonlinear structural response[J]. Earthquake Engineering and Structural Dynamics, 2007, 36:1785-1809.

[3] 王貞. 實時混合試驗的控制和時間積分算法[D]. 哈爾濱: 哈爾濱工業大學, 2012.

[4] 曾聰,許國山,張樹偉，等. 力-位移混合控制方法在大型多功能試驗加載系統擬靜力試驗中的應用[J]. 振動與沖擊,2016,35(7):161-166. ZENG Cong, XU Guoshan, ZHANG Shuwei, et al. Application of force-displacement hybrid control rnethod in quasi-static tests of a multi-funcaional testing system[J]. Journal of Vibration and Shock, 2016, 35(7):161-166.

[5] WU B, WANG Z, BURSI O. Actuator dynamics compensation based on upper bound delay for real-time hybrid simulation [J]. Earthquake Engineering and Structural Dynamics, 2013, 42(12):1749-1765.

[6] CHANG S. Nonlinear error propagation analysis for explicit pseudo dynamic algorithm[J]. Journal of Engineering Mechanics, 2003,129(8):841-850.

[7] 楊格, 王貞, 吳斌, 等. 建筑結構混合試驗平臺HyTest開發研究[J]. 建筑結構, 2015,36(11):149-155. YANG Ge, WANG Zhen, WU Bin, et al. Development of HyTest for structural hybrid simulation[J]. Building Structures, 2015,36(11):149-155.

[8] KWON O, KAMMULA V. Model updating method for substructure pseudo-dynamic hybrid simulation[J]. Earthquake Engineering and Structural Dynamics, 2013, 42(13): 1971-1984.

[9] HASHEMI M, MASROOR A, MOSQUEDA G. Implementation of online model updating in hybrid simulation[J]. Earthquake Engineering and Structural Dynamics, 2014, 43(3): 395- 412.

[10] WU B, WANG T. Model updating with constrained unscented Kalman filter for hybrid testing[J]. Smart Structures and Systems, 2014,14(6):1105-1129.

[11] 王濤. 基于模型更新的土木結構混合試驗方法[D].哈爾濱:哈爾濱工業大學，2014.

[12] 王濤, 吳斌. 基于UKF模型更新的混合試驗方法[J]. 振動與沖擊, 2013,32(5):100-109. WANG Tao, WU Bin. Model updating for hybrid testing with unscented Kalman filter[J]. Journal of Vibration and Shock, 2013,32(5):100-109.

[13] WU B, CHEN Y S, XU G S, et al. Hybrid simulation of steel frame structures with sectional model updating[J]. Earthquake Engineering & Structural Dynamiacs, 2016, 45 (8):1251-1269.

[14] 莊鎮泉. 神經網絡與神經計算機[M]. 北京: 科學出版社. 1996.

[15] 涂建維, 戴葵, 瞿偉廉. 磁流變阻尼器的磁滯效應與神經網絡預測調整[J].華中科技大學學報(自然科學版), 2007, 35 (3): 110-112. TU Jianwei, DAI Kui, QU Weilian. Magnetic hysteresis of magnetorheological dampers and its compensation by neural network prediction[J]. Journal of Huazhong University of Science & Technology (Natural Science Edition), 2007, 35 (3): 110-112.

[16] 周大興, 閆維明,陳彥江,等.神經網絡在振動子結構試驗中的應用[J].振動與沖擊, 2011, 30 (12): 14-18. ZHOU Daxing, YAN Weiming, CHEN Yanjiang, et al. Application of neural network in real-time substructure testing with shaking table[J]. Journal of Vibration and Shock, 2011, 30 (12): 14-18.

[17] YANG W J, NAKANO Y. Substructure online test by using real-time hysteresis modeling with a neural network[J]. Advances in Experimental Structural Engineering, 2004(38): 267-274.

[18] YUN G Y, GHABOUSSI J, ELNASHAI A S. A new network-based model for hysteretic behavior of materials[J]. International Journal for Numerical Methods in Engineering, 2008, 73(4): 447-469.

[19] 張健. 自適應子結構擬動力試驗方法[D]. 哈爾濱：哈爾濱工業大學，2010.

[20] MA F, ZHANG H, BOCKSTEDTE A, et al. Parameter analysis of the differential model of hysteresis[J]. Journal of Applied Mechanics, 2004, 71(3): 342-349.

Hybrid testing method based on an online neural network algorithm

Hybrid testing is an advanced structural seismic experimental method that combines the numerical simulation and physical testing and is increasingly being recognized by researchers. One of the challenging issues is how to model the numerical substructure with strong nonlinearity. An online learning neural network (NN) algorithm was proposed based on the conventional offline NN algorithm and applied in the hybrid testing to online predict the restoring force for the numerical structure. Weights and thresholds of the novel algorithm can be updated using a recursive form only based on the current step systematic inputs and observations. Numerical simulations for the hybrid testing based the online and the offline NN algorithms were conducted on a two degrees of freedom nonlinear system. The results show the new online NN hybrid testing method has better adaptation, computational efficiency and prediction accuracy for the detection of restoring force, compared with the offline NN hybrid testing method. In general, the online NN hybrid testing method can effectively improve the accuracy of hybrid testing results.

hybrid testing method; neural network; online prediction; restoring force

黑龍江省青年科學基金項目(QC2013C055); 國家自然科學基金項目(51408157；51308159；51308160)

2016-04-25 修改稿收到日期： 2016-06-06

王濤 男，博士，副教授，1978年生

E-mail: hitwangtao@126.com

TU317

A

10.13465/j.cnki.jvs.2017.14.001

WANG Tao1,2，ZHAI Xuheng2，MENG Liyan2, WANG Zhen3

(1.Institute of Engineering Mechanics, China Earthquake Administration Key Laboratory of Earthquake Engineering and Engineering Vibration of China Earthquake Administration, Harbin 150080, China; 2. School of Civil Engineering, Heilongjiang University of Science & Technology, Harbin 150022, China; 3. School of Civil Engineering, Harbin Institute of Technology, Harbin 150090, China)