基于長短時記憶神經網絡的大跨拱橋溫度-位移相關模型建立方法

鄭秋怡，周廣東，劉定坤

(河海大學土木與交通學院，南京 210098)

大跨橋梁在長期服役過程中，環境作用與運營荷載的耦合作用，導致結構性能不斷退化甚至出現災變垮塌，因此，如何保證大跨橋梁服役安全是橋梁工程領域的重要任務[1-2]。位移能夠表征大跨橋梁由于局部損傷或構件破壞引起的受力性能變化，是評估大跨橋梁服役安全的有效指標[3-5]。然而，不僅損傷會導致大跨橋梁位移變化，溫度也會引起顯著的位移變化。已有研究表明，日本明石海峽大橋單位溫度變化引起的撓度可達68.7 mm[6]，香港青馬大橋由溫度產生的豎向位移波動年幅值超過2000 mm[7]。由此可見，錯誤估計溫度引起的位移不僅會降低大跨橋梁安全評估結果的可靠性，甚至可能得出錯誤的結論。因此，有必要深入研究溫度引起的大跨橋梁位移響應。

基于同步實測的溫度和位移數據，建立溫度與位移的關聯模型，是估計大跨橋梁熱位移的理想途徑。然而，引起大跨橋梁熱位移的溫度變量，不僅有構件截面的有效溫度，還有構件之間的溫差，呈現多元性[8]。不僅如此，溫度和位移之間還可能具有非線性特征。這些因素使得線性擬合、非線性擬合等傳統方法難以準確估計溫度與位移的映射關系。神經網絡具有很強的非線性映射、高度自學習和自適應能力，是建立多元溫度-位移相關模型的有效方法。近年來，國內外學者采用神經網絡對溫度-位移相關模型進行了初步研究。陳德偉等[9]采用誤差反向傳播(BP)神經網絡建立了大佛寺長江大橋溫度和撓度的相關模型，驗證了神經網絡預測橋梁撓度的可行性。胡鐵明等[10]利用BP 神經網絡建立了遼河特大橋溫度和支座位移的模型，并將其應用于結構損傷預警。Zhou 等[11]采用平均影響值法提取主要熱變量，基于BP 神經網絡建立了大跨拱橋豎向變形與溫度變量的相關模型。雖然單隱含層神經網絡可以模擬任何非線性連續函數，但隨著數據量的增大，增加隱含層的數量可以有效提高模型的預測精度。Wen 等[12]采用雙隱含層BP 神經網絡預測了溫度作用下橋梁的撓度行為。Zhao 等[13]提出了一種基于三隱含層BP 神經網絡的撓度預測方法。另外，戴建彪等[14]提出了一種徑向基神經網絡模型，用于預測蘇通長江大橋的溫度變形。

雖然已有研究在溫度-位移相關模型建立方面探索到了一些途徑，但是這些模型不能有效計入位移的時滯效應[15]，導致模型的誤差難以接受。同時，在面對大跨橋梁多年累積的超長數據序列時，這些模型存在訓練難度高、計算效率低的缺點。長短時記憶(LSTM)神經網絡具有描述時間序列延遲特征和處理超長數據序列的能力。Kok 等[16]基于LSTM 神經網絡，利用物聯網智能城市數據來預測未來智能城市的空氣質量值；曲悅等[17]采用LSTM 神經網絡建立了氣象數據-PM2.5 相關模型，預測了未來一小時的PM2.5 污染值；張冬雯等[18]以空氣污染物為輸入，空氣質量指數為輸出，建立了LSTM 神經網絡空氣質量預測模型；Awan 等[19]以空氣污染、大氣參數和交通強度作為LSTM 神經網絡的輸入層，實現了交通流的準確預測；王國松等[20]選取21 個變量作為預報因子，利用LSTM 神經網絡對中國近海5 個代表站進行了風速預測。已有研究結果表明，LSTM 神經網絡是解決時滯效應和海量監測數據的有效方法。但是其在溫度-位移相關模型建立方面的應用，還未見報道。

本文以LSTM 神經網絡為基礎，并進一步利用自適應矩估計方法對網絡進行優化，再引入丟棄正則化技術提升網絡的預測能力，提出了一種基于LSTM 神經網絡的大跨橋梁溫度-位移相關模型建立方法，并將其應用于一座三跨連續系桿拱橋的熱位移分析。研究結果可為大跨橋梁溫度-位移相關模型的建立和基于位移的大跨橋梁性能評估提供幫助。

1 溫度-位移相關模型建立方法

1.1 LSTM 神經網絡

傳統BP 神經網絡包括輸入層、隱含層和輸出層，僅在不同隱含層之間建立權連接，通過激活函數控制輸出，無法挖掘時間序列數據的內部模式，在長距離傳遞信息時容易產生梯度消失和梯度爆炸等問題，適用于處理前后沒有關聯的數據[21]。

LSTM 神經網絡包含輸入層、LSTM 層(隱含層)和輸出層，通過在同一隱含層神經元之間增加權連接引入定向循環，其輸出不僅依賴于當前的輸入，還與前期的輸入(又稱記憶)有關。因此，LSTM 神經網絡通過捕捉不同變量之間的長期依賴關系，不僅有效提升了網絡的精度，還能夠處理和預測時間序列中的延遲事件[22]，特別適合處理前后存在關聯的超長數據序列，比如長期實測溫度序列、長期實測位移序列等。

LSTM 神經網絡的結構如圖1 所示，LSTM 細胞是隱含層的核心部分，用來記憶長時間的輸入信息，并通過輸入門、遺忘門和輸出門控制信息流。將LSTM 細胞按時間展開，可以清晰展示LSTM 細胞的結構，如圖1 所示[23]。輸入門、遺忘門和輸出門通過非線性激活函數進行控制，輸出值在0～1 之間，0 表示不通過任何信息，1 表示信息全部通過。LSTM 細胞的輸入包含上一時刻的細胞狀態ct-1、上一時刻的細胞輸出ht-1和當前時刻的網絡輸入xt，輸出包含當前時刻的細胞狀態ct、當前時刻的細胞輸出ht和當前時刻的網絡輸出yt。LSTM 細胞工作時，首先讀取xt和ht-1，經過遺忘門后輸出ft，ft再與ct-1相乘得到第一個中間結果at；然后，xt和ht-1經過輸入門后輸出it，同時xt和ht-1經過tanh 激活后，與it相乘得到第二個中間結果bt，兩個中間結果at和bt相加得到ct；最后，xt和ht-1經過輸出門后輸出ot，ot與經過tanh 激活后的ct相乘得到ht，ht通過激活函數擬合目標輸出yt。正向傳播結束后，LSTM 細胞以最小化損失函數為目標，基于優化方法反向傳播誤差更新權值。在t 時刻，LSTM 細胞的更新規則如下式所示：

式中：下標f 、 i 、 o分別為遺忘門、輸入門和輸出門；σ(·)為非線性激活函數，一般選擇sigmoid 函數；Wxf、Whf、Wxi、Whi、Wxc、Whc、Wxo、Who和Why為權重矩陣； bf、 bi、 bc、 bo和 by為偏置矩陣；ht-1和 ht分別為LSTM 細胞上一時刻和當前時刻的輸出； xt為當前時刻的網絡輸入； yt為當前時刻的網絡輸出；tanh(·)為雙曲正切函數。

圖 1 LSTM 神經網絡結構圖Fig.1 Structure diagram of LSTM neural network

1.2 LSTM 神經網絡超參數優選

1.2.1 損失函數

損失函數用來衡量預測值與實測值之間的差異程度，是更新網絡參數的重要依據。常用的損失函數有均方誤差和平均絕對誤差。當神經網絡訓練集中存在異常值時，均方誤差會給異常值賦予很大的權重，導致模型的預測能力下降。相比之下，平均絕對誤差對異常值具有更好的魯棒性，定義如下[24]：

式中： W 為LSTM 神經網絡中所有權重矩陣的集合；n 為訓練樣本長度；yi為第i 個實測值；f(xi)為第i 個預測值。損失函數的值越小，表明模型的擬 合程度越好。

1.2.2 優化器

優化器直接影響網絡的預測能力。傳統的隨機梯度下降法在網絡訓練過程中很難確定合適的初始學習率，只能根據預先指定的規則進行調整，且相同的學習率被應用于所有參數。自適應矩估計方法可以動態調節每個參數的學習率，具有很高的計算效率和較低的內存需求。該方法的參數更新公式如下[25]：

式中： p 為迭代次數； α為初始學習率； β1和 β2為指數衰減率，可取為0.9 和0.999； θ為網絡中待更新的權重和偏置； ε為調整系數，可取為10-8；mp和 vp分別為梯度的一階和二階矩估計。

1.2.3 正則化

過擬合是神經網絡在處理大量數據時經常出現的問題，會大幅降低網絡的預測能力。與L1、L2 正則化不同，丟棄正則化通過改變網絡本身，而不依賴于損失函數的修改，能夠顯著提升神經網絡的預測精度。丟棄正則化通過在不同網絡層中添加丟棄層并設定丟棄概率而實現。丟棄概率模型為[26]：

式中， r(l)為第l層中服從伯努利分布Bernoulli(η)的隨機變量集合。

在神經網絡訓練過程中，將 r(l)和第l層的輸出向量相乘，使得輸出向量中的部分元素變為0，然后將此結果作為第l+1層的輸入向量，最后經過非線性激活函數，得到第l+1層的輸出向量，其公式如下：

式中：z(l+1)為第l+1層的輸入向量； y(l)和y(l+1)分別為第l層和第l+1層的輸出向量；W(l+1)、b(l+1)分別為第l+1層的權重和偏置矩陣。

1.3 溫度-位移非線性模型建立流程

溫度-位移LSTM 神經網絡模型建立流程如圖2 所示。

圖 2 LSTM 神經網絡預測流程圖Fig.2 LSTM neural network prediction flow chart

1) 預處理溫度和位移原始監測數據，主要包括剔除異常數據、建立溫度和位移樣本數據庫；

2) 利用z-score 函數對實測數據進行特征標準化處理，消除樣本數據量綱的影響：

式中： x 和 x*分別為原始數據和標準化數據； μ和s分別為每列數據的均值和標準差；

3) 提取主要溫度變量，降低溫度變量間的信息重疊性，提升模型運行效率；

4) 建立由LSTM 層、全連接層和丟棄層組成的溫度-位移LSTM 神經網絡，選取合適的參數進行網絡初始化；

5) 以主要溫度變量作為輸入、位移作為輸出，采用自適應矩估計方法進行梯度下降迭代訓練，不斷更新權重和偏置矩陣；

6) 利用平均絕對誤差作為損失函數來評價網絡的誤差。若誤差小于預先設定的閾值或迭代次數達到最大迭代次數，則結束訓練，輸出預測位移值。否則，返回第5)步繼續訓練，直至滿足終止條件。

2 算例分析

以一座三跨連續系桿拱橋的溫度和位移同步監測數據為例，討論了影響該橋熱位移的主要溫度變量，并分別采用本文的LSTM 神經網絡和BP神經網絡建立溫度-位移相關模型，通過對比分析驗證本文方法在重構精度和預測能力方面的優勢。

2.1 溫度和位移同步監測

該三跨連續系桿拱橋每跨210 m，上部結構由主拱、副拱、吊索和橫向支撐形成空間受力體系，如圖3 所示。為了準確把握該橋的運營狀態，安裝了一套包括300 余只傳感器的健康監測系統，用于監測運營環境(包括風、溫度、濕度和地震動)和結構響應(包括振動、應變、變形和索力等)[27]。結構溫度監測子系統包含60 只溫度傳感器，分別安裝在主梁、主拱和吊索上，布設位置如圖4 和圖5 所示。

圖4 中下標數字表示監測截面編號，括號內的數字表示傳感器數量；圖5 中下標表示傳感器編號。溫度傳感器的分辨率為0.0625℃，測量范圍為-55℃～125℃，采樣周期為1 min。主梁豎向位移采用壓力變送器進行監測，布設位置如圖6所示。20 個壓力變送器對稱放置于主梁兩側，既可以監測豎向變形，又可以監測扭轉變形。共分為兩組，每組配置一個參考傳感器，參考傳感器位于豎向位移幾乎為零的拱腳位置。壓力變送器量程為1000 mm，精度為0.065%，采樣頻率為0.1 Hz。

圖 3 某三跨連續系桿拱橋Fig.3 A three-span continuous tied arch bridge

圖 4 溫度傳感器的布設位置Fig.4 Layout of temperature sensors on bridge

圖 5 溫度傳感器布設位置細節圖Fig.5 Detailed layout of temperature sensors

圖 6 主梁豎向位移傳感器的布設位置Fig.6 Layout of vertical displacement sensors on main girder

2.2 數據預處理

實測豎向位移為溫度變化引起的位移、風荷載引起的位移、車輛荷載引起的靜態位移、車輛荷載引起的動態位移、環境振動引起的位移、測量噪聲之和。由于該座大跨拱橋剛度較大，且處于內陸地區，選取5 m/s 作為臨界風速。當10 min平均風速小于5 m/s 時，認為風速引起的豎向位移可忽略不計。當風速大于5 m/s 時，同時刪除溫度和位移數據，從而剔除風荷載的影響。考慮溫度和熱位移的慢變特征，以10 min 為基本時距，對實測溫度和位移進行平均，消除車輛荷載引起的動態位移、環境振動引起的位移和測量噪聲的影響，同時保持溫度數據和熱位移數據長度的一致性[28]。進一步地，建立該橋的有限元模型并進行修正，利用動態稱重系統獲得的車輛荷載數據作為輸入，計算車輛荷載引起的豎向靜態位移，據此剔除車輛荷載引起的靜態位移。

選取中跨跨中截面2013 年7 月28 日-2014 年6 月26 日共13824 組溫度和位移同步監測數據作為神經網絡的數據集，采用中跨跨中截面冬季(2013 年12 月20 日-25 日)和 夏季(2014 年6 月21 日-26 日)共1728 組數據作為神經網絡的測試集，余下12 096 組數據作為神經網絡的訓練集。

計算主梁、主拱、吊索的截面有效溫度(ET)、截面溫度梯度(TG)和構件間溫差(TD)共13 個溫度變量，如表1 所示。其中，有效溫度為某一橋梁構件橫截面上分布的平均溫度，定義如下[29]：

式中：A 為橫截面面積；T(x,y)為橫截面上的溫度分布；x 和y 分別為橫截面水平方向和豎直方向的坐標。

表 1 溫度變量Table 1 Thermal variables

同一橫截面上常常布置多個溫度傳感器，為了簡化計算，根據傳感器布置將橫截面劃分為多個區域，每個區域內布置一個傳感器，并假定每個區域內的溫度相同且等于相應傳感器的測值，有效溫度的計算可以簡化為[29]：

2.3 溫度-位移相關性分析

圖7 給出了該座大跨拱橋中跨跨中截面上游側2013 年8 月3 日～9 日的主拱有效溫度和豎向位移時程圖。由圖可見，隨著主拱有效溫度的升高，豎向位移也逐漸增大。同時，豎向位移達到最大值的時間滯后于主拱有效溫度，存在明顯的時滯效應。

圖 7 大跨拱橋溫度和豎向位移時程曲線Fig.7 Time history of temperature and displacement on long-span arch bridge

同步監測的溫度和位移數據表明，拱橋主梁跨中豎向位移與有效溫度有顯著的非線性相關性，豎向位移隨著有效溫度的升高而增大，如圖8所示。這主要是由于隨著主拱、吊索和主梁有效溫度的升高，主拱軸線、吊索和主梁伸長，主梁的預拱度被釋放，同時迫使兩個拱腳向外移動，進而拉低拱頂，引起主梁跨中的豎向位移。

拱橋主梁跨中豎向位移與溫差呈線性相關性，豎向位移隨著溫差的增大而增大，如圖9 所示。其原因在于，吊索與主梁之間的正溫差使得吊索伸長，主拱與主梁之間的正溫差導致主拱軸線伸長，進而引起主梁跨中的豎向位移。

拱橋主梁跨中豎向位移隨著主拱溫度梯度的增大而增大，具有線性相關特征，如圖10 所示。拱橋主梁跨中豎向位移與主梁溫度梯度的相關性較弱。主拱溫度梯度導致主拱上表面伸長，進而拉伸主拱的軸線，使得兩個拱腳向外移動，主梁的預拱度減小，引起主梁跨中的豎向位移。

由于有效溫度、溫差和溫度梯度對豎向位移的影響程度未知，傳統線性擬合和非線性擬合難以給出溫度與位移的多元非線性關聯模型。

圖 8 有效溫度與豎向位移的相關性Fig.8 Correlation between effective temperature and vertical displacement

圖 9 溫差與豎向位移的相關性Fig.9 Correlation between temperature difference and vertical displacement

圖 10 溫度梯度與豎向位移的相關性Fig.10 Correlation between temperature gradient and vertical displacement

2.4 大跨拱橋主要溫度變量篩選

利用皮爾遜相關系數對表1 中的13 個溫度變量進行相關性分析，各變量間的相關系數如圖11所示，取值范圍在-1～1 之間。由圖可見，左上方區域主梁有效溫度、主拱有效溫度和吊索有效溫度的相關系數均接近1，呈高度正相關關系；主拱與主梁的溫差和有效溫度的相關系數在-0.8～-0.5 之間，呈顯著負相關關系。由此可見，13 個溫度變量中，某些變量之間存在較強的相關性。

圖 11 不同溫度變量的相關系數Fig.11 Correlation coefficient between different thermal variables

由于溫度變量之間的相關性，并不是所有溫度變量都對位移有重要影響。因此，找出影響主梁豎向位移的主要熱變量，并進行針對性監測，可以有效降低健康監測系統的成本。以13 個溫度變量作為輸入，中跨跨中的豎向位移作為輸出，建立多元溫度-位移的LSTM 神經網絡模型。采用預測結果的平均絕對百分比誤差作為評價指標進行主要溫度變量篩選。平均絕對百分比誤差的計算公式為：

表2 列出了刪除不同溫度變量后，溫度-位移LSTM 神經網絡模型的平均絕對百分比誤差以及平均絕對百分比誤差的增幅。其中，第一組為全部溫度變量作為輸入時溫度-位移LSTM 神經網絡模型的平均絕對百分比誤差。將誤差增幅2%作為篩選閾值，由表2 可得，ETA1、ETA2、TDAG1、TDAG2為影響主梁豎向位移的主要溫度變量。

表 2 不同溫度變量對位移預測值的影響程度Table 2 Influence of different thermal variables on predicted displacement values

2.5 模型的重構能力

以ETA1、ETA2、TDAG1、TDAG2作為輸入，中跨跨中的豎向位移作為輸出，分別建立多元溫度-位移的LSTM 神經網絡模型和BP 神經網絡模型。采用第1 節的方法，建立包含2 個LSTM 層、1 個全連接層和1 個丟棄層的LSTM 神經網絡模型。采用平均絕對誤差作為損失函數進行梯度下降迭代訓練，初始學習率設為0.001。丟棄層在訓練中按照伯努利分布以50%的概率隨機斷開LSTM 層和全連接層中15 個神經元的連接，防止過擬合。每層輸出進行批量標準化處理，設定每個批量為64 組數據。BP 神經網絡模型包含2 個隱含層，每個隱含層含有10 個神經元，采用L-M算法進行訓練，引入提前停止技術防止過擬合。

選取冬季(2013 年12 月1 日-6 日)和夏季(2014 年6 月3 日-8 日)共1728 組數據評價模型的重構能力。圖12 為LSTM 神經網絡模型和BP神經網絡模型計算得到的重構位移值。從圖中可以看出，LSTM 神經網絡模型的重構位移值與實測位移值吻合良好，而BP 神經網絡模型的重構位移值與實測位移值存在較大的偏差。進一步采用均方根誤差、平均絕對誤差、平均相對誤差和相關系數對模型的重構能力進行定量評價[30-31]，計算結果如表3 所示。兩種神經網絡模型的相關系數均接近1，表明重構位移值和實測位移值均具有很好的相關性。兩種模型在夏季的平均相對誤差均超過了10%，這是由于夏季橋梁的上拱和下撓會經過位移零點，較小的預測誤差也會產生巨大的相對誤差。但是，相比于BP 神經網絡模型，LSTM神經網絡模型冬季的均方根誤差、平均絕對誤差、平均相對誤差分別降低了47.5%、43.9%、44.7%，夏季的均方根誤差、平均絕對誤差、平均相對誤差分別降低了41.9%、46.5%、48.9%。因此，LSTM神經網絡模型具有更強的重構能力。

圖 12 兩種模型的重構能力對比Fig.12 Comparison of reproduction capability between two models

表 3 兩種模型重構結果的誤差及與實測結果的相關性Table 3 Error and correlation between reproduced and measured values of two models

2.6 模型的預測能力

兩種溫度-位移相關模型計算得到的預測位移值如圖13 所示。從圖中可以看出，LSTM 神經網絡模型的預測位移值明顯優于BP 神經網絡模型的預測結果。在夏季第四天峰值位移處，BP 神經網絡模型的相對誤差高達74.1%，而LSTM 神經網絡模型的相對誤差僅為3.0%。同樣采用均方根誤差、平均絕對誤差、平均相對誤差和相關系數來評價模型的預測能力，其結果如表4 所示。LSTM神經網絡模型的相關系數更接近1，冬季的均方根誤差和平均絕對誤差比BP 神經網絡模型分別降低了41.4%和36.7%，夏季的均方根誤差和平均絕對誤差比BP 神經網絡模型分別降低了44.7%和47.8%，兩個季節的平均相對誤差均在5%以內，表明LSTM 神經網絡模型的預測誤差更小，具有更強的預測能力。

圖 13 兩種模型的預測能力對比Fig.13 Comparison of prediction capability between two models

表 4 兩種模型預測結果的誤差及與實測結果的相關性Table 4 Error and correlation between predicted and measured values of two models

進一步分析LSTM 神經網絡模型預測誤差的統計特征，如圖14 所示。冬季的預測誤差范圍為-1.981 mm～1.265 mm，80%的誤差集中在-1.3 mm～0.4 mm 區間內，夏季的預測誤差范圍為-1.621 mm～2.218 mm，75%的誤差集中在-0.9 mm～0.7 mm 區間內，完全滿足工程需求。由此可見，雖然LSTM神經網絡模型只利用主要溫度變量作為輸入，卻依然保持了較高的預測精度。因此，在量化溫度對位移的影響時，只需計入ETA1、ETA2、TDAG1、TDAG2這4 個溫度變量；在進行大跨拱橋溫度監測時，僅需在主拱和主梁上布設溫度傳感器。

圖 14 LSTM 模型預測誤差概率統計圖Fig.14 Probability statistical chart of predicted error of LSTM model

3 結論

大跨橋梁在服役期間的位移變化不可避免地會受到溫度的影響，建立溫度-位移相關模型能夠將溫度引起的位移從實測總位移中剔除，凸顯結構損傷或劣化引起的位移改變，從而更敏感地發現結構的異常狀態。本文提出了一種基于LSTM神經網絡建立多元溫度-位移相關模型的方法，主要結論有：

(1) 大跨拱橋實測溫度和位移數據分析表明，溫度作用下的位移響應具有顯著的時滯效應，主梁豎向位移隨著主拱、吊索和主梁有效溫度的升高而增大且構件有效溫度與主梁豎向位移具有明顯的非線性關系，構件間溫差和主拱溫度梯度與主梁豎向位移呈線性相關性。

(2) LSTM 神經網絡模型可以準確描述多元溫度與位移的非線性映射關系，主拱有效溫度和主梁與主拱之間的溫差是影響大跨拱橋主梁豎向位移的主要溫度變量。

(3) LSTM 神經網絡能夠捕捉時序數據中的長期依賴關系，可以基于溫度的當前和先前信息預測當前的豎向位移。自適應矩估計方法和丟棄正則化技術能夠顯著提升溫度-位移神經網絡模型的預測精度。與BP 神經網絡模型相比，LSTM 神經網絡模型具有更高的重構精度和更低的預測誤差。

本文僅給出了多個溫度變量輸入、一個溫度位移輸出的LSTM 神經網絡模型建立方法。對于多個溫度變量輸入、多個溫度位移輸出的LSTM神經網絡模型的構建，其網絡結構和參數的選擇，還需要進一步研究。