不同的自適應卡爾曼濾波在地鐵隧道沉降監測數據處理中的應用研究

范雷剛，田林亞，陳喜鳳

(河海大學地球科學與工程學院，江蘇 南京 2 10098)

0 引言

地鐵投入運營后，由于受列車荷載、周圍施工活動等外界因素的影響，極易造成隧道結構沉降、位移、裂縫、傾斜等變形。其中，沉降變形是最關鍵因素［1］。過大的沉降變形會對地鐵隧道的結構防水性能以及耐久性構成威脅。因盾構隧道的縱向剛度較小，當縱向變形或曲率較大時，隧道即可能出現因環縫張開過大而漏水、漏泥或管片縱向受拉破壞等情況［2］。因此，研究和準確預測運營期地鐵隧道的沉降變形顯得非常重要。

目前，地鐵隧道沉降監測數據的處理方法中，時間序列模型、灰色模型、卡爾曼濾波等被廣泛應用［3-5］，并取得了較好的效果。傳統的數據處理方法一般是直接使用實測變形數據建模分析，沒有充分考慮觀測過程中的各種噪聲?？柭鼮V波雖然能夠剔除一部分噪聲，但是由于該模型的狀態系統噪聲和測量噪聲都是依靠經驗來取值，具有一定的隨意性［6］，并不一定符合地鐵隧道內復雜的實際情況。如果模型的動態噪聲判斷不準，將會增加狀態估計的誤差，甚至可能引起濾波發散［7］。自適應卡爾曼濾波能夠對觀測數據進行遞推濾波，同時，對噪聲的統計特性進行估計和修正，以減小模型誤差，提高預測精度。對于不同的變形監測數據，采用自適應卡爾曼濾波進行數據處理時，還應根據實際情況選擇合理的濾波模型。

1 卡爾曼濾波與自適應卡爾曼濾波

1．1 卡爾曼濾波

對于線性離散系統，狀態方程和觀測方程［8-9］的一般形式為:式中:k為歷元時刻;Xk，Xk-1分別為第k期和第k-1期的狀態向量;Φk，k-1為第k-1期到第k期的狀態轉移陣;Ωk為第k期動態噪聲向量;Γk，k-1為第k期動態噪聲系數陣;Lk，Bk分別為第k期觀測向量和第k期觀測向量系數陣;Δk為第k期觀測噪聲。

卡爾曼濾波方程為:

增益矩陣為:

濾波方程及其方差陣為:

1．2 基于方差補償的自適應卡爾曼濾波

假定{Ωk}和{Δk}為正態序列，X0為正態向量。定義第i步的預測殘差［10］為:

式中:Lk+i，k+i/k分別為第k+i期觀測值和它的最佳預測值;Vk+i為預測殘差。則Vk+i的方差陣為:

又記 E = ［Ek+1，…，Ek+N］T，η = ［ηk+1，…，ηk+N］T，則有:

N≥r時，有唯一解，diagDΩΩ的LS估計為:

根據以上各式求得任意長度時間段上的DΩΩ，作為動態噪聲協方差陣的實時估計。

1．3 基于極大驗后估計的自適應卡爾曼濾波

動態噪聲向量Ωk、觀測噪聲向量Δk是互相獨立的正態白噪聲向量，滿足E(Ωk)=q，E(Δk)=r，若噪聲的統計特性已知，可由極大驗后估計原理得到自適應卡爾曼濾波的遞推方程［11］為:

增益矩陣為:

濾波方程及其方差陣為:

若噪聲均值向量 q ，r和協方差陣 DΩk，DΔk未知時，可以利用濾波估值j，j和 預報值j，j-1近似代替計算較復雜的平滑估值k，j和k，j-1。

2 實例預測與分析

2．1 工程概況

某市地鐵隧道附近需要開挖一超大型基坑，在基坑開挖階段需要對地鐵保護區隧道進行垂直位移監測。采用精密水準儀NⅠ007和二等水準測量方法進行施測，從2013年3月19日至9月15日，每周觀測一次，一共觀測18期。由于監測點較多，本文只列出靠近基坑側下行線的部分隧道沉降監測點。下行線隧道內沉降監測點布置如圖1所示，其中JX1—JX5為位于變形區域之外的基準點，X3—X13為位于變形區內的沉降監測點。

圖1 下行線隧道沉降監測點布置示意圖Fig．1 Layout of monitoring points of down line tunnel

2．2 數據處理

本文使用變形區內X3—X13點進行沉降預測與分析。首先根據前2期沉降監測數據建立濾波模型［12］，然后利用前16期數據，分別采用卡爾曼濾波、基于方差補償的自適應卡爾曼濾波和基于極大驗后估計的自適應卡爾曼濾波對第17期數據進行預測，又以第17期的預測結果為已知數據預測第18期數據。將預測值與實測值進行比較，結果分別如表1和表2所示。

表1 監測點第17期預測值與實測值比較Table 1 Comparison between prediction results and monitoring data in the seventeenth stage

表2 監測點第18期預測值與實測值比較Table 2 Comparison between prediction results and monitoring data in the eighteenth stage

2．3 數據分析

將表1和表2中的預測值與實測值之差繪制成殘差圖，分別如圖2和圖3所示。

圖2 第17期3種模型預測值殘差對比Fig．2 Comparison of predicted residuals obtained by three different models in the seventeenth stage

圖3 第18期3種模型預測值殘差對比Fig．3 Comparison of predicted residuals obtained by three different models in the eighteenth stage

由表1和圖2可以看出:在第17期沉降預測時，卡爾曼濾波預測殘差除X7點較大外，其余點預測的殘差均小于1 mm，預測殘差中誤差為0．72 mm;方差補償自適應卡爾曼濾波預測殘差均較小，預測殘差中誤差為0．34 mm;極大驗后估計自適應卡爾曼濾波預測殘差均較大，大部分點預測殘差均大于1 mm，預測殘差中誤差為1．39 mm。

由表2和圖3可以看出，在第18期的沉降預測中，卡爾曼濾波和極大驗后估計自適應卡爾曼濾波預測殘差均較大，絕大部分點的預測殘差達到了1 mm，中誤差分別達到1．62 mm和1．93 mm。根據相關規定，測點允許的最大沉降變形為±3 mm(當超過該值時需報警)，此時預測殘差太大，該模型已經不適合使用。而方差補償自適應卡爾曼濾波預測殘差仍然比較小，預測殘差為0．57 mm。

3 結論與討論

1)當預測時間較短，卡爾曼濾波和方差補償自適應卡爾曼濾波的預測精度都比較高，可以滿足地鐵隧道變形預測的要求。當預測時間較長時，只有方差補償自適應卡爾曼濾波預測精度較高。

2)極大驗后估計的自適應卡爾曼濾波2期預測精度都比較低，這表明，不同的工程應通過比較來選用不同的自適應卡爾曼濾波模型。經過比較分析，該工程適合使用基于方差補償的自適應卡爾曼濾波進行數據處理。

3)本文僅比較了2期的預測結果，對3種模型在更長時間內的預測精度對比分析沒有進行研究，尚需進一步探索和完善。

［1］陳喜鳳，劉嶺，黃騰．基于蟻群算法的地鐵隧道沉降預測研究［J］．隧道建設，2013，33(6):462-468．(CHEN Xifeng，LⅠU Ling，HUANG Teng．Study on settlement prediction of Metro tunnels based on ant colony algorithm［J］．Tunnel Construction，2013，33(6):462-468．(in Chinese))

［2］鄭永來，韓文星，童琪華，等．軟土地鐵隧道縱向不均勻沉降導致的管片接頭環縫開裂研究［J］．巖石力學與工程學報，2005，24(24):4552-4558．(ZHENG Yonglai，HAN Wenxing，TONG Qihua，et al．Study on longitudinal crack of shield tunnel segment joint due to asymmetric settlement in soft soil［J］．Chinese Journal of Rock Mechanics and Engineering，2005，24(24):4552-4558．(in Chinese))

［3］徐愛功，李娜，張濤．時間序列分析在地鐵沉降觀測中的應用［J］．測繪科學，2013，38(5):57-60．(XU Aigong，LⅠNa，ZHANG Tao．Application of time series analysis in subway settlement observation［J］．Science of Sur-veying and Mapping，2013，38(5):57-60．(in Chinese))

［4］王元東，唐益群，李仁杰．地鐵荷載下隧道土體沉降的灰色預測與分析［J］．路基工程，2010(5):4-7．(WANG Yuandong，TANG Yiqun，LⅠRenjie．Gray prediction and analysis on tunnel soil settlement under Metro load［J］．Subgrade Engineering，2010(5):4-7．(in Chinese))

［5］徐亞明，劉冠蘭，柏文鋒．顧及基坑施工影響的地鐵區間隧道結構卡爾曼濾波預報模型［J］．武漢大學學報:信息科學版，2013，38(11):1322-1325．(XU Yaming，LⅠU Guanlan，BAⅠWenfeng．Kalman filter model considering pit construction simulation evaluation for tunnel deformation prediction［J］．Geomatics and Ⅰnformation Science of Wuhan University，2013，38(11):1322-1325．(in Chinese))

［6］郭應時，王暢，張亞岐．噪聲方差對卡爾曼濾波結果影響分析［J］．計算機工程與設計，2014，35(2):641-645．(GUO Yingshi，WANG Chang，ZHANG Yaqi．Analysis of noise variance’s effect on Kalman filter result［J］．Computer Engineering and Design，2014，35(2):641-645．(in Chinese))

［7］許阿裴，歸慶明，韓松輝．卡爾曼濾波模型誤差的影響分析［J］．大地測量與地球動力學，2008，28(1):101-104．(XU Apei，GUⅠQingming，HAN Songhui．Analysis of model error effect on Kalman filtering ［J］．Journal of Geodesy and Geodynamics，2008，28(1):101-104．(in Chinese))

［8］崔希璋，於宗儔，陶本藻，等．廣義測量平差［M］．北京:測繪出版社，1992．

［9］何秀鳳．變形監測新方法及其應用［M］．北京:科學出版社，2007．

［10］高雅萍，張勤．方差補償自適應卡爾曼濾波在GPS滑坡監測中的應用研究［J］．水土保持研究，2008(6):150-152．(GAO Yaping，ZHANG Qin．The application of self adapting Kalman filtering in landslides monitoring based on GPS［J］．Research of Soil and Water Conservation，2008(6):150-152．(in Chinese))

［11］趙琳，王小旭，孫明，等．基于極大后驗估計和指數加權的自適應UKF濾波算法［J］．自動化學報，2010(7):1007-1019．(ZHAO Lin，WANG Xiaoxu，SUN Ming，et al．Adaptive UKF filtering algorithm based on maximum a posterior estimation and exponentialweighting ［J］．Automatica Sinica，2010(7):1007-1019．(in Chinese))

［12］許國輝，余春林．卡爾曼濾波模型的建立及其在施工變形測量中的應用［J］．測繪通報，2004(4):22-23，42．(XU Guohui，YU Chunlin．Establishment of Kalman filtering model and its application in construction deformation measurement［J］．Bulletin of Surveying and Mapping，2004(4):22-23，42．(in Chinese))