一種結合相關性分析與Transformer的盾構掘進參數預測模型

摘要：掘進參數是隧道施工過程中的重要指標，對其進行預測在工程實踐中具有重要價值。為解決標準Transformer模型在處理高維、含冗余信息的盾構掘進數據時可能出現的性能下降問題，本文提出一種優化策略：首先采用皮爾遜相關性分析篩選與目標掘進參數高度相關的特征變量，再將其作為輸入送入Transformer模型進行預測。實驗結果表明，與基準Transformer模型相比，該優化方法在貫入度和推進速度平均值這兩個關鍵參數的預測上均表現出更高的精度。具體而言，貫入度預測的RMSE和MAE分別降低了9.3%和10.5%，R2提升了0.5%；推進速度平均值預測的RMSE降低了4.4%。這驗證了所提方法能有效降低預測誤差，具備工程應用潛力。

關鍵詞：盾構；掘進參數預測；Transformer；相關性分析；特征選擇；貫入度

中圖分類號：TP311" " " 文獻標識碼：A

文章編號：1009-3044（2025）28-0091-05

開放科學（資源服務） 標識碼（OSID）

0 引言

隨著基礎設施建設工程的不斷推進，盾構掘進技術在水利、地鐵等工程中得到了廣泛應用[1]。盾構掘進過程中涉及的多個關鍵參數，這些參數是反映掘進狀態和施工工況的重要指標，包括貫入度、掘進速度、總推進力等[2]。因此，建立一種穩定和高精度的掘進參數預測模型，對提高掘進效率和工程質量、保障盾構施工過程具有重要意義[3]。

傳統掘進參數預測方法，如多元線性回歸法[4]、灰色預測模型（GM） [5]等，能夠在一定程度上建模參數之間的關系，但其對非線性關系的建模能力存在不足，難以適應高維、多參數的預測任務。在傳統掘進參數預測方法的基礎上，黃靚鈺[6]和Mostafa Rastgou[7]分別采用BP神經網絡和支持向量機（SVM） 對掘進參數進行預測，相較于傳統方法，該方法在處理非線性和高維參數預測任務中取得了進一步的提升，但在時序特征的捕捉方面仍存在不足。

近年來，深度學習模型在掘進參數預測方面展現出顯著優勢。邱道宏等[8]采用BP神經網絡和LSTM模型對掘進參數進行預測，結果表明相比傳統回歸預測模型和BP神經網絡、SVM等方法，LSTM模型在各級圍巖、各個掘進參數上的預測精度更高，但單一LSTM模型的魯棒性較低；滿軻等[9]提出了一種結合卷積神經網絡（CNN） 和LSTM優勢的CNN-LSTM模型對掘進參數進行預測，其魯棒性優于單一LSTM模型；文佳等[10]對掘進參數進行統計和相關性分析，建立了復合地層掘進速度預測模型，與傳統掘進速度預測模型相比，考慮了地層的地質差異因素。LSTM模型、Transformer模型憑借強大的全局注意力機制，在時間序列預測中取得了重大成果[11]。然而，鮮有研究探討Transformer模型在應用于盾構掘進這種包含大量高維、共線性強的傳感數據時的輸入優化問題。直接將所有參數輸入模型，不僅計算成本高，還可能因噪聲和無關變量的干擾而影響預測精度。

因此，針對傳統Transformer模型在時間序列預測中可能存在的特征冗余、噪聲干擾以及對輸入特征相關性敏感度不足等問題，本文旨在填補這一空白，提出一種將相關性分析作為前置特征選擇步驟與Transformer模型相結合的預測框架，以提升模型的預測精度和魯棒性，并驗證該方法在預測精度與穩定性方面相較于傳統Transformer模型的優勢。

1 基于相關性分析的Transformer預測方法

1.1 Transformer模型

Transformer模型是一種基于注意力機制的深度學習模型，憑借其強大的全局注意力機制，在自然語言處理和時間序列預測中均取得了重要成果。Transformer模型完全摒棄了傳統的循環神經網絡（RNN） 結構，無須像RNN一樣按順序處理序列，而是通過全局自注意力機制捕捉輸入序列中不同位置之間的依賴關系，實現對全局信息的動態加權，從而達到更高的并行性和更快的訓練速度。

如圖1所示，Transformer模型由編碼器和解碼器兩部分組成，這兩部分都由相同的模塊多層堆疊而成。其中，編碼器每層模塊包含兩個子層，分別為多頭自注意力機制和前饋神經網絡，前者的作用是捕捉多維度依賴關系，后者則引入非線性變換。解碼器每層模塊包含3個子層，分別為掩蔽的多頭自注意力層、編碼器—解碼器注意力層和前饋神經網絡，這3個子層的作用分別為建模目標序列內部的依賴關系、關注編碼器輸出序列以及動態捕捉源序列中與當前生成位置相關的信息。編碼器和解碼器每個子層后均包含殘差連接和層歸一化，兩者共同協作解決了神經網絡中存在的梯度消失問題和順序計算局限性，從而提升了模型的魯棒性。

在本研究中，盾構掘進參數構成了輸入的時間序列，Transformer的自注意力機制能夠有效捕捉這些不同物理意義的參數在時間維度上的復雜動態依賴關系，從而預測未來的目標參數。

1.2 基于Transformer模型預測掘進參數

提取掘進參數數據，對其進行相關性分析，選取目標掘進參數及一組與之高度相關的特征參數作為模型的輸入序列；對數據進行預處理，同時進行歸一化處理，以消除量綱差異；基于歸一化后的數據，構建固定長度的序列作為模型輸入；采用Transformer模型作為預測框架，訓練模型，隨后在測試數據集上進行預測，并采用多種評價指標對模型性能進行綜合評估。基于Transformer模型的工作流程如圖2所示。

1.3 模型評價指標

評價指標可以量化模型預測值和真實值之間的差距，進而判斷模型的優劣。在使用不同模型時，統一評價指標才能更好地比較模型的性能優劣，且不同的評價指標還能幫助發現問題所在，從而優化模型。不同的評價指標有不同的特點，本文選取均方根誤差（RMSE） 、平均絕對誤差（MAE） 、決定系數（[R2]） 作為本次實驗的評價指標。各評價指標如下所示。

RMSE是預測值與真實值之間誤差的平方的均值再開平方，反映了實際值與預測值之間的平均距離，RMSE的值越小，模型的預測值與真實值越接近，其公式如下：

[RMSE=1NI=1Nyi-yi2]" " "（1）

MAE是預測值與真實值之差的絕對值的平均值，其值越小，模型整體的預測偏差越小，公式如下：

[MAE=1NI=1Nyi-yi]" " "（2）

[R2]的本質是衡量模型對數據的擬合程度，[R2]的值越接近1，說明模型擬合效果越好，公式如下：

[R2=1-I=1Nyi-yi2I=1Nyi-y2]" " （3）

式中：N為數據集中的樣本點總量；[yi]為模型所輸出的預測值；[yi]為真實值；[y]為真實值的平均值。

2 實驗過程及分析

2.1 相關性分析

在進行掘進參數預測之前，采用相關性分析來評估掘進參數之間是否存在關聯性。利用“相關性高”的參數作為輸入特征，可以減少無關信息的干擾，且在高相關的參數中包含更多關于目標參數的有效信息，進而提升模型預測的準確性和泛化能力。

本文采用皮爾遜相關系數衡量掘進參數之間的線性相關程度，記相關程度為r，取值范圍為r∈[-1，1]。當r＞0.7時為強正相關，r＜-0.7時為強負相關，皮爾遜相關系數公式如下：

[r=xi-xyi-y（xi-x2）yi-y2] （4）

式中：[xi]，[yi]為兩個變量的第i個樣本值，[x]，[y]為兩個變量的均值。利用皮爾遜相關系數所得的掘進參數之間相關性熱力圖如圖3所示。

由熱力圖可知，推進速度平均值和貫入度互為強正相關，這一強正相關關系符合盾構掘進的基本原理，即在相似地質條件下，單位時間內掘進的距離（貫入度） 越大，其平均掘進速度也越快。本文選取了推進速度平均值和貫入度進行預測，并利用二者互為輸入特征進行預測。

2.2 數據預處理

在盾構施工過程中，設備維護、刀具更換、地質突變、施工中斷等多種因素可能會使盾構機出現短時或較長時間的停機狀態。在停機時段內，掘進參數可能會出現異常波動、空值或保持不變的情況。這些數據若直接用于模型訓練，可能會對預測產生干擾，降低預測性能。

在進行盾構掘進任務時，當推進力為0時，一般認為設備處于停機狀態。因此，在數據預處理階段，本文對總推進力為0時的數據組予以剔除，再對數據進行時間重構，依次排列。該重構過程保留了盾構機在工作狀態下的完整行為特征，同時也為Transformer模型捕捉掘進參數間的時序依賴關系提供了基礎，可以使模型更加真實地理解數據的實時動態，提升模型對巖層變化的感知能力，從而改善模型的預測性能。

2.3 數據歸一化

選取最小—最大歸一化作為數據歸一化的方法，其常用于將特征縮放到一個特定的范圍（通常是[0， 1]） ，公式如下：

[Xscaled=X-XminXmax-Xmin]" " （5）

式中：[Xscaled]為經過歸一化后所得到的值；X為數據集中的真實值；[Xmin]為數據集中的最小值；[Xmax]為數據集中的最大值。

2.4 模型網絡參數設置

在對模型進行訓練前，須對數據集進行劃分，將數據集的前70%作為訓練集，后30%作為測試集。實驗過程中需要確定Transformer網絡的參數設置，如表1所示。

3 項目介紹及實驗結果分析

3.1 工程概況

穗莞深城際鐵路位于珠江三角洲中部，銜接廣州、東莞、深圳三市，是珠三角城際網珠江東岸的主干線。該區間所在區域屬于海積—沖洪積平原地貌，靠近深圳灣、深圳河，下穿新洲河，地表建筑密布，地勢較為平坦，交通便利。穿越地層主要有淤泥質黏土、砂質黏性土、卵石土、砂、細圓礫土、花崗巖（微風化、中風化、強風化和全風化） 。

3.2 實驗結果分析

盾構掘進參數貫入度和推進速度平均值的Transformer模型和結合相關性分析的Transformer模型的預測結果如圖5所示。

由結果示意圖可知，對比單一Transformer模型和結合相關性分析的Transformer模型的預測結果，可以看出對貫入度和推進速度平均值的預測，后者在性能上具有更優表現，其預測曲線更加貼合真實值。特別是在參數發生劇烈波動的區間（如圖5（c）中段所示） ，結合了相關性分析的模型表現出更強的跟隨能力，而單一Transformer模型則出現了更大的滯后或過平滑現象。這表明，通過剔除無關變量的噪聲干擾，模型能夠更專注于核心特征與目標之間的映射關系，從而提升了對動態變化的捕捉能力。

從評價指標來看，對于貫入度預測，結合相關性分析的優化模型比單一Transformer模型的RMSE下降了9.3%，MAE下降了10.5%，R2則由0.834 4提升至0.838 5，提高了0.5%。

對于推進速度平均值預測，結合相關性分析的優化模型比單一Transformer模型的RMSE從1.762 4降低至1.685 6，降低了4.4%；MAE從0.903 7降低至0.901 9；R2則由0.802 0提升至0.818 8。

對于貫入度預測，RMSE、MAE均有較大提升，這可能是因為貫入度與其他多個操作參數（如推力、扭矩） 直接相關，特征篩選的效果更為明顯。而推進速度平均值的提升幅度相對較小，可能是因為其本身是一個在一定時間尺度上平滑后的值，受短期噪聲影響較小。總的來說，在貫入度和推進速度平均值的預測上，結合相關性分析的模型比單一Transformer模型在本文的數據集上具有更好的預測效果。

4 結論

1） 針對Transformer模型在掘進參數預測任務中可能存在泛化能力弱、輸入冗余等問題，本文提出了一種結合相關性分析的Transformer預測模型。

2） 在模型構建與實驗過程中，得出了以下結論：在Transformer模型的基礎上結合相關性分析，通過對比實驗結果表明，優化后的模型在RMSE和MAE誤差指標上均有下降，R2有所上升，驗證了該方法在實際數據集上的有效性和泛化能力，為深度學習模型在工程領域的應用提供了一種有效的、低成本的輸入優化范式。

3） 本研究僅使用了皮爾遜相關系數，它主要衡量線性關系，未來可嘗試使用互信息、斯皮爾曼等級相關系數等方法來捕捉非線性相關性。此外，研究數據來源于單一工程項目，模型的泛化能力有待在更多不同地質條件下的工程數據中進行驗證。

4） 基于本文的局限性，未來的工作可集中于動態特征選擇機制的研究，以及將地質參數等多源異構信息融入模型，以構建更精準、更魯棒的掘進參數智能預測系統。

參考文獻：

[1] 宋牧原，楊明輝，陳偉，等.基于自注意力—循環神經網絡模型的盾構引發的土體沉降預測[J].巖土力學，2025，46（8）：2613-2625.

[2] 何海妮，章榮軍，陽棟，等.掘進參數調控穩定性對軟土盾構隧道誘發地表沉降的影響[J/OL].土木與環境工程學報（中英文），2025：1-13.（2025-05-08）. https：//kns.cnki.net/kcms/detail/50.1218.TU.20250506.2327.008.html.

[3] 陳世君，譚博，李吉，等.長沙板巖地層盾構掘進參數分析及預測模型研究[J].土木工程學報，2024，57（S2）：154-159.

[4] 秦艷姣.基于多元線性回歸與隨機森林算法的房價預測模型對比研究[J].現代信息科技，2024，8（22）：127-131.

[5] JIANG J M，ZHANG M，HUANG Z Y.A new adaptive grey prediction model and its application[J].Alexandria Engineering Journal，2025，120：515-522.

[6] 黃靚鈺，陽軍生，張聰，等.基于BP神經網絡的水下巖溶地層盾構掘進參數預測與分析[J].土木工程學報，2020，53（S1）：75-80，98.

[7] RASTGOU M，HE Y，LOU R T，et al.A comparison of metaheuristic optimizations with automated hyperparameter tuning methods in support vector machines algorithm for predicting soil water characteristic curve[J].Engineering Geology，2025，353：108121.

[8] 邱道宏，傅康，薛翊國，等.深埋隧道TBM掘進參數LSTM時序預測模型及應用研究[J].中南大學學報（自然科學版），2021，52（8）：2646-2660.

[9] 滿軻，武立文，劉曉麗，等.基于CNN-LSTM模型的TBM隧道掘進參數及巖爆等級預測[J].煤炭科學技術，2024，52（S2）：21-37.

[10] 文佳，李曉東，梁杰，等.復合地層盾構掘進參數相關性分析及掘進速度預測[J].鐵道建筑技術，2022（2）：6-10，61.

[11] 盧靖，李剛，胡珉，等.基于Transformer的盾構泥水艙液位智能預測與控制[J].隧道建設（中英文），2024，44（11）：2213-2222.

【通聯編輯： 唐一東】