基于北斗監測數據的高陡邊坡變形Transformer-CNN預測模型

Resources Development Company Limited， Chongqing 40ooo0，P.R.China; 3.Collge of Design，Sichuan Fine Arts Institute， Chongqing 401331，P.R. China）

Abstract： High and steep slopes are common during theconstruction oflarge-scale projects，and their deformation often leads togeological hazards，posing significant threats tolifeand property.Efficiently collecting displacement data and developinganaccuratepredictive model are therefore essential. This study proposes a Transformer-CNN hybrid model that integrates convolutional layers and residual structures into the Transformer architecture.The optimized model is applied to displacement data obtained from the Beidou satelite system in a large water conservancy project in Chongqing.Experimental results indicate that the Transformer-CNN model achieves lower MAE，MSE，and RMSE values compared to single-model approaches，demonstrating superior prediction accuracy.These findings suggest that the proposed model offers a practical solution for predicting and analyzing slope deformation in similar engineering projects.

Keywords： Transformer-CNN; Beidou dataset; time series; displacement prediction; slope deformation

在大型水利工程建設過程中，高陡邊坡由于受力特點極其復雜，在外部施工等環境因素的影響下，易發生坍塌、滑坡等嚴重地質災害，給現場施工帶來不利影響，直接威脅人員的生命和財產安全。邊坡位移預測也由于其重要的經濟價值和社會意義，成為國內外眾多學者的熱點課題[-3]。

傳統進行高陡邊坡變形監測的方法很多，國內有：宏觀地質監測法、大地精密測量法、近景攝影測量法4工程地質分析法、極限平衡分析法、數值分析法等5;國外主要有：時域反射法、三維激光掃描技術等。上述方法只能進行單一點的監測，無法得到其他部分的位移，難以反映形體變形的全貌，對時間域和空間域的分辨能力較差[8]。在進行數據獲取時，傳統的人工測量方法是利用全站儀等儀器進行直接測量，具有測量精度高、數據可靠等優點，但人工采集需要專業的儀器和技術人員，耗時費力、成本較高，常常受到降雨、惡劣天氣等環境因素的影響，采樣頻率較低且存在較大安全風險。隨著北斗全球組網的完成，GPS測量系統被廣泛應用到包括數據獲取在內的各個領域[]，能在復雜環境中保證定位和導航的精度，實現 24h 無間斷測量，不受自然條件影響，快速、客觀、準確地獲取高陡邊坡各個測量點的位移數據，有效解決傳統的人工測量法存在成本消耗大、安全性差的問題。

隨著人工智能和深度學習算法的不斷發展，越來越多用于時序處理的智能預測算法在邊坡位移預測中得到應用，例如支持向量機回歸算法、隨機森林算法、梯度提升機算法、循環神經網絡算法等]。其中Transformer算法因其并行計算能力強、能夠捕捉長距離依賴關系、可擴展性強、泛化能力強等特點，在時序預測領域受到廣大研究者歡迎[12]。然而，該算法的參數量度大、計算復雜度高、缺乏局部感知能力等缺點導致其對數據的需求相對較高，存在優化過程困難問題[3]。而卷積神經網絡CNN（convolutional neural networks）具有層次化結構，通過在不同位置共享參數，提高了計算效率，泛化能力較強，可以較好捕捉局部特征[4]。但受到局部感受野的限制和多層疊加的局限，存在難以捕捉長距離依賴關系、缺乏全局理解能力、可擴展性有限的缺點[15]。由于邊坡位移的時間序列曲線存在復雜的非線性特征，上述傳統預測模型精度不滿足現行預測要求[16]。為進一步提升不同模型的預測性能和精度、彌補它們在高陡邊坡變形預測中存在的缺陷，研究將Transformer和CNN模型進行有機結合，在Transformer模型中加人CNN卷積層建立Transformer-CNN模型，基于中國西部某大型水利工程進行驗證。結果表明，Transformer-CNN混合模型和單一的CNN、Transformer模型相比，MAE（mean absolute error）、MSE（mean square error）、RMSE（root mean square error）的值均有所降低。說明在Transformer模型中加人卷積層后可有效提高數據預測的準確度，預測性能較好。該模型有望進一步應用到其他工程中，為高陡邊坡位移的精確預測提供可行性方案。

1基于北斗監測數據的Transformer-CNN預測模型架構設計

研究采用Transformer-CNN算法構建基于北斗數據集的高陡邊坡位移預測模型。該模型以Transformer架構為基礎，在解碼器的每一個自注意力層中加人預先構建的CNN卷積層和residual殘差結構。其中，CNN卷積層由基本的因果卷積層、后續的歸一化層和ReLU（rectified linearunit）激活層構成的（如圖1所示）。研究通過對數據進行端到端的多次迭代訓練優化模型參數，尋找最佳配置。筆者基于北斗數據集進行模型驗證并輸出高陡邊坡的位移預測結果和MAE、MSE、RMSE等量化指標的值。為進一步驗證Transformer-CNN模型的準確性和可行性，依次去掉Transformer的注意力層和CNN的卷積層，將Transformer-CNN模型的預測結果和單一CNN及Transformer模型的預測結果進行對比分析。研究思路如下：

圖1基于北斗監測數據的Transformer-CNN結構圖

Fig.1 Structurediagramof Transformer-CNNbasedonBeidoumonitoringdata

1）收集金剛沱北斗解算數據，數據集中包括了北斗衛星采集的700多組數據和過去3～4年人工采集的數據。

2）鑒于北斗測得的數據存在一些跳變和異常值，不準確性和波動性較大，首先對數據進行預處理，剔除異常值并進行數據歸一化。

3）將Transformer的自注意力層，解碼器層、編碼器層和CNN的卷積層、residual殘差結構進行融合，構建Transformer-CNN模型。

4）選用MAE、MSE、RMSE3個參數作為量化指標進行消融實驗，將Transformer-CNN模型預測高陡邊坡變形的結果與其他單一模型進行對比。

5）對比分析各誤差評價指標的差異，評估不同模型預測的有效性和準確性。

2基于Transformer架構的高陡邊坡變形預測模型

由于使用北斗衛星系統采集的數據存在精度不高、數據波動大的缺點，存在較多的跳變和異常值，且采樣點的位移受到風速、溫度、濕度等其他因素影響，數據的誤差較大。為了在識別異常點的同時進一步提高預測準確性，采用Transformer模型對高陡邊坡各個位移點建立預測模型，快速捕捉數據的全局特征，完成高陡邊坡的位移預測任務。

由Transformer進行高陡邊坡位移預測的原理可知，該模型不依賴于遞歸結構，通過注自注意力機制捕捉數據的全局特征，由編碼器、解碼器和輸出層組成，具體結構如圖2所示。

2.1 編碼器

如圖3所示，北斗衛星系統采集的數據經由嵌入層后，維度變為符合Transformer-CNN編碼器輸入的維度。輸出數據經過多頭注意力層，該層將多組自注意力層的輸出結果進行合并，得到計算后的輸出結果。自注意力層和多頭注意力層的結構如圖4所示。

輸入矩陣 X=[X₁，X₂，X₃] ，在北斗數據集中， X₁=dE，X₂=dN，X₃=dU， 其中： dE 表示 E 方向的位移差值；dN表示 N 方向的位移差值； dU 表示 U 方向的位移差值。 X 與可學習的權重矩陣 相乘產生查詢、鍵、值矩陣，通過線性變換得到 Q，K，V3 個向量的初始表示

K=W_κX，

圖2基于北斗監測數據的Transformer結構圖

V=W_νX

通過縮放因子 進行縮放，其中， d_k 是鍵向量的維度，在上述模型中 d_k 的值為3，應用softmax函數來獲取注意力權重。具體計算公式為

多頭注意力機制將上述過程應用于 h 個不同的頭，對于每個頭 h ，使用不同的權重矩陣 、 W_h^k / W_h^V， 分別與查詢、鍵和值的點積，具體公式為

通過前饋層矩陣把計算得到的多個矩陣拼接在一起，與附加的權重矩陣 W⁰ 相乘得到最終的輸出結果歸一化層（Addamp;normalize）是由殘差連接Add和歸一化Normalize2部分組成。

MultiHead（Q，K，V）=Concat（head₁，head₂，…，head_h）W^°°iW，

圖3編碼器結構Fig.3 Encoder structure

圖4注意力機制

Fig.4Attentionmechanism

1）殘差連接Add是指在多頭注意力輸出數據的基礎上加殘差塊 X ，防止在深度神經網絡的訓練過程中發生退化，用于解決多層網絡訓練問題，讓網絡只關注當前差異的部分。

歸一化層應用在殘差連接之后，其計算公式如下

自注意力層：

前饋層：

式中： X 表示Multi-HeadAttention或者FeedForward的輸人，MultiHeadAttention （X） 和FeedForward （X） 表示輸出。

前饋層（FeedForward）是一個2層的神經網絡，先線性變換，再經過ReLU非線性，再次進行線性變換，具體的計算公式為

FFN（X）=ReLU（0，XW₁+b₁）W₂+b₂₀

2.2 解碼器

解碼器與編碼器的結構類似，如圖5所示，是由多個解碼器層堆疊而成，每一個解碼器層均包含了注意力層，通過內部的FulIAttention類計算輸入序列中各元素之間的注意力權重，得到輸入序列中不同元素對當前元素的重要性，加權求和后得到最后的結果。

圖5解碼器結構Fig.5 Decoder structure

與編碼器最大的區別在于解碼器還包含一個掩碼多頭注意力層，該層可對某些值進行掩蓋，使其在參數更新時不產生效果。

2.3 輸出層

解碼器輸出的數據經過激活函數層（softmax）和線性層（linear）得到最終的預測結果，經解碼器輸出的數據首先經過一次線性變換，該線性變換層是一個簡單的全連接神經網絡，可以把解碼組件產生的向量投射到比它大得多的向量里，然后激活函數（softmax）層把該向量變為概率，最終輸出預測結果，如圖6所示。

圖6輸出層結構

Fig.6 Outputlayer structure

3基于Transformer-CNN的高陡邊坡變形預測模型

北斗數據集經過預處理去掉無關列和較差的數據后，成為包括 E，N，U，dE，dN，dU? 5列以及采樣時間構成的時間序列，為了克服Transformer對數據局部特征的提取能力有限、對數據集依賴過大的缺點，筆者提出用CNN優化Transformer，最終構建Transformer-CNN模型。

傳統用于圖像處理的CNN網絡的卷積核大多是2維或3維的，且需要進行多通道信息處理。故對CNN模型進行改進，通過卷積核在時間軸上滑動，提取時間序列的局部模式，選用 1×3 的卷積核（3表示時間窗口

的長度）。而Transformer模型在小數據集上可能出現過擬合，故在Transformer的每一個自注意力層中加入預先構建的CNN卷積層和residual殘差結構用于捕捉局部特征。通過這一預測網絡實現數據從端到端的訓練，對高陡邊坡的位移坐標進行時間序列預測。

3.1可用于一維時序數據處理的CNN卷積層

3.1.1 時序預測原理

為了訓練CNN網絡進行預測，訓練集由給定時間序列的等大小序列對（輸人序列、目標序列）組成。目標序列是相對于各自的輸入序列向前移動一定數量輸出長度（outputlength）的序列，這意味著輸入長度（inputlength）的目標序列包含各自輸入序列尾部輸入長度-輸出長度（inputlength-outputlength）元素作為第1個元素，位于輸入序列最后一個條目之后的輸出長度（outputlength）元素作為它的最后一個元素，使用滑動窗口的方法，重疊的輸入目標序列可以創建出一個時間序列，選用處理后數據集中的 dE，dN，dU 作為特征列，選用dS列作為自標列，如圖7所示。

圖7時序預測原理圖

3.1.2 對CNN模型進行處理

處理后的CNN模型由4個residualblock殘差塊組成（如圖8所示）。該殘差塊把模型由簡單的一維因果卷積層改為由相同膨脹因子和殘差的2層結構。圖中 k 表示卷積核大小（kernel_size），d表示膨脹基數（dilation_base） （k?d） 。

圖8用于時序預測的CNN模型

Fig.8 CNNmodelsfortime seriesprediction

基本的因果卷積層（basiclayer ?（k，d） ）原理示意圖如圖9所示。選用北斗數據集中的 dU，dN，dE 作為特征列，選用dS列作為目標列。要計算輸出的一個元素，需要查看輸人的一系列長度為卷積核大小（kerelsize）的連續元素，模型選用了一個大小為3的卷積核，故單個卷積接收一個三維張量作為輸shape（batchsize、inputlength、inputsize），也輸出一個三維張量shape（batchsize、inputlength、outputsize），通過 1×3 的卷積核在時間序列上移動，獲取一系列長度為卷積核大小（kermel_size）的連續元素，取該子序列與核向量點積，得到輸出的下一個元素。

圖9基本因果卷積層的原理圖

由于單一的卷積層的輸出僅依賴于卷積核大小（kernel_size）數目的輸人，為了擴大其依賴范圍，通過將多個層疊加在一起對模型進行擴張，共使用4個basic層，此時，CNN卷積網絡的接受野大小為7，其原理圖如圖10所示。

圖10對模型進行擴張Fig.10 Model expanding

為進一步提升模型性能，在每一個卷積層中添加一個 d=2，k=3 的歸一化層（weight norm），將CNN的單一層轉換為殘差塊。數據經基本卷積層輸出后進人歸一化層（weight norm），通過重新參數化網絡權重來提高訓練的穩定性和速度，有助于避免梯度消失和梯度爆炸問題。權重歸一化的具體步驟為

1）分解權重：將每個層的權重矩陣 W 分解為2個部分：一個縮放因子 g 和一個規范化的權重向量v。這里的v是單位向量，模為1。

2）參數化，其具體公式為

W=g?ν

式中：g是權重矩陣中每個向量的縮放因子； u 是對應的單位向量。

3）訓練：在訓練過程中，只更新縮放因子 g 和向量 u ，不直接更新原始的權重矩陣 W 。

為了使構建的CNN不僅僅是一個過于復雜的線性回歸模型，在殘差塊中加人ReLU激活函數引入非線性，數據經歸一化層（Weight norm）輸出后再輸入到激活函數層（ReLU）中，使網絡能夠學習更復雜的模式，激活函數ReLU被添加到2個卷積層之后的殘差塊中。為了防止過擬合，在每個剩余塊中通過dropout引入正則化，dropout在模型訓練期間，通過隨機忽略一部分神經元，增強模型的非線性能力和魯棒性，提升計算能力和速度，原理如圖11所示。

圖11dropout原理示意圖

最后，在卷積神經網絡的末端加入全連接層，用于CNN提取特征，并進行回歸分析，最終實現對高陡邊坡位移的時間序列預測。

3.2 融合CNN網絡結構的Transformer架構

將構建好的CNN卷積層和residual殘差結構融人Transformer的編碼器結構中。北斗衛星系統測得的位置點坐標經過預處理后首先進人CNN網絡進行卷積操作，實現局部特征提取。輸出數據再進人Transformer的多頭注意力層和歸一化層，經前饋層連接后進行歸一化。輸出的數據進一步進入解碼器中進行解碼，經線性層和 softmax激活函數后，得到最終的輸出值，實現數據端到端的訓練，從而對高陡邊坡的位移進行預測。如圖12所示。

圖12構建Transformer-CNN網絡結構

Fig.12 Constructthe Transformer-CNNnetworkstructure

4 實驗與分析

4.1 數據來源與數據處理

4.1.1 實驗數據來源

本實驗使用的數據集來自中國西部某大型水利工程，其中包括了北斗衛星采集的700多組數據和人工采集的過去3～4年的數據。在過去，人們獲取數據主要是通過全站儀進行人工采集，但由于受到人力成本和天氣因素的影響，一般每1～2周采集一個數據，采樣頻率較低。采集了現場所有點位（總數超過20）的 E，N， U 3個方向的坐標值及 E 方向位移 Ω，N 方向位移、 U 方向位移。

隨著科技的不斷發展進步，北斗衛星導航系統實現全球組網，中國大批的工程項目開始使用北斗衛星導航系統進行數據采集，由于其可以進行 24h 不間斷采樣，故其采樣頻率為一天4次。以 E，N，U 3個坐標值確定一個點的位移，采集了現場共16個點的位置坐標（分為3個基準點和13個檢測點）及其 E 方向位移 Ω，N 方向位移、 U 方向位移，用于進一步預測每個點的變形量和變化趨勢。但其數據的波動較大，存在一些跳變和異常值，數據的誤差較大，部分數據如表1所示。

表1北斗結算部分數據（處理前）Table1 Beidou solver data（before processing）

4.1.2 實驗數據預處理

1）缺失值、異常值處理：由于所得數據中存在解算狀態失敗的樣本以及數據質量較差、可信度較低的樣本，故將此類數據刪除，同時，將數據中含有NaN的行進行刪除。

2）刪除無關量：原始數據集包括采樣時間、解算狀態 ，E，N，U，E 位移 （dE），N 位移 （dN），U 位移 （dU） 、歷元數量、數據質量、可信度和衛星系統共11列數據，但進行數據預測時只需要用到采樣時間，以及把 E 均值 Ω，N 均值 ?，U 均值 ，dE，dN，dU 的數據作為目標變量，故對其他列進行刪除。

3）計算2個點之間的位移差值，得到 dE，dN，dU 列的數據值，通過 dE，dN 的值計算得到dS列的數據值，其計算公式為

4）處理時間戳列：把采樣的時間列進行分割，提取年、月、日、星期和小時等和時間相關的特征。

5）數據正則化處理：為了防止過擬合和提高模型的泛化性能，使用dropout正則化，隨機將網絡中的部分神經元輸出置0，以減少神經元之間的依賴性。

6）在CNN網絡預測時，使用MaxMinScaler函數對數據進行歸一化處理，把數據映射到[0，1]區間內，具體的公式如下

X_{scaled=Xsctd?（max-min）?min}

7）劃分訓練集和測試集，取 80% 的數據作為訓練集，剩下 20% 的數據作為測試集。

處理流程圖如圖13所示，處理后的部分數據集如表2所示。

圖13數據預處理流程圖

Fig.13 Flowchart of data preprocessing

表2處理后的部分數據集

Table2 Partoftheprocesseddataset

4.2 實驗與分析

4.2.1 實驗參數設置

使用上述北斗數據集對神經網絡進行訓練，使其學習到輸入與輸出之間的映射關系。相關參數的設置如表3所示。

表3相關參數設置

Table3Relevantparametersettings

4.2.2 評價指標

為了公平比較不同模型的表現，同時保證評價的全面性和準確性，綜合多種評價指標的評價預測性能采用了如下多種評價指標：

1）平均絕對誤差（mean absolute error，MAE）1l：表示預測值和實際值之間的平均絕對誤差，計算公式為

2）均方誤差（mean square error，MSE）[18]：量化了誤差平方的平均值，即預測值和實際值之間的差值，可確保較大的誤差對整體誤差指標產生不成比例的高影響，用于評估模型對異常值的敏感程度，計算公式為

3）平均絕對百分比誤差（root mean square error，RMSE）[19]：預測值與實際值的誤差平方根的均值，提供與尺度無關的誤差度量，計算公式為

4.3 實驗結果

為進一步定量分析混合模型對預測準確性的提升效果，分析不同結構在混合模型中所起作用，去掉Transformer模型中的CNN卷積層，變為傳統的單一的Transformer模型，再去掉Transformer的自注意力機制，只用改進后可進行時間序列預測的CNN模型進行時序預測。使用在Transformer基礎上進行了改進的變體模型（包括Reformer、Autoformer、Informer模型）進行時間序列預測，其中，Reformer使用局部敏感哈希代替點積注意力，采用可逆殘差層減少存儲需求[20]。Autoformer則是在Transformer架構的基礎上引人自相關機制和分解架構來處理長期序列預測問題[2]。Informer更加關注減少計算復雜度和提高模型對長序列的學習能力[2]。分別多次使用不同模型對北斗數據集進行時序預測，得到模型達到穩定時的量化指標如表4所示。不同算法的指標對比如圖14所示，不同算法的預測曲線如圖15所示。

表4不同模型在訓練達到穩定時的量化指標值

Table4 Quantized indexvaluesofdifferentmodels

圖14不同模型的參數對比圖

Fig.14Comparision of parameters of different models

從圖14中可以看出，Transformer-CNN模型在迭代20、30、40、50輪次時候MAE的值較單一的Transformer模型相比分別降低了 12.88%、14.23%、13.88%、13.19% 。MSE的值在迭代20、30、40、50輪次時分別降低了 24.15%.26.73%.26.23%.25.24% 。RMSE的值在 20，30，40，50 輪次時分別降低了 12.96%，14.25% 、14.03%.13.58% 。由表4可以看出，Transformer-CNN模型在訓練達到穩定時MAE的值比CNN低 68.8% 、比Transformer低 10.58% ;MSE的值比CNN低 85.69% 、比Transformer低 10.84% ;RMSE的值比CNN低 57.64% 、比Transformer低 5.63% 。由圖15不同模型的預測曲線對比可以看出，Transformer-CNN模型的預測結果和真實曲線擬合程度優于其他單一模型，說明Transformer-CNN模型有效提高了預測的準確性。

圖15不同模型的預測曲線

Fig.15 Predictioncurvesfordifferentmodels

同時，在訓練過程中發現，加入CNN卷積網絡后的Transformer-CNN模型在30輪后即可達到收斂狀態，而單一的CNN模型需要進行上百輪訓練方可達到收斂狀態，說明加入卷積層在提高預測精度準確性的同時可節省訓練時間和計算資源。

5結語

研究通過在Transformer模型中加人CNN卷積層構建了Transformer-CNN模型用于高陡邊坡變形的時間序列預測，并基于中國西部某大型水利工程的北斗監測數據集進行模型訓練和定量分析，通過將Transformer-CNN模型的MAE、MSE、RMSE等參數量和 Transformer、CNN、Informer、Autoformer、Reformer等單一模型進行對比，發現Transformer-CNN模型的MAE、MSE、RMSE的值最優。說明在Transformer模型中加入卷積層構建的Transformer-CNN模型可以在利用Transformer時序特征提取優勢的同時兼具CNN卷積網絡提取局部特征的能力，充分利用了2個單一模型的優點，有效提高數據預測的準確度，預測性能較好。進一步可以為高陡邊坡變形的預測預報、坍塌預警等后續工作提供可靠的科學依據，為其他工程實施過程中對高陡邊坡變形的預測分析提供可行性方案，為水資源配置工程領域的安全性和可持續性做出積極貢獻。

參考文獻

[1］柴章鵬，黃德昌，楊麒民，等.高陡邊坡錨桿格構梁雙排腳手架施工技術探究[J].價值工程，2024，43（27）：144-147. Chai ZP，Huang DC，YangQM，etal.Research on construction technologyofdouble-row scafolding in high steepslope anchorrod grillage beams[J].Value Engineering，2024，43（27）：144-147.（inChinese）

[2］李薈，韓曉飛，朱萬成，等.基于多源信息融合的礦山邊坡滑坡災害研究現狀與展望[J].工礦自動化，2024，50（6）：6-15. LiH，HanXF，ZhuWC，etal.Currentstatusandprospectsofresearchonlandslidedisasters inmineslopesbasedonmulti source information fusion[J]. Journal of Mine Automation，2024，50（6）： 6-15.（in Chinese）

[3］劉禮福，黃今，雷國榮，等.爆破振動作用下某露天礦高陡邊坡穩定性分析[J].有色金屬（礦山部分），2021，73（4）：27-32. LiuLF，Huang J，LeiGR，etal.Stabilityanalysisofhighandstepslopeofanopenpitmineunderblasting vibration[J].NonferrousMetals （Mining Section），2021，73（4）：27-32.（inChinese）

[4]楊一豪，李學鋒，黃緒興，等.某露天礦邊坡穩定性及優化研究[J].價值工程，2024，43（16）：97-100. YangYH，LiXF，Huang XX，etal.Researchonslope stabilityofacertainopen-pit mineandoptimizationmeasures[J].Value Engineering，2024，43（16）： 97-100.（in Chinese）

[5」房智恒，王李管，彭南良，等.高陡邊坡整體與局部失穩的強度折減及安全度判別分析[J].重慶大學學報，2015，38（6）：8-14. Fang ZH，WangLG，PengNL，etal.Strengthreductionanddiscriminantanalysisofhighstepslopes’overallandlocal instability[J].Journal of Chongqing University，2015，38（6）： 8-14. （in Chinese）

[6]LiSY，LiH，JiWB，etal.Optical fibersensingstructureforslope monitoring basedonbrilouinopticaltimedomain reflectometer[J].Acta Photonica Sinica，2021，50（9）：107-115.

[7］陳云敏，陳贊，陳仁朋，等.滑坡監測TDR技術的試驗研究[J].巖石力學與工程學報，2004，23（16）：2748-2755. ChenYM，CY，ChenRP，etal.Testing studyonapplicationoftime domainreflectometrytoslope monitoring[J].Chinese Journal ofRock Mechanics and Engineering，2004，23（16）：2748-2755.（in Chinese）

[8］張占旭，蘇俊輝，呂光祖，等.數字鉆孔圖像巖體結構面自動化識別方法[J].重慶大學學報，2024，47（2）：40-50. Zhang ZX，SuJH，LvGZ，etal.Automaticidentificationofrock structure surface basedondigital borehole images[J]. Journal of Chongqing University，2024，47（2）： 40-50.（in Chinese）

[9］邱煥翔，翟虎，王冀鵬，等.基于無人機航攝的地質踏勘及風險評估[J].科學技術與工程，2024，24（18）：7905-7912. Qiu H X，Zhai H，WangJP，etal.Geological surveyand risk assessment basedon UAV photogrammetry[J].Science， Technology and Engineering，2024，24（18）：7905-7912. （in Chinese）

[10]李燁.淺析北斗衛星導航系統在測繪行業中的應用[J].經緯天地，2024（3）：19-22. LiY.A preliminary analysis forthe aplication of the Beidou Satelite Navigation System in thesurveyingand mappng industry[J]. Survey World，2024（3）：19-22.（in Chinese）

[11］劉暉，朱德康，許凌杰，等.基于改進灰狼算法優化支持向量機的邊坡位移預測[J].自動化技術與應用，2024，43（9）：30-33. Liu H，Zhu D K，XuLJ，et al.Slope displacement predictionbasedon improved grey wolf algorithmand supportvector machine[J].Techniques of Automation and Applications，2024，43（9）： 30-33. （in Chinese）

[12]LiuCM，ShenY，XiaoQG，etal.Cformer：pair-wisecro-scalesub-prototypesinngwithCNN-transfomersforeakly supervised semantic segmentation[J]. Neurocomputing，2024，593： 127834.

[13]Meng WJ，LiuSJ， Wang HJ.AFC-Unet：atention-fusedfullscale CNN-transformerunet formedical imagesegmentation[J]. Biomedical Signal Processing and Control，2025，99： 106839.

[14]肖海平，楊旺生，肖嵐，等.基于組合預測模型的露天礦高陡邊坡滑坡變形研究[J].金屬礦山，2014，43（4）：169-171. Xiao HP，Yang WS，Xiao L，et al.Research onlandslide deformationof high and steep slope inopen-pit minebased on combination pediction model[J].Metal Mine，2014，43（4）：169-171.（in Chinese）

[15]RazavianSA，AzzpourH，SullivanJ，etal.CNNfeaturesof-te-shelf：anastoudingbaselineforrecognition[C/4IEE Conference on Computer Vision and Pattern Recognition Workshops. Columbus，OH， USA： CVPRW，2014： 512-519.

[16]孫曉云，段綽，王明明，等.基于VMD模型和BSA-KELM模型的高陡邊坡位移預測模型研究[J].中國礦業，2022，31（2）： 78-85. Sun X Y，Duan C， Wang M M，et al. Studyon high and steep slope displacement prediction model based onVMD and BSAKELM[J]. China Mining Magazine，2022，31（2）：78-85.（in Chinese）

[17]Willmot CJ，Matsuura K.Advantagesof he meanabsolute eror（MAE）over theroot meansquareerror（RMSE）iassessing average model performance[J]. Climate Research，2005，30（1）： 79-82.

[18]KoksoyO.Multiresponse robust design： meansquare eror （MSE）criterion[J].Applied Mathematicsand Computation，2006， 175（2）： 1716-1729.

[19]Hodson TO.Rot meansquare eror （RMSE）or mean absoluteeror（MAE）：when touse them ornot[J]. Geoscientific Model Development Discussions，2022，15（14）： 5481-5487.

[20]Saibabu BB，Kiran T.Anovel methodfor predicting wind speedusingdata decomposition-based reformer model[J].Earth Science Informatics，2024，17（1）：227-249.

[21]Niu MC，LiY，ZhuJY.Opticalcable lifespan prediction methodbasedonautoformer[J].AppiedSciences，2024，4（14）： 6286.

[22]Zhang X，YangKY，ZhengLM.Transformerfaultdiagnosis methodbasedontimesnetandinformer[J].Actuators，2024， 13（2）： 74.

（編輯侯湘）