基于SVR組合模型的邊坡位移預測研究

劉小生 于 良 馮騰飛

(江西理工大學建筑與測繪工程學院，江西 贛州 341000)

邊坡變形是現今邊坡普遍存在的現象，伴隨著礦產越來越多的開采，邊坡變形超限造成滑坡泥石流等災難也越來越多。因此做好邊坡預測、掌握礦山邊坡變形的趨勢，提前做好滑坡的準備，降低災害所帶來的損失具有重要的研究意義。

現今，傳統的預測模型有許多不足[1]。而支持向量機(Support Vector Machine,簡稱SVM)能較好地解決以往困擾很多學習方法的小樣本、非線性、過學習、高維數、局部極小點等實際問題，具有很強的泛化能力[2]。 為了使支持向量機更好地運用到邊坡位移預測中，近年來不少學者對支持向量機中參數尋優方法進行了改進研究。一是用網格搜索法對支持向量機中參數進行尋優，但此種方法計算工作量大，必須是可行域單項逼近，所以計算時間隨變量個數的增加而急劇增加，且可行域單項逼近并非就是最佳路線[3]，因此又稱“窮舉法”；二是用遺傳算法對支持向量機中參數尋優，但是此法編程復雜，首先對問題要進行編碼，當得到最優解后要進行解碼，在算法實現過程中要用到許多參數，而設置這些參數大部分是依靠經驗，嚴重影響解的質量，另外算法搜索速度較慢[4]；三是用標準粒子群算法對支持向量機中參數尋優，但是由于粒子總是向當前最優位置移動，導致粒子的多樣性不足，易產生趨同性，使粒子群算法在解決高維多極值問題時，容易陷入局部最優[5]。

針對以往常用的3種基于參數尋優方法的支持向量機預測方法的不足，不少學者對其3種方法做了大量的改進，其中對標準粒子群算法的改進主要從初始種群的生成、慣性權重、學習因子、拓撲結構或與其他算法混合等[6]。為此本研究將標準粒子群的慣性權重改為自適應慣性權重，目的是為了增加粒子多樣性，避免粒子出現趨同性，陷入局部最優等不足，從而提高模型應用于邊坡位移預測的效果。

1 基于SVR的組合模型構建

1.1 自慣性權重PSO算法

標準粒子群優化算法(Particle Swan Optimi zation,簡稱PSO)是由美國科學家J.Kennedy和R.Eberhart提出[7]。本研究運用自適應慣性權重對PSO算法中的慣性權重進行改進[8-9]，即：設第k次迭代中粒子i的適應值為fi，最優粒子的適應值為fm，粒子群的平均適應度值為

(1)

(2)

(3)fi次于fave。這些粒子為群體中較差的的粒子，應賦予遞減的趨勢的慣性權重w，按下式進行。

(3)

根據求出的慣性權重w帶入標準粒子群算法中，求算出最佳的支持向量機參數。

1.2 支持向量回歸機

支持向量機是由Vapnik基于統計學習理論提出的一種機器學習方法。目前分為支持向量分類機和支持向量回歸機[10]。支持向量回歸機(support vector regression machine,簡稱SVR)是回歸預測的一種方法[11]。基本原理為給定監測數據{xi,yi|i=1,2,…，n},xi∈Rd為輸入值，yi∈Rd為輸出值，如果訓練集是線性可分的，設表達式為

y(x)=ω·φ(xi)+b,

(4)

式中，ω為權值向量；b為偏差。由優化目標的對偶形式,獲得最大化函數：

(5)

(6)

如果是線性不可分可以通過核函數非線性映射投影到高維空間，使得數據在高維空間變得線性可分。核函數是支持向量機中最重要的問題之一，如何選擇合適的核函數也是支持向量機現如今的一個難題之一，目前常用的核函數有線性核函數、多項式核函數、高斯核函數、Sigmoid核函數。即函數y(x)的表達式變為

(7)

1.3 自適應慣性權重PSO的SVR組合預測模型

基于SVR預測模型中參數由人工設定，導致參數選擇不準確，帶來預測值存在很大的誤差。因此，對基于SVR預測模型中的參數運用PSO算法進行尋優，促使預測值較之前精度有很大提高；但由于PSO算法在解決高維多極值問題時，容易陷入局部最優，為此，本研究提出自適應慣性權重PSO算法的SVR預測組合模型，其具體思想如下。

(1)對原始數據做數據預處理。原始數據難免存在奇異值，運用“3δ準測”剔除奇異值，將剔除的奇異值“斷鏈”現象運用內在物理聯系、線性內插法、多項式曲線擬合等進行插補，由于所研究的數據可能不在同一個量綱單位或為加快預測組合模型運行速度，因此需要對樣本數據進行標準化處理，將樣本數據歸一化到區間[-1，1]中。

(2)建立支持向量回歸機。支持向量回歸機尋求的是一個線性回歸方程(函數y=g(x))去擬合所有的樣本點，也就是使用y=g(x)來推斷任意輸入x所對應的輸出值。求解回歸方程可以將其簡化為一個求二次凸規劃問題，運用最小貫序列方法(Sequential Minimal Optimization,簡稱SMO)等求解，依據“相似程度”的概念來選取適當的核函數，本研究采用RBF核函數。

(3)運用自適應慣性權重PSO算法參數尋優。給定隨機初始化粒子的位置和速度，并對慣性權重w進行賦值，再計算各粒子的個體適應度，并找出所有粒子適應度的最優值，再根據適應度利用自適應慣性權重更新公式對w進行更新，利用速度更新公式對粒子的速度更新，進而得到新的粒子位置。每次迭代之后都要重新計算適應值，根據適應度利用自適應慣性權重更新公式對w進行更新，并重新找出所有粒子的最優位置和每個粒子的自身歷史最優位置，依次循環，直到得到最后的尋優結果。算法執行過程中，粒子不斷向著更加接近最優解(自身歷史最優和全局最優)的方向前進。

以上就是自適應慣性權重PSO算法的SVR預測組合模型的具體流程，具體流程圖如圖1所示。

圖1 組合模型構建流程Fig.1 Flow chart of combination model building

2 工程實例

2.1 礦山邊破滑坡位移數據

為了驗證基于自適應慣性權重PSO算法的支持向量機邊坡位移預測模型可行性，選用某礦邊坡滑坡位移數據作為本研究原時序列數據，其滑坡體是2005年施工中出現的較大滑坡體，且變形較大，對其主滑方向3#監測點進行監測，監測數據如表1所示。

表1 滑坡位移監測資料Table 1 Data of landslide displacement monitoring

2.2 邊坡位移預測過程

選用表1中第1～20時序的20個滑坡位移數據作為學習樣本，第21～25時序的5個位移監測值作為測試樣本，其中基于自適應慣性權重PSO算法的SVR組合預測模型步驟如下：①對原始序列1～20學習樣本數據和21～25測試樣本數據預處理;②將處理后的數據導入基于自適應慣性權重PSO算法的SVR組合預測模型，先訓練前20期數據，預測第21期數據;③將第21期樣本數據加入到訓練樣本中，同時保持總訓練樣本數不變，依次預測至25期，記錄并與實測值比較。

實驗平臺采用faruto等人基于MATLAB數學軟件開發設計的加強版LIBSVM3.1-[FarutoULtimate 3.1Mcode]工具箱進行測試。用均方誤差MSE作為評價指標：

(8)

其中，xi(i=1,...,n)是真實值；yi(i=1,...,n)是預測值。

MSE越接近零，預測效果越好。參數尋優結果如圖2。

圖2 粒子適應度MSE曲線Fig.2 Particle fitness MSE diagram◆—最佳適應度；○—平均適應度

為方便分析自適應慣性權重PSO算法的SVR組合預測模型所得結果優越性，又采用基于灰色預測型、基于傳統SVR預測模型進行了預測。與真實值對比結果如圖3、圖4、圖5所示。

圖3 組合模型Fig.3 Combination model◆—實測值；●—預測值

圖4 傳統SVR模型Fig.4 Traditional SVR model◆—實測值；●—預測值

圖5 灰色模型Fig.5 Grey model◆—實測值；●—預測值

2.3 結果分析

灰色模型、SVR模型、自慣性權重PSO的SVR組合模型預測誤差用相對誤差Erep表示：

(9)

3種方法相對誤差對比結果如表2所示。從表2中可以看出灰色模型最大、最小相對誤差為20.2%、13.6%；SVR模型最大、最小相對誤差為8.57%、2.34%；自慣性權重PSO的SVR組合預測模型最大、最小相對誤差為2.85%、0.13%。從灰色預測模型與基于傳統SVR預測模型結果對比，說明支持向量機在預測方面比傳統的方法預測更為準確。對于基于SVR預測模型和自適應慣性權重PSO算法的SVR組合預測模型預測結果對比，可以看出支持向量機能夠改進并能在循序漸進的改進中帶來相應的精度提高。由此可以驗證自適應慣性權重PSO算法的SVR組合預測模型在邊坡預測中有更高的精度，尤其相對于傳統灰色預測模型來講精度提高16個百分點左右。

表2 滑坡位移預測值Table 2 Forecasted values of landslide displacements

3 結 語

支持向量機是機器學習算法中較為前沿的算法，在解決有限樣本預測問題中有較好的效果，在邊坡預測中得到了廣泛的認可。實驗證明自適應慣性權重PSO算法的SVR組合預測模型可運用到邊坡預測中，且與傳統預測模型對比，精度上有較大的提高。

[1] 任 超,梁月吉,龐光鋒,等.經驗模態分解和遺傳小波神經網絡法用于邊坡變形預測[J].測繪科學技術學報,2014,31(6):551-555.

Ren Chao,Liang Yueji,Pang Guangfeng,et al.The empirical mode decomposition and genetic algorithm wavelet neural network for slope deformation prediction research[J].Journal of Geomatics Science and Technology,2014,31(6):551-555.

[2] 劉春雨.改進的支持向量機的理論研究及應用[D].咸陽：西北農林科技大學,2016.

Liu Chunyu.Theoretical Research and Application on Improved SVM[D].Xianyang:Northwest A & F University,2016.

[3] 郭美麗,覃錫忠,賈振紅,等.基于改進的網格搜索SVR的話務預測模型[J].計算機工程與科學,2014,36(4):707-712.

Guo Meili,Qin Xizhong,Jia Zhenhong,et al.The prediction model of traffic based on improved grid search SVR[J].Computer Engineering & Science,2014,36(4):707-712.

[4] 潘國榮,谷 川.改進的遺傳算法用于工業測量數據處理[J].大地測量與地球動力學,2008,28(1):55-58.

Pan Guorong,Gu Chuan.Application of improved genetic algorithm in industral surveying data processing[J].Journal of Geodesy and Geodynamics,2008,28(1):55-58.

[5] Eberhart R C,Kennedy J.A new optimizer using particle swarm theory[C]∥Proc of the Sixth International Symposium on Micro Machine and Human Science.Nagoya,Japan:[s.n.],1995:39-43.

[6] 王志剛.基于粒子群和人工蜂群算法的混合優化算法[J].科學技術與工程,2012,12(20):4921-4925.

Wang Zhigang.Hybrid optimization algorithm based on particle swarm optimization and artificial bee colony Al Grithm[J].Science Technology and Engineering,2012,12(20):4921-4925.

[7] Kennedy J,Eberhart R C.Particle swarm optimization[C]∥Proceedings of IEEE International Conference on Neural Networks.Piscataway,NJ:IEEE Press,1995:1942-1948.

[8] 韓江洪,李正榮,魏振春.一種自適應粒子群優化算法及其仿真研究[J].系統仿真學報,2006,18(10):2969-2971.

Han Jianghong,Li Zhengrong,Wei Zhenchun.Adaptive particle swarm optimization algorithm and simulation[J].Journal of System Simulation,2006,18(10):2969-2971.

[9] 唐雪琴,王 侃,徐宗昌,等.基于MAPSO算法的小波神經網絡訓練方法研究[J].系統仿真學報,2012,24(3):608-612.

Tang Xueqin,Wang Kan,Xu Zongchang,et al.Research on WNN training algorithm based on MAPSO algorithm[J].Journal of System Simulation,2012,24(3):608-612.

[10] 趙朝賀.一種改進的支持向量機參數優化方法[J].地理空間信息,2017,15(1):53-55.

Zhao Chaohe.Improved optimization method for support vector machine parameter[J].Geospatial Information,2017,15(1):53-55.

[11] 段鎖林,任玨朋,毛 丹,等.基于改進的PSO優化SVM火災火焰識別算法研究[J].計算機測量與控制,2016,24(4):202-205.

Duan Suolin,Ren Juepeng,Mao Dan,et al.Fire flame recognition algorithm based on particle swarm optimization-based SVM[J].Computer Measurement & Control,2016,24(4):202-205.