機器學習輔助下的概率積分法參數預計模型尋優

沈　震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學測繪學院，安徽 淮南 232001)

?

機器學習輔助下的概率積分法參數預計模型尋優

沈震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學測繪學院，安徽 淮南 232001)

收集整理了多組地表移動觀測站資料作為訓練樣本和檢驗樣本，以工作面地質采礦條件為輸入集，概率積分法預計參數為輸出集，利用機器學習方法對概率積分法預測參數進行了預測。選取支持向量機、BP神經網絡和偏最小二乘法3種機器學習方法對訓練樣本進行訓練，利用訓練所得模型預測檢驗樣本中的概率積分法預測參數，并將預測結果與觀測站實測值進行對比。結果表明，利用支持向量機預測下沉系數、主要影響角正切值及水平移動系數的精度最高，其平均相對誤差分別達到7.46%、4.00%、13.17%;拐點偏距及開采影響傳播角利用偏最小二乘法預計精度最高，平均相對誤差分別為10.83%、0.88%;總體而言支持向量機的預測精度最為穩定。

概率積分法預計參數；支持向量機；BP神經網絡；偏最小二乘法；模型尋優

一、預測模型及其算法簡介

機器學習是指通過計算機編程實現從已知數據樣本中自動分析獲得規律，并利用分析結果對未知數據進行預測的方法。本文選取了機器學習中有代表性的3種方法：支持向量機、BP神經網絡及偏最小二乘法對概率積分法參數進行預測。

1. 支持向量機

支持向量機，其主要思想是利用一個非線性映射K，將原本線性不可分的數據集合映射到高維空間，即

K(x,z)=φ(x)·φ(z)

(1)

式中，K為核函數；φ是從x到內積特征空間F的映射。在高維空間中選擇一個超平面實現數據的最優分類，式(2)、式(3)分別為決策函數和分類平面的數學模型，利用此最優超平面對預測數據進行分類或預測[7-8]。

yi=sgn(wxi+b)

(2)

wxi+b=0

(3)

2. BP神經網絡模型

BP神經網絡屬于按誤差逆傳播算法訓練的多層前饋網絡，是目前應用最廣泛的神經網絡模型之一。訓練開始前計算機隨機生成一組向量作為權值分配給各輸入分量，隨后由事先定義的決策函數F根據輸入量計算得到輸出數據，并根據輸出結果與真實數據之間的誤差反復修正權向量，直至輸出結果與真實數據的中誤差達到限值，最后利用網絡學習所得到的模型對未知數據進行預測[8-9]。

3. 偏最小二乘法

偏最小二乘法，其通過對自變量及應變量矩陣進行主成分分解以提取其中的隱藏因子，隨后通過迭代計算確定回歸系數，并利用一個線性模型來描述自變量與因變量之間的關系。其數學模型如下

Y=b0+b1X1+b2X2+…+bnXn

(4)

式中，Y為因變量向量；X1、X2、…、Xn為自變量元素；b0為截距；b1、b2、…、bn為自變量元素對應的回歸系數[10]。

二、樣本數據訓練

1. 樣本數據預處理

北京大學人民醫院魏來（摘要637）報告了中國3期臨床研究，sofosbuvir/velpatasvir（SOF/VEL）治療基因1～6型患者12周，耐受性好，12周總SVR為96%。不論是否有肝硬化基因1型、2型、6型均獲得100%的12周SVR。基因3型12周SVR為83%（其中有16%患者為經治）。基因3b型有肝硬化的患者SVR相對低。一項來自意大利的研究顯示SOF/VEL治療基因3型12周，在代償期肝硬化患者中的12周SVR為96.4%，在失代償期肝硬化患者療效欠佳。聯合使用利巴韋林（RBV）未增加療效優勢。

本文以23個地表移動觀測站數據作為樣本，其中前19組為訓練樣本，后4組為檢驗樣本。根據概率積分法預測參數、工作面地質采礦條件及機器學習方法特點，選取7個地質采礦條件參數作為樣本的輸入集，包括：平均開采深度H0、開采厚度m、覆巖平均堅固性系數f、松散層厚度w、采動程度n、煤層傾角α及重復采動影響。其中，采動程度n由工作面傾向長度L與平均開采深度H0的比值L/H0計算；重復采動項中0代表首采，1代表重復采動；覆巖平均堅固性系數f計算公式為

(5)

式中，mi為第i層煤層法向厚度；Ri為該層單向抗壓強度。樣本輸入集見表1。

表1　工作面基本參數

輸出集為概率積分法預測參數，分別為：下沉系數q、水平移動系數b、主要影響角正切值tanβ、開采影響傳播角θ、拐點偏距與采深的比值S/H0，樣本輸出集見表2[11-12]。

表2　概率積分法預測參數

由于樣本數據中包含多種參數，且參數取值范圍區別較大，若直接進行訓練會導致部分參數占有更大的比重，影響訓練結果，因此在確定樣本數據后對樣本數據進行歸一化處理以提高訓練精度。

2. 模型訓練

(1) 支持向量機訓練結果

利用Matlab中的Libsvm工具箱對歸一化后的樣本數據進行訓練，其中基礎模型使用epsilon-SVR模型，核函數采用RBF(徑向基)核函數，核函數gamma值設為2.8[13]。以下沉系數為例，訓練結果均方誤差MSE=0.035 3，圖1為訓練值與原始值對比圖。

(2) BP神經網絡訓練結果

BP神經網絡模型由輸入層、輸出層及隱藏層組成，其中輸入層和輸出層分別對應樣本數據中的輸入集和輸出集。隱藏層可為一層或多層，隱藏層的節點數過少將削弱模型精度，過多會降低運算速度，本文經過試驗對比將隱藏層層數設為1，節點數設置為17，神經網絡模型結構如圖2所示[14]。

圖1　支持向量機訓練結果

圖2　BP神經網絡結構

利用BP神經網絡對訓練樣本進行訓練，在9998次訓練后精度趨于穩定，均方誤差MSE=0.016 7。

(3) 偏最小二乘法訓練結果

利用偏最小二乘法對訓練樣本進行訓練，可得到每個因變量相對于自變量的線性模型，以下沉系數q為例，其關于工作面地質采礦條件的線性模型如下

q=1.562 3-0.000 9H0+0.001 6w-0.282 7n-0.000 3α-0.045 1m-0.077 9f-0.015 0r

(6)

訓練結果與原始數據均方誤差為0.011 3。

三、預測結果精度分析

利用訓練所得模型對檢驗樣本中的概率積分法參數進行預測。支持向量機、BP神經網絡及偏最小二乘法預測結果見表3—表5。

表3　支持向量機預測值

表4　神經網絡預測值

表5　偏最小二乘法預測值

將3種方法預測值與地表移動觀測站解算結果進行對比，計算其平均相對誤差平均值及最大相對誤差，結果見表6。

表6　預測精度對比　(%)

由表6可知，下沉系數q、主要影響角正切值tanβ及水平移動系數b利用支持向量機進行預測時精度最高；拐點偏距與采深的比值S/H0及開采影響傳播角θ利用偏最小二乘法預測時精度最高；就總體預測結果而言，支持向量機的預測精度最高。

四、結　論

1) 以觀測站實測數據為樣本數據，采用支持向量機、BP神經網絡及偏最小二乘法3種機器學習方法對概率積分法參數進行了預測，結果證明機器學習方法能夠較為準確地預測概率積分法參數，為開采沉陷工作提供參考。

2) 不同的機器學習方法預測概率積分法參數時精度不盡相同，應根據實際情況選擇精度最高的預測模型或多種模型結合，如利用支持向量機方法預測下沉系數q、主要影響角正切值tanβ及水平移動系數b，而拐點偏距及開采影響傳播角θ則可使用偏最小二乘法進行預測。

[1]何國清,楊倫,凌賡娣,等.礦山開采沉陷學[M].徐州:中國礦業大學出版社,1995.

[2]鄒友峰.開采沉陷預計參數的確定方法[J].焦作工學院學報(自然科學版),2001,20(4):253-257.

[3]麻鳳海,楊帆.采礦地表沉陷的神經網絡預測[J].中國地質災害與防治學報,2001,12(3):87-90.

[4]郭文兵,鄧喀中,鄒友峰.概率積分法預計參數選取的神經網絡模型[J].中國礦業大學學報,2004,33(3):88-92.

[5]楊帆，麻鳳海.地表移動預計參數選取的神經網絡法[J].中國地質災害與防治學報,2004,15(1):102-106.

[6]YAN W Y, HE Q.Multi-class Fuzzy Support Vector Machine Based on Dismissing Margin[C]∥Proceedings of the Eighth International Conference on Machine Learning and Cybernetics. Baoding, China: [s.n.], 2009: 1139-1144.

[7]林卉,朱慶,胡召玲.模糊支持向量機和變化矢量分析相結合的礦區土地覆蓋變化檢測[J]. 測繪通報,2014(11):25-27.

[8]梁月吉,任超,楊秀發,等.結合雙樹復小波和廣義回歸神經網絡的鐘差預報方法研究[J].測繪通報,2016(1):6-10，18.

[9]Kerh T,Gunaratnam D,Chan Y.Neural Computing with Genetic Algorithm in Evaluating Potentially Hazardous Metropolitan Areas Result from Earthquake[J].Neural Computing & Application,2010,19(4):521-529.

[10]羅批,郭繼昌,李鏘,等.基于偏最小二乘回歸建模的探討[J].天津大學學報(自然科學與工程技術版),2002,35(6):783-786.

[11]徐良驥,王少華,馬榮振,等.厚松散層開采條件下覆巖運動與地表移動規律研究[J].測繪通報,2015(10):52-56.

[12]劉偉韜,劉歡,陳志興,等.地表沉陷預計參數精度分析[J].測繪科學,2016(8):1-8.

[13]范昕煒.支持向量機算法的研究及其應用[D].杭州：浙江大學,2003.

[14]劉天舒.BP神經網絡的改進研究及應用[D].哈爾濱：東北農業大學,2011.

Probability Integral Method Parameters Prediction Model Optimization Based on Machine Learning Methods

SHEN Zhen，XU Liangji，LIU Xiaopeng，QIN Changcai，WANG Zhenbing

沈震，徐良驥，劉瀟鵬,等.機器學習輔助下的概率積分法參數預計模型尋優[J].測繪通報，2016(10)：35-38.DOI:10.13474/j.cnki.11-2246.2016.0324.

2016-05-10

國家自然科學基金(41472323)；安徽省對外科技合作計劃(1503062020)

沈震(1990—)，男，碩士生，研究方向為礦山開采沉陷。E-mail：abczhenxx@qq.com

P258

B

0494-0911(2016)10-0035-04