楊健為,徐 堅,吳小役,魯玉祥,魏繼卿
(西北機電工程研究所,陜西 咸陽 712099)
?
基于差分進化支持向量機的作戰效能評估方法
楊健為,徐堅,吳小役,魯玉祥,魏繼卿
(西北機電工程研究所,陜西 咸陽712099)
武器系統作戰效能的評估具有重要意義。針對作戰效能評估過程中影響因素復雜、小樣本、非線性等問題,引入基于最小二乘法的支持向量機回歸算法,用于作戰效能的學習與預測。為了提高預測精度,引入差分進化算法進行支持向量機的參數優化選取。以地地導彈武器系統效能為例,分別采用BP神經網絡算法、經典支持向量機算法與本文算法進行仿真計算,結果表明差分進化支持向量機算法可很好地實現武器系統作戰效能評估,具有較好的計算精度。
作戰效能;支持向量機;差分進化算法:BP神經網絡
武器系統作戰效能評估具有重要意義。在武器系統的設計、研制、試驗、使用以及維護等過程中,效能評估都能起到指導性的作用[1]。
對武器系統進行效能評估的方法很多,傳統方法有:專家調查法、試驗統計法、層次分析法、解析法、指數法和SEA法等。這些方法得到了廣泛應用,但存在一些問題,如受到人為因素的影響較大,武器系統的非線性被過分簡化,評估指標不夠體系化等,從而導致效能評估的誤差增大[2]。
近年來,隨著機器學習的研究不斷深入,因其客觀性,其在效能評估上的應用得到不斷重視。而效能評估過程中,由于效能評估指標、影響因素尚未體系化、標準化,缺少效能評估的歷史數據積累,對機器學習的開展造成不小難題。筆者引入差分進化支持向量機算法對武器系統的作戰效能進行學習與預測,以地地導彈武器系統效能為例,在小樣本的情況下,該方法可很好地完成歷史數據的非線性學習,并比BP神經網絡算法、傳統支持向量機算法取得了更高精度的評估結果,從而有效地減小人為因素對效能評估的影響。
支持向量機(Support Vector Machine,SVM)是近年來機器學習、模式識別以及神經網絡界最有影響力的成果之一[3]。它采用結構風險最小化原則代替傳統的經驗風險最小化原則,對有限樣本進行學習,得到比傳統統計技術和方法更好的結果。
筆者采用基于最小二乘法的支持向量機(Least Square Support Vector Machine,LS-SVM),該方法采用最小二乘線性系統作為損失函數,替代傳統支持向量機所采用的二次規劃方法,可以較為客觀地提高學習速度,并且在小樣本情況下具備有效建模的能力和較強的泛化能力。
將已有的樣本稱為訓練樣本,可以設為X={(xi,yi)|i=1,2,…,n},xi∈Rn,yi∈R,x、y之間存在函數關系,表現為
F={f|f∶Rn→R}
(1)
對于非線性系統,支持向量機通過非線性函數將輸入空間映射到高維空間,在高維空間中得到變換后的線性規律。
f(x)=w·Φ(x)+b
(2)
式中:Φ(x)∶Rn→Rnk為輸入空間映射到高維空間的非線性函數,或稱為核空間映射函數;w∈Rnk為權重向量;b為偏差量。
對給定的訓練樣本,根據結構風險最小化原則,得到基于最小二乘法的支持向量機的優化問題:
(3)
s.t.yk=wT·Φ(xk)+b+ek,k=1,2,…,N
(4)
式中:N為訓練樣本容量;e為學習結果與實際結果的誤差;γ為正則化參數。
為求解以上優化問題,構造拉格朗日函數,將目標函數和約束函數整合為
b+ek-yk}
(5)
式中,α為拉格朗日乘子。
根據KKT最優條件,將上式函數L對w、b、e、α求偏導數,得到:
(6)
對于i=1,2,…,N消去ei和w后,可得到如下線性方程組:
(7)
根據Mercer條件,存在核函數K(xi,xj)滿足:K(xi,xj)=Φ(xi)·Φ(xj),常用的核函數有多項式核函數、徑向基函數(RBF函數)、多層感知器核函數(Sigmoid函數)。徑向基函數由于可以將輸入空間映射到無限維空間,是最常用的核函數之一,筆者采用徑向基函數。
K(xi,xj)=exp{-(‖xi-xj‖2)/2σ2}
(8)
式中,σ為徑向基函數參數。
通過對上面方程組的求解,最后得到LS-SVM的估計函數為
(9)
LS-SVM需要設置的參數為:正則化參數γ,徑向基函數參數σ。參數設置對支持向量機的計算精度有著很大影響,但對于參數的設置尚缺乏比較成熟的理論證明和實踐指導[4]。
2.1差分進化算法原理
差分進化(Differential Evolution,DE)算法是模擬自然界生物種群以“優勝劣汰、適者生存”為原則的進化發展規律,而形成的一種隨機啟發式搜索算法。該方法采用全局搜索策略,采用實數編碼、基于差分的簡單變異操作,降低了遺傳操作的復雜性,同時具備動態跟蹤當前搜索情況的能力,可以不斷調整搜索策略;具有待定參數少、不易陷入局部最優、收斂速度快等優點[5]。差分進化算法由變異、交叉和選擇3個基本操作組成。
2.1.1變異操作
從群體中隨機選擇3個不同的個體xp1、xp2和xp3,變異得到的新的個體為hi,對當前群體通過下面變異操作得到下一進化代的個體。
hij(t+1)=xp1j(t)+F·(xp2j(t)-xp3j(t))
(10)
式中:j為對應個體的染色體序號;t為進化代數;xp2(t)-xp3(t)為差異化變量;F為變異因子。
2.1.2交叉操作
為了增加群體的多樣性,在變異操作的基礎上進行交叉操作,操作如下:
(11)
式中:r為[0,1]之間的隨機數;CR為交叉概率,CR∈[0,1]。
2.1.3選擇操作

(12)
式中,f(x)為適應度函數。
進行以上3個基本步驟前,需要先生成一個初始群體,實施措施為
(13)

2.2基于差分算法的LS-SVM參數優化
支持向量機的參數選擇問題可以看作一種函數尋找最優解的問題。通過大量的實踐證明,學習的誤差小并不意味著預測的精度高。可以通過定義合適的適應度函數,在學習精度與預測精度之間取適當的折中,作為支持向量機參數尋優的判斷標準。
將樣本數據集劃分成訓練樣本集和預測樣本集,再將訓練樣本集劃分為學習樣本集和驗證樣本集,引入交叉驗證機制(Cross Validation,CV)來減小訓練樣本集的劃分對算法的影響[6]。隨機選擇訓練樣本集中M組數據作為學習子集,剩余子集作為驗證樣本,建立LS-SVM回歸預測模型,計算適應度函數。循環該過程K次,并記錄每次循環中得到的適應度函數值;適應度函數值越小,則參數越優。定義適應度函數f如下:
(14)
式中:yi為驗證樣本實際值;yi′為對應的預測值;c1、c2分別為學習精度權重系數和驗證精度權重系數,c1+c2=1。
3.1基于差分進化支持向量機的作戰效能評估方法
效能本質上是一個多屬性函數,進行作戰效能評估的首要工作是確定作戰效能評估的指標體系,明確影響因素。通過試驗、實際作戰等積累作戰效能評估經驗,作為LS-SVM學習的歷史數據;為了保證預測的客觀性,需要盡可能避免主觀因素對歷史數據的干擾。
在建立了作戰效能評估的學習樣本庫之后,根據所選擇的效能評估體系,可以對數據進行歸一化處理來減小數值大小對學習結果的影響,也可以進行主成分分析來適當簡化學習和預測過程。
作戰效能評估過程如圖1所示。

3.2算例
筆者以文獻[7]中地地導彈武器系統效能仿真為例說明,該效能評估方法基于貝葉斯網絡的正向探索模式分析,在SIM 2000柔性仿真平臺上完成,計算取得如表1所示的樣本數據。取突防成功概率y作為效能指標,效能影響因素有:紅外干擾誘餌釋放數量X1,紅外干擾誘餌釋放高度X2,壓制干擾機數量X3,紅外導引頭探測距離X4,發射距離X5。

表1 地地導彈效能評估數據樣本
在仿真過程中,采用Matlab實數編碼,決策變量為LS-SVM中的正則化參數γ、徑向基函數參數σ。選擇25個樣本作為訓練樣本,其余4個作預測樣本;訓練樣本集中隨機選擇2組作為驗證樣本,循環驗證10次。取變異因子F=1.2,交叉因子CR=0.9,尋優參數樣本個數為50,最大迭代次數G=50。一般情況下,LS-SVM正則化參數γ取值范圍為(0,400),徑向基函數參數取值范圍為(0.08,12)。取適應度函數中學習精度權重系數c1=0.9,驗證精度權重系數c2=0.1。尋優結果為γ=400,σ=3.111 5。
為了說明基于DE的LS-SVM的預測效果,將其與傳統LS-SVM算法(取γ=10,σ=1)、BP神經網絡算法進行比較。BP神經網絡學習在Matlab自帶的神經網絡工具箱中進行,采用3層神經網絡,5-10-1結構,學習效率為0.05,學習規則為“trainlm”。
從訓練效果與預測效果兩方面對比3種算法,如表2~3所示。表2從學習樣本的實際效能指標值與訓練輸出效能指標值的平均誤差和均方差兩個角度,對比3種算法的學習誤差及其波動情況,反映學習效果。表3反映3種算法的預測效果,將4組待預測樣本的效能指標的期望指標和預測指標進行對比,并計算預測誤差。

表2 3種算法的訓練效果對比

表3 3種算法的預測效果對比
通過分析以上數據,得到結論如下:
1)由于樣本容量較小,BP神經網絡不能得到確定的學習模型,在不同的初始權值設置下,得到的訓練效果和預測結果差別很大,所以在文中未做確定表示。這說明神經網絡在解決小樣本數據的學習問題時存在局限性,容易陷入局部次優解。
2)傳統LS-SVM和DE-SVM都對小樣本數據進行了確定的學習,這有效說明了支持向量機在處理小樣本數據時不存在陷入局部次優解的問題。但不同的參數設置對訓練效果與預測效果影響較大:2種參數的學習平均誤差相差不大,但傳統SVM出現了欠學習的現象,所以均方差較大;對比預測效果,DE-SVM的預測平均誤差更小,說明取得了更好的預測效果。基于以上對比,說明SVM能夠有效進行小樣本的學習與預測,通過差分進化算法進行參數優化,能夠有效提高預測效果,該方法在作戰效能的評估過程中有一定的參考意義。
3)值得說明的是,歷史數據對支持向量機計算結果有著重要影響,而對于武器系統的效能評估,歷史數據的積累還需要更進一步的工作。
針對效能評估過程中影響因素復雜、小樣本、非線性等問題,筆者引入基于差分進化算法和支持向量機算法的方法,用于效能評估的學習與預測。計算表明,該方法的計算結果精度較高,具有一定的可行性。
References)
[1]高尚. 基于Rough集和支持向量機的作戰飛機效能評估[J]. 計算機工程,2006,32(14):184-186.
GAO Shang. Assessing of battle plane effectiveness based on rough set and support vector machine[J]. Computer Engineer, 2006, 32(14): 184-186. (in Chinese)
[2]程愷,張宏軍,柳亞婷,等. 作戰效能及其評估方法研究綜述[J].系統科學學報,2014,22(1): 88-92.
CHENG Kai, ZHANG Hongjun, LIU Yating, et al. Review on operational effectiveness and evaluation method[J]. Journal of Systems Science, 2014, 22(1): 88-92. (in Chinese)
[3]史志富,雷金利,張安,等.機載火控系統效能評估的支持向量機方法[J]. 電光與控制,2010,17(3): 9- 11.
SHI Zhifu, LEI Jinli, ZHANG An, et al. Effectiveness evaluation for airborne fire control system based on support vector machine[J]. Electronics Optics & Control, 2010, 17(3): 9-11. (in Chinese)
[4]王玨鑫. 基于多種智能計算方法的支持向量回歸機參數優化[D].長春:吉林大學,2010.WANG Juexin. Parameter optimization for support vector regression based on multiple intelligent computation methods[D].Changchun:Jilin University,2010.(in Chinese)[5]劉金琨,沈曉蓉,趙龍. 系統辨識理論及MTLAB仿真[M]. 北京:電子工業出版社,2013:240-243.
LIU Jinkun, SHEN Xiaorong, ZHAO Long. The theory of system identification and MATLAB simulation[M]. Beijing: The Publishing House of Electronics Industry, 2013: 240-243. (in Chinese)
[6]唐闊,胡國勝,車喜龍,等. 基于遺傳算法優化支持向量回歸機的網格負載預測模型[J]. 吉林大學學報:理學版,2010,48(2): 251-255.
TANG Kuo, HU Guosheng, CHE Xilong, et al. Grid host load prediction model of support vector regression optimized by genetic algorithm[J]. Journal of Jilin University:Science Edition, 2010, 48(2): 251-255. (in Chinese)
[7]楊峰,王維平. 武器裝備作戰效能仿真與評估[M]. 北京:電子工業出版社,2010: 263-264.
YANG Feng, WANG Weiping. Weapons and equipment operational effectiveness simulation and evaluation[M]. Beijing: The Publishing House of Electronics Industry, 2010: 263-264. (in Chinese)
Evaluation Method for Operational Effectiveness Based on Support Vector Machine with Differential Evolution
YANG Jianwei, XU Jian, WU Xiaoyi, LU Yuxiang, WEI Jiqing
(Northwest Institute of Mechanical & Electrical Engineering, Xianyang712099, Shaanxi, China)
It is of great significance to evaluate the operational effectiveness of weapon system. With regard to the problems such as complicated impact factors, small sample and nonlinearity, the least square support vector machine was used to study and predict the evaluation of operational effectiveness. When establishing the parameters of SVM, Differential evolution was introduced to enhance the accuracy of the prediction. With the evaluation of surface to surface missile as an example, this new method, BP neural network and traditional SVM were used for simulation calculation. It is shown that the method of LS-SVM with Differential Evolution works well for the evaluation of operational effectiveness with a better computing accuracy.
operational effectiveness; support vector machine; differential evolution; BP neural network
2015-06-02
楊健為(1992—),男,碩士研究生,主要從事火炮總體技術研究。E-mail:yjw624@126.com
TJ01
A
1673-6524(2016)01-0016-05