基于聯合局域相關向量機的雷達導引頭狀態預測方法

逯 程, 徐廷學, 王 虹

(1. 海軍航空大學岸防兵學院, 山東 煙臺 264001; 2. 中央軍委聯合參謀部第55研究所, 北京 100094)

0 引 言

狀態預測技術是視情維修(condition based maintenance, CBM)策略的關鍵技術之一,它通過整合裝備當前及歷史狀態監測數據,判斷其在未來一段時間內的狀態發展趨勢,從而為維修保障提供決策信息。

目前,裝備的退化狀態預測方法主要分為3類[1]:基于經驗、基于模型和基于數據驅動的預測。基于經驗的預測方法通常針對狀態信息獲取困難的裝備,該方法實現簡單,但是預測結果往往不夠理想;基于模型的預測方法需要對裝備狀態進行精確的數學建模,而這一點對于復雜的機電裝備難度較大;而基于數據驅動的預測方法[2-4]靈活性較強,適用于各類型裝備的退化狀態預測,具有很可觀的工程實用價值。當前,人工神經網絡(artificial neural network, ANN)、灰色系統理論(grey system theory, GST)和支持向量機(support vector machine, SVM)已被廣泛用于這一領域的研究,并表現出不錯的性能。但它們也存在一些固有缺陷,如ANN在優化過程中易陷入局部最優值,且性能受到訓練樣本量的限制;GST極易受到數據序列波動性的影響,且長期預測精度不佳;SVM模型參數設置復雜,稀疏性有限,輸出結果沒有概率輸出,忽視了預測的不確定性問題。這些不足極大限制了它們在工程上的實際應用。

相關向量機(relevance vector machine, RVM)是文獻[5-6]于2001年提出的一種基于稀疏Bayesian學習理論的機器學習算法。與SVM相比,其核函數不受Mercer條件的限制,選取更加靈活;參數設置簡單,避免了復雜的附加參數;解的稀疏性也遠高于SVM,具有較好的泛化能力;其概率式的輸出也能有效提供更多決策信息,降低預測風險[5-6]。目前,已在壽命預測[7]、可靠性預測[8]及時間序列預測[9]等領域取得了不錯的應用效果,是當前小樣本預測建模問題的研究熱點。

所以本文結合裝備保障實際,在RVM回歸模型的基礎上,提出了一種基于聯合局域相關向量機(united local relevance vector machine, U-LRVM)的預測方法。通過構建一種方差高斯核函數來提高核函數的全局性能和泛化能力;通過借鑒混沌序列局域預測法中鄰近點個數的選取方法,利用Hannan-Quinn(H-Q)準則對訓練空間預測嵌入維數進行優化,避免了主觀選取的盲目性,完成了改進局域相關向量機(local relevance vector machine, LRVM)模型的構建;針對傳統預測方法僅考慮單一性能指標變化趨勢的不足,利用具有近似退化規律的同源裝備測試數據對LRVM進行了改進,結合Dempster-Shafer (D-S)證據理論在數據融合領域的優良性能,對傳統和改進LRVM兩種模型進行了融合,建立了U-LRVM模型,如圖1所示。

圖1 U-LRVM 預測模型Fig.1 Prediction model of U-LRVM

1 RVM預測模型

1.1 RVM回歸原理

RVM是一種非線性稀疏Bayesian學習理論,其良好的泛化性能和較少的相關向量使其在預測領域取得了較好的應用,其回歸模型原理如下。

ti=y(xi,ω)+εi

(1)

式中,樣本高斯噪聲εi～N(0,σ2)。類似于SVM的表達式,將式(1)用一系列核函數可以表示為

(2)

式中,ω=[ω0,ω1,…,ωN]T為權參數向量;K(·,·)為核函數。因此可以推斷出p(ti|xi)=N(ti|y(xi,ω),σ2),即ti滿足ti～N(y(xi,ω),σ2)。為方便表達,引入超參數β=σ-2,則整個訓練樣本數據組的似然函數表示為

(3)

式中,t=[t1,t2,…,tN]T;Φ∈RN×(N+1)是設計矩陣,定義為Φ=[φ(x1),φ(x2),…,φ(xN)]T,基函數向量。

(4)

式中,在超參數α=[α1,α2,…,αN]中的每個αj都相互獨立且只與對應的權值ωj相關。利用式(3)和式(4),根據Bayesian公式即可得到ω后驗分布的均值矩陣μ和協方差矩陣Σ分別為

Σ=(βΦTΦ+A)-1

(5)

μ=βΣΦTt

(6)

式中,Α=diag(α0,α1,…,αN)。若要得到ω的后驗分布,必須對兩個影響參數β和αj進行優化,具體方法為最大化邊緣似然函數p(t|α,β)。對p(t|α,β)等號兩邊取對數得到目標函數后,再根據目標函數分別對αj和β求偏導并令導數為0,得到兩個參數的迭代計算公式為

(7)

(8)

γj=1-αjΣjj

(9)

式中,μj為μ的第j個元素;Σjj是協方差矩陣Σ第j個對角元。

y*=μTφ(x*)

(10)

(11)

1.2 RVM預測置信區間計算

(12)

若置信度設為1-θ,則

(13)

式(13)即p{y*-σ*zθ/2,y*-σ*zθ/2}=1-θ,所以t*置信度為1-θ的雙側置信區間為[y*-σ*zθ/2,y*-σ*zθ/2],上位數zθ/2可以通過標準正態分布表查找獲取。

2 RVM回歸模型參數優化

2.1 高斯核函數的改進

通過在SVM基礎上把基于高斯過程中的Bayesian推理應用到核理論上,RVM算法在先驗參數的結構下利用自相關判定理論(automatic relevance determination, ARD)移除不相關的樣本點,從而實現了模型的稀疏化[10]。雖然與SVM相比,RVM的核函數由于稀疏、較少的超參數而計算量大減,且脫離了Mercer條件的限制,但是預先確定的核函數性能依然會直接影響到RVM回歸預測的精度。

作為一種基于距離方程的核函數,高斯核函數的測試點在由源空間映射到高維特征空間后往往會變得稀疏。只有當核函數不僅能在測試點保持較快的衰減,而且在無限遠處也能保持一定的衰減時,上述情況才能得到改變。然而,高斯核函數只滿足前者,所以它是一種典型的局部核函數。近年來,很多學者通過構造高斯核函數與全局性核函數組成的混合核來提高核函數的性能[11-16],但在這個過程中又引入了多個參數變量,大大增加了RVM的計算復雜度。本文在高斯核函數的基礎上,通過構造一種改進的方差高斯核函數來提高RVM的性能。

在高斯核函數的標準形式里,所有的特征元素都利用相同的尺度因子來衡量,這一特性也使得具有大數值尺度范圍的特征要更占優勢,這一局限性也嚴重影響了其在實用中的性能。為克服這一問題,使各特征元素進行零均值歸一化并將其標為單位標準差形式，即

(14)

式中,μi和σi是特征向量的均值與標準差。將式(14)代入標準形式,將得到的結果改寫成核函數的形式,就產生了一個新的核函數,即

(15)

(16)

這樣構造的核函數不僅滿足前文提到的兩個條件,而且成功避免了未知參數的引入,另外在模型數據的輸入前也不需要數據的歸一化過程。文獻[17]中的研究指出,調整唯一的帶寬參數b對提高核函數的性能效果并不明顯,可以視為正態分布中的標準差σ。

2.2 訓練樣本空間維數的優化

實現時間序列{x1,x2,…,xn}預測的關鍵在于尋找到滑動時間窗口Xt={xt-1,xt-2,…,xt-m}與輸出Yt={Xt}之間的準確映射f:Rm→R,其中,t=m+1,m+2,…,n,m為預測嵌入維數。因此,參數m的確定對于預測建模的準確性至關重要。為了克服m選取的主觀盲目性,本文基于混沌時序的局域預測法[18-19]中鄰近點個數選取的思想,對RVM的訓練樣本空間最優嵌入維數進行了優化,該方法適合小數據量的情況,具有計算簡單和精度高的特點。

在鄰近點個數的確定過程中,本文基于H-Q準則[23],過程如下:

對d給定一個寬泛的范圍d∈[dmin,dmax],依次計算每個d值下的H-Q準則值:

(17)

(18)

3 基于數據融合的U-LRVM預測模型

3.1 聯合相關向量機思想

導彈在進行末制導雷達單元測試后,會得到雷達多個指標的性能測試數據。傳統采用RVM對性能參數進行預測是通過該參數的歷史測試數據預測其未來時刻的狀態參數值,但這種預測模型太過單一,預測結果也并不能十分令人信服。考慮到在導彈的實際貯存過程中,每季度正常情況下往往會對同批次的多個導彈同時進行檢測維護,這些同一生產批次導彈來自相同的工業生產廠家,統一列裝部隊后一直處于相同的貯存環境下,每次進行導彈貯存檢測時都會有數枚彈一起參與測試并記錄數據,也就是說，它們具有同源相近性的特點,本文統一稱其為同源裝備。所以，同源導彈往往具有相同的狀態退化規律,即其他導彈的性能參數變化也能從一定程度上反映待預測導彈的某一性能參數變化情況。基于以上分析,為充分利用同源導彈的性能退化數據,提出了一種聯合相關向量機(united relevance vector machine, U-RVM)的預測模型。

圖2 U-RVM 預測模型Fig.2 Prediction model of U-RVM

3.2 D-S證據組合規則

證據融合規則可以使來自不同信息源的證據融合成為更準確可靠的信息,也是D-S證據理論的核心[25]。Dempster證據組合規則如下:設Bel1和Bel2是識別框架U上的兩個信度函數,m1和m2分別是其對應的基本概率賦值(basic probability assignment,BPA),焦元分別為A1,…,Ak和B1,…,Br,則有

(19)

3.3 BPA的選取

在預測問題中,以第3.1節提到的兩種模型構建識別框架U={f1,f2},若它們進行q次預測則產生證據集E=(e1,e2,…,eq),mk(fj)為第k(k=1,2,…,q)次預測后證據ek對P-RVM或C-RVM預測模型的信任程度,即對第j(j=1,2)種模型的BPA值。本文基于模型預測效果的思想設計BPA計算公式,當模型預測偏差較大時,相對應的BPA值也會越小,基于這一原則,具體計算方法為

(20)

mk(U)=0

(21)

(22)

在預測過程中,基于新陳代謝的思想,每次產生的新證據會與之前的證據進行動態融合,有效增強了模型對新信息的適應能力和利用率。

3.4 權重系數的確定

根據P-RVM和C-RVM的組合模型U-RVM在t+1時刻對性能參數vi進行預測:

(23)

從式(23)可以看出,權重的分配將是影響U-RVM預測結果的關鍵因素。傳統的基于專家經驗的權重分配方式具有很大的主觀盲目性,所以本文利用D-S證據理論能夠根據證據累加來處理不確定性因素的優點,通過證據集的融合處理進行權重分配,具體計算方法為

(24)

式中,ωk,j為第k次預測后第j種模型所分配的權重值;m(fj)為證據融合后的第j種模型的BPA值。

3.5 U-LRVM預測算法

將改進的LRVM算法與U-RVM算法進行結合,構成了本文設計的U-LRVM算法,具體步驟如下。

步驟1確定某裝備待預測的I種性能指標,給定某性能指標測試序列vi=(vi,1,vi,2,…,vi,N),1≤i≤I,vi,j為j(1≤j≤N)時刻的參數值。同時確定p個同源測試裝備的性能指標矩陣

步驟2設定預測步數q。對P-RVM模型,訓練數據進行相空間重構得

C-LRVM重構后的訓練數據為

步驟5利用式(19)計算本次預測與之前預測的模型融合BPA值。

步驟6對之前的預測步數k進行判斷。若達到，則利用式(24)計算得到組合預測模型的權重ωk,j；否則返回步驟4繼續下一步預測。

U-LRVM預測算法的流程圖如圖3所示。

圖3 U-RVM算法流程圖Fig.3 Flow chart of U-RVM algorithm

4 實例分析

雷達導引頭是導彈武器系統中最為復雜的關鍵設備之一,其性能狀態的優劣直接影響到導彈的作戰效能能否正常發揮,因而對其進行狀態預測是十分必要的。

以某岸導團面向貯存任務的一批同源導彈為基礎,選取某導彈雷達導引頭為預測研究對象。通過對導彈定期按季度進行雷達單元測試,從2009年初至2016年9月,獲得4個關鍵參數的31組數據,如表1所示。本文限于篇幅,表中只列出了部分數據,同源裝備測試數據沒有列出。表1中前28組數據用于訓練學習,2016年的3組數據用于檢驗預測效果。

表1 關鍵指標參數測試數據

確定訓練嵌入維數m=3后,將訓練預測次數設定為2,運用前28組數據對P-LRVM和C-LRVM進行訓練預測,將預測結果代入式(20)、式(21),得到每次預測時兩種模型的BPA,進一步利用式(19)得到預測結束后二者的融合BPA值,將其代入式(24),得到U-LRVM中P-LRVM和C-LRVM模型的權重分配,如表2所示。

表2 權重的分配

為驗證本文所提預測方法的有效性,針對雷達導引頭的4個關鍵指標分別運用5折交叉驗證的最小二乘支持向量機(least squares-support vector machine,LS-SVM)、RVM和本文提出的U-LRVM方法進行預測,預測結果如圖4～圖7所示。

圖4 參數v1的預測曲線Fig.4 Prediction curves of parameter v1

圖5 參數v2的預測曲線Fig.5 Prediction curves of parameter v2

為了更直觀地觀察最后3組數據的預測效果,圖4～圖7的橫坐標從第15組數據開始選取,可以明顯看出,針對各關鍵指標的預測,RVM的性能都要優于LS-SVM,這說明在預測回歸領域,RVM是一種比LS-SVM更為先進的智能學習算法。而通過對RVM進行改進并融合同源裝備的信息后,U-LRVM較傳統RVM取得了更佳的預測效果。為進一步對各方法的預測精度準確地進行分析,采用平均絕對百分比誤差(mean absolute percentage error, MAPE)作為預測性能評價指標,該指標避免了求和時的正負抵消問題,且不受量綱的影響,其結果如表3所示。

圖6 參數v3的預測曲線Fig.6 Prediction curves of parameter v3

圖7 參數v4的預測曲線Fig.7 Prediction curves of parameter v4

由表3可知,針對各狀態參數的預測,U-LRVM的結果MAPE都比另外兩種方法要低,這說明其預測精度顯著高于另外兩種方法,從而驗證了該預測方法的有效性和優越性。本文設計的U-LRVM模型并沒有忽略同源裝備信息,具有較好的動態融合性,且計算簡便,有很好的工程應用前景。

下面結合預測值的置信區間討論U-LRVM方法概率式預測的意義。圖8為4個指標的預測值與其置信度為90%和95%的置信區間。

從圖8中可以看出,指標的測試真實值均落于置信度為95%的區間內,且預測值與參數實際變化趨勢也較為一致。針對點預測可能由于不可靠的預測結果而導致欠維修或過維修的嚴重后果,這種概率式的輸出可以有效規避確定性預測風險,為未來雷達導引頭健康狀態的評估及后續的維修保障決策提供更為合理有效的判斷。

圖8 各參數的預測值及置信區間Fig.8 Predicted value and the confidence interval of each parameter

5 結束語

通過對雷達導引頭關鍵指標進行準確地預測可以合理計劃和優化維修活動,實現導彈的精細化保障目標。在分析當前狀態預測技術和相關向量機理論發展的基礎上,本文提出了U-RVM模型的雷達導引頭裝備狀態預測方法。通過設計一種新的高斯方差核函數和優化預測訓練嵌入維數來增強RVM的泛化能力和非線性擬合能力,構建了LRVM模型。在此基礎上,通過D-S證據理論對P-LRVM和C-LRVM模型的預測結果進行了融合,建立了U-LRVM模型。該模型充分利用了具有近似退化特性的同源關聯裝備豐富的檢測信息,基于客觀預測誤差動態確定模型權重,有效避免了人為因素的干擾。實例分析結果表明,該預測方法精度更高,計算簡便,且概率式的輸出結果可以為裝備健康狀態評估提供更為可靠的判斷,其應用前景十分廣闊。

[1] 趙建忠,歐陽中輝,張磊,等.基于多智能體遺傳算法優化的航空電子設備狀態組合預測[J].兵工學報,2016,37(4): 727-734.

ZHAO J Z, OUYANG Z H, ZHANG L, et al. Combined prediction on avionics state opimized by MAGA[J]. Acta Armamentarii, 2016, 37(4): 727-734.

[2] 李穎峰. 改進灰色模型在電力負荷預測中的應用[J]. 電網與清潔能源, 2009, 25(3):10-11.

LI Y F. The application of improved grey model in power system load forecast[J].Power System and Clean Energy,2009,25(3):10-11.

[3] DONG Q L. Application of support vector machine regression method in prediction of ship’s price index[J]. Ship & Ocean Engineering, 2009, 38(2): 104-106.

[4] 朱建平. 神經網絡在電力負荷預測中的應用研究[J]. 科技資訊, 2015, 13(23): 32-34.

ZHU J P. Research on application of neural network in power load forecasting[J]. Science and Technology Information, 2015, 13 (23): 32-34.

[5] TIPPING M E. Sparse Bayesian learning and the relevance vector machine[J]. Journal of Machine Learning Research,2001,1: 211-244.

[6] SAMUI P, DIXON B. Application of support vector machine and relevance vector machine to determine evaporative losses in reservoirs[J].Hydrological Processes,2012,26(9):1361-1369.

[7] 雷亞國, 陳吳, 李乃鵬,等. 自適應多核組合相關向量機預測方法及其在機械設備剩余壽命預測中的應用[J]. 機械工程學報, 2016, 52(1):87-93.

LEI Y G, CHEN W, LI N P, et al. Adaptive multi kernel combined correlation vector machine prediction method and its application in prediction of residual life of mechanical equipment[J]. Journal of Mechanical Engineering, 2016, 52(1): 87-93.

[8] 馮鵬飛, 朱永生, 王培功,等. 基于相關向量機模型的設備運行可靠性預測[J]. 振動與沖擊, 2017, 36(12):146-149.

FENG P F, ZHU Y S, WANG P G, et al. Reliability prediction of equipment based on correlation vector machine model [J]. Vibration and Shock, 2017, 36(12): 146-149.

[9] 范庚,馬登武,吳明輝,等.電子系統狀態時間序列預測的優化相關向量機方法[J].系統工程與電子技術,2013,35(9):2011-2015.

FAN G, MA D W, WU M H, et al. Optimized correlation vector machine method for prediction of state time series of electronic systems[J].Systems Engineering and Electronics,2013,35(9): 2011-2015.

[10] 周建寶. 基于 RVM 的鋰離子電池剩余壽命預測方法研究[D]. 哈爾濱: 哈爾濱工業大學, 2013.

ZHOU J B. Research on prediction method of remaining life of lithium ion battery based on RVM[D]. Harbin: Harbin Institute of Technology, 2013.

[11] YU J. A nonlinear kernel Gaussian mixture model based inferential monitoring approach for fault detection and diagnosis of chemical processes[J]. Chemical Engineering Science, 2012, 68(1): 506-519.

[12] WEI L, WEI B, WANG B. Text classification using support vector machine with mixture of kernel[J]. Journal of Software Engineering and Applications, 2013, 5(12): 55-58.

[13] MIAO S, XIE K, YANG H, et al. A mixture kernel density model for wind speed probability distribution estimation[J]. Energy Conversion and Management, 2016, 126: 1066-1083.

[14] LIU K H, LIN Y Y, CHEN C S. Linear spectral mixture analysis via multiple-kernel learning for hyperspectral image classification[J]. IEEE Trans.on Geoscience and Remote Sensing, 2015, 53(4): 2254-2269.

[15] YU J, CHEN K, MORI J, et al. A Gaussian mixture copula model based localized Gaussian process regression approach for long-term wind speed prediction[J].Energy,2013,61(6):673-686.

[16] OHISHI Y, MOCHIHASHI D, KAMEOKA H, et al. Mixture of Gaussian process experts for predicting sung melodic contour with expressive dynamic fluctuations[C]∥Proc.of the IEEE International Conference on Acoustics, Speech and Signal Processing, 2014: 3714-3718.

[17] REMAKI L, CHERIET M. KCS-new kernel family with compact support in scale space: formulation and impact[J]. IEEE Trans.on Image Processing, 2000, 9(6): 970-981.

[18] LI H C, ZHANG J S. Local prediction of chaotic time series based on support vector machine[J]. Chinese Physics Letters, 2005, 22(11): 2776-2779.

[19] 杜杰,曹一家,劉志堅,等.混沌時間序列的局域高階Volterra濾波器多步預測模型[J].物理學報,2009,58(9):5997-6005.

DU J, CAO Y J, LIU Z J, et al. A multi-step prediction model of local high order Volterra filters with chaotic time series[J]. Acta Physica Sinica, 2009, 58(9): 5997-6005.

[20] MENG Q F, CHEN Y H, FENG Y H. Small-time scale network traffic prediction based on a local support vector machine regression model[J]. Chinese Physics B, 2009, 18(6): 2194-2199.

[21] BING Q, GONG B, YANG Z, et al. Short-term traffic flow local prediction based on combined kernel function relevance vector machine model[J]. Mathematical Problems in Engineering, 2015, 154703: 1-9.

[22] MENG Q F, CHEN Y H, FENG Y H, et al. Nonlinear prediction of small scale network traffic based on local relevance vector machine regression model[J]. Acta Physica Sinica, 2013,62(15):150-189.

[23] HANNAN E J, QUINN B G. The determination of the order of an autoregression[J].Journal of the Royal Statistical Society, Series B (Methodological), 1979，41(2): 190-195.

[24] 孟慶芳, 彭玉華, 曲懷敬, 等. 基于信息準則的局域預測法鄰近點的選取方法[J]. 物理學報, 2008, 57(3): 1423-1430.

MENG Q F, PENG Y H, QU H J, et al. Local information criterion prediction selection method based on the adjacent point[J]. Acta Physisc Sinica, 2008, 57 (3): 1423-1430.

[25] 蘇曉燕. 關聯證據融合研究[D]. 上海:上海交通大學, 2014.

SU X Y. Study on correlation evidence fusion[D]. Shanghai: Shanghai Jiaotong University, 2014.