基于流形學習和最小二乘支持向量機的滾動軸承退化趨勢預測

肖 婷， 湯寶平, 秦 毅， 陳 昌

(重慶大學 機械傳動國家重點實驗室,重慶 400030)

基于流形學習和最小二乘支持向量機的滾動軸承退化趨勢預測

肖 婷， 湯寶平, 秦 毅， 陳 昌

(重慶大學 機械傳動國家重點實驗室,重慶 400030)

為更好地表征滾動軸承性能退化趨勢，提出基于流形學習和最小二乘支持向量機的滾動軸承退化趨勢預測新方法。提取振動信號的多域特征組成高維特征集，利用局部保持投影算法(LPP)對多域高維特征集進行維數約簡，消除各特征指標之間的冗余、沖突等問題。將維數約簡后的特征向量作為最小二乘支持向量機的輸入，建立退化趨勢預測模型，完成退化趨勢預測。運用實測的滾動軸承全壽命實驗數據進行檢驗，結果表明該方法能獲得準確的預測結果。

性能退化評估；信息熵；流形學習；最小二乘支持向量機

滾動軸承退化過程的準確預測，對預防設備失效具有重要意義。滾動軸承退化過程準確預測的關鍵是提取能準確反映滾動軸承運行狀態的特征指標及建立有效的預測模型。單個時、頻域特征指標[1～2]如均方根值、峭度等指標對初始損傷的敏感程度低，不能較好地確定初始損傷時間。文獻[3]將三個時域指標和三個頻域指標進行融合，能較好地評估軸承性能退化變化。然而，滾動軸承的故障信號是一種典型的非平穩、非線性信號[4]，傳統時、頻域指標提取是將振動信號看作平穩信號進行處理，存在評估能力不足的問題。小波包分析是一種有效的非平穩信號分析方法，將小波包分解與信息熵結合提取小波包熵可以很好地解決時、頻域指標評估能力不足的問題。因此，選擇時、頻域指標及基于信息熵[5～6]的特征指標組成多域特征集，既能避免單純依靠時、頻域指標性能評估能力不足的問題，又能有效地反映滾動軸承性能退化趨勢，提高預測精度。但多域特征中部分特征之間存在冗余、相互沖突的問題[7]，流形學算法LPP可在盡量保持數據間幾何關系和距離測度不變前提下對高維特征集進行維數約簡，解決特征之間的冗余、沖突等問題。同時，克服了線性降維算法PCA[8]，LDA方法不能處理非線性問題的缺陷，相對于Isomap、LLE等非線性算法而言具有更快的處理速度[9]。

在提取性能退化指標之后，趨勢預測另一個關鍵步驟是建立可靠的預測模型。文獻[3,10-11]分別采用神經網絡和AR模型建立預測模型，AR模型在理論上十分成熟，但其精度不高，容錯性較差，只適合做短期預測。神經網絡在理論上的缺陷導致其存在局部極值、小樣本推廣能力差以及隱層節點個數難以確定等問題。最小二乘支持向量機[12]能有效地避免神經網絡算法中過學習、欠學習、局部極小等棘手問題，在小樣本、非線性等數據空間下具有較好的泛化能力，可明顯提高預測精度和預測的穩定性。

本文提出了基于高維多域特征集維數約簡的趨勢預測理論，充分發揮了多域特征集在性能評估，流形學習算法在維數約簡和最小二乘支持向量機在趨勢預測方面的各自的優勢，具有較高的預測精度。

1 基于LPP的多域特征融合

1.1 多域特征提取

1.1.1 時域特征指標

(1)

1.1.2 基于信息熵的特征指標

(2)

信息熵是從平均意義上表征信源總體信息測度的一個量，同時又是對信源輸出信息的不確定性和事件發生的隨機性的度量。當信源中各變量的概率均勻分布時，信息熵取得最大值lnN，此時信源中信息量是最大的。反之，信源中各變量概率分布不均勻時，信息熵的值減少。當其某一變量以概率1出現時，此時信息熵為0，信源包含的信息量最小。

對振動信號進行時、頻域處理及小波包變換，分別提取幅值譜熵xame、功率譜熵[5]xpoe以及小波包能譜熵xwae、小波包奇異值熵[6]xwse作為特征量，構成另一個4維的信息熵特征向量：

Χ2=(xame,xpoe,xwae,xwse)T

(3)

由信息熵特征指標以及時域特征指標組成14維的多域特征集作為維數約簡的輸入高維特征，即

Χ=(Χ1,Χ2)Τ

(4)

1.2 局部保持投影(LPP)算法原理

局部保持投影(LPP)算法繼承了非線性流形學習算法LE的思想[13]，即基于K近鄰圖建立映射，它在保持數據局部特征的條件下，將高維觀測數據映射到低維空間，使得在高維空間相互靠近的數據點在低維空間也相互靠近。設多域特征集為Χ={x1,x2,…,xn}∈Rh×n，特征集的樣本數為n，特征維數為h。通過轉換矩陣Α，通過Y=ΑΤΧ降維后的特征集Y={y1,y2,…,yn}∈Rl×n，降維后維數是l，且l?h。轉換矩陣A可以通過如下的目標函數求得，即

(5)

式中：W為加權矩陣，由k近鄰方法定義矩陣元素。由目標函數可以看出，最小化目標函數的目的就是使原高維特征空間的局部特性得以保持，也就是說如果xi和xj中靠近，那么yi和yj在低維空間中也相互靠近。

由式(5)變換得到

(6)

YΤDY=1?ΑΤΧDΧΤΑ=1

(7)

于是，目標函數可以簡化為

(8)

目標函數取最小值的轉換矩陣A可以通過求解式(9)的廣義特征向量獲得，即

ΧLΧΤΑ=λΧDΧΤΑ

(9)

設a0,a1,…,al-1為(9)式的特征向量，并按照其對應的特征值由小到大進行排列，則由高維數據得到的低維嵌入可表示為

xi→yi=ΑΤxi

(10)

其中：Α=(a0,a1,…,al-1)，由(10)式求得的低維特征集Y即可作為預測模型的輸入。

2 最小二乘支持向量機理論

最小二乘支持向量機將最小二乘線性理論引入到支持向量機[10]中，LS-SVM定義了與標準支持向量機不同的約束函數，將不等式約束化成等式約束，求解速度較支持向量機明顯加快。LS-SVM的函數估計問題如(11)所示：

(11)

此時約束條件為：

s.t.yi-ωφ(xi)-b=ei

(12)

其中：ω為權向量；γ為正則化參數或者說懲罰因子，其決定了對超出誤差樣本的懲罰程度，是支持向量機擬合程度和推廣能力的平衡參數；b為偏差向量，ei為誤差變量，該變量表明實際對象對逼近函數在樣本數據點上的誤差期望。

式(11)、(12)對應的拉格朗日函數為：

(13)

其中：αi是拉格朗日乘子。由Karush-Kuhn-Tucker 最優化條件，即式(13)分別對ω、ei、b、αi求偏導數，并令其偏導數為零。消掉變量ω、ei，得到如下方程組：

(14)

其中：I=[1,1,…,1]T，E為單位矩陣，y=[y1,y2,…,yn]T，α=[α1,α2,…,αn]T，Φ=[φ(x1),φ(x2),…,φ(xn)]T。

根據Mercer條件，采用徑向基核函數(RBF)作為核函數，即：

(15)

其中：σ為核函數寬度。此時，LS-SVM回歸估計函數可表示為：

(16)

建立LS-SVM輸入x=(xn-m,xn-m+1,…,xn-1)與輸出y=(xn)之間的映射關系：Rm→R，m為輸入維數，由此得到LS-SVM的訓練樣本對為：

(17)

(18)

其中：s為訓練數據的起點，l是訓練樣本對數，n為預測點數。將Xtrain和Ytrain分別作為LS-SVM的輸入和輸出，即可訓練處預測模型，求出LS-SVM回歸估計函數(16)的具體數學表達式。將測試樣本Xtest代入式(16)即可得到n個預測值。

3 趨勢預測流程

本文趨勢預測的基本流程是采用時域方法、頻域方法、小波包變換以及信息熵理論提取振動信號的多域特征集信息，并利用最小二乘支持向量機進行趨勢預測。由于多域特征集維數較高，各指標之間的冗余、沖突等問題嚴重，引入LPP對多域特征集進行維數約簡，實現數據冗余信息的剔除。然后，將約簡后的特征信息輸入到LS-SVM模型中預測軸承的退化趨勢。具體流程如圖1所示。

圖1 趨勢預測流程Fig.1 The process of the trend forecasting

(1) 使用時域方法提取時域特征指標，采用頻域方法、小波包變換及信息熵理論提取小波包熵、幅值譜熵及功率譜熵組成高維多域特征集；本文采用db5小波包進行3層分解，利用Shannon熵理論提取小波包能譜熵和小波包奇異值熵作為特征指標。

(2) 采用LPP維數約簡算法對高維多域特征集降維，并將降維后的特征信息作為LS-SVM的輸入；

(3) 按照步驟(1～2)處理全壽命數據，將處理后的結果輸入到預測模型中作趨勢預測。

4 實驗分析

圖2 實驗裝置示意圖[15]Fig.2 The test equipment[15]

使用Cincinnati大學實測的滾動軸承全壽命數據[15]進行驗證，實驗裝置示意圖如圖2所示。軸承實驗臺的轉軸上安裝四個軸承，軸承為 Rexnord 公司的ZA-2115雙列滾子軸承，交流電機通過帶傳動以2 000 r/min的恒定轉速帶動轉軸旋轉，實驗過程中軸承被施加6 000 lbs的徑向載荷。采樣頻率為20 kHz，每隔10 min采集一次軸承的振動數據，每次采樣長度為20 480個點，軸承持續運行15天，直到軸承3出現內圈故障和軸承4出現滾動體故障，本文采用軸承4采集到的振動數據驗證本文所提方法。

提取10個時域特征指標和4個信息熵特征指標組成高維多特征集。采用LPP流形學習算法對高維特征集進行維數約簡，將約簡以后的部分特征信息(LPP1)用來訓練LS-SVM模型并完成預測，將獲取的預測值和實際的性能退化指標之間進行對比分析。確定性能退化指標之后，根據交叉驗證法確定最小二乘支持向量機的核參數σ為509、正規化參數γ為291，用這兩個模型參數構建最小二乘支持向量機模型進行訓練和預測。為了評價預測結果的準確性，采用平均相對誤差作為預測效果的評價指標，即

(19)

然而，在工業現場當中，軸承的全壽命實驗數據一般較難獲取。因此，在保持預測模型不變的情況下，將獲取的預測數據作為下一步預測的輸入，如此循環迭代完成預測，這種預測策略可使預測方法具有更好的實用性和推廣性。由式(17)、(18)建立預測模型，預測起始點s=1 925，訓練樣本數l=191，輸入向量維數m=20，預測步數n=17。預測數據部分結果如圖3所示，從圖上可以看出在17步的預測范圍內，預測曲線與實際性能退化曲線比較接近，平均相對誤差為0.078 8。

圖3 滾動軸承趨勢預測曲線與實際狀態趨勢曲線Fig.3 The actual state trend curve and the forecast trend curve

為了進一步驗證多特征集融合信息作為退化指標方法的準確性，以及整體算法各個環節的必要性，作如下幾個對比驗證，比較預測結果的平均相對誤差值：① 峭度作為性能退化指標， LS-SVM建立預測模型；② LPP融合時域特征集作為性能退化指標， LS-SVM建立預測模型；③ PCA融合多域特征集(PC1)作性能退化指標，LS-SVM建立預測模型；④ LPP融合多域特征集作性能退化指標，神經網絡建立預測模型；⑤ LLE融合多域特征集(LLE1)作性能退化指標，LS-SVM的模型參數建立預測模型。對比結果如圖4及表1所示，實線代表真實值，虛線代表預測值。

圖4 其他方法趨勢預測曲線與實際狀態趨勢曲線Fig.4 The forecast trend curve obtained by other methods and the actual state trend curve

表1 各方法預測結果與真實值之間的誤差比較

從圖3、圖4以及表1結果可以看出，多域特征集融合后的特征信息作為性能退化指標能很好地反應軸承的退化趨勢，且預測效果優于峭度作為性能退化指標的預測效果。同時，多域特征集融合后的特征信息作性能退化指標的預測效果優于時域特征集融合后的預測效果，說明單純依靠融合時域指標得到的特征信息存在評估能力不足的問題，不能很好地反映滾動軸承的退化趨勢。

由表1還可以看出，基于LPP的維數約簡方法獲得的預測效果優于PCA、LLE方法的預測結果，因此，多域特征集經流形學習LPP進行維數約簡是有效且適用的。同時，采用LS-SVM建立預測模型的預測效果優于神經網絡的預測效果，說明LS-SVM作為預測模型具有較高的預測精度和很強的推廣能力。

圖5 2號軸承的預測曲線與實際預測曲線Fig.5 The actual state trend curve and the forecast trend curve of the second bearing

趨勢預測的實際應用，通常是用一個已經訓練好的軸承預測模型預測另一個同型號、同工況滾動軸承的退化趨勢的。由圖2可看出，軸承2和軸承3是兩個工況類似、型號相同的兩個滾動軸承。用訓練好的3號軸承的預測模型預測2號軸承的退化趨勢，預測數據部分結果如圖5所示，平均相對誤差為0.236 6。

由圖5可以看出，用已經訓練好的3號軸承預測模型預測2號軸承的退化趨勢整體效果較好，但是并沒有完全逼近真實曲線，其原因有兩方面：① 3號軸承與2號軸承之間的工況不是完全相同，提取的特征指標之間會存在一定的差異；② 預測方法是把預測結果作為下一次預測的輸入，導致出現預測誤差的積累，影響了最后預測結果的精度。

5 結 論

(1) 分析了常用時頻域特征作為性能退化指標存在的問題，提出了采用多域特征集的特征提取方法，在有效反映軸承運行狀態的同時能很好地預測軸承的性能退化趨勢。

(2) 針對多域特征集維數較高，特征間冗余性較為嚴重的問題，提出了通過流形學習算法LPP進行維數約簡的方法，提取敏感的特征信息。

(3) 為了得到更準確的預測結果，選用LS-SVM建立預測模型，利用LS-SVM的泛化能力提高預測精度。

(4) 通過對比分析，表明本文所提出的趨勢預測方法的有效性及各個環節之間互補性，充分發揮了各部分的優勢，實現較高精度的退化趨勢預測。

[1] Gebraeel N，Lawley M，Liu R，et al. Residual life predictions from vibration-based degradation signals: a neural network approach [J]. Industrial Electronics, IEEE Transactions on, 2004, 51(3): 694-700.

[2] Janjarasjitt S, Ocak H, Loparo K A. Bearing condition diagnosis and prognosis using applied nonlinear dynamical analysis of machine vibration signal [J]. Journal of Sound and Vibration, 2008(317): 112-126．

[3] 奚立峰，黃潤青，李興林，等. 基于神經網絡的球軸承剩余壽命預測[J]. 機械工程學報，2007，43(10): 137-143. XI Li-feng, HUANG Run-qing, LI Xing-lin, et al. Residual life predictions for ball bearing based on neural networks [J].Chinese Journal of Mechanical Engineering, 2007，43(10): 137-143.

[4] Antoni J. Cyclic spectral analysis of rolling-element bearing signals: facts and fictions [J]. Journal of Sound and Vibration, 2007, 304(3-5): 497-529.

[5] 王小玲，陳進，從飛云. 基于時頻的頻帶熵方法在滾動軸承故障識別中的應用[J]. 振動與沖擊，2012，31(18): 29-33. WANG Xiao-ling, CHEN Jin, CONG Fei-yun. Application of spectral band entropy (SBE) method in rolling bearing fault diagnosis based on time-frequency analysis [J]. Journal of Vibration and Shock, 2012, 31(18): 29-33.

[6] 郭磊，陳進. 小波包熵在設備性能退化評估中的應用[J]. 機械科學與技術，2008，27(9): 1203-1206. GUO Lei, CHEN Jin.Application of wavelet packet entropy to equipment performance degradation assessment[J]. Mechanical Science and Technology for Aerospace Engineering, 2008, 27(9): 1203-1206.

[7] 宋濤，湯寶平，李鋒. 基于流形學習和 K-最近鄰分類器的旋轉機械故障診斷方法[J]. 振動與沖擊，2013，32(5): 149-153. SONG Tao, TANG Bao-ping, LI Feng. Fault diagnosis method for rotating machinery based on manifold learning and K-nearest neighbor classifier [J]. Journal of Vibration and Shock, 2013, 32(5): 149-153.

[8] Dong S, Luo T. Bearing degradation process prediction based on the PCA and optimized LS-SVM model [J]. Measurement, 2013, 46(9): 3143-3152.

[9] 董紹江，湯寶平，張焱. 基于非廣延小波特征尺度熵和支持向量機的軸承狀態識別[J]. 振動與沖擊，2012，31(15): 50-54. DONG Shao-jiang, TANG Bao-ping, ZHANG Yan. Bearingrunning state recognition based on non-extensive wavelet feature scale entropy and support vector machine [J]. Journal of Vibration and Shock, 2012，31(15): 50-54.[10] Yan J, Guo C, Wang X. A dynamic multi-scale Markov model based methodology for remaining life prediction [J]. Mechanical Systems and Signal Processing, 2011, 25(4): 1364-1376.

[11] 石林鎖，沈金偉，張亞洲，等. 基于AR模型和譜峭度法的滾動軸承故障診斷[J]. 振動與沖擊，2011，30(12): 257-260. SHI Lin-suo, SHEN Jin-wei, ZHANG Ya-zhou, et al. Fault diagnosis of a rolling element bearing based on AR model and spectral kurtosis [J]. Journal of Vibration and Shock,2011, 30(12): 257-260.

[12] 田中大，高憲文，李琨. 基于KPCA與LSSVM的網絡控制系統時延預測方法[J]. 系統工程與電子技術，2013，35(6):1281-1285. TIAN Zhong-da, GAO Xian-wen, LI Kun. Networked control system time-delay prediction method based on KPCA and LSSVM [J]. Systems Engineering and Electronics, 2013, 35(6):1281-1285.

[13] 何強，蔡洪，韓壯志，等. 基于非線性流形學習的 ISAR 目標識別研究[J]. 電子學報，2010，38(3): 585-590. HE Qiang, CAI Hong, HAN Zhuang-zhi, et al. ISAR Target Recognition Based on Nonlinear Manifold Learning [J].Acta Electronica Sinica, 2010, 38(3): 585-590.

[14] He X F, Niyogi P. Locality preserving projections, in: Proceedings of the Conference on Advances in Neural Information Processing Systems, 8-13 December 2003, Vancouver[C]. Canada, MIT Press, Cambridge, MA, 2004:1-8.

[15] Lee J, Qiu H, Yu G, et al. Rexnord technical services, “bearing data set”,IMS, university of cincinnati, NASA ames prognostics data repository, 〈http://ti.arc.nasa.gov/project/prognostics-data-repository〉, NASA Ames, Moffett Field, CA, 2007.

Degradation trend prediction of rolling bearing based on manifold learning and least squares support vector machine

XIAO Ting, TANG Bao-ping, QIN Yi, CHEN Chang

(The State Key Laboratory of Mechanical Transmission, Chongqing University, Chongqing 400030, China)

A new prediction method was proposed based on manifold learning and least squares support vector machine to describe the rolling bearing degradation trend. Time-domain features and features based on information entropy were extracted to construct high-dimensional characteristic sets. The locality preserving projection algorithm was used for dimensionality reduction in order to eliminate the problem of redundancy between each indicators. The characteristic features were input to the least squares support vector machine to train and construct a model, so as to accomplish the trend prediction. The rolling bearing run-to-failure tests were carried out to inspect the prediction model, and the results demonstrate the effectiveness and accurateness of the proposed method.

degradation assessment; information entropy; manifold learning; least squares support vector machine (LS-SVM)

國家自然科學基金資助項目(51275546，51375514);高等學校博士學科點專項科研基金資助(20130191130001)

2014-01-08 修改稿收到日期：2014-05-08

肖婷 女，碩士生，1989年12月生

湯寶平 男，博士，教授，博士生導師，1971年9月生

TP393.1；TH17

A

10.13465/j.cnki.jvs.2015.09.027