基于多特征融合多核學習支持向量機的液壓泵故障識別方法

劉志強 姜萬錄 譚文振 朱 勇

1.燕山大學河北省重型機械流體動力傳輸與控制重點實驗室,秦皇島,0660042.先進鍛壓成形技術與科學教育部重點實驗室,秦皇島,0660043.唐鋼高強汽車板有限公司,唐山,063002

基于多特征融合多核學習支持向量機的液壓泵故障識別方法

劉志強1,2,3姜萬錄1,2譚文振3朱 勇1,2

1.燕山大學河北省重型機械流體動力傳輸與控制重點實驗室,秦皇島,0660042.先進鍛壓成形技術與科學教育部重點實驗室,秦皇島,0660043.唐鋼高強汽車板有限公司,唐山,063002

提出基于多特征融合多核學習支持向量機的液壓泵故障識別方法。該方法首先對原始信號進行集總經驗模態分解，然后分別用AR模型和奇異值分解兩種特征提取方法提取故障特征，最后將不同類型的特征分別用相應的核函數進行映射，用多核學習支持向量機來識別液壓泵的工作狀態和故障類型。實驗結果表明該方法顯著地提高了故障診斷的準確性。

多核學習;多特征融合;支持向量機;故障識別;液壓泵

0 引言

作為液壓系統的核心部件，液壓泵的工作狀態嚴重影響著液壓系統工作的可靠性。目前，與統計分類器和神經網絡分類器對應的統計模式識別方法和神經網絡方法是用于液壓泵模式識別的主要方法，而這些方法都存在許多固有的局限性。基于統計學習理論發展起來的支持向量機(support vector machine，SVM)在有限樣本的條件下有效地解決了小樣本、非線性、局部極小點和高維數等工程實際難題。但是SVM采用的是對所有樣本進行統一處理的單核映射方法，核函數的類型對支持向量機的推廣能力有重要影響，因此與實際問題相適應的核函數的選擇和構造一直是支持向量機研究領域的重要課題。同時，SVM也不適合處理樣本規模很大、數據維數高或數據在高維特征空間分布不平坦等情況下的學習問題[1]。另外，由于單核函數的格式固定且變化空間相對狹小，訓練后的有效參數仍然對樣本數據有較強的敏感性，所以推廣能力和魯棒性較差[2]。對于以上問題，近幾年關于多核學習(multiple kernel learning，MKL)方法的研究廣受關注。相關研究表明[3-9]，多核模型有比單核模型更優良的分類性能，并能增強分類函數的可解釋性。應用多個基本核函數的凸組合是構造多核模型最常用的一種方法。多核學習把如何描述樣本映射到特征空間的問題轉化為如何選擇基本核與權系數的問題。由于組合核能夠利用各基本核函數的特性，彌補單個核函數的不足，因此多核學習方法是解決以上問題的一條有效途徑。

液壓泵的故障信號十分復雜，常表現出明顯的非線性、非平穩性。雖然小波和小波包分析、Wigner-Ville分布、短時傅里葉變換(STFT)等方法都能夠對該類型信號的時頻復雜性進行一定程度的恰當刻畫，但都存在各自的局限性[10]。經驗模態分解(empirical mode decomposition，EMD)是由Huang等[11]提出的一種信號處理方法，該方法能把復雜的信號分解成若干個固有模態分量(intrinsic mode function，IMF)之和，能根據被分析信號的不同，自適應地選擇特征尺度(頻帶)，因此解決了傳統包絡分析中的難題，即需要根據經驗預先確定濾波器的中心頻率和帶寬。但EMD算法存在的模態混淆效應會對故障識別造成負面影響。作為對EMD算法的一個重大改進，集總經驗模態分解(ensemble empirical mode decomposition，EEMD)方法是Wu等[12]提出的一種能夠有效抑制模態混淆，刻畫信號本質特征的新方法。

本文將AR(auto regressive)模型[13]和奇異值分解[14]兩種特征提取方法進行融合，用多核學習方法有效地組合不同特征和不同核，將特征向量中的不同特征分量分別用對應的核函數進行映射，使不同類別的樣本在新特征空間中的區分性更明顯；同時將EEMD方法應用到液壓泵振動信號的處理上，為特征提取和模式識別構造良好的數據源；采用多核學習方法有效地組合不同特征和不同核，以期更好地揭示故障本質，提高液壓泵故障診斷的準確率。

1 振動信號特征提取

1.1 集總經驗模態分解

EEMD是在待分析信號中多次疊加高斯白噪聲，對多個加噪后的信號分別進行EMD分解后求平均的一種模態分解方法。由于高斯白噪聲具有頻率均勻分布的統計特性，故可利用這一特性使加入噪聲后的信號在不同尺度上連續，從而有效抑制模態混淆問題。EEMD的提出基于以下兩個觀點：

(1) 在多次分解中疊加的同等幅值水平的隨機高斯白噪聲可以相互抵消，即經過多次加噪分解后作為平均結果保留的是所分析信號的原始成分。

(2) 在原始信號上疊加隨機白噪聲可以改變信號原有的時間尺度，多次疊加不同的白噪聲就能使EMD根據信號的變化自適應地重新分解信號，這樣經過綜合平均后得到的IMF能更全面、更客觀地體現信號中各組分的信息。

EEMD算法流程如圖1所示，詳細實現步驟參見文獻[12]。

圖1 EEMD算法流程圖

1.2 AR模型提取故障特征

(1)

(2)

在確定模型階數p時，用定階準則確定的不同IMF分量的階數可能不同，由于各個樣本的特征向量的維數要求相同，所以本文首先采用FPE準則(final prediction error criterion)確定各個IMF分量的AR模型的階數范圍，最后選定各個IMF分量AR模型的階數為30。

1.3 奇異值分解提取故障特征

針對液壓泵的特征提取，首先對液壓泵每個振動信號樣本xi(t)進行EEMD分解，將得到的N個IMF分量(c1，c2，…，cN)組成如下的初始特征矩陣：

A=[c1c2… cN]T

(3)

為了得到原始振動信號的奇異值特征，需要對初始特征矩陣A進行奇異值分解。

根據矩陣理論，作為矩陣的固有特征，矩陣的奇異值不但具有良好的穩定性，還具有旋轉不變性和比例不變性。矩陣奇異值的這些特征符合模式識別中對模式特征的穩定性及旋轉、比例不變性的要求[14]，因此可以把初始特征矩陣的奇異值作為故障特征，用于旋轉機械的狀態識別。矩陣奇異值的計算過程參見文獻[14]。

2 多核學習支持向量機方法

在多核學習方法中，克服傳統單核函數固有缺陷的一種有效的方法就是用多個基本核函數的凸組合來代替傳統的單一核函數[15]。

2.1 多核學習支持向量機模型

已知{xi,yi|i=1,2,…，n}為學習機器的數據集，xi為輸入空間X中的樣本，yi為xi的目標值。對于核方法，學習問題結果表達式的形式如下：

(4)

近年來的理論和應用表明，使用多核來代替單核可以提高決策函數的可解釋性，能夠獲得比單核模型更優的性能。多核函數表達式為

(5)

其中，M為基核的數目，dm為第m個基核函數對應的權值，Km(xi,x)為基核。每個基核函數Km(xi,x)可以使用樣本x的所有指標，也可以使用樣本x的部分指標。基核函數可分別選取不同類型的核函數和同一類型不同自由參數的核函數。例如可以選取徑向基核函數和多項式核函數進行組合，還可以選取一組不同寬度的徑向基函數。學習機器經過學習訓練，可以得到最優的權值。在這樣的框架下，通過核函數進行數據表示的問題就轉化為權系數dm的選擇問題。

(6)

式中，C為規則化參數；ξi為松弛變量。

(7)

d=(d1,d2，…,dM)

2.2 多核學習問題求解算法

式(7)可視為如下問題進行求解：

(8)

(9)

值得注意的是目標函數J(d)實際上是標準SVM的目標值。

式(9)的拉格朗日函數為

(10)

其中，αi、νi為拉格朗日乘子，αi≥0，νi≥0。式(12)對變量求偏導，并令它們等于0，有

(11)

將這些最優化的條件代入到拉格朗日方程式(10)，得到對偶表達式：

(12)

(13)

其中α*是求解最優化問題式(12)得到的α的最優解。其中，目標值J(d)可以通過任何一個標準SVM算法求得。

將對偶表達式式(12)對dm求偏導，有

(14)

式(8)所示的優化問題是由一個非線性的目標函數和一個簡單的限制條件組成的。在SimpleMKL算法中用梯度下降[7,15]的方法解決此問題。

3 多特征的組合方法

特征組合方法以傳統的二分類問題為基礎，在訓練樣本上增加了標注特征的標志。給定一個訓練樣本集Ω，它包含了n個樣本，每個樣本有M種特征描述：

(15)

其中，yi為第i個樣本的分類類型。由M類特征組成的樣本xi中，xi,m定義為樣本xi的第m種特征，其特征維數為Dm，χm表示m維的特征空間。記y={y1,y2,…,yn}，求解上述M類特征的組合問題就相當于用Ω訓練分類函數f:x→y。

常用的多特征的組合方法有直接拼接法和基于核函數的特征組合方法。直接拼接法是將所有的特征并列構成一個向量，形成高維的特征向量，由于不同類型的特征具有的數值范圍和特性不同，有時不容易產生整體大于局部的結果。同時，直接拼接產生的高維特征還會增加分類器訓練和預測時的計算代價。

核函數的作用是把輸入樣本從低維空間映射到高維特征空間，因此可以表征兩個樣本在特征空間中的相似程度。不同的特征需要用不同的核函數去映射才能獲得好的分類效果。基于核函數的特征組合方法中不同的核函數的組合方式有乘積法和線性組合法。線性組合法利用M個單核函數的線性組合來表示組合核：

(16)

其中，Km(xi,m,xj,m)表示第m種特征的核函數。對于核函數權系數dm的確定可以采取平均值法和交叉驗證法，然而這些方法都有各自的局限性[16-17]，本文采用的多核學習方法能夠有效地解決核函數特征組合中權系數的確定問題。與其他方法相比，該方法最大的優勢是：權系數是在訓練階段自適應地通過學習獲得。多核學習利用已知的訓練樣本，通過使目標函數最優化來學習得出每個基本核對應的權重。采用多核學習方法確定權系數不僅能避免沉重的計算代價，提高分類和識別性能，還能顯示出權系數的合理性，是一種非常有效的確定權系數方法。

4 基于多特征融合多核學習SVM的液壓泵故障識別

4.1 故障診斷流程

以液壓泵為實驗對象，研究其典型故障的診斷問題。首先對液壓泵的原始振動信號用EEMD方法進行預處理，然后采用不同的特征提取方法提取AR模型系數和奇異值特征，接著對兩類特征分別選擇特定的核函數進行訓練，使用MKL學習得到核函數的權重。這樣，對液壓泵的故障識別問題就轉化成權系數的學習問題，進而可以得到故障識別的結果。

對液壓泵原始信號EEMD分解得到的IMF分量分別用AR模型和奇異值分解提取故障特征，獲取包含兩種故障特征的樣本。針對液壓泵正常運行和不同故障狀態的樣本，需要選擇適合特定特征的核函數，經過比較分析發現，采用徑向基核函數訓練AR模型特征能獲得較高的分類正確率，選擇多項式核函數來映射奇異值特征，能夠提高故障識別的準確度。其中徑向基核函數由10個不同寬度系數的基核函數組成(σ∈{0.5,1,2,5,7,10,12,15,17,20})，多項式核函數由3個不同階數的基核函數組成(q∈{1,2,3})。

在多核學習框架下，通過采用以上兩種類型的核函數分別作用兩種特征，在訓練階段通過最優化聯合目標函數，學習出每個核函數對應的權重。這樣，對液壓泵故障識別問題就轉化成核函數權重學習問題，從而，可以得到故障識別結果。

基于多特征多核學習的液壓泵故障識別流程如圖2所示。其具體實現過程如下：

(1)從采集的液壓泵各狀態(正常，各種故障)的振動信號中分別截取30個樣本，每個樣本8192個點。

(2)對每種狀態的各個樣本進行EEMD分解，得到每個樣本的IMF分量。

(3)將各IMF分量進行能量歸一化處理，選取包含主要故障信息的前兩個分量作為有效IMF分量[17]，用AR模型提取第一類特征向量。再用各IMF分量形成初始特征矩陣，提取矩陣的奇異值作為第二類特征向量。

(4)將AR模型提取的前兩個IMF分量的特征向量分別用徑向基核函數進行映射，將奇異值分解得到的特征向量用多項式核函數進行映射。

(5)選用訓練樣本，采用多特征多核學習方法訓練分類器。

(6)根據訓練得到的MKL支持向量機分類器來檢測液壓泵測試集中的樣本。

圖2 多特征多核學習液壓泵故障識別流程圖

4.2 實驗與分析

液壓泵的常見故障主要有滑靴磨損、松靴、中心彈簧失效等。本實驗利用振動加速度傳感器對某軸向柱塞泵端蓋的振動信號進行采集，分別采集液壓泵正常、滑靴磨損、單柱塞松靴和中心彈簧失效四個狀態的端蓋振動信號。電機轉速為1470 r/min，系統調定壓力為15 MPa，采樣頻率為50 kHz。以滑靴磨損故障為例，圖3所示為該故障發生時的振動加速度信號，圖4給出了該信號EEMD分解后的前5個IMF分量。從圖中可以看出，該方法自適應地確定了原始信號所包含的從高到低不同頻率段的分量。可以針對故障信息所在的頻段分量進一步提取故障特征向量。

圖3 滑靴磨損故障振動信號時域圖

圖4 滑靴磨損故障振動信號EEMD分解

對液壓泵的四種狀態進行分類，采用“一對多”的多分類方法[18]。在四類樣本中分別隨機抽取12組作為訓練樣本，其余的18組作為測試樣本。為了驗證多特征融合多核學習SVM故障識別方法在液壓泵故障識別中的優越性，首先對單個特征與特征聯合進行比較，即用多核學習來分別訓練AR模型特征、奇異值特征，得到的故障識別結果分別與多特征聯合方法進行比較；然后將不同的多特征聯合方法(直接拼接法和核平均權值法)的測試結果與本文提出的多特征多核學習的檢測結果進行比較分析。為進一步研究各算法在小樣本時的識別情況，又將訓練樣本數減少一半，實驗方法同上。針對單個特征以及各種特征組合方法的多核學習SVM分類結果對比如表1所示。

表1 多特征組合與單特征分類方法比較

從表1中可以看出，使用多特征組合方法比只使用單一特征的方法分類正確率在總體上有所提高，但是有時不容易產生整體大于局部的結果，比如訓練樣本為12組時用核平均值法聯合特征的分類正確率低于只使用AR模型特征的分類正確率。從表中可以看出，聯合特征使用多核學習方法的分類正確率最高，直接達到100%。將訓練樣本減少為6組，分類正確率仍為100%，可見該方法對于小樣本情況也能保持很好的分類性能。多特征多核學習的故障識別方法顯著地提高了液壓泵故障識別的準確率。

下面對多特征多核學習SVM分類器的性能進行分析(表1最后一行)。SVM分類器的分類性能可以通過觀察各類樣本到最優分類超平面的距離來評價。表2給出了聯合特征用多核學習方法對液壓泵四種狀態進行分類時，各種狀態測試集中的樣本到最優分類超平面距離的平均值，表中距離1是用12組樣本訓練的分類器所得的測試結果，距離2是用6組樣本訓練的分離器的測試結果。

表2 各狀態樣本到最優分類超平面的平均距離

分析表2中對應狀態的測試樣本到最優超平面距離的平均值可以看到，當訓練樣本數減少時，多核學習SVM同樣能對各狀態的測試樣本進行準確的分類，但是訓練樣本數減少后，測試樣本到分類面的距離也隨之減小，這表明此時分類器的總體分類性能有所降低。

圖5給出了用12組樣本訓練后，對18組樣本進行測試時，每種工作狀態的各個測試樣本的具體分類結果。利用單一特征分類器進行識別準確率是有限的，利用AR模型單一特征的分類結果和奇異值單一特征的分類結果分別如圖5a、圖5b所示，圖5c是聯合特征多核學習SVM的分類結果。

(a)AR模型單一特征 (b)奇異值單一特征

(c)多特征融合

圖5中故障1、故障2、故障3分別表示滑靴磨損故障、單柱塞松靴故障、中心彈簧失效故障。圖5a的第1、第2、第4行分別表示對應狀態的18個測試樣本均被正確分類；第3行表示故障2有14個樣本被正確分類，有1個樣本被誤分成故障1，有3個樣本被誤分成正常狀態。圖5b第1行表示有13個樣本被正確分類，有2個樣本被誤分成故障1，有2個樣本被誤分成故障2，有1個樣本被誤分成故障3；第2行表示有17個樣本被正確分類，有1個樣本被誤分成正常狀態；第3、第4行分別表示對應狀態的18個測試樣本均被正確分類。

圖5a說明，對于只用AR模型特征的分類器只是將故障2誤分類為其他狀態；圖5b說明，對于只用奇異值特征的分類器則是將正常和故障1誤分類為其他狀態。可見兩種特征提取方法具有互補性。采用多特征多核學習方法對液壓泵的故障類型進行識別彌補了僅依據單一特征分類的缺陷，實現了各種狀態的準確分類，如圖5c所示。因而，用多特征多核學習的旋轉機械故障識別方法，將具有互補特性的特征組合起來，能夠最大限度地利用可分性，顯著地提高故障識別的準確性。

5 結論

(1) 與單核SVM方法相比，多核學習SVM將多個核函數進行凸組合，更有利于樣本數據特征的表達，擴大了最優核函數的搜索空間，有效地提高了分類的準確率。

(2) 將EEMD與多核學習SVM結合，利用EEMD把液壓泵復雜的振動信號分解成更能反映信號本質的IMF分量，有效地抑制模態混淆，為特征提取和模式識別創造了良好的前提條件，提高了故障識別的效果。

(3) 多特征多核學習的故障識別方法可以將不同的特征用不同的核函數進行映射，實現多特征的有效融合，有助于彌補各種單特征的缺點，最大限度地發揮各種特征的優勢，提高分類準確率，而且在小樣本情況下也具有優越的分類性能。

(4) 液壓泵典型故障的診斷實驗結果表明，基于多特征融合多核學習SVM的液壓泵故障識別方法具有很高的故障識別準確率，具有獨特的優勢和良好的應用前景。

[1] 汪洪橋，孫富春，蔡艷寧，等.多核學習方法[J].自動化學報，2010，36(8)：1037-1050. Wang Hongqiao, Sun Fuchun, Cai Yanning, et al. On Multiple Kernel Learning Methods[J]. Acta Automatica Sinica, 2010, 36(8): 1037-1050.

[2] 郭創新，朱承治，張琳，等.應用多分類多核學習支持向量機的變壓器故障診斷方法[J].中國電機工程學報，2010，30(13)：128-134. Guo Chuangxin, Zhu Chengzhi, Zhang Lin, et al. A Fault Diagnosis Method for Power Transformer Based on Multiclass Multiple-kernel Learning Support Vector Machine[J]. Proceedings of the CSEE, 2010, 30(13): 128-134.

[3] Lanckriet G, Cristianini N, Bartlett P, et al. Learning the Kernel Matrix with Semi-definite Programming[J]. Journal of Machine Learning Research, 2004, 5: 27-72.

[4] Lewis D P, Jebra T, Noble W S. Nonstationary Kernel Combination[C]//Proceeding of the 23rd International Conference on Machine Learning. Pittsburgh: The International Machine Learning Society, 2006: 553-560.

[5] Ong C S, Smola A J, Williamson R C. Learning the Kernel with Hyperkernels[J]. The Journal of Machine Learning Research, 2005, 6: 1043-1071.

[6] Sonnenburg S, Ratsch G, Schafer C. A General and Efficient Multiple Kernel Learning Algorithm[C]//Proceedings of the Advances in Neural Information Processing Systems. Vancouver: The MIT Press, 2005: 1273-1280.

[7] Rakotomamonjy A, Bach F, Canu S, et al. More Efficiency in Multiple Kernel Learning[C]//Proceeding of the 24th International Conference on Machine Learning. Corvallis: The International Machine Learning Society, 2007: 775-782.

[8] Bach F R, Lanckriet G, Jordan M. Multiple Kernel Learning, Conic Duality, and the SMO Algorithm[C]//Proceedings of the 21st International Conference on Machine Learning. Alberta: The International Machine Learning Society, 2004: 41-48.

[9] Sonnenburg S, Ratsch G, Schafer C, et al. Large Scale Multiple Kernel Learning[J]. The Journal of Machine Learning Research, 2006, 7: 1531-1565.

[10] 何正嘉，訾艷陽，張西寧.現代信號處理及工程應用[M].西安：西安交通大學出版社，2007.

[11] Huang N E, Shen Z, Long S R, et a1. The Empirical Mode Decomposition and the Hilbert Spectrum for Nonlinear and Nonstationary Time Series Analysis[J]. Proceedings of the Royal Society, 1998, 454(1971): 903-995.

[12] Wu Z H, Huang N E. Ensemble Empirical Mode Decomposition: a Noise Assisted Data Analysis Method[J]. Advances in Adaptive Data Analysis, 2009, 1(1): 1-41.

[13] 于德介，楊宇，程軍圣.一種基于SVM和EMD的齒輪故障診斷方法[J].機械工程學報，2005，41(1)：140-144. Yu Dejie, Yang Yu, Cheng Junsheng. Fault Diagnosis Approach for Gears Based on EMD and SVM[J]. Chinese Journal of Mechanical Engineering, 2005, 41(1): 140-144.

[14] 程軍圣，于德介，楊宇.基于內稟模態奇異值分解和支持向量機的故障診斷方法[J].自動化學報，2006，32(3)：475-480. Cheng Junsheng, Yu Dejie, Yang Yu. Fault Diagnosis Approach Based on Intrinsic Mode Singular Value Decomposition and Support Vector Machines[J]. Acta Automatica Sinica, 2006, 32(3): 475-480.

[15] Rakotomamonjy A, Bach F R, Canu S, et al. Simple MKL[J]. The Journal of Machine Learning Research, 2008, 9: 2491-2521.

[16] Vedaldi A, Gulshan V, Varma M, et al. Multiple Kernels for Object Detection[C]//Proceedings of IEEE 12th International Conference on Computer Vision. Kyoto: Institute of Electrical and Electronics Engineers， 2009： 606-613.

[17] 劉志強.基于多核學習支持向量機的旋轉機械故障識別方法研究[D].秦皇島：燕山大學，2014.

[18] Lee Y, Lin Y, Wahba G. Multicategory Support Vector Machines: Theory and Application to the Classification of Microarray Data and Satellite Radiance Data[J]. Journal of the American Statistical Association, 2004, 99(465): 67-81.

(編輯 王艷麗)

Fault Identification Method for Hydraulic Pumps Based on Multi-feature Fusion and Multiple Kernel Learning SVM

Liu Zhiqiang1,2，3Jiang Wanlu1,2Tan Wenzhen3Zhu Yong1,2

1.Hebei Provincial Key Laboratory of Heavy Machinery Fluid Power Transmission and Control,Yanshan University,Qinhuangdao，Hebei,0660042.Key Laboratory of Advanced Forging & Stamping Technology and Science,Ministry of Education of China,Qinhuangdao，Hebei,0660043.Tangsteel High Strength Automotive Strip Co.,Ltd.,Tangshan，Hebei,063002

A hydraulic pump fault identification method was put forward based on multiple feature fusion and multiple kernel learning SVM. Firstly, the original signals were processed by the ensemble empirical mode decomposition. Then, the feature vectors of hydraulic pump faults were obtained by using the autoregressive model and the singular value decomposition. Through different types of features mapped by corresponding different kernel functions, the hydraulic pump working conditions and fault types might be finally identified by multiple kernel learning SVM. The experimental results show that the approach improves the accuracy of fault diagnosis significantly.

multiple kernel learning; multi-feature fusion; support vector machine(SVM); fault identification; hydraulic pump

2015-11-30

國家自然科學基金資助項目(51475405)；國家重點基礎研究發展計劃(973計劃)資助項目(2014CB046405)；河北省自然科學基金資助項目(E2013203161)

TP277

10.3969/j.issn.1004-132X.2016.24.016

劉志強，男，1987年生。燕山大學機械工程學院碩士，唐鋼高強汽車板有限公司助理工程師。主要研究方向為故障診斷與智能信息處理。姜萬錄(通信作者)，男，1964年生。燕山大學機械工程學院教授、博士研究生導師。譚文振，男，1964年生。唐鋼高強汽車板有限公司冷軋部高級工程師、博士。朱 勇，男，1986年生。燕山大學機械工程學院博士研究生。