旋轉機械故障的拉普拉斯支持向量機診斷方法

郝騰飛　陳　果

南京航空航天大學，南京，211106

旋轉機械故障的拉普拉斯支持向量機診斷方法

郝騰飛陳果

南京航空航天大學，南京，211106

摘要：在旋轉機械故障智能診斷中，收集大量的樣本比較容易，而要對所有的樣本進行類別標記卻較為困難。針對這一問題，提出了一種基于拉普拉斯支持向量機的旋轉機械故障智能診斷方法。滾動軸承故障診斷實例表明，有標記樣本的數量較少時，與僅使用有標記樣本進行學習的支持向量機相比，基于拉普拉斯支持向量機的診斷方法利用大量的無標記樣本進行輔助學習，可以顯著提高故障診斷的正確率。

關鍵詞：故障診斷；滾動軸承；支持向量機；半監督學習；流形學習

0引言

近年來，隨著人工智能技術的發展，智能診斷成為旋轉機械故障診斷研究的一個重要方向。旋轉機械故障智能診斷在本質上是一個模式識別問題，支持向量機(supportvectormachines，SVM)作為一種推廣性能優良的模式識別方法，目前已被廣泛地應用于旋轉機械故障智能診斷。文獻[1]提出了一種基于SVM的航空發動機故障診斷方法。文獻[2]研究了最小二乘SVM在滾動軸承故障診斷中的應用。文獻[3]將集成學習方法AdaBoost和SVM相結合，利用多個單一SVM構造了SVM集成，并將其應用于滾動軸承故障診斷，獲得了比單一SVM更高的故障診斷正確率。文獻[4]與文獻[5]對SVM在機械故障診斷中的應用進行了很好的綜述。

以上研究充分展示了SVM在旋轉機械故障智能診斷中的明顯優勢，然而SVM作為一種監督學習方法，要求所有的訓練樣本必須已知其類別標記。隨著數據采集技術的發展，在旋轉機械故障智能診斷中，收集大量的樣本比較容易，而要對所有的樣本進行類別標記卻較為困難，因為對樣本進行類別標記通常需要花費一定的人力和物力才能完成。以滾動軸承故障診斷為例，采用相應的傳感器可以獲得大量的滾動軸承樣本，但對一個樣本進行類別標記則需要該領域的專家采用一定的設備對樣本進行認真分析以后才能完成。在旋轉機械故障智能診斷中，如果僅使用少量的有標記樣本，那么利用它們所訓練出的診斷模型很難獲得較高的診斷正確率；另一方面，如果僅使用少量“昂貴的”有標記樣本而不利用大量“廉價的”無標記樣本，則是對數據資源的極大浪費。因此，在旋轉機械故障智能診斷中，當有標記樣本的數量較少時，研究如何利用大量無標記的樣本來輔助提高故障診斷的正確率是一個非常有意義的問題。

半監督學習[6-7]是一種可以同時利用有標記樣本和無標記樣本進行學習的方法，與僅利用有標記樣本進行學習的監督學習方法相比，半監督學習方法可以利用無標記樣本來輔助提高分類性能。流形學習[8]是近年來發展起來的一種新型降維方法，其可從髙維數據中恢復出數據內在的低維流形結構，從而實現維數約簡，目前已有學者將其應用于機械故障特征提取[9-10]。拉普拉斯支持向量機[11-12](Laplaciansupportvectormachines，LapSVM)是一種將流形學習思想和支持向量機相結合的半監督分類方法，它將無標記樣本的內在流形結構信息融入到分類器的設計中，在保持分類器光滑性的同時，亦保持數據的流形結構，從而可以有效地利用無標記樣本來提高分類性能。

基于以上分析，本文提出了一種利用LapSVM進行旋轉機械故障智能診斷的方法。首先，利用雙螺旋仿真數據和雙月形仿真數據直觀地表明LapSVM的優勢；然后，以滾動軸承故障診斷為例，研究了基于LapSVM的旋轉機械故障診斷方法的優越性。

1拉普拉斯支持向量機

1.1基本原理

LapSVM是流形正則化[11]的一個具體實例，而流形正則化是在傳統正則化算法框架的基礎上提出的一個半監督學習框架。下面首先介紹正則化算法和流形正則化的框架，然后在此基礎上介紹LapSVM的原理。

許多監督學習方法，例如支持向量機、正則化最小二乘等，均可解釋為采用不同損失函數和正則化項的正則化算法。給定一組有標記的樣本(xi, yi) (i=1，2，…，l)以及核函數K，則傳統正則化算法的框架可以表示為

(1)

為利用生成數據的概率分布的幾何結構來輔助有標記的樣本進行學習，Belkin等[11]在傳統正則化算法框架的基礎上，通過引入一個額外的流形正則化項，提出了流形正則化。流形正則化是一個基于流形假設的半監督學習框架，其基本思想是，假設數據分布在外圍空間的一個子流形上，然后利用大量無標記的數據估計出數據內在的流形結構，進而通過一個流形正則化項將數據的流形結構信息融入到分類器的設計之中，在保持分類器光滑性的同時，亦保持數據的流形結構。給定l個有標記的樣本(xi, yi)和u個無標記的樣本xj(j=l+1，l+2，…，l+u)，則流形正則化的框架可以表示為

(2)

F=[f(x1)f(x2)…f(xl+u)]T

拉普拉斯支持向量機就是上述流形正則化的框架取特定損失函數時的一個具體例子。具體來說，在上述流形正則化的框架中，取損失函數為鉸鏈損失函數，即令V(xi，yi，f)=(1-yif(xi))+=max(0，1-yif(xi))，yi∈{-1，1}，則拉普拉斯支持向量機的學習問題可以表示為以下優化問題：

(3)

根據表示定理，上述優化問題的解可以表示為

(4)

(5)

其中，I為(l+u)×(l+u)的單位矩陣；L為(l+u)×(l+u)的拉普拉斯矩陣；K為(l+u)×(l+u)的核矩陣；J=[Il×l0]為l×(l+u)的矩陣；Il×l為l×l的單位矩陣；Y=diag(y1, y2, …, yl)；β*可以通過求解以下二次規劃問題得到:

(6)

0≤βi≤1/li=1, 2, …, l

1.2仿真實驗

(a)SVM的分類面(b)LapSVM的分類面圖1　SVM和LapSVM在雙螺旋仿真數據上的分類面

(a)γI=0

(b)γI=0.0001

(c)γI=0.01圖2　流形正則化參數γI對LapSVM的影響

為直觀地展示LapSVM的優越性，本小節使用仿真數據研究LapSVM的特點。首先使用雙螺旋仿真數據研究無標記的樣本在LapSVM訓練中的作用。雙螺旋仿真數據如圖1所示，圖中的正方形和圓形表示兩類樣本，在每一類中隨機選擇一個樣本賦予其類別標記(在圖中用實心表示)，剩下的樣本作為無標記的樣本(在圖中用空心表示)。實驗中，SVM僅使用兩個有標記的樣本進行訓練，LapSVM同時使用兩個有標記的樣本和剩下的無標記樣本進行訓練。從圖1a可以看出，有標記的樣本太少，無法反映出數據的真實分布，在這種情況下，SVM訓練得到的分類面對于兩個有標記的樣本來說雖然是最優的，但使用該分類面對原來的數據集進行分類將會造成很多的誤分。從圖1b可以看出，LapSVM的分類面將兩類樣本完美地劃分開來，這是由于LapSVM在訓練中不僅利用了有標記樣本的類別信息，同時考慮了無標記樣本的流形結構信息，因此最終得到了理想的分類面。該仿真實驗直觀地表明了LapSVM可以有效地利用無標記的樣本來輔助提高分類性能。

接下來使用雙月形仿真數據研究流形正則化參數γI對LapSVM的影響。雙月形仿真數據如圖2所示，圖中符號的含義與雙螺旋仿真數據相同。

使用圖中仿真數據對LapSVM進行訓練，圖2所示為γI不同、其他參數保持不變的分類面。根據式(4)可知，γI=0時，LapSVM在訓練中將忽略無標記樣本的流形結構信息，此時LapSVM自動退化為普通的SVM，因此其分類面正好就是兩個有標記樣本連線的垂直平分線，如圖2a所示。γI=0.0001時，LapSVM訓練得到的分類面開始根據雙月形數據的分布發生變化，但仍有部分樣本發生誤分，如圖2b所示。γI=0.01時，LapSVM訓練得到的分類面進一步根據雙月形數據的分布發生變化，將兩類樣本正確地劃分開來，如圖2c所示。從該仿真實驗可以直觀地看出，流形正則化參數γI可用來衡量訓練時考慮數據的流形結構信息的程度，該參數越大，構造分類面時將越多地考慮數據的流形結構信息。

2基于LapSVM的旋轉機械故障診斷方法

上一節的仿真實驗直觀地表明，LapSVM可以有效地利用無標記的樣本來輔助提高分類性能。基于此，本文提出了一種基于LapSVM的旋轉機械故障智能診斷方法，其流程如圖3所示。該診斷方法包括模型訓練和故障診斷兩個階段。在模型訓練階段，首先使用相應的傳感器采集能夠反映診斷對象狀態的振動信號；然后采用某種信號處理方法提取所采集信號的特征，由故障診斷專家選擇一些樣本進行認真分析后確定其類別標記，并將這些樣本作為有標記樣本，同時將其余的樣本作為無標記樣本；最后將有標記樣本和無標記樣本一起輸入LapSVM進行訓練得到診斷模型。在故障診斷階段，首先采用和模型訓練階段相同的特征提取方法形成診斷向量，然后利用診斷模型進行故障診斷，最后根據診斷結果決定是繼續監控還是進行相應維修。

圖3　基于拉普拉斯支持向量機的旋轉機械故障診斷流程

3故障診斷實例

滾動軸承是旋轉機械中的一種重要支承部件，本節以滾動軸承故障診斷為例，研究基于LapSVM的旋轉機械故障診斷方法的優越性。實驗數據采用美國CaseWesternReserveUniversity電氣工程實驗室的滾動軸承試驗臺數據[13]。在該試驗臺中，試驗軸承支承電機轉軸，在其內圈、外圈和滾動體上分別用電火花技術加工了單點損傷，以模擬內圈故障、外圈故障和滾動體故障。滾動軸承的振動信號通過安裝在軸承座上方的加速度傳感器進行采集，采樣頻率為12kHz。滾動軸承在不同狀態下的典型時域波形如圖4所示。

(a)正常狀態

(b)內圈故障

(c)滾動體故障

(d)外圈故障圖4　滾動軸承原始振動信號的時域波形

3.1特征提取

特征提取是實現智能診斷的關鍵步驟之一。當滾動軸承發生局部損傷時，受載運行過程中產生的沖擊會激起系統的高頻固有振動，從而會導致不同頻帶的能量分布發生變化，因此可根據滾動軸承振動信號不同頻帶能量的分布來診斷滾動軸承的不同故障。為提取滾動軸承振動信號的能量特征，首先需要將滾動軸承的振動信號分解為一系列不同頻率成分的信號。由Huang等[14]提出的經驗模式分解(empiricalmodedecomposition，EMD)方法可以將一個信號自適應地分解為一系列本征模函數(intrinsicmodefunction，IMF)分量，這些分量分別包含了信號從高到低不同頻率段的成分，因此計算每一個IMF分量的能量，然后將這些能量值組合起來就是滾動軸承振動信號在不同頻率段的能量分布。

本文將IMF能量特征作為診斷輸入的特征向量，其具體構造方法為[15]：首先采用EMD將滾動軸承的原始振動信號分解為一系列IMF分量。由于滾動軸承的故障信息主要在高頻帶，因此選擇前4個IMF分量進行計算。然后分別計算這4個IMF分量的能量，并對這些能量值進行歸一化。最后將這4個歸一化后的能量值組成特征向量，并作為接下來智能診斷實驗的輸入。

根據上述方法計算圖4中4個信號的IMF能量特征，由EMD分解得到的前4個IMF分量如圖5所示，計算得到的IMF能量值如圖6所示。從圖6可以看出，由于滾動軸承發生故障時會激起系統的高頻固有振動，因此與正常狀態相比，滾動軸承存在內圈故障、滾動體故障和外圈故障時高頻成分的能量顯著增加，低頻成分的能量相應減少；而且不同故障類型引起的能量變化程度不同，其中，外圈故障的能量變化最為明顯，接下來依次是滾動體故障和內圈故障。從該組滾動軸承振動信號的IMF能量特征可以看出，上述特征提取方法可有效地用于提取滾動軸承故障的特征。

3.2智能診斷

(a)正常狀態

(b)內圈故障

(c)滾動體故障

(d)外圈故障圖5　由EMD分解得到的前4個IMF分量(由上到下分別為IFM1～IFM2)

圖6　4種狀態下的IMF能量特征

為研究無標記的樣本在智能診斷中的作用，同時采用SVM和LapSVM進行智能診斷實驗。SVM和LapSVM的核函數均選取高斯徑向基核函數。SVM和LapSVM本身都是針對兩類分類問題設計的，而滾動軸承故障診斷是一個多類分類問題。目前，通過兩類分類方法來解決多類分類問題的方法主要有一對一、一對多和有向無環圖等方法，本文采用一對多方法[16]來解決滾動軸承故障診斷問題。

實驗中訓練樣本和測試樣本的個數如表1所示。在訓練樣本中，對于滾動軸承每一種狀態的樣本，隨機選取5%的樣本賦予其類別標記(作為有標記樣本)，剩下的作為無標記樣本。SVM僅使用少量的有標記樣本進行訓練，LapSVM同時使用少量的有標記樣本和大量的無標記樣本進行訓練。訓練完成以后，將得到的模型對測試樣本進行測試，結果如表2所示。從表2可以看出，LapSVM的總診斷正確率比SVM提高了6.5%，這表明在有標記樣本較少時，LapSVM可以有效地利用無標記樣本來輔助提高診斷正確率。

表1　滾動軸承故障診斷訓練/測試樣本個數

表2　SVM和LapSVM的故障診斷正確率　%

為進一步研究增加有標記樣本的數量對SVM和LapSVM診斷正確率的影響，在每一種狀態的訓練樣本中分別隨機選取10%、20%、30%、40%和50%的樣本作為有標記樣本進行故障診斷實驗，結果如圖7所示。從圖7可以看出，隨著有標記樣本數量的增加，SVM和LapSVM的診斷正確率均不斷提高，但在每一種情況下，LapSVM的診斷正確率仍然高于SVM，這表明隨著有標記樣本數量的增加，LapSVM仍然可以利用無標記的樣本來進一步提高故障診斷的正確率。此外，從圖7還可以看出，隨著有標記樣本數量的增加，LapSVM的診斷正確率和SVM的診斷正確率的差距逐漸縮小。這是因為當有標記樣本增加到一定數量時，已經基本上可以反映出數據的真實分布，這時無標記樣本的作用逐漸減小，因此SVM的診斷結果逐漸接近LapSVM的診斷結果。

圖7　訓練樣本中有標記樣本的比例對診斷正確率的影響

4結語

本文提出了一種基于拉普拉斯支持向量機的旋轉機械故障智能診斷方法。該方法在智能診斷中可以有效地利用大量無標記的樣本來輔助有標記的樣本進行訓練，即利用無標記的樣本估計出數據的流形結構，在訓練中不僅考慮有標記樣本的類別信息，還考慮無標記樣本的流形結構信息，從而在有標記樣本數量較少的情況下，通過利用無標記樣本進行輔助訓練，獲得比傳統支持向量機更高的故障診斷正確率。滾動軸承故障診斷實例驗證了所提方法的優越性。

參考文獻：

[1]徐啟華，師軍. 基于支持向量機的航空發動機故障診斷[J]. 航空動力學報，2005，20(2)：298-302.

XuQihua，ShiJun.Aero-engineFaultDiagnosisBasedonSupportVectorMachine[J].JournalofAerospacePower，2005，20(2)：298-302.

[2]王太勇，何慧龍，王國峰，等. 基于經驗模式分解和最小二乘支持矢量機的滾動軸承故障診斷[J]. 機械工程學報，2007，43(4)：88-92.

WangTaiyong，HeHuilong，WangGuofeng，etal.RollingBearingsFaultDiagnosisBasedonEmpiricalModeDecompositionandLeastSquareSupportVectorMachine[J].ChineseJournalofMechanicalEngineering，2007，43(4)：88-92.

[3]HuQiao，HeZhengjia，ZhangZhousuo，etal.FaultDiagnosisofRotatingMachineryBasedonImprovedWaveletPackageTransformandSVMsEnsemble[J].MechanicalSystemsandSignalProcessing，2007，21(2)：688-705.

[4]袁勝發，褚福磊. 支持向量機及其在機械故障診斷中的應用[J]. 振動與沖擊，2007，26(11)：29-35.

YuanShengfa，ChuFulei.SupportVectorMachinesandItsApplicationinMachineFaultDiagnosis[J].JournalofVibrationandShock，2007，26(11)：29-35.

[5]WidodoA，YangBS.SupportVectorMachineinMachineConditionMonitoringandFaultDiagnosis[J].MechanicalSystemsandSignalProcessing，2007，21(6)：2560-2574.

[6]ChapelleO，Sch?lkopfB，ZienA.Semi-supervisedLearning[M].Cambridge，MA，USA：MITPress，2006.

[7]ZhuXiaojin，GoldbergAB.IntroductiontoSemi-supervisedLearning[M].SanRafael：Morgan&ClaypoolPublishers，2009.

[8]ZhangZhenyue，WangJing，ZhaHongyuan.AdaptiveManifoldLearning[J].IEEETransactionsonPatternAnalysisandMachineIntelligence，2012，34(2)：253-265.

[9]蔣全勝，賈民平，胡建中，等. 基于拉普拉斯特征映射的故障模式識別方法[J]. 系統仿真學報，2008，20(20)：5710-5713.

JiangQuansheng，JiaMinping，HuJianzhong，etal.MethodofFaultPatternRecognitionBasedonLaplacianEigenmaps[J].JournalofSystemSimulation，2008，20(20)：5710-5713.

[10]LiBenwei，ZhangYun.SupervisedLocallyLinearEmbeddingProjection(SLLEP)forMachineryFaultDiagnosis[J].MechanicalSystemsandSignalProcessing，2011，25(8)：3125-3134.

[11]BelkinM，NiyogiP，SindhwaniV.ManifoldRegularization：AGeometricFrameworkforLearningfromLabeledandUnlabeledExamples[J].JournalofMachineLearningResearch，2006，7(11)：2399-2434.

[12]MelacciS，BelkinM.LaplacianSupportVectorMachinesTrainedinthePrimal[J].JournalofMachineLearningResearch，2011，12(3)：1149-1184.

[13]TheCaseWesternReserveUniversityBearingDataCenter.BearingDataCenterFaultTestData[EB/OL]. [2012-03-01].http://www.eecs.cwru.edu/laboratory/bearing/.

[14]HuangNE，ShenZ，LongSR，etal.TheEmpiricalModeDecompositionandtheHilbertSpectrumforNonlinearandNon-stationaryTimeSeriesAnalysis[J].ProceedingsoftheRoyalSocietyofLondon.SeriesA：Mathematical，PhysicalandEngineeringSciences，1998，454(1971)：903-995.

[15]YangYu，YuDejie，ChengJunsheng.ARollerBearingFaultDiagnosisMethodBasedonEMDEnergyEntropyandANN[J].JournalofSoundandVibration，2006，294(1/2)：269-277.

[16]RifkinR，KlautauA.InDefenseofOne-vs-AllClassification[J].JournalofMachineLearningResearch，2004，5(1)：101-141.

(編輯張洋)

FaultDiagnosisofRotatingMachineryBasedonLaplacianSupportVectorMachines

HaoTengfeiChenGuo

NanjingUniversityofAeronauticsandAstronautics，Nanjing，211106

Abstract:In the intelligent fault diagnosis of rotating machinery, collecting a large number of data was relatively easy, but giving all collected data a label was often difficult. Aiming at this situation, an intelligent fault diagnosis approach for rotating machinery was proposed based on Laplacian support vector machines(LapSVM). The diagnosis example of rolling bearings shows that when the number of labeled data is limited, compared with the SVM that uses only labeled data for learning, the fault diagnosis approach based on LapSVM can improve the accuracy of fault diagnosis significantly by using a large amount of unlabeled data together with labeled data for learning.

Key words：fault diagnosis；rolling bearing；support vector machine(SVM)；semi-supervised learning；manifold learning

收稿日期：2014-06-05修回日期：2015-07-30

基金項目：國家自然科學基金資助項目(61179057)

中圖分類號：TH17

DOI：10.3969/j.issn.1004-132X.2016.01.012

作者簡介：郝騰飛，男，1983年生。南京航空航天大學民航學院博士研究生。主要研究方向為航空發動機狀態監測與故障診斷。發表論文4篇。陳果，男，1972年生。南京航空航天大學民航學院教授、博士研究生導師。