基于小球大間隔方法的機械故障檢測

郝騰飛 陳 果

南京航空航天大學，南京，210016

0 引言

機械故障檢測在本質上是一個模式識別問題，建立在統計學習理論之上的支持向量機（support vector machines，SVM）［1－2］具有良好的推廣能力，已經在機械故障檢測領域得到了廣泛應用［3－8］。但是，支持向量機作為一種兩類分類方法，在訓練中須同時使用正常樣本和故障樣本。機械故障檢測中，故障樣本通常很難獲取，也不可能為了獲得故障樣本而故意破壞機械設備，因此，在機械故障檢測中，故障樣本是可遇而不可求的。針對該問題，一些學者將支持向量數據描述（support vector data description，SVDD）［9－10］應 用 于機械故障檢測［11－13］，該方法只需使用正常樣本進行訓練，因此有效地解決了故障樣本缺失情況下的故障檢測問題。但是，在現實的機械故障檢測中，故障樣本雖然不易獲取，但一般通過各種途徑還是能獲取到一些，如通過機械設備曾經偶爾發生的一些故障可以收集到一些故障樣本，只是這些樣本相對于正常樣本較少，因此，機械故障檢測的現實情況是正常樣本較多，故障樣本較少，兩者在數量上嚴重不平衡。在這種情況下，如果使用傳統的支持向量機進行故障檢測，由于訓練樣本嚴重不平衡，其性能會顯著下降。如果使用支持向量數據描述進行故障檢測，則故障樣本得不到有效利用。基于上述分析，在機械故障檢測領域，研究不平衡樣本下的故障檢測方法是一個重要且有意義的問題。

針對該問題，本文將小球大間隔方法（small sphere large margin，SSLM）［14］應用于機械故障檢測，提出了一種不平衡樣本下的機械故障檢測方法。該方法在訓練中不僅使用大量的正常樣本，而且可以使用少量的故障樣本對決策邊界進一步修訂，其基本思想是通過訓練構造一個包圍正常樣本的超球，在使超球體積最小化的同時，進一步使超球邊界和故障樣本之間的間隔最大化。本文首先使用仿真數據進行不平衡樣本下的分類實驗，直觀地表明了小球大間隔方法在不平衡樣本學習下的優越性；然后將該方法應用到滾動軸承故障檢測中，并將其與傳統的支持向量機和支持向量數據描述進行了比較，驗證了該方法在解決不平衡樣本下機械故障檢測問題中的優越性。

1 小球大間隔方法

小球大間隔方法［14］是一種針對訓練中擁有大量正常樣本和少量異常樣本情況的異常檢測方法，其集成了一類分類方法（支持向量數據描述）和傳統兩類分類方法（支持向量機）的思想。一方面，與支持向量數據描述類似，小球大間隔方法通過在特征空間中構造一個包圍正常樣本的超球來進行異常檢測，若一個測試樣本落入超球內部，則將其分類為正常，否則，將其分類為異常。為了減小將異常樣本分類為正常樣本的可能性，該超球的體積被最小化。另一方面，受支持向量機大間隔思想的啟發，為了進一步減小將異常樣本分類為正常樣本的可能性，小球大間隔方法要求超球邊界與異常樣本之間的間隔最大化。

式中，φ（xi）、φ（xj）分別為正常樣本和異常樣本在特征空間中的位置；c、R分別為在特征空間中建立的超球的球心位置和半徑；ρ2為超球邊界與異常樣本之間的間隔；ξ為松 弛 向 量，ξ＝ （ξ1，ξ2，…，ξn）∈ Rn；ν、ν1、ν2為 三 個 正常數。

根據上述最優化問題，最小化目標函數將使超球的半徑R最小化，同時超球邊界與異常樣本之間的間隔ρ2最大化，因此將該異常檢測方法稱為小球大間隔方法。

為了導出式（1）～式（4）的對偶形式，定義以下Lagrange函數：

其中，αi、βi為 Lagrange乘子，αi≥0，βi≥0。令L（R，c，ρ，ξ，α，β）關于原始變量的導數為零，可得

由式（10）、式（6）可得

將式（6）～ 式（9）和式（11）代入式（5），即可得到上文最優化問題的對偶形式：

求解出對偶問題（式（12）～式（16））后，為了計算半徑R，考慮下列集合：

根據KKT（Karush－Kuhn－Tucker）條件，對于S中的樣本，式（2）和式（3）中的等號成立，同時松弛變量為零。令n＝｜S｜，則

根據式（11），可求得

為了對一個測試樣本x∈Rd進行分類，只須根據決策函數判斷該樣本是否在訓練階段構造的超球體內。決策函數的表達式為

2 小球大間隔方法在不平衡樣本學習下的優越性比較與分析

為了直觀地比較支持向量機、支持向量數據描述以及小球大間隔方法應用于不平衡樣本時的局限性與優越性，利用二維仿真數據對三種方法進行了不平衡樣本下的分類實驗。

仿真數據通過隨機均勻分布產生，具體產生辦法為：在由橫坐標［0，1］和縱坐標［0，1］形成的區域內根據均勻分布隨機產生200個正類訓練樣本，在由橫坐標［1，2］和縱坐標［0，1］形成的區域內根據均勻分布隨機產生20個負類訓練樣本，訓練樣本中正類樣本和負類樣本的不平衡比為10∶1，然后采用相同的方法另外產生100個正類樣本和100個負類樣本用于測試，實驗數據的具體細節如表1所示。

表1 仿真實驗數據

3種方法的核函數均選取高斯核函數。SVM和SSLM的參數通過五折交叉驗證進行選取。由于SVDD僅使用一類樣本進行訓練，因此不適合使用交叉驗證的方法選取參數，鑒于該方法和SSLM一樣都是通過構造一個包圍正類樣本的超球來進行分類，因此，為公平起見，選取和SSLM一樣的核參數，另一個懲罰參數選取1，即要求在訓練集上沒有誤分。使用上述參數選取方法選取參數后進行分類實驗，3種方法在訓練集和測試集上的分類結果分別如圖1和圖2所示，具體的識別率如表2所示。

圖1 三種方法在訓練集上的分類結果

圖2 三種方法在測試集上的分類結果

建立在結構風險最小化之上的SVM，通過在模型的復雜性和訓練誤差之間尋求折中，而不是一味地追求訓練誤差最小化，從而能夠有效地避免過擬合現象，表現出良好的推廣能力。但是，當訓練樣本嚴重不平衡時，一方面較少一類的樣本很容易遠離理想的分類面，另一方面SVM軟間隔的特點使得SVM訓練得到的分類面會向樣本較少一類偏移［15］，當使用該分類面對測試樣本進行分類時，樣本個數較少的一類會具有較高的誤識率。從圖1a可以看出：由于正類樣本較多，因此在理想分類面附近分布有很多樣本；由于負類樣本較少，僅有一個樣本接近理想分類面。這種情況下，SVM在軟間隔特點的作用下，為了獲得更大的間隔，最終訓練得到的分類面向負類樣本方向發生了偏移，并越過了一個負類樣本，導致在訓練集上該類樣本有一個發生了誤分。總之，由于上述兩個原因，SVM在訓練樣本不平衡的情況下得到的分類面明顯向樣本較少的負類方向發生了偏移。從圖2a可以看出，當使用該分類面對測試樣本進行分類，正類樣本沒有誤分，其識別率達到了100%，而負類樣本有相當一部分發生了誤分，其識別率僅為81%。

表2 三種方法在仿真數據上的識別率

SVDD作為一種一類分類方法，在訓練中只須使用正常樣本，其基本思想是通過構造一個包圍正常樣本的超球來進行異常檢測，若測試樣本落入超球內部，則將其分類為正常，否則將其分類為異常。通過引入核技巧，該方法可以獲得靈活的描述邊界。從該方法的原理可以看出，SVDD進行異常檢測的效果取決于得到的描述邊界是否緊湊，若描述邊界非常緊湊，則異常樣本很難落入超球內部，從而可以獲得較好的異常檢測效果，否則，異常檢測的效果會較差。但是，只有當核參數選取恰當時，SVDD才能獲得緊湊的描述邊界，由于該方法在訓練時僅使用了正常樣本，當訓練樣本位于高維空間時，僅通過正常樣本很難判斷選取的核參數對應的描述邊界是否緊湊，若訓練得到的描述邊界不是非常緊湊，使用該方法進行異常檢測時接受異常樣本的風險會較高。另外，由于SVDD要求包圍正常樣本的超球盡可能小，這使得其和SVM相比，正常樣本的識別率容易偏低。圖1b所示為SVDD使用正類樣本訓練得到的分類面，該分類面包圍住了所有的正類樣本，即其在訓練集上的識別率達到了100%，但是從圖2b可以看出，使用該分類面對測試樣本進行分類時，正類樣本沒有一個發生誤分，負類樣本有7個發生了誤分，即正類樣本的識別率為100%，負類樣本的識別率為93%。

SSLM也是通過構造一個包圍正常樣本的超球來進行異常檢測，這一點與SVDD類似，不同點在于該方法在訓練中引入了異常樣本，在最小化超球的同時，進一步使超球邊界和異常樣本之間的間隔最大化，因此，與SVDD相比，該方法一般可以獲得更加緊湊的描述邊界，從而能夠降低接受異常樣本的風險。由于該方法同樣要求包圍正常樣本的超球盡可能小，因此和SVM相比，其正常樣本的識別率也容易偏低。圖1c所示為SSLM通過訓練得到的分類面，其對正類樣本和負類樣本的識別率均達到了100%。對比SSLM和SVDD的分類面，可以看出，在靠近負類樣本一側，SSLM的分類面更加緊湊，這一點正是通過大間隔的要求獲得的。圖2c所示為SSLM在測試樣本上的分類結果，其對正類樣本的識別率為98%，略低于另外兩種方法的正類識別率，對負類樣本的識別率為100%，明顯高于另外兩種方法的負類識別率。

根據以上實驗和分析可以看出，當訓練樣本高度不平衡時，SVM的分類面會偏向樣本較少的類，這使得其對樣本較少類的識別率容易偏低，因此訓練樣本不平衡會明顯降低SVM的性能；SVDD僅使用一類樣本進行訓練，雖不存在訓練樣本不平衡的問題，但該特點導致其核參數選擇比較困難，不能保證對應的描述邊界一定非常緊湊，若核參數選擇不當，該方法對異常樣本的識別率容易偏低；SSLM在訓練中同時使用正常樣本和異常樣本，通過構造一個包圍正常樣本的超球來進行異常檢測，這一特點使得其面對不平衡的訓練樣本時不存在SVM的缺點，而大間隔的特點又克服了SVDD的不足，因此SSLM可以作為一種很好的不平衡樣本下的異常檢測方法。機械故障檢測是一種典型的不平衡樣本下的異常檢測問題，因此SSLM可以用于解決不平衡樣本下的機械故障檢測問題。

3 滾動軸承故障檢測應用

為驗證SSLM在不平衡樣本下機械故障檢測中的優越性，本文使用滾動軸承故障模擬實驗臺數據進行了不平衡樣本下的故障檢測實驗，作為對比，同時使用SVM和SVDD進行了實驗。滾動軸承故障模擬實驗臺如圖3所示，其中，通道1的傳感器用于測試滾動軸承轉速，通道2和通道4的傳感器用于測試水平加速度信號，通道3的傳感器用于測試垂直加速度信號。采用4個6304型滾動軸承進行實驗，其中，1個為正常軸承，另外3個被設置有內圈故障、外圈故障和滾動體故障（故障通過電火花技術加工而成）。實驗中軸 承 的 轉 速 為 1500r/min、1800r/min 和 2000 r/min，采樣頻率為10kHz。根據上述實驗條件采集4種狀態（正常、內圈故障、外圈故障和滾動體故障）下的滾動軸承振動信號各300組數據，每一組數據包含4096個數據點。實驗中將內圈故障、外圈故障和滾動體故障樣本混合組成故障類樣本。根據訓練樣本中正常樣本和故障樣本的不同比例（1∶1、10∶1、20∶1、40∶1），將實驗分為4組，實驗數據的具體細節如表3所示。

圖3 滾動軸承故障模擬實驗臺

表3 滾動軸承故障檢測實驗數據

本文將滾動軸承振動信號的波形指標、峰值指標、脈沖指標、裕度指標和峭度指標作為滾動軸承的故障特征，將這5個特征組成五維特征向量并作為分類器的輸入。

實驗中，3種方法的核函數統一選擇高斯核函數。參數選取方法同上節仿真實驗一樣，即SVM和SSLM的參數通過五折交叉驗證進行選取。為公平起見，SVDD選取和SSLM一樣的核參數，另一個懲罰參數選取1，即要求在訓練集上沒有誤分。每一組實驗中，訓練樣本和測試樣本隨機劃分10次，對每一次劃分的數據進行分類實驗，然后將10次分類結果的平均值作為最終結果。實驗結果如表4所示。

表4 3種方法在滾動軸承實驗數據上的識別率

從表4中SVM的檢測結果可以看出，當訓練樣本平衡時，在訓練集和測試集上，SVM對于正常樣本和故障樣本均取得了較高的識別率，這表明當訓練樣本平衡時，SVM是一種很好的故障檢測方法。當訓練樣本不平衡時，在訓練集上，SVM對正常樣本的識別率達到了100%，對故障樣本的識別率較訓練樣本平衡時出現了一定下降，而且不平衡比越高，對故障樣本的識別率下降越明顯；在測試集上，與訓練樣本平衡時相比，SVM對正常樣本的識別率稍有上升，達到了100%，但對故障樣本的識別率出現了明顯下降，而且隨著不平衡比的增加，對故障樣本的識別率急劇下降，這表明在訓練樣本不平衡時，SVM對正常樣本的識別率容易偏高，而對故障樣本的識別率容易偏低。在機械故障檢測中，由于將故障誤判為正常的代價遠高于將正常誤判為故障的代價，因此一般希望對故障的識別率能夠較高，但是SVM在訓練樣本不平衡情況下的性能正好與該目標相反。

從表4中SVDD的檢測結果可以看出，由于該方法僅使用正常樣本進行訓練，因此不存在訓練樣本不平衡的問題。在訓練集上，其對正常樣本的識別率達到了100%；在測試集上，其對正常樣本的識別率低于SVM對正常樣本的識別率，對故障樣本的識別率低于訓練樣本平衡時SVM對故障樣本的識別率，但高于訓練樣本不平衡時SVM對故障樣本的識別率。總體來說，當訓練樣本不平衡時，SVDD的故障檢測性能優于SVM的故障檢測性能。

從表4中SSLM的檢測結果可以看出，在訓練集上，對于各種不平衡比，其對正常樣本和故障樣本的識別率都接近或達到了100%；在測試集上，該方法對正常樣本的識別率略低于SVM對正常樣本的識別率，與SVDD對正常樣本的識別率基本相當，但是對故障樣本的識別率明顯高于SVM和SVDD對故障樣本的識別率。總體來說，對于各種不平衡比，在訓練集和測試集上，SSLM對于正常樣本和故障樣本的識別率均取得了較大的值，這表明SSLM基本不受訓練樣本不平衡的影響。此外還可以看出，SSLM對故障樣本的識別率較正常樣本更高一些，這一點與故障檢測中更加重視故障識別率的目標一致。總之，SSLM基本不受訓練樣本不平衡的影響和其更加注重故障識別率的特點使得其非常適合不平衡樣本下的機械故障檢測。

4 結論

（1）當訓練樣本嚴重不平衡時，支持向量機訓練得到的分類面會向訓練樣本較少的故障類方向偏移，從而會導致故障類具有較高的誤識率，而且訓練樣本不平衡程度越嚴重，支持向量機對故障類的誤識率越高。

（2）支持向量數據描述在訓練中僅使用了正常樣本，該特點導致其核參數選取困難，不能保證獲得的描述邊界一定非常緊湊，若核參數選取不當，容易造成故障識別率偏低。

（3）小球大間隔方法在最小化超球的同時，進一步使超球邊界和故障樣本之間的間隔最大化，這使得其對故障的識別率能有很好的保證，可以作為一種解決不平衡樣本下機械故障檢測問題的有效方法。

［1］Vapnik V N.The Nature of Statistical Learning Theory［M］.New York：Springer－Verlag，1995.

［2］陳果.基于遺傳算法的支持向量機分類器模型參數優化［J］.機械科學與技術，2007，26（3）：347－350.

［3］尉詢楷，陸波，汪誠，等.支持向量機在航空發動機故障診斷中的應用［J］.航空動力學報，2004，19（6）：844－848.

［4］徐啟華.師軍.應用SVM的發動機故障診斷若干問題研究［J］.航空學報，2005，26（6）：686－690.

［5］吳峰崎，孟光.基于支持向量機的轉子振動信號故障分類研究［J］.振動工程學報，2006，19（2）：238－241.

［6］Yuan S F，Chu F L.Support Vector Machinesbased Fault Diagnosis for Turbo－pump Rotor［J］.Mechanical Systems and Signal Processing，2006，20（4）：939－952.

［7］唐浩，屈梁生.基于支持向量機的發動機故障診斷［J］.西安交通大學學報，2007，41（9）：1121－1126.

［8］Widodo A，Yang B S，Han T.Combination of Independent Component Analysis and Support Vector Machines for Intelligent Faults Diagnosis of Induction Motors［J］.Expert Systems with Applications，2007，32（2）：299－312.

［9］Tax D，Duin R.Support Vector Domain Description［J］.Pattern Recognition Letters，1999，20（11/13）：1191－1199.

［10］Tax D，Duin R.Support Vector Data Description［J］.Machine Learning，2004，54（1）：45－66.

［11］李凌均，張周鎖，何正嘉.基于支持向量數據描述的機械故障診斷研究［J］.西安交通大學學報，2003，37（9）：910－913.

［12］王自營，邱綿浩，安鋼，等.基于一類超球面支持向量機的機械故障診斷研究［J］.振動工程學報，2008，21（6）：553－558.

［13］李強，王太勇，王正英，等.基于EMD和支持向量數據描述的故障智能診斷［J］.中國機械工程，2008，19（22）：2718－2721.

［14］Wu M R，Ye J P.A Small Sphere and Large Margin Approach for Novelty Detection Using Training Data with Outliers［J］.IEEE Transactions Pattern Analysis and Machine Intelligence，2009，31（11）：2088－2092.

［15］Akbani R，Kwek S，Japkowicz N.Applying Support Vector Machines to Imbalanced Datasets［C］//Proceedings of the 15th European Conference on Machine Learning.Pisa，Italy，2004：39－50.

［16］He H B，Garcia E A.Learning from Imbalanced Data［J］.IEEE Transactions on Knowledge and Data Engineering，2009，21（9）：1263－1284.