基于雙樹復小波和深度信念網絡的軸承故障診斷

張淑清 胡永濤 姜安琦 李軍鋒 宿新爽 姜萬錄

1.燕山大學電氣工程學院,秦皇島，066004 2. 中南大學信息科學與工程學院，長沙，4100063. 燕山大學機械工程學院,秦皇島，066004

基于雙樹復小波和深度信念網絡的軸承故障診斷

張淑清1胡永濤1姜安琦2李軍鋒1宿新爽1姜萬錄3

1.燕山大學電氣工程學院,秦皇島，066004 2. 中南大學信息科學與工程學院，長沙，4100063. 燕山大學機械工程學院,秦皇島，066004

提出了一種基于雙樹復小波(DTCWT)和深度信念網絡(DBN)的軸承故障診斷新方法。采用DTCWT對軸承振動信號進行分解實驗，結果表明DTCWT能夠很好地將信號分解到不同頻帶。進而提取能量熵作為故障特征，采用DBN小樣本分類模型對軸承故障進行分類，并與傳統分類器進行比較，結果表明該方法能準確識別不同故障類型，擴展了DBN在機械故障診斷中的應用。

雙樹復小波；深度信念網絡；受限波爾茲曼機；故障診斷

0 引言

機械故障診斷是保證生產系統安全穩定運行和提高產品質量的重要手段，其研究的關鍵在于信號特征提取和模式識別[1]。小波變換在信號特征提取中得到大量成功應用，但實小波變換存在有平移敏感性、方向性差、缺乏相位信息等缺點。雙樹復小波(dual-tree complex wavelet transform, DTCWT)是一種改進的復小波，采用雙樹結構保證信號完美重構，具有平移不變性、抑制頻率混疊、有限冗余度和高效計算能力等優點[2]。機械振動信號包含大量諧波信號，DTCWT抑制頻率混疊的特性能夠保證信號被很好地分解為不同頻帶，有利于不同頻帶信號的特征提取。

機械故障模式識別屬于典型的小樣本識別問題[3]，SVM在解決小樣本識別問題方面有突出優點[4]，然而SVM存在參數優化問題，懲罰系數和核函數參數的選取嚴重影響分類性能。隨著人工智能研究的深入，深度學習得到了廣泛研究[5]；深度網絡是一種模擬人腦處理信息、具有多隱層多感知器的神經網絡，其成果已成功應用于圖像識別、語音處理、文本處理等[6-8]，但是這些應用均是針對大數據的，在小樣本識別中應用較少。深度信念網絡(deep belief network, DBN)是由多層受限玻爾茲曼機(restricted Boltzmann machines, RBM)堆疊而成的一種典型的深度網絡結構，采用預訓練和微調的訓練方式，有效避免了參數選取的難題，同時只需少量樣本便能訓練出很好的分類器，在小樣本識別中具有明顯優勢。

本文采用DTCWT將機械振動信號分解到不同頻帶，提取各頻帶能量熵能作為故障特征，結合DBN小樣本分類器實現軸承故障診斷，對軸承的不同部位和不同損傷程度進行了實驗。

1 DTCWT能量熵

DTCWT采用兩棵并列的具有不同高通和低通濾波器組的實小波變換樹實現，分別稱為實樹和虛樹。信號在分解時實樹和虛樹濾波器組之間的延遲恰好是一個采樣值的間隔，因此，雙樹二抽取得到的數據形成互補關系，減少了信息的丟失，使得DTCWT具有抑制頻率混疊的特性，利于有效故障特征的提取。

為了表征不同故障，將能量熵引入故障特征提取中。當軸承發生故障時，各頻帶能量也隨之變化，并且不同的故障能量變化也不同。熵包含了信號在動態變化中潛在的有用信息，熵值大小反映了信號概率分布的均勻程度，具有一定抗噪能力，將能量與熵相結合，提取能量熵作為軸承故障特征，能很好地反映軸承故障且計算簡單。首先，對每個機械振動信號進行n層DTCWT分解，重構得到n+1個不同頻帶的分量。然后，計算每個分量每個采樣點的能量Ei，根據下式計算每個分量的能量熵H：

(1)

得到n+1個特征向量。其中，εi為每個采樣點的能量占該頻帶總能量的比重，m為每個頻帶的采樣點數。

2 基于DBN的小樣本分類

2.1 DBN小樣本分類器

機械故障分類屬于典型的小樣本分類問題，為了解決小樣本分類問題，基于DBN[9]設計了小樣本分類器模型，如圖1所示。該模型由兩層RBM構成，每層RBM由可見層(visible, V)和隱含層(hidden, H)組成。由圖2可以看出，V1和H1組成RBM1，H1(V2)和H2組成RBM2。V1為輸入層，接收輸入特征X，并對其進行編碼后傳輸給H1，其節點數與輸入特征維數相同。同時，H1又是RBM2的可見層，接收V1的輸出，進行編碼后傳輸給輸出層H2，H1節點數對分類性能的影響不大，可根據經驗確定。H2作為模型的輸出，與標簽層結合計算分類誤差，其節點數與樣本類別數相同。

圖1 DBN小樣本分類模型Fig.1 DBN classification model for small sample

DBN小樣本分類模型的訓練過程可分為預訓練和微調兩步。預訓練采用無監督學習方式，由底向上逐層訓練，重新編碼輸入特征，并獲得各層的最初參數，如圖1中實線箭頭所示。微調為有監督學習，結合樣本標簽和預訓練輸出計算誤差，采用BP算法，對預訓練得到的最初參數進行細微調整，降低誤差，從而使模型參數達到最優，如圖1中虛線箭頭所示。經過預訓練和微調，模型便可對新數據進行分類識別。

2.2 預訓練

預訓練即對每層RBM由下向上單獨訓練，RBM是一種能量產生模型，所有的可見層單元與隱含層單元相連，同一層之間互不相連，如圖2所示。其中，vi表示第i個可見層節點，hj表示第j個隱含層節點，Wij為vi與hj之間的連接權重，a和b分別為可見層和隱含層各節點的偏置。經過預訓練可得到每層的最初參數θ=(ai,bj,wij)。

圖2 RBM結構Fig.2 Structure of RBM

假設可見層和隱含層的節點為0或1的二值變量，給定狀態(v,h)的能量[10]可表示為

(2)

(3)

其中，Z為歸一化因子，可見層能量分布可通過所有隱含層相加得到：

(4)

由于同一層之間沒有聯系，所有的可見層節點之間相互獨立，故vi=1的概率為

(5)

σ(x)=1/(1+e-x)

其中，σ(x)為Sigmoid函數，同理可得

(6)

RBM的訓練目標是學習出參數θ，以擬合訓練數據，通過求解訓練集上的極大對數似然函數可得到θ，即

(7)

其中，T為訓練樣本個數，采用對比散度(contrastivedivergence,CD)[11]算法可得各參數的更新規則：

Δai=ε(〈ai〉data-〈ai〉recon)

(8)

Δbj=ε(〈bj〉data-〈bj〉recon)

(9)

Δwij=ε(〈vihj〉data-〈vihj〉recon)

(10)

其中，ε為學習效率，〈·〉data和〈·〉recon分別為當前模型及重構模型所定義的分布上的數學期望。

2.3 微調

由于預訓練為無監督學習，經過預訓練得到的最初參數并非模型的最佳參數，輸出類別誤差較大，為了提高模型分類性能，結合標簽，采用BP算法對參數進行微調。

假設具有n個特征的一個樣本x，通過可見層V1輸入DBN，則該層輸出為

(11)

(12)

由式(11)可知輸出類別與參數wij相關，通過BP算法對參數wij進行優化，即可得到最終的輸出。

BP算法包括前向傳播和后向傳播兩個過程，前向傳播中輸入被逐層傳播到輸出，得到預測的類別。后向傳播將樣本標簽與預測的類別進行比較后得到誤差err，err被逐層向后回傳并通過梯度下降算法微調DBN的參數。即

err=y-o

(13)

綜上分析，DBN小樣本分類模型的參數包括輸出參數θ、每層的節點數、學習效率和迭代次數，以上參數都可根據公式和經驗快速確定，避免了傳統分類器參數選取的難題。

3 實驗分析

3.1 振動信號分解

DTCWT具有抑制頻率混疊的特性，能夠對機械振動信號進行有效的分解，保證各頻帶信息完備準確。為了驗證該特性，對軸承故障信號進行實驗分析，實驗數據來自于凱斯西儲大學軸承故障數據，電機轉速為1750 r/min，負荷為1.47 kW，采樣頻率為12 kHz，采樣時間為0.1 s。研究內圈0.1778 mm(0.007英寸)損傷狀態。

采用DTCWT對故障信號進行三層分解和重構獲取不同頻帶特征信息，同時與離散小波變換(discrete wavelet transform, DWT)進行對比研究。分別采用DTCWT和DWT分解故障信號，各頻帶頻率特性如圖3、圖4所示。圖3中從上到下分別為高頻分量d1、d2、d3和低頻分量a3。圖3采用DTCWT分解重構，可以看出其低頻分量明確，高頻分量僅在d1和d2中存在少量混疊，信號被很好地分解到不同頻帶。圖4為DWT分解重構結果，可以看出其低頻分量完全混疊在高頻分量d3中，同時高頻分量d1、d2和d3之間也存在嚴重混疊現象。因此，DWT不能將信號進行有效分離，而DTCWT能對機械振動信號進行完美分解重構，為機械故障類型識別提供了良好的特征。

圖3 故障信號DTCWT分解各頻帶頻率特性Fig.3 Frequency characteristics of each frequency bands of fault signal decomposed by DTCWT

圖4 故障信號DWT分解各頻帶頻率特性Fig.4 Frequency characteristics of each frequency bands of fault signal decomposed by DWT

3.2 DBN小樣本分類實驗

DBN小樣本分類器具有參數易選取和對訓練集要求低的優點，為了驗證該特性，對Iris數據集進行分類研究，并與SVM進行對比。將Iris分為訓練集和測試集，其中測試集每類有25個樣本，訓練集每類樣本數為1、2、3、4、5、6、7、8、9、10、15、25，對不同訓練集均進行10次實驗，取平均分類準確率作為最終結果。DBN小樣本分類器由兩層RBM構成，V1、H1和H2層的節點數分別為4、4和3，根據經驗，訓練迭代次數取100，學習速率取0.01，采用SVM進行對比研究，SVM選用徑向基核函數，其系數均為默認值。圖5所示為測試準確率隨訓練集樣本個數變化的關系，可以看出，當每類具有1個樣本時，DBN和SVM測試準確率分別為73.87%和60.33%，遠不能滿足分類要求。當訓練集每類樣本個數為4時，DBN測試準確率達到93.47%，基本滿足分類要求，而SVM測試準確率為88.9%。之后隨著訓練集樣本個數的增多，DBN測試準確率逐漸提高，最終穩定在97.33%，這表明適當增加訓練集個數有利于DBN訓練，能夠提高DBN分類準確率。而SVM測試準確率并沒有隨樣本個數增加而增加，訓練集樣本中每個樣本個數為15時SVM測試準確率達到最高值96%，而訓練集樣本中每個樣本個數為25時SVM測試準確率降至94.67%，這表明SVM對訓練集樣本數要求較高。由此可見，對于小樣本識別，DBN優于SVM，需要較少的訓練集便可以訓練出較好的分類網絡，且訓練集越大，分類能力越強。

圖5 測試準確率隨訓練集樣本個數的變化Fig.5 The relationship between the test accuracy and the samples number of training set

3.3 軸承故障診斷實驗

為了驗證本文方法在故障診斷中的有效性和優越性，對軸承正常狀態(n)、內圈不同程度損傷(ir007，ir014，ir021)、滾動體不同程度損傷(b007，b014，b021)和外圈不同程度損傷(or007，or014，or021)共十種狀態進行故障診斷。

每種狀態取100個樣本，對十種狀態的每個樣本進行DTCWT三層分解并進行單支重構，得到4個頻帶的分量，計算每個分量的能量熵作為特征向量，10種狀態共得到1000×4的特征向量，以a3分量為例，10種狀態的能量熵如圖6所示，由圖6可以判斷出正常狀態和故障狀態，但是b007、b014、b021和or014四種故障之間相互重疊，且or021特征比較復雜，即滾動體不同程度損傷和外圈不同程度損傷不能被直觀判斷，因此，采用DBN進行分類識別。

圖6 a3分量十種狀態的能量熵Fig.6 Energy entropy of a3 component of ten states

為了驗證DBN在小樣本識別上的優勢，將樣本分為訓練集和測試集：各狀態分別取3、5、10、20、30、40、50個樣本作為訓練集，各狀態取50個樣本作為測試集。為了增強分類結果的可信性，取10次實驗結果的平均值作為最終結果。DBN由2層RBM構成，V1、H1和H2層的節點數分別為6、10和10，根據經驗，訓練迭代次數取100，學習速率取0.01，以SVM作為對比，不同訓練集的測試結果如圖7所示。由圖7可以看出DBN分類效果明顯優于SVM，只取3個樣本便可以訓練出一個很好的DBN分類器，其分類準確率可達到93.44%；而SVM分類準確率只有80.42%，說明DBN有更好的學習特征。隨著訓練集樣本的增加，DBN分類準確率隨之提高，而SVM在各狀態取30個樣本時分類準確率最高，隨著樣本的增加，分類準確率減小，說明樣本越多DBN學習能力越強，分類準確率越高；而SVM對樣本個數要求較高，樣本個數過多或過少都會導致分類準確率降低。

圖7 不同訓練集的測試結果Fig.7 Test result of different training sets

為了進一步驗證DBN分類效果，對每種狀態的分類準確率進行研究，并與經典分類器(BP神經網絡和SVM)進行對比，這里重點研究滾動體和外圈不同程度損傷。訓練集各狀態樣本個數為30，各分類器對不同狀態的分類準確率見表1，可以看出DBN的分類準確率均高于BP和SVM的分類準確率；并且對于特征比較復雜的or021，DBN分類準確率為100%，而BP和SVM分別為90%和92%，這表明DBN能更好地處理特征，識別故障類型。

表1 不同分類器對不同狀態的分類準確率Tab.1 Classification for different states of different classifiers %

各狀態取30個樣本，進一步研究DBN的訓練效率。圖8所示為訓練集的均方誤差隨訓練迭代次數的變化，可以看出，在前20次迭代中，均方誤差隨著迭代次數的增加迅速減小，迭代20次時，均方誤差已小于0.1。隨后，隨迭代次數的增加，均方誤差逐步減小并趨于穩定。迭代40次時，均方誤差減小到0.01，此時的分類準確率可達99%。因此，應合理確定DBN訓練迭代次數，若迭代次數太少，則分類準確率低；而迭代次數過多不但不會明顯提高分類準確率，反而浪費訓練時間。

圖8 均方誤差變化曲線Fig.8 Variation curve of mean square error

4 結論

(1) DTCWT具有平移不變性，能有效避免擾動信號的影響，較好地對機械振動信號分解和重構，DTCWT能量熵能很好地表征機械振動信號的特征。

(2)在機械故障診斷中DBN僅需少量訓練樣本便能很好地識別不同故障類型，識別準確率隨著訓練樣本的增加而提高，并且對復雜的特征具有很好的辨識能力。

(3)迭代次數影響DBN識別準確率，為便于觀察結果，根據經驗設置較大的迭代次數，在實際應用中，若迭代次數過大則容易浪費時間，故應根據實際情況，通過實驗確定最佳迭代次數。

[1] 秦大力, 于德介. 基于本體的機械故障診斷貝葉斯網絡[J]. 中國機械工程, 2013, 24(9): 1195-1209. QIN Dali, YU Dejie.Ontology-based Diagnostic Bayesian Networks for Mechanical Fault Diagnosis[J].China Mechanical Engineering, 2013, 24(9): 1195-1209.

[2] 艾樹峰. 基于雙樹復小波變換的軸承故障診斷研究[J]. 中國機械工程, 2011, 22(20): 2446-2451. AI Shufeng. Research on Bearing Fault Diagnosis Based on Dual-tree Complex Wavelet Transform[J].China Mechanical Engineering, 2011, 22(20): 2446-2451.

[3] 李鑫濱, 陳云強, 張淑清. 基于改進ABC算法優化的LSSVM多分類器組機械故障診斷模型[J].中國機械工程, 2013, 24(16): 2157-2164.LIXinbin,CHENYunqiang,ZHANGShuqing.MechanicalFaultDiagnosisModelBasedonImprovedABCAlgorithmOptimizedMultipleLSSVMClassifierGroup[J].ChinaMechanicalEngineering, 2013, 24(16): 2157-2164.

[4]HARISHN,LOKESHA,MANDALS,etal.ParameterOptimizationUsingGAinSVMtoPredictDamageLevelofNon-reshapedBermBreakwater[J].TheInternationalJournalofOceanandClimateSystems, 2014, 5(2)：79-88.

[5]ARELI,ROSEDC,KARNOWSKITP.DeepMachineLearning—aNewFrontierinArtificialIntelligenceResearch[J].IEEEComputationalIntelligenceMagazine,2010, 5(4): 13-18.

[6]BENGIOY.DeepLearningofRepresentationsforUnsupervisedandTransferLearning[J].UnsupervisedandTransferLearningChallengesinMachineLearning, 2012(27): 17-36.

[7]JINN,ZHANGJS,ZHANGCX.ASparse-responseDeepBeliefNetworkBasedonRateDistortionTheory[J].PatternRecognition, 2014, 47(9): 3179-3191.

[8]LAROCHELLEH,MANDELM,PASCANUR,etal.LearningAlgorithmsfortheClassificationRestrictedBoltzmannMachine[J].TheJournalofMachineLearningResearch, 2012, 13(1): 643-669.

[9]HINTONGE,OSINDEROS,TEHYW.AFastLearningAlgorithmforDeepBeliefNets[J].NeuralComputation, 2006, 18(7):1527-54.

[10]TOMCZAKJM,ZIEBAM.ClassificationRestrictedBoltzmannMachineforComprehensibleCreditScoringModel[J].ExpertSystemswithApplications, 2015, 42(4): 1789-1796.

[11]SHERIAM,RAFIQUEA,PEDRYCZW,etal.ContrastiveDivergenceforMemristor-basedRestrictedBoltzmannMachine[J].EngineeringApplicationsofArtificialIntelligence, 2015, 37: 336-342.

(編輯 陳 勇)

Bearing Fault Diagnosis Based on DTCWT and DBN

ZHANG Shuqing1HU Yongtao1JIANG Anqi2LI Junfeng1SU Xinshuang1JIANG Wanlu3

1.Institute of Electrical Engineering, Yanshan University, Qinhuangdao,Hebei ,066004 2.School of Information Science and Engineering, Central South University,Changsha,410006 3.Institute of Mechanical Engineering, Yanshan University, Qinhuangdao,Hebei ,066004

Based on DTCWT and DBN, a new method of bearing fault diagnosis was proposed. Experiments on bearing vibration signals decomposition show that the signals may be well decomposed into different frequency bands by DTCWT. Then, power entropy of different frequency bands were taken as the fault features and input to the model for classification and the traditional classifiers were taken as the comparison. Results show that the method may identify different fault types accurately, which expands the applications of DBN.

dual-tree complex wavelet transform (DTCWT);deep belief network (DBN);restricted Boltzmann machine (RBM);fault diagnosis

2016-06-16

國家自然科學基金資助項目(51475405，61077071)；河北省自然科學基金資助項目(F2015203413, F2016203496, F2015203392)

TN911.6

10.3969/j.issn.1004-132X.2017.05.005

張淑清，女，1966年生。燕山大學電氣工程學院教授、博士研究生導師。主要研究方向為弱信號檢測、智能信號處理、故障診斷等。發表論文50余篇。E-mail:zhshq-yd@163.com。胡永濤，男，1987年生。燕山大學電氣工學院博士研究生。姜安琦，女，1995年生。中南大學信息科學與工程學院本科生。李軍峰，男，1994年生。燕山大學電氣工程學院碩士研究生。宿新爽，女，1993年生。燕山大學電氣工程學院碩士研究生。姜萬錄，男，1964年生。燕山大學機械工程學院教授、博士研究生導師。