基于雙向門控循環(huán)單元網(wǎng)絡(luò)的滾動軸承故障診斷

石靜雯，侯立群

基于雙向門控循環(huán)單元網(wǎng)絡(luò)的滾動軸承故障診斷

石靜雯，侯立群

（華北電力大學(xué) 自動化系，河北 保定 071003）

滾動軸承作為大多數(shù)旋轉(zhuǎn)機械的重要零部件，其工作狀態(tài)直接影響設(shè)備的工作壽命。針對傳統(tǒng)故障診斷方法自適應(yīng)性差、特征提取過于依賴人工經(jīng)驗的問題，提出一種基于雙向門控循環(huán)單元的軸承故障診斷方法。該方法直接將原始振動信號作為模型輸入，自動進行故障特征提取與故障診斷。結(jié)合軸承外圈故障、內(nèi)圈故障及滾動體故障等9種故障狀況，對所提方法進行了驗證。實驗結(jié)果表明，其故障診斷準(zhǔn)確率可達99.56%，診斷效果優(yōu)于門控循環(huán)單元、長短期記憶網(wǎng)絡(luò)等算法，且泛化能力好。

故障診斷；雙向門控循環(huán)單元；深度學(xué)習(xí)；滾動軸承

0 引言

滾動軸承作為大多數(shù)旋轉(zhuǎn)機械的重要零部件，其工作狀態(tài)直接決定了機器的工作壽命及工作人員的安全。對滾動軸承進行及時的狀態(tài)監(jiān)測和故障診斷能夠有效防止設(shè)備意外故障，提高設(shè)備運行效率[1-2]。

隨著人工智能技術(shù)的快速發(fā)展和大數(shù)據(jù)時代的到來，各個領(lǐng)域都形成了復(fù)雜的數(shù)據(jù)庫[3]，故障診斷領(lǐng)域也不例外。傳統(tǒng)的故障診斷方法在特征提取和處理方面依靠人工經(jīng)驗，難以處理海量的數(shù)據(jù)。深度學(xué)習(xí)具有強大的數(shù)據(jù)處理能力，深度卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)卷積網(wǎng)絡(luò)也已成功應(yīng)用于自動駕駛、圖像識別等領(lǐng)域。

長短期記憶（LSTM）模型以及門控循環(huán)單元（GRU）是循環(huán)神經(jīng)網(wǎng)絡(luò)的變體，它們成功解決了RNN的梯度消失、梯度爆炸和長期記憶力不足等問題[4]。文獻[5]提出了基于優(yōu)化LSTM網(wǎng)絡(luò)的齒輪箱故障診斷方法。該方法將能量序列特征和小波能量熵作為模型輸入，解決了傳統(tǒng)LSTM網(wǎng)絡(luò)在復(fù)雜工況下辨別能力低的問題。文獻[6]提出了一種基于以增強型門控循環(huán)單元和復(fù)小波包能量矩熵相結(jié)合的故障診斷方法，增強了模型的預(yù)測能力，解決早期軸承故障的預(yù)測準(zhǔn)度低的問題。文獻[7]提出利用多種小波變換和一維卷積循環(huán)網(wǎng)絡(luò)進行故障診斷，在復(fù)雜工況下其診斷準(zhǔn)確率達95%以上。文獻[8]提出將最大能量算子、峭度卷積和長短期記憶網(wǎng)絡(luò)相結(jié)合的故障診斷算法，該方法可在強噪聲下提取故障特征。雖然上述方法在一定程度上提高了故障診斷準(zhǔn)確度，但仍未改變故障特征提取依賴人工處理的問題。因此，文獻[9]提出了基于卷積長短期記憶遞歸神經(jīng)網(wǎng)絡(luò)（CRNN）的故障診斷方法。該方法將振動數(shù)據(jù)直接輸入CRNN，其故障診斷準(zhǔn)確率達99.77%。文獻[10]提出了基于遷移學(xué)習(xí)的故障診斷，通過在長短期記憶模型中引入L1正則化抑制模型過擬合，實現(xiàn)了在小樣本下的故障診斷。文獻[11]提出將CNN模型與GRU模型相結(jié)合，以原始數(shù)據(jù)作為輸入，進行故障診斷，其故障診斷準(zhǔn)確度達到了99.8%。文獻[12]等提出了利用改進鯨魚算法優(yōu)化LSTM進行軸承故障診斷，以解決模型容易陷入最小化的問題。

以上文獻中的算法通過將原始數(shù)據(jù)直接輸入神經(jīng)網(wǎng)絡(luò)，較大程度上擺脫了人工干預(yù)，但所提循環(huán)網(wǎng)絡(luò)模型均為單向模型，無法有效利用反向信息。針對該問題，本文提出一種直接輸入原始振動信號的雙向門控循環(huán)單元故障診斷方法。

1 理論背景

1.1 RNN理論

RNN是對序列數(shù)據(jù)進行分析處理的神經(jīng)網(wǎng)絡(luò)，其主要特點是網(wǎng)絡(luò)的當(dāng)前輸出與之前的信息相關(guān)。RNN的單個神經(jīng)元結(jié)構(gòu)如圖1所示。

圖1 RNN的神經(jīng)元結(jié)構(gòu)圖[13]

=(1,2,···,x)為輸入序列，=(1,2,···,h)，為隱單元序列，=(1,2,···,y)為輸出序列。將圖中左側(cè)的單元按時間序列展開圖可知，2的輸出結(jié)果y由前一時刻的1與當(dāng)前時刻的2決定。以此類推，x時刻的輸出y由x–1和h決定。

1.2 GRU網(wǎng)絡(luò)

圖2 GRU結(jié)構(gòu)圖

復(fù)位門的作用是決定上一時刻隱含層被遺忘信息的大小，輸入X與前一時刻H–1單元信息經(jīng)過權(quán)重矩陣變換后相加，再通過Sigmoid函數(shù)生成輸出。將輸出乘以上一時刻H–1的狀態(tài)信息與

更新門的作用是衡量過去信息的重要程度，決定傳遞到當(dāng)前隱含層H的信息大小。其運算過程與復(fù)位門類似。將輸入x與前一時刻H–1單元信息分別經(jīng)過權(quán)重矩陣變換相加，再通過Sigmoid函數(shù)生成輸出。通過Z和（1–Z）相加，生成隱含狀態(tài)H。具體計算過程如下：

候選隱含狀態(tài)：

隱含狀態(tài)：

輸出：

式（1）中，、和b代表復(fù)位門的權(quán)重矩陣和偏置；式（2）中，、和b代表更新門的權(quán)重矩陣和偏置；式（3）～（5）中，、、和b、b代表循環(huán)連接的權(quán)重矩陣和偏置；tan為雙曲正切激活函數(shù)；代表sigmoid 激活函數(shù)。

2 軸承故障診斷模型

2.1 Bi-GRU模型結(jié)構(gòu)圖

本文提出的模型由輸入層、Bi-GRU層、全連接層、softmax層和輸出層構(gòu)成，具體如圖3所示。

圖3 模型圖

Bi-GRU算法包括特征提取和故障診斷兩部分。將原始振動信號直接輸入Bi-GRU層，Bi-GRU層利用其正向和反向上兩個獨立的隱藏層A和A′進行特征自動提取；然后，通過全連接層對特征進行加權(quán)處理；最后，經(jīng)過Softmax層輸出預(yù)測結(jié)果。

2.2 模型診斷過程

本文將原始數(shù)據(jù)作為模型輸入，利用Bi-GRU模型自動進行特征提取和深層訓(xùn)練,輸出故障類型，從而實現(xiàn)的軸承故障診斷。故障診斷過程如圖4所示。

圖4 故障診斷過程

故障診斷步驟如下：

（1）將振動信號分成若干個數(shù)據(jù)段，確定采樣點數(shù)目，劃分訓(xùn)練樣本和測試樣本；

（2）將訓(xùn)練樣本特征和故障類別標(biāo)簽輸入所提的網(wǎng)絡(luò)中，通過實驗選擇合適的學(xué)習(xí)率，優(yōu)化器等參數(shù)，確定Bi-GRU網(wǎng)絡(luò)模型；

（3）將測試樣本數(shù)據(jù)輸入到診斷模型中，輸出分類結(jié)果。

3 實驗驗證

本文使用深度學(xué)習(xí)框架Keras2.3.1實現(xiàn)和訓(xùn)練模型。電腦配置為Intel Core TM i5 CPU，16GB 雙通道內(nèi)存，512GBPCIe 3.0高速固態(tài)。

3.1 實驗數(shù)據(jù)

選用凱斯西儲大學(xué)（CWRU）的軸承數(shù)據(jù)集對所提方法進行驗證[14]。CWRU的實驗裝置包括扭矩傳感器、功率測試儀、電機、電子控制器和記錄電機底座、驅(qū)動端和風(fēng)扇端振動信號的3個加速度計。

實驗使用了驅(qū)動端振動信號，軸承轉(zhuǎn)速為1 797 r/min，電機負(fù)載為0 hp，振動信號采樣頻率為48 kHz，每個樣本包括1 600個采樣點。

實驗選用軸承正常運行及3種故障工況（外圈六點鐘故障、內(nèi)圈故障和外圈故障）。故障點直徑取0.021英寸、0.014英寸和0.007英寸，共計10種工況。每種工況選取300個實驗樣本，共3 000個樣本。在每種工況的300個樣本中，隨機選取260個作為訓(xùn)練集，40個作為測試集。實驗數(shù)據(jù)集的詳細描述見表1。部分正常、內(nèi)圈故障、滾動體故障及外圈六點鐘故障的振動信號波形如圖5所示。

表1 實驗數(shù)據(jù)集

圖5 不同情況下時域波形圖

3.2 模型參數(shù)對實驗結(jié)果影響

在構(gòu)建Bi-GRU網(wǎng)絡(luò)模型時，一些參數(shù)需要根據(jù)實際情況進行設(shè)定，需進行多次試驗，才能獲得滿意的參數(shù)值。下文通過實驗確定模型的學(xué)習(xí)率、優(yōu)化器以及迭代次數(shù)。

（1）迭代次數(shù)的影響

表2為不同迭代次數(shù)下的實驗結(jié)果。當(dāng)?shù)螖?shù)為1 000時，模型準(zhǔn)確率最高，損失率最低，分別為99.25%和5.06%；當(dāng)?shù)螖?shù)增加到1 200次時，準(zhǔn)確率開始下降，這是因為迭代次數(shù)過大引起了梯度爆炸，使模型訓(xùn)練停止。由此可見模型的迭代次數(shù)與準(zhǔn)確率并不是完全正相關(guān)。因此設(shè)置迭代次數(shù)為1 000。

表2 不同迭代次數(shù)實驗結(jié)果

（2）學(xué)習(xí)率的影響

學(xué)習(xí)率用來描述梯度更新步長的大小。過大的學(xué)習(xí)率會使權(quán)重更新過快，模型性能不穩(wěn)定；而過小的學(xué)習(xí)率會影響學(xué)習(xí)速度。當(dāng)GRU單元個數(shù)設(shè)置為50和500時，不同學(xué)習(xí)率的實驗結(jié)果如表3、表4所示。實驗結(jié)果表明，在單元數(shù)不同的情況下，學(xué)習(xí)率為0.001時的準(zhǔn)確率最高，損失率最低，且單元數(shù)為500時準(zhǔn)確率達到99.75%。因此，將學(xué)習(xí)率設(shè)置為0.001。

表3 不同學(xué)習(xí)率在單元數(shù)50情況下實驗結(jié)果

表4 不同學(xué)習(xí)率在單元數(shù)500情況下實驗結(jié)果

（3）優(yōu)化器的影響

優(yōu)化器影響參數(shù)優(yōu)化和模型收斂速度。本文比較了Adadelta、RMSprop、Adam 3種優(yōu)化器的實驗結(jié)果，結(jié)果如圖6所示。由圖可見，當(dāng)?shù)螖?shù)為1 000時，Adadelta優(yōu)化器的準(zhǔn)確率未能達到穩(wěn)定，而Adam和RMSprop優(yōu)化器均能達到收斂狀態(tài)。Adam優(yōu)化器本質(zhì)是添加了偏差校正和動量的RMSprop優(yōu)化器，隨著梯度變得越來越稀疏，Adam優(yōu)化器的優(yōu)化效果略優(yōu)于RMSprop優(yōu)化器。因此，本文選擇了Adam優(yōu)化器。

圖6 不同優(yōu)化器的實驗結(jié)果

3.3 實驗結(jié)果

通過反復(fù)實驗和超參數(shù)對比，最終確定：迭代次數(shù)1 000，學(xué)習(xí)率為0.001，模型優(yōu)化器為Adam優(yōu)化器，Bi-GRU隱含層神經(jīng)單元個數(shù)為500。為了避免實驗結(jié)果的偶然性，進行了5次實驗，然后取平均值。5次實驗的結(jié)果如表5所示。實驗結(jié)果表明，在Bi-GRU模型下，最高準(zhǔn)確率可達100%，平均準(zhǔn)確率99.56%，最低損失率0.1%，平均損失率1.54%，說明所提模型具有較高的故障診斷準(zhǔn)確率。

表5 實驗結(jié)果

圖7、圖8分別為第5次實驗的準(zhǔn)確率和損失率迭代曲線。隨著迭代次數(shù)的不斷增加，診斷準(zhǔn)確率逐漸提高，損失率不斷降低。當(dāng)?shù)螖?shù)在400次左右時，模型診斷準(zhǔn)確率和損失率逐漸開始穩(wěn)定，最后達到收斂狀態(tài)。

圖7 準(zhǔn)確率迭代曲線

圖8 損失率迭代曲線

3.4 模型對比實驗

利用相同實驗數(shù)據(jù)集，將本文所提算法與GRU模型、Bi-LSTM模型，LSTM模型進行了比較。每種算法都進行5次實驗，然后計算平均值。實驗結(jié)果如表6所示。

表6 對比實驗結(jié)果

實驗結(jié)果表明，GRU和LSTM算法診斷準(zhǔn)確率為97%，Bi-LSTM和Bi-GRU算法診斷準(zhǔn)確率達到了99%。因為雙向模型能夠?qū)W習(xí)到更多特征信息，所以雙向模型故障診斷準(zhǔn)確度高于單向模型。當(dāng)Bi-GRU模型保持和Bi-LSTM模型相當(dāng)?shù)谋磉_能力時，Bi-GRU模型的計算復(fù)雜度低，故障診斷準(zhǔn)確率更高。因此，本文所提算法優(yōu)于其他算法。

3.5 模型泛化能力

為了評估該算法的泛化能力，本實驗利用1 hp負(fù)載下的驅(qū)動端振動信號，驗證了所提故障診斷方法的準(zhǔn)確性。本實驗中故障診斷準(zhǔn)確率仍取5次實驗的平均值。實驗結(jié)果表明，在1 hp負(fù)載條件下，所提方法的平均故障診斷精度為99%，說明所提Bi-GRU模型有良好的泛化能力。第一次實驗故障診斷結(jié)果的混淆矩陣如圖9所示。

圖9 混淆矩陣

可見，本方法對故障NOR、故障IR007、故障IR021、故障OR007、故障OR014、故障OR021、故障B014和故障B021的全部樣本分類正確，對故障IR014和故障B007出現(xiàn)了分類錯誤，其準(zhǔn)確率均為97.5%。

4 結(jié)論

本文提出一種基于雙向門控循環(huán)單元的故障診斷方法。該方法直接將原始數(shù)據(jù)輸入Bi-GRU模型中，自動進行故障特征提取和故障分類，彌補了傳統(tǒng)故障診斷方法在特征提取上嚴(yán)重依賴人工的問題。利用美國凱斯西儲大學(xué)的CWRU數(shù)據(jù)集，對所提算法和其他常用故障算法的診斷效果進行了比較。結(jié)果顯示，所提算法具有較高診斷精度。利用不同負(fù)載下的振動數(shù)據(jù)對所提算法進行了測試，其診斷準(zhǔn)確率達99%。

[1] 汪洋, 郭利進.一種新型DSCNN-GRU結(jié)構(gòu)的減速機軸承故障診斷方法[J].機械科學(xué)與技術(shù), 2020, 39(2): 258-266.

WANG YANG, GUO LIJIN.A new type of DSCNN-GRU structure for bearing fault diagnosis of reducer[J].Mechanical Science and Technology for Aerospace Engineering, 2020, 39(2): 258-266(in Chinese).

[2] 陳劍, 蔡坤奇, 陶善勇, 等.基于IITD模糊熵與隨機森林的滾動軸承故障診斷方法[J].計量學(xué)報, 2021, 42(6): 774-779.

CHEN JIAN, CAI KUNQI, TAO SHANYONG, et al.Fault diagnosis method of rolling bearing based on IITD fuzzy entropy and random forest[J].Acta Metrologica Sinica, 2021, 42(6): 774-779(in Chinese).

[3] 來風(fēng)剛, 劉軍, 李濟偉, 等.基于Pytorch和神經(jīng)網(wǎng)絡(luò)的云數(shù)據(jù)中心故障檢測[J].計算機系統(tǒng)應(yīng)用, 2020, 29(11): 40-46.

LAI FENGGANG, LIU JUN, LI JIWEI, et al.Cloud data center fault detection based on Pytorch and neural network[J].Computer Systems & Applications, 2020, 29(11): 40-46(in Chinese).

[4] GRAVES A.Long short-tern memory[M].Berlin: Springer, 2012: 1735-1780.

[5] YIN A, YAN Y, ZHANG Z, et al.Fault diagnosis of wind turbine gearbox based on the optimized LSTM neural network with cosine loss[J].Sensors, 2020, 20(8): 2339.

[6] HAIDONG S, JUNSHENG C, HONGKAI J, et al.Enhanced deep gated recurrent unit and complex wavelet packet energy moment entropy for early fault prognosis of bearing[J].Knowledge-Based Systems, 2020, 188: 105022.

[7] 陳維興, 崔朝臣, 李小菁, 等.基于多種小波變換的一維卷積循環(huán)神經(jīng)網(wǎng)絡(luò)的風(fēng)電機組軸承故障診斷[J].計量學(xué)報, 2021, 42(5): 615-622.

CHEN WEIXING, CUI CHAOCHEN, LI XIAOJING, et al.Bearing fault diagnosis of wind turbine based on multi-wavelet-1 D convolutional LSTM[J].Acta Metrologica Sinica, 2021, 42(5): 615-622(in Chinese).

[8] 張氫, 江偉哲, 李恒.MCKD-Teager能量算子結(jié)合LSTM的滾動軸承故障診斷[J].哈爾濱工業(yè)大學(xué)學(xué)報, 2021, 53(7): 68-76.

ZHANG QING, JIANG WEIZHE, LI HENG.Combined MCKD-Teager energy operator with LSTM for rolling bearing fault diagnosis[J].Journal of Harbin Institute of Technology, 2021, 53(7): 68-76(in Chinese).

[9] KHORRAM A, KHALOOEI M, REZGHI M.End-to-end CNN+ LSTM deep learning approach for bearing fault diagnosis[J].Applied Intelligence, 2021, 51(2): 736-751.

[10] ZHU D, SONG X, YANG J, et al.A bearing fault diagnosis method based on L1 regularization transfer learning and LSTM deep learning[C]//2021 IEEE International Conference on Information Communication and Software Engineering (ICICSE).Chengdu, China: IEEE, 2021: 308-312.

[11] 張龍, 徐天鵬, 王朝兵, 等.基于卷積門控循環(huán)網(wǎng)絡(luò)的齒輪箱故障診斷[J/OL].吉林大學(xué)學(xué)報(工學(xué)版): 1-10[2021-07-16].https://doi.org/10.13229/j.cnki.jdxbg xb20200930.

ZHANG LONG, XU TIANPENG, WANG CHAOBING, et al.Gearbox fault diagnosis based on convolutional gated recurrent network[J].Journal of Jilin University (Engineering and Technology Edition): 1-10[2021-07-16].https://doi.org/10.13229/j.cnki.jdxbg xb20200930(in Chinese).

[12] 鄭直, 張華欽, 潘月.基于改進鯨魚算法優(yōu)化LSTM的滾動軸承故障診斷[J].振動與沖擊, 2021, 40(7): 274-280.

ZHENG ZHI, ZHANG HUAQIN, PAN YUE.Rolling bearing fault diagnosis based on IWOA-LSTM[J].Journal of Vibration and Shock, 2021, 40(7): 274-280(in Chinese).

[13] 黃理燦.深度學(xué)習(xí)原理與TensorFlow實踐[M].北京: 人民郵電出版社, 2019.

[14] 美國凱斯西儲大學(xué)電機滾動軸承振動信號數(shù)據(jù)集[EB/OL].[2021-07-16].https://csegroups.case.edu/bearing datacenter/ho-me.

Fault Diagnosis of Rolling Bearing Based on Bi-directional Gated Recurrent Unit Network

SHI Jingwen, HOU Liqun

(Department of Automation, North China Electric Power University, Baoding 071003, China)

Rolling bearing is the key part of rotating machinery, and its working state directly affects theworking life of rotating machinery.To solve the problems that the traditional fault diagnosis have poor adaptability and feature extraction depends too much on manual experience, a bearing fault diagnosis was proposed based on the bi-directional gated recurrent unit, which used the original vibration signal as the model input signal, extracted the bearing fault signal automatically and made fault diagnosis.The proposed model was used to identify nine fault states of bearing outer ring fault, inner ring fault and rolling element fault.The experimental results show that the fault diagnosis accuracy of this method can reach 99.56%, and its generalization ability are better than the results of the gated recurrent unit and long short-term memory algorithm.

fault diagnosis; bidirectional gated recurrent unit; deep learning; rolling bearing

10.3969/j.ISSN.1672-0792.2021.10.008

TH16

A

1672-0792(2021)10-0064-07

2021-07-16

河北省自然科學(xué)基金（F2016502104）

石靜雯（1996—），女，碩士研究生，研究方向為軸承故障診斷；

侯立群（1972—），男，副教授，主要研究方向為軸承故障診斷、無線傳感器網(wǎng)絡(luò)等。

侯立群