基于CNN-BiLSTM網(wǎng)絡(luò)及注意力機(jī)制的智能滾動(dòng)軸承剩余壽命預(yù)測(cè)方法*

趙廣謙,姜培剛,林天然

(青島理工大學(xué) 機(jī)械與汽車工程學(xué)院,山東 青島 266000)

0 引 言

作為旋轉(zhuǎn)機(jī)械的核心部件,滾動(dòng)軸承的健康狀態(tài)對(duì)設(shè)備能否正常運(yùn)行起著關(guān)鍵作用。一旦軸承發(fā)生故障,輕則導(dǎo)致設(shè)備停機(jī),重則造成災(zāi)難性后果[1-3]。因此,根據(jù)狀態(tài)監(jiān)測(cè)數(shù)據(jù)對(duì)軸承剩余壽命(RUL)進(jìn)行精準(zhǔn)預(yù)測(cè),能在保證軸承健康運(yùn)行的情況下節(jié)省大量維護(hù)成本。

現(xiàn)有的滾動(dòng)軸承RUL預(yù)測(cè)方法大致可分為兩類,即基于模型的方法和數(shù)據(jù)驅(qū)動(dòng)的方法:

(1)基于模型的方法。主要依賴于精確的軸承退化數(shù)學(xué)模型,根據(jù)收集到的數(shù)據(jù)得出模型的參數(shù)[4]。朱朔等人[5]通過對(duì)連續(xù)隱半馬爾科夫模型算法進(jìn)行改進(jìn),并引入高斯混合概率密度函數(shù),獲得了準(zhǔn)確度較高的軸承RUL預(yù)測(cè)結(jié)果。任子強(qiáng)等人[6]提出了一種融合多傳感器數(shù)據(jù)的Wiener過程模型,對(duì)航空發(fā)動(dòng)機(jī)進(jìn)行了剩余壽命預(yù)測(cè);同時(shí),利用貝葉斯公式對(duì)模型參數(shù)進(jìn)行了實(shí)時(shí)更新,極大地降低了RUL預(yù)測(cè)的相對(duì)均方誤差。ZIO E等人[7]提出了一種基于粒子濾波的剩余使用壽命估計(jì)方法,最大限度地降低了機(jī)器狀態(tài)預(yù)測(cè)的誤差。然而,對(duì)于復(fù)雜非線性機(jī)械系統(tǒng),建立一個(gè)準(zhǔn)確的RUL數(shù)學(xué)預(yù)測(cè)模型需要充分了解該機(jī)械系統(tǒng)的退化機(jī)理,這往往是非常困難的,極大限制了這類方法的實(shí)際工程中應(yīng)用[8]。

(2)數(shù)據(jù)驅(qū)動(dòng)的方法。不需要建立精確的數(shù)學(xué)模型,而是依賴于傳感器采集到的溫度、轉(zhuǎn)速和軸承振動(dòng)幅度等信號(hào),并從中分析軸承的當(dāng)前工作狀態(tài),試圖找出運(yùn)行狀態(tài)與RUL期望值之間的關(guān)系。目前,統(tǒng)計(jì)工具和機(jī)器學(xué)習(xí)是預(yù)測(cè)RUL常用的數(shù)據(jù)驅(qū)動(dòng)方法。邱曉梅等人[9]提出了一種基于相關(guān)系數(shù)和BP神經(jīng)網(wǎng)絡(luò)模型的軸承剩余使用壽命預(yù)測(cè)方法。FUMEO E等人[10]建立了一種在線支持向量回歸(OL-SVR)的CBM算法,并達(dá)到了精度與計(jì)算資源之間的平衡。

近年來,隨著計(jì)算機(jī)技術(shù)的快速發(fā)展,深度學(xué)習(xí)在故障預(yù)測(cè)與健康管理(prognostics health management,PHM)領(lǐng)域嶄露頭角。深度學(xué)習(xí)具有極強(qiáng)的非線性擬合能力,可以利用原始信號(hào)直接進(jìn)行軸承的壽命預(yù)測(cè),不受人工干預(yù)自動(dòng)提取特征,避免了人工提取特征效率低、主觀性強(qiáng)及過度依賴先驗(yàn)知識(shí)等問題。LI X等人[11]采用包括短時(shí)傅立葉變換和多尺度特征提取的深度學(xué)習(xí)模型,對(duì)軸承的RUL進(jìn)行了預(yù)測(cè)。張繼冬等人[12]將卷積神經(jīng)網(wǎng)絡(luò)中的全連接層改為卷積層和池化層,減少了網(wǎng)絡(luò)需要訓(xùn)練的參數(shù)。然而,上述方法在軸承RUL預(yù)測(cè)中并不是最適合的。

滾動(dòng)軸承的振動(dòng)數(shù)據(jù)屬于一維時(shí)序數(shù)據(jù),神經(jīng)網(wǎng)絡(luò)中最適合處理時(shí)序數(shù)據(jù)的是RNN模型。利用對(duì)時(shí)序特征敏感的特性,RNN在語音識(shí)別、機(jī)器翻譯等時(shí)序任務(wù)中均取得了優(yōu)異的效果[13]。

同時(shí),注意力機(jī)制能夠使模型在有限的資源下突出輸入特征的關(guān)鍵部分,可視為信息篩選的過程,從而達(dá)到準(zhǔn)確預(yù)測(cè)的目的。

本文將CNN、RNN與注意力機(jī)制相結(jié)合,提出一種基于注意力機(jī)制的CNN-BiLSTM模型(CNN-BiLSTM-AM),對(duì)序列信息進(jìn)行時(shí)間和空間特征提取;并且采用注意力機(jī)制實(shí)現(xiàn)對(duì)模型注意力資源的合理分配,加強(qiáng)關(guān)鍵信息對(duì)軸承RUL預(yù)測(cè)的影響;通過分析一組公開發(fā)布的軸承退化數(shù)據(jù)集,以驗(yàn)證本文所提方法的有效性和在軸承剩余壽命預(yù)測(cè)方面的優(yōu)越性。

1 理論背景

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是一種包含卷積運(yùn)算的前饋神經(jīng)網(wǎng)絡(luò),廣泛應(yīng)用于語音識(shí)別[14]、圖像分類[15]、自然語言處理[16]和機(jī)械故障診斷[17]等領(lǐng)域。

典型CNN模型的結(jié)構(gòu)如圖1所示。

圖1 典型的CNN模型結(jié)構(gòu)

由圖1可知:典型的CNN模型主要由輸入層、卷積層、池化層、全連接層和輸出層5個(gè)部分組成。卷積層和池化層通常成對(duì)出現(xiàn),用于對(duì)輸入特征信息的卷積和降維運(yùn)算;而模型的最后部分由全連接層和輸出層構(gòu)成,用于將模型訓(xùn)練結(jié)果輸出。

卷積神經(jīng)網(wǎng)絡(luò)通過卷積運(yùn)算從輸入特征圖中提取數(shù)據(jù)塊,然后對(duì)所有的數(shù)據(jù)塊應(yīng)用相同的變換,生成輸出特征圖,并對(duì)輸出特征圖進(jìn)行空間重組,輸出特征圖中的每個(gè)空間位置都對(duì)應(yīng)于輸入特征圖中的相同位置。因此,CNN的卷積層能夠很好地感知圖像的局部特征,感知數(shù)據(jù)點(diǎn)與周圍數(shù)據(jù)點(diǎn)之間的關(guān)系[18]。卷積神經(jīng)網(wǎng)絡(luò)具有局部連接、權(quán)值共享等特性,因此可以大大降低計(jì)算規(guī)模,提高其運(yùn)算效率。

假設(shè)CNN模型的輸入為X,那么卷積層的輸出計(jì)算公式如下:

Cn=σ(Wn?X+bn)

(1)

式中:Cn—卷積層輸出的第n個(gè)特征圖;σ(·)—激活函數(shù);Wn—當(dāng)前卷積層第n個(gè)卷積核的權(quán)重矩陣;bn—當(dāng)前卷積層第n個(gè)卷積核的偏置;?—卷積運(yùn)算;n—卷積核的個(gè)數(shù)。

池化層的主要作用是對(duì)卷積層輸出的信息進(jìn)行降維處理,去除冗余信息的同時(shí)加快計(jì)算速度。其計(jì)算公式如下:

Pn=maxCn

(2)

式中:Pn—池化層的輸出;Cn—池化層的輸入。

1.2 長短時(shí)記憶網(wǎng)絡(luò)和雙向長短時(shí)記憶網(wǎng)絡(luò)

在卷積神經(jīng)網(wǎng)絡(luò)運(yùn)算過程中,狀態(tài)總是由前向后傳播,這意味著在CNN網(wǎng)絡(luò)中,信息只是單向流動(dòng)。在每個(gè)計(jì)算步長內(nèi),CNN只考慮當(dāng)前輸入,而忽略了之前的退化信息。因此,卷積神經(jīng)網(wǎng)絡(luò)無法模擬不同機(jī)器退化狀態(tài)的前后相關(guān)性[19]。而RNN模型能夠保留模型對(duì)輸入模式的記憶,其變體LSTM網(wǎng)絡(luò)則可進(jìn)一步解決RNN結(jié)構(gòu)存在的梯度消失問題[20]。

LSTM網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖2所示。

圖2 LSTM的基本結(jié)構(gòu)

由圖2可知,與RNN網(wǎng)絡(luò)相比,LSTM網(wǎng)絡(luò)新增了細(xì)胞狀態(tài)和3種門結(jié)構(gòu)[21]。

LSTM網(wǎng)絡(luò)中的遺忘門ft決定多少比例的信息會(huì)保留在網(wǎng)絡(luò)中,其計(jì)算公式為:

ft=σ(Wf·[ht-1,xt]+bf)

(3)

式中:xt—輸入序列;ht-1—上一時(shí)刻的狀態(tài)記憶量;σ(·)—sigmoid激活函數(shù);Wf—遺忘門的權(quán)重矩陣;bf—遺忘門的偏置;ft—遺忘門的狀態(tài)。

而輸入門it將新的信息有選擇性地記憶在細(xì)胞狀態(tài)中,其計(jì)算公式為:

it=σ(Wi·[ht-1,xt]+bi)

(4)

(5)

(6)

輸出門ot決定了當(dāng)前輸出的信息,其計(jì)算公式為:

ot=σ(Wo·[ht-1,xt]+bo)

(7)

ht=ot*tanh(Ct)

(8)

式中:Wo—輸出門的權(quán)重矩陣;bo—輸出門的偏置;ot—輸出門的狀態(tài)。

與LSTM模型不同的是,BiLSTM模型由前向LSTM層和后向LSTM層組成,因此可以在前向和后向兩個(gè)方向上處理序列,且兩個(gè)方向均具有獨(dú)立的隱藏層。

BiLSTM的網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 BiLSTM的網(wǎng)絡(luò)結(jié)構(gòu)

由圖3可以看出:BiLSTM模型可以使LSTM在前向和后向兩個(gè)方向同時(shí)處理序列,兩個(gè)方向均具有獨(dú)立的隱藏層;每個(gè)隱藏層在一個(gè)特定的時(shí)間步長可以同時(shí)捕獲過去(前向)和未來(后向)的信息[22],因此,可以提取出更加全面的軸承退化特征,提高網(wǎng)絡(luò)的預(yù)測(cè)性能。

1.3 注意力機(jī)制模塊

受到人腦注意力分配機(jī)制的啟發(fā),專家們提出了注意力機(jī)制。注意力機(jī)制的核心思想是從大量信息中篩選出更多需要關(guān)注的細(xì)節(jié)信息,忽略無關(guān)信息,從而可以提高模型的預(yù)測(cè)準(zhǔn)確率[23]。

目前的注意力機(jī)制一般可分為硬性注意力和軟性注意力兩種:(1)硬性注意力。通過隨機(jī)采樣方式獲得模型的輸入,在圖像處理過程中可以得到受關(guān)注的目標(biāo)物體;然而,該方法無法使用反向傳播算法進(jìn)行參數(shù)優(yōu)化。因此,在序列數(shù)據(jù)中,一般使用軟性注意力作為替代。(2)軟性注意力。通過為不同輸入通道賦不同權(quán)重值的方式,巧妙地改變模型對(duì)輸入信息的關(guān)注度,實(shí)現(xiàn)計(jì)算資源的高效分配;另一方面,這一方式可以通過反向傳播算法不斷優(yōu)化權(quán)重參數(shù),適用于序列數(shù)據(jù)的學(xué)習(xí)任務(wù)[24]。

軟性注意力機(jī)制的流程結(jié)構(gòu)如圖4所示[25]。

圖4 軟性注意力機(jī)制的結(jié)構(gòu)以本文模型為例:xt—帶有注意力機(jī)制的BiLSTM層的輸入;ht—BiLSTM層的輸出;αt—經(jīng)過注意力機(jī)制計(jì)算后得到的BiLSTM各通道信息的不同權(quán)重值;y—神經(jīng)網(wǎng)絡(luò)模型的最終輸出

注意力機(jī)制的主要公式如下。

et=utanh(w·ht+b)

(9)

(10)

(11)

式中:et—t時(shí)刻的注意力分布值;u,w—權(quán)重;b—偏置;αt—BiLSTM中各通道信息的不同權(quán)重值;st—權(quán)重矩陣與BiLSTM層的輸出ht加權(quán)后的結(jié)果,即帶有注意力機(jī)制的BiLSTM層輸出。

經(jīng)過多年發(fā)展,注意力機(jī)制的應(yīng)用已經(jīng)在不同領(lǐng)域獲得了成功。DU C等人[26]在文本分類任務(wù)中應(yīng)用了注意力機(jī)制,取得了較好的效果。張宇等人[27]提出了一種基于注意力機(jī)制的LSTM網(wǎng)絡(luò),有效地提高了其對(duì)遠(yuǎn)場(chǎng)語音的識(shí)別正確率。

注意力機(jī)制的核心體現(xiàn)在各通道權(quán)重系數(shù)的計(jì)算上,通過不斷優(yōu)化各通道的權(quán)重系數(shù),調(diào)整網(wǎng)絡(luò)模型對(duì)不同通道的注意力分配,可以實(shí)現(xiàn)在有限計(jì)算資源的條件下,達(dá)到最優(yōu)的模型訓(xùn)練效果。

在軸承RUL預(yù)測(cè)任務(wù)中,當(dāng)輸入序列經(jīng)過多層BiLSTM后,軸承不同退化階段的信息對(duì)現(xiàn)在時(shí)刻神經(jīng)元狀態(tài)的影響是不同的。因此,本文嘗試將注意力機(jī)制引入到軸承RUL預(yù)測(cè)任務(wù)中,根據(jù)各通道信息對(duì)軸承RUL預(yù)測(cè)結(jié)果的貢獻(xiàn)度不同,賦予其不同權(quán)重,從而提高軸承RUL預(yù)測(cè)精度。

2 滾動(dòng)軸承RUL預(yù)測(cè)方法

2.1 特征指標(biāo)

軸承原始振動(dòng)信號(hào)中的時(shí)域和頻域特征可以反映軸承的退化狀態(tài),因此,該信號(hào)目前被廣泛應(yīng)用于設(shè)備的故障檢測(cè)領(lǐng)域[28]。

常用的時(shí)域特征值有:峰值、均方根值、峰峰值、峭度指標(biāo)等;而頻域特征值有:中心頻率、平均頻率等。以峭度指標(biāo)為例,正常工作狀態(tài)下,軸承狀態(tài)監(jiān)測(cè)信號(hào)一般呈正態(tài)分布,峭度指標(biāo)在信號(hào)偏離正態(tài)分布時(shí)會(huì)發(fā)生變化,同時(shí),其變化的大小代表了軸承的退化程度[29]。

以本文所用數(shù)據(jù)集為例,Bearing1_1的峰值和均方根值波動(dòng)曲線如圖5所示。

(a)峰值

(b)均方根值

由圖5可以看出:在軸承壽命末期,軸承的峰值、均方根值等特征呈現(xiàn)出了明顯的退化趨勢(shì);該結(jié)果說明使用時(shí)域和頻域指標(biāo)進(jìn)行軸承RUL預(yù)測(cè)的方法是可行的。

因此,本文選取:平均值、峰值、峰峰值、方根幅值、平均幅值、有效值、標(biāo)準(zhǔn)差、波形指標(biāo)、峰值指標(biāo)、峭度指標(biāo)、裕度指標(biāo)、脈沖指標(biāo)等12個(gè)時(shí)域特征,以及中心頻率、平均頻率、均方根頻率、頻率標(biāo)準(zhǔn)差等4個(gè)頻域特征,共同作為神經(jīng)網(wǎng)絡(luò)模型的輸入。

2.2 基于注意力機(jī)制的CNN-BiLSTM模型

為了充分發(fā)揮CNN與BiLSTM提取空間和時(shí)間特征信息的能力,本文提出了一種帶有注意力機(jī)制的CNN-BiLSTM模型。

BiLSTM架構(gòu)使得LSTM能夠在前向和后向兩個(gè)方向同時(shí)處理網(wǎng)絡(luò)的輸入,在某一特定時(shí)間步長內(nèi),同時(shí)捕獲過去和未來的信息;并且BiLSTM特有的雙向結(jié)構(gòu)可以增強(qiáng)模型對(duì)原始信息輸入開始和結(jié)束階段的記憶;在此基礎(chǔ)上,通過注意力機(jī)制分配不同輸入通道的權(quán)重,以增強(qiáng)或抑制對(duì)部分信息的注意力,達(dá)到提高預(yù)測(cè)準(zhǔn)確度的目的。

本文提出的軸承RUL預(yù)測(cè)模型的算法流程如圖6所示。

圖6 本文所提方法的流程圖

圖6中,首先從軸承原始振動(dòng)信號(hào)中提取特定的時(shí)域和頻域特征,并按照一定比例劃分為訓(xùn)練集和測(cè)試集;然后將訓(xùn)練集輸入到CNN-BiLSTM-AM中進(jìn)行訓(xùn)練(CNN的主要作用是對(duì)數(shù)據(jù)進(jìn)行空間特征提取以及降采樣,起到信息蒸餾作用,其輸出的是比原始信號(hào)稀疏,但保留數(shù)據(jù)空間特征信息的特征圖),BiLSTM對(duì)時(shí)序數(shù)據(jù)從兩個(gè)方向提取可能被CNN忽略的信息,并且利用注意力機(jī)制對(duì)權(quán)重進(jìn)行重新分配,以提高RUL預(yù)測(cè)精度;最后將測(cè)試集輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型中進(jìn)行測(cè)試,并對(duì)RUL預(yù)測(cè)結(jié)果進(jìn)行降噪處理,最終得出軸承的RUL預(yù)測(cè)結(jié)果。

為了確定模型的結(jié)構(gòu)參數(shù),本文使用5折交叉驗(yàn)證以避免隨機(jī)性對(duì)實(shí)驗(yàn)結(jié)果的影響,最終確定的模型參數(shù)如表1所示。

表1 模型結(jié)構(gòu)與參數(shù)配置

神經(jīng)網(wǎng)絡(luò)訓(xùn)練的主要目的是通過反向傳播算法不斷優(yōu)化權(quán)重和偏置,使得模型中的代價(jià)函數(shù)取得最小值。

本文所提方法將數(shù)據(jù)集以8 ∶2的比例隨機(jī)分為訓(xùn)練集和測(cè)試集;以均方誤差(mean square error,MSE)作為模型的代價(jià)函數(shù),并使用批量為64,學(xué)習(xí)率為0.000 5的Adam算法作為模型的優(yōu)化器,每次實(shí)驗(yàn)進(jìn)行50輪次。

MSE的計(jì)算公式如下:

(12)

3 實(shí)驗(yàn)與結(jié)果分析

3.1 數(shù)據(jù)集描述

此處用于驗(yàn)證分析的數(shù)據(jù)集采用的是2012年發(fā)表在IEEE 2012 PHM數(shù)據(jù)挑戰(zhàn)賽上的滾動(dòng)軸承加速退化數(shù)據(jù)集[30]。

軸承加速退化PRONOSTIA實(shí)驗(yàn)平臺(tái)如圖7所示。

圖7 軸承加速退化PRONOSTIA實(shí)驗(yàn)平臺(tái)

圖7中,該實(shí)驗(yàn)平臺(tái)每隔10 s采集一次數(shù)據(jù),采樣頻率為25.6 kHz,每次采樣持續(xù)0.1 s;當(dāng)數(shù)據(jù)點(diǎn)的加速度幅值大于20 g時(shí),則視為軸承已失效。

3.2 性能評(píng)價(jià)指標(biāo)

為了定量評(píng)估模型對(duì)于軸承RUL預(yù)測(cè)的效果,本文使用RMSE和Scoring函數(shù)作為評(píng)價(jià)指標(biāo)。其中,Scoring函數(shù)同樣來自2012年的PHM數(shù)據(jù)挑戰(zhàn)賽,其計(jì)算公式如下:

(13)

(14)

(15)

(16)

Scoring函數(shù)的圖像如圖8所示。

圖8 Scoring函數(shù)

由圖8可知:百分比誤差范圍為-50～50,得分最高為1,且Scoring函數(shù)的圖像為非對(duì)稱分布;由函數(shù)圖像可知,當(dāng)預(yù)測(cè)壽命小于實(shí)際壽命時(shí)得分更高,這是因?yàn)榕c軸承RUL高估相比,軸承壽命的低估更能體現(xiàn)RUL預(yù)測(cè)的意義,即降低維護(hù)成本,提高設(shè)備安全性。

3.3 降噪方法

為了盡可能減少預(yù)測(cè)結(jié)果波動(dòng)對(duì)RUL預(yù)測(cè)的影響,提高預(yù)測(cè)的精度,需要對(duì)預(yù)測(cè)結(jié)果進(jìn)行降噪處理。本文采用加權(quán)平均法對(duì)預(yù)測(cè)結(jié)果進(jìn)行降噪,其計(jì)算公式如下:

(17)

式中:m—時(shí)間窗口長度的取值,本文中取值10;ωi—權(quán)重,一個(gè)從1開始的等差數(shù)列;Pm—某一時(shí)刻的RUL預(yù)測(cè)結(jié)果;Ym—通過加權(quán)平均后得到的某一時(shí)刻降噪結(jié)果。

3.4 結(jié)果分析

為了驗(yàn)證本文所提出的模型的有效性,筆者將其與其他3種深度學(xué)習(xí)方法,即全卷積神經(jīng)網(wǎng)絡(luò)(full convolutional layer neural network,FCNN)、CNN-LSTM-AM和CNN-BiLSTM算法所得的預(yù)測(cè)結(jié)果進(jìn)行了對(duì)比,預(yù)測(cè)結(jié)果如表2所示。

表2 不同方法的預(yù)測(cè)結(jié)果

由表2可以看出:相比其他方法,本文所提方法的預(yù)測(cè)RMSE值取得最低,且Score得分最高。

由CNN-BiLSTM-AM與CNN-BiLSTM算法結(jié)果的對(duì)比可知:在增加注意力機(jī)制的前提下,本文所提方法的RMSE值比CNN-BiLSTM算法降低了7.32%,Score得分提高了2.12%;注意力機(jī)制通過對(duì)軸承不同退化階段分配不同的注意力權(quán)重,使模型更關(guān)注重要的序列信息,達(dá)到了提升RUL預(yù)測(cè)精度的目的。

將CNN-BiLSTM-AM與CNN-LSTM-AM算法結(jié)果進(jìn)行對(duì)比可知,本文所提方法的RMSE值比CNN-LSTM-AM算法降低了10.59%,Score得分提高了1.58%。該結(jié)果證明了LSTM網(wǎng)絡(luò)的雙向結(jié)構(gòu)能夠充分利用序列數(shù)據(jù)的上下文信息,完成對(duì)軸承RUL的精準(zhǔn)預(yù)測(cè);同時(shí),驗(yàn)證了本文所提方法在軸承剩余壽命預(yù)測(cè)方面的可靠性和優(yōu)越性。

在訓(xùn)練過程中,本文所提方法和其他3種神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練和驗(yàn)證損失的變化情況,如圖9所示。

(a)FCNN

(b)CNN-BiLSTM

(c)CNN-LSTMAl-AM

(d)CNN-BiLSTM-AM

由圖9可以看出:FCNN和CNN-BiLSTM模型的訓(xùn)練和驗(yàn)證損失都存在不同程度的過擬合現(xiàn)象,且訓(xùn)練過程不穩(wěn)定;而帶有注意力機(jī)制的CNN-LSTM-AM模型和CNN-BiLSTM-AM模型的損失曲線擬合較好,能夠很快收斂到最小值,且訓(xùn)練損失和驗(yàn)證損失曲線波動(dòng)很小,訓(xùn)練過程較為穩(wěn)定。

訓(xùn)練過程中的注意力權(quán)重值如圖10所示。

圖10 注意力權(quán)重值

由圖10可以看出:注意力機(jī)制按照時(shí)序特征對(duì)RUL預(yù)測(cè)的貢獻(xiàn)量不同,通過改變權(quán)重值以突出重要特征,可有效減少非重要信息對(duì)模型的影響,加快模型的收斂速度,使模型在相同的輪次下可以獲得更精確的RUL預(yù)測(cè)結(jié)果,驗(yàn)證了注意力機(jī)制在該實(shí)驗(yàn)中的有效性。

經(jīng)過以上綜合對(duì)比可以確定,本文所提方法能夠得到更準(zhǔn)確的軸承RUL預(yù)測(cè)結(jié)果。

4 結(jié)束語

本文提出了一種基于深度學(xué)習(xí)的端到端滾動(dòng)軸承RUL預(yù)測(cè)方法,并通過PHM2012軸承退化數(shù)據(jù)集驗(yàn)證了該方法的有效性。

研究結(jié)果表明:

(1)CNN-BiLSTM-AM模型通過卷積層感知相鄰數(shù)據(jù)點(diǎn)間的關(guān)系,提取數(shù)據(jù)的空間特征;然后利用BiLSTM層同時(shí)捕捉計(jì)算過程中每個(gè)步長過去和未來的信息,獲取特征的前后時(shí)間關(guān)系特征;

(2)注意力機(jī)制通過動(dòng)態(tài)調(diào)整不同通道的權(quán)重值,進(jìn)而實(shí)現(xiàn)計(jì)算資源的高效分配,可以有效提高模型的RUL預(yù)測(cè)準(zhǔn)確率。

本文所使用的軸承退化數(shù)據(jù)集為定轉(zhuǎn)速數(shù)據(jù),然而,在工業(yè)生產(chǎn)中存在著大量的變轉(zhuǎn)速、變負(fù)載工況,因此變轉(zhuǎn)速、變負(fù)載軸承RUL預(yù)測(cè)方法還有待進(jìn)一步研究。