基于Transformer的智能軸承聲-振融合故障診斷

林曇濤，牛青波，馬天旭，王強，朱永生

(1.西安交通大學 現代設計與轉子軸承系統教育部重點實驗室，西安 710049；2.洛陽軸承研究所有限公司, 河南 洛陽 471039)

軸承是機械設備的關鍵部件，對其運行狀態進行有效的監測診斷具有重要意義。隨著軟件、硬件技術的不斷更新迭代，軸承監測診斷正朝著自動化、智能化、集成化的方向發展[1]。具備多源傳感器集成的智能軸承技術將是新的研究趨勢，而作為核心的智能軸承診斷算法更是關鍵，聲-振融合的故障診斷方法優于單獨使用振動信號的方法，可用于開展智能軸承故障診斷方法的研究。

通常，聲-振融合診斷所用的信號都有著相同的采樣率，例如文獻[2]利用S變換提取聲音信號的時頻特征，與振動信號分解模態分量得到的二點排列熵共同組成特征向量，并使用支持向量機實現了減速器的故障診斷。智能軸承的電路硬件需要高度集成，硬件的性能有限，無法同時使用很高的采樣率對多源物理量進行采集和處理，需要根據傳感器的頻響特性綜合考慮采樣率，因此所采集的聲音信號與振動信號有著不同的采樣率。對于不同采樣率下的聲-振融合：文獻[3]使用一路二維卷積神經網絡提取聲音信號小波時頻特征，并使用另一路一維卷積神經網絡提取振動信號特征，采用改進的證據理論進行決策融合診斷；文獻[4]利用了2路一維卷積神經網絡分別提取聲音信號與振動信號的特征，通過全連接層進行決策融合。基于卷積神經網絡的方法往往只關注信號的局部平移不變特征，而沒有充分考慮全局的時序關聯性；另外，末端融合方法也沒有充分考慮特征提取過程中聲音信號與振動信號的關聯。

考慮信號的時序特征進行故障診斷主要通過引入循環神經網絡及其變種來實現，然而，循環神經網絡也存在無法并行計算以及難以訓練的缺點。目前，完全摒棄卷積神經網絡與循環神經網絡的結構，僅使用自注意力機制(Self-Attention)[5]的Transformer具有同時提取局部特征與全局時序相關性的特點，而且能夠像卷積神經網絡一樣進行并行計算，在自然語言處理、目標檢測、圖像識別等領域的性能已超過了各類基于卷積神經網絡、循環神經網絡的模型：因此，本文引入Transformer架構作為聲-振融合診斷模型的基本模式，以加強信號的時序特征提取能力。

針對末端融合方法沒有充分考慮特征提取過程中聲音信號與振動信號的關聯的問題，除了在最終故障分類階段進行聲-振數據融合，本文還利用交叉自注意力機制(Cross Self-Attention)[6]使聲音信號與振動信號在特征提取過程中進行交互與融合，以此增強聲-振數據融合的性能。

綜上所述，本文提出一種基于Transformer的聲-振交叉融合模型，將聲音、振動時域信號拆分成持續時間相同的短時幀進行時序對齊，然后送入診斷模型實現從輸入時域信號到輸出故障類型的智能軸承端到端故障診斷。

1 理論基礎

1.1 自注意力機制

自注意力機制可以看作一種非局部濾波操作，通過估計所有位置的注意力分數[7]并根據分數收集相應的輸入來計算序列中每個位置的響應。如圖1所示，對于輸入X=[x1,x2,…,xn]∈Rn×d，最終的輸出序列為Y=[y1,y2,…,yn]∈Rn×d，其計算過程為

Y=SA(Q，K，V)=Softmax(A)·V=

(1)

(2)

式中：n為序列長度；d為維度數；Q，K，V為3個中間矩陣，Q，K，V∈Rn×d；Wq，Wk，Wv為3個不同的線性變換矩陣，Wq，Wk，Wv∈Rd×d；SA(·)為自注意力計算；A為自注意力矩陣，A∈Rn×n，其中的各個元素表示X中兩兩元素之間的注意力分數。

圖1 自注意力機制示意圖

1.2 多頭自注意力機制

SMHA(Q′，K′，V′)=concat(H1，…，Hh)·W，

(3)

Hi=SA(Qi，Ki，Vi)；i=1,2，…，h，

式中：Q′，K′，V′分別由Qi，Ki，Vi拼接組成；W為線性變換矩陣，W∈Rd×d；concat(·)為拼接操作。

圖2 多頭自注意力機制示意圖

1.3 Transformer編碼器

Transformer編碼器的結構如圖3所示，主要分為3個部分：

1)位置編碼。由于自注意力機制并未考慮序列中元素的位置關系，需對輸入序列X進行位置編碼以加入位置信息，即

PE(X)=X+P，

(4)

式中：P為參數可隨模型訓練過程更新的位置矩陣,P∈Rn×d。

2) 殘差連接。Transformer使用了殘差連接加強信息流動以提高性能，并結合層歸一化操作優化訓練過程，即

RC=LN[X+SA(X)]，

(5)

式中：RC(·)為殘差連接操作；LN(·)為層歸一化操作；當使用多頭注意力時，使用SMHA(·)代替SA(·)。

3) 前饋網絡。Transformer中的前饋網絡由2個線性變換層與1個非線性激活層組成，即

NFFN(X)=W2·f(W1·X)，

(6)

式中：NFFN(·)為前饋網絡；W1，W2分別為2個線性層的參數；f(·)為非線性激活函數，如GELU。

圖3 Transformer編碼器

2 聲-振交叉融合Transformer模型

為有效提取不同采樣率下聲音信號與振動信號的特征并進行聯合故障診斷，提出了一種基于Transformer的聲-振交叉融合診斷模型，如圖4a所示：模型包含短時令牌生成、特征交叉融合與決策融合3個階段，輸入為同一時期采集的原始聲音信號與振動信號，輸出為故障類型，能夠實現端到端的滾動軸承聲-振融合故障診斷。

2.1 短時令牌生成

信號的時頻分析往往比單獨的時域分析或頻域分析蘊含著更為豐富的特征，因此本文采用短時傅里葉變換對原始時域信號進行分析，即將時域信號分幀后再進行快速傅里葉變換，同時從時間與短時局部頻率這2個維度進行分析。

圖4 聲-振交叉融合診斷模型

設一次采樣采集長度為Ls的聲音信號S∈RLs×1和長度為Lv的振動信號V∈RLv×1，以聲音信號為例進行說明。

(7)

(8)

通過上述流程得到的s1與v1的個數都為n且一一對應，由此實現不同采樣率聲音信號與振動信號的時序對齊。

2.2 特征交叉融合

為實現聲音信號與振動信號在特征層次的融合，通過所設計的聲-振交叉融合Transformer模塊進行兩者特征提取過程的交互與融合。

(9)

(10)

(11)

(12)

(13)

(14)

(15)

最后，由2路基本的M層、N層Transformer編碼器以及L層串聯的交叉注意力模塊組成的交叉融合Transformer編碼器可串聯K次，以獲得更深的網絡結構。

2.3 決策融合

模型中添加的類別令牌最初由隨機初始化的參數構成，并不包含任何有關故障診斷的信息。隨著聲-振數據在網絡中流動，由于自注意力機制的特點，在特征提取過程中，通過計算與當前輸入的各個短時令牌之間的相關性分數，有關故障類型的信息被添加到類別令牌中。因此，在診斷階段，僅使用聲-振類別令牌的信息進行融合決策，以減少使用全部包令牌序列進行診斷所帶來的信息冗余。

(16)

式中：fsL(·)，fvL(·)分別為2個線性變換；ξs，ξv為對應輸出的邏輯值，ξs，ξv∈R1×nc；nc為故障類別數。

對ξs與ξv進行融合并轉換成對應nc個故障類別的概率，即

p=Softmax(ξs⊕ξv)，

p=[p1,…,pnc]T∈R1×nc，

(17)

式中：⊕為逐元素相加。

3 智能軸承聲-振診斷試驗分析

3.1 智能軸承聲-振數據描述

本文研究所用聲-振數據采集于如圖5所示的智能軸承試驗臺，所開發的7014智能軸承安裝于試驗臺的主軸上并施加軸向載荷。智能軸承在端面集成了單通道硅麥克風與兩通道(x軸、y軸)振動傳感器，通過無線模塊將采集的聲音信號與振動信號發送到上位機，聲音信號與振動信號的采樣率分別為48，32 kHz。

圖5 智能軸承試驗臺

通過激光加工在內、外圈及保持架上刻槽模擬軸承裂紋故障，在鋼球上模擬麻點缺陷，如圖6所示。試驗樣本包括槽寬0.4，0.6，0.8 mm的內、外圈故障，缺陷直徑0.4，0.6，0.8 mm的鋼球故障以及槽寬0.6 mm的保持架故障，加上正常軸承共計11種類型。試驗包含了3種轉速(900，1 500，2 100 r/min)與3種載荷(1,2,3 kN)組成的9種工況。

圖6 不同故障的7014軸承

在本試驗中，使用聲音信號與x軸振動信號進行聲-振融合診斷，僅對11類軸承狀態進行區分，不考慮工況。每個樣本包含4 800個數據點的聲音信號與3 200個數據點的振動信號，采用窗口重疊(重疊率為0.5)的方式進行數據增強。90%的數據用于訓練，剩下10%的數據用于測試，不考慮輕微的樣本不平衡，最終的數據集見表1。

表1 智能軸承聲-振數據集

3.2 性能分析

試驗模型的參數見表2，訓練過程中選擇Adam優化器，批大小為128，學習率為0.002 8，進行200個epoch的迭代。取模型在最后10個epoch的測試準確率的平均值作為評價指標。

表2 模型配置參數

模型在測試階段的總體準確率為89.51%。所繪制的分類混淆矩陣如圖7所示：對于比較明顯的內、外圈故障，準確率很高；而對于微弱的球故障，性能有所下降，尤其是故障直徑0.4 mm的微弱球故障，有36%被識別為保持架故障；盡管故障類別的識別率有所下降，但模型對有無故障的識別率依舊有著良好的表現，故障檢出率為100%，誤報率為2%。

圖7 所提方法混淆矩陣

為驗證模型的融合特征提取能力，通過t-SNE[8]對模型輸入特征與中間特征進行降維可視化，如圖8所示：原始時域特征雜亂無章，經過特征提取后，同類型的故障聚類在一起；球故障與保持架故障的分離效果不是很好，尤其是B08，很大部分與C混疊在一起。因此，除了少部分非常微弱的故障，模型所提取的特征能夠很好區別不同類型的故障。

圖8 t-SNE特征可視化

3.3 對比分析

使用的基線系統來自于基本Vit(Vison Transformer)[9]，其原本輸入的數據為[3,h,w]，其中3表示圖像RGB三通道，h，w分別表示圖像的高和寬。為適合故障診斷任務，將其輸入數據改為[2,1,4 800]，其中的2個通道可均為聲音或振動，也可分別為1個聲音和1個振動。由于單個樣本的振動通道只有3 200個數據點，因此對于空缺處補零。

不同方法所使用的數據類型及其診斷結果見表3：無論是基線Transformer，還是交叉融合Transformer，使用聲-振融合方法的準確率均高于單獨使用聲音或振動信號的方法，說明聲-振融合故障診斷的Transformer模型優于使用單數據源的模型。

表3 不同方法準確率

交叉融合Transformer模型的訓練過程如圖9所示：振動信號的表現最好，聲音信號的表現最差，聲-振融合信號介于兩者之間且十分接近振動信號。

圖9 交叉融合Transformer的訓練過程可視化

綜上所述，使用聲-振交叉融合信號雖然使模型訓練性能有所下降，但降幅微乎其微且帶來了有效的精度提升。雖然聲音信號更容易受到環境噪聲的污染，在試驗中也表現出較低的準確率；但不可否認的是，聲音信號中包含著某些振動信號無法捕捉到的故障信息，從而使聲-振融合信號的準確率有所提升。聲-振交叉融合Transformer模型比聲-振基線Transformer模型的準確率提升了0.59%，也說明使用交叉融合機制對提高聲-振融合的性能有著重要作用。

4 結束語

本文提出一種使用聲-振交叉融合Transformer的智能軸承故障診斷方法，并通過故障案例證明該方法的有效性。本文僅研究了單路聲音與單路振動信號的融合診斷，仍存在一定的局限性，隨著機械設備中各類傳感器的不斷增加，后續將開展多路聲音與多路振動信號的處理與融合診斷研究，為軸承及主機設備的運行安全提供更有效的保障。