多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)滾動軸承故障診斷方法

摘 "要：針對振動信號時間尺度不一、故障特征分布差異及信息冗余等問題，提出一種多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)（MSTACNN）的滾動軸承故障診斷方法。該方法首先在參數(shù)共享單元構(gòu)建多尺度卷積神經(jīng)網(wǎng)絡(luò)，提取多任務(wù)之間共享信息的多尺度通用特征；其次，利用多任務(wù)學(xué)習(xí)機(jī)制對故障類型、故障尺寸以及運(yùn)行工況同時訓(xùn)練，規(guī)避單任務(wù)學(xué)習(xí)效率低下問題；然后，采用注意力機(jī)制對多尺度特征信息進(jìn)行篩選，識別并保留有效特征；最后，設(shè)計了一種自適應(yīng)損失權(quán)重算法，動態(tài)調(diào)整子任務(wù)的損失權(quán)重，控制不同任務(wù)的學(xué)習(xí)進(jìn)度，實(shí)現(xiàn)了對軸承故障類型、故障尺寸以及運(yùn)行工況同時識別的目標(biāo)。分別在西儲大學(xué)數(shù)據(jù)集和帕德博恩大學(xué)數(shù)據(jù)集對該方法的有效性進(jìn)行驗(yàn)證，其中故障類型的識別準(zhǔn)確率分別達(dá)到了99.95%和98.41%。實(shí)驗(yàn)結(jié)果表明：本文所提方法均展現(xiàn)出較高的識別準(zhǔn)確率、良好的收斂速度和穩(wěn)定性，證明了該方法具有較強(qiáng)的特征提取學(xué)習(xí)能力和泛化性能。

關(guān)鍵詞：多尺度卷積；注意力機(jī)制；多任務(wù)學(xué)習(xí)；自適應(yīng)損失權(quán)重；故障診斷

中圖分類號：TM34 " " " " " " 文獻(xiàn)標(biāo)志碼：A

Rolling bearing fault diagnosis with multi-scale multi-task attention convolutional neural network

WANG Zhaowei， LIU Chuanshuai， ZHAO Wenxiang， SONG Xiangjin

（School of Electrical and Information Engineering， Jiangsu University， Zhenjiang 212013， China）

Abstract： Aiming at the problems of different time scales， inconsistent characteristic distribution， and information redundancy of vibration signals， a rolling bearing fault diagnosis method with a Multi-scale Multi-task Attention Convolutional Neural Network （MSTACNN） is proposed. Firstly， a multi-scale convolutional neural network is constructed in the parameter sharing unit， and multi-scale common features containing information shared between different tasks in vibration signals are extracted. Secondly， the multi-task learning mechanism is employed to simultaneously accomplish three tasks， fault localization， fault size， and operation conditions. Thus， the inefficiency of single-task learning is solved. Then， the attention mechanism is used to enhance the feature expression and the influence of useless information is eliminated. Finally， an adaptive loss weight algorithm is designed to dynamically adjust the loss weight and the learning progress of three tasks， the goal of simultaneously identifying bearing failure types， fault magnitudes， and operating conditions is achieved. The effectiveness of the proposed method was verified in the dataset of Western Reserve University and the University of Paderborn， respectively. The experimental results show that the proposed method shows high recognition accuracy， good convergence speed and stability， which proves that the proposed method has strong feature extraction learning ability and generalization performance.

Keywords： multi-scale convolution; attention mechanism; multi-task learning; adaptive loss weight; fault diagnosis

引言

軸承作為電機(jī)設(shè)備的關(guān)鍵基礎(chǔ)部件，多服役于高轉(zhuǎn)速、變載荷的復(fù)雜工況下，運(yùn)行過程中極易因疲勞、磨損、點(diǎn)蝕等情況而損壞，其故障發(fā)生概率高達(dá)40%左右[1]。一旦軸承發(fā)生故障，將導(dǎo)致電機(jī)噪音增強(qiáng)、振動加劇以及溫度升高等，進(jìn)而影響整個機(jī)械系統(tǒng)的精準(zhǔn)可靠運(yùn)轉(zhuǎn)。因此，對電機(jī)軸承故障進(jìn)行及時準(zhǔn)確的診斷是保證機(jī)械系統(tǒng)安全高效運(yùn)行的重要技術(shù)手段[2-4]。

基于機(jī)器學(xué)習(xí)的故障診斷方法關(guān)鍵在于手工設(shè)計特征，利用時頻域統(tǒng)計分析[5]、經(jīng)驗(yàn)?zāi)B(tài)分解[6-7]和小波包變換[8]等方法，從傳感器信號中提取敏感故障特征，并輸入支持向量機(jī)[9-10]、隨機(jī)森林[11-12]、多層感知機(jī)[13]等模型進(jìn)行訓(xùn)練，實(shí)現(xiàn)軸承故障的智能診斷。但是，手工提取的故障特征作為軸承故障分類依據(jù)，嚴(yán)重依賴領(lǐng)域知識和專家經(jīng)驗(yàn)，增加了診斷過程難度。此外，特征提取和模型學(xué)習(xí)相互獨(dú)立，不能聯(lián)合優(yōu)化[14]，導(dǎo)致模型泛化能力較差。

深度學(xué)習(xí)克服了手工特征提取的缺陷，憑借優(yōu)秀的泛化能力和強(qiáng)大的特征提取能力，使得故障診斷更加便捷和智能。其中，卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural networks， CNN）的局部連接、權(quán)重共享以及池化操作等特性，可有效降低網(wǎng)絡(luò)的復(fù)雜度和參數(shù)數(shù)量，是一種軸承故障診斷領(lǐng)域廣泛使用的結(jié)構(gòu)。例如，Xing等[15]通過CNN自動提取可分離和判別特征，實(shí)現(xiàn)了智能機(jī)械故障診斷，并且解決了數(shù)據(jù)不平衡的問題。Dibaj等[16]提出一種基于微調(diào)變分模態(tài)分解和CNN的端到端故障診斷方法，在復(fù)合故障診斷和存在較嚴(yán)重故障時對次要故障的特征提取和分類具有較高的準(zhǔn)確性。然而，實(shí)際工況條件下，振動信號[17]往往呈現(xiàn)出多尺度特征，現(xiàn)有的全局性或單一尺度下的特征提取難以捕獲互補(bǔ)且豐富的診斷信息，在一定程度上降低了模型的診斷能力。因此，一些學(xué)者利用多尺度特征的提取和建模充分提高網(wǎng)絡(luò)的特征學(xué)習(xí)能力，以實(shí)現(xiàn)更好地診斷性能。例如，Jiang等[18]提出一種新的多尺度卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)，能夠提取并學(xué)習(xí)不同尺度下的故障特征信息，增強(qiáng)了特征學(xué)習(xí)能力。王妮妮等[19]通過建立集特征提取與模式識別于一體的多尺度卷積神經(jīng)網(wǎng)絡(luò)模型，利用多尺度特征融合模塊自適應(yīng)提取故障樣本不同層級特征，以此實(shí)現(xiàn)樣本不同尺度特征的充分提取。此外，考慮到工程現(xiàn)場采集的振動信號通常包含大量背景噪聲及冗余信息，丁雪等[20]提出一種多尺度注意力卷積神經(jīng)網(wǎng)絡(luò)模型，通過注意力機(jī)制對數(shù)據(jù)不同維度的特征賦予不同的權(quán)重，使模型更關(guān)注于最具類別區(qū)分度的區(qū)域，從而提高模型的特征學(xué)習(xí)能力。

上述方法雖然通過多尺度學(xué)習(xí)策略提取的信息之間具有互補(bǔ)性，在一定程度上提高了模型的特征學(xué)習(xí)能力，但主要目的在于實(shí)現(xiàn)故障類型的準(zhǔn)確識別任務(wù)上，對于可能幫助優(yōu)化故障分類指標(biāo)的其他信息未加以利用，仍存在特征提取不全面的問題。此外，在工業(yè)應(yīng)用中，希望模型實(shí)現(xiàn)故障種類準(zhǔn)確識別的同時，對故障損傷程度和運(yùn)行工況（例如電機(jī)轉(zhuǎn)速、負(fù)載等）也具有良好表現(xiàn)，進(jìn)而在合理安排電機(jī)運(yùn)行方式和檢修時間的同時又能最大程度提高經(jīng)濟(jì)效益。為實(shí)現(xiàn)故障類型、故障尺寸和運(yùn)行工況多任務(wù)識別，單任務(wù)學(xué)習(xí)只能逐一訓(xùn)練多個模型，不僅增加了設(shè)備開發(fā)、部署與維護(hù)的成本，也極大地限制了智能方法的實(shí)用性。多任務(wù)學(xué)習(xí)符合工業(yè)中同時對多個目標(biāo)任務(wù)學(xué)習(xí)并識別的要求，并且構(gòu)建多任務(wù)學(xué)習(xí)框架對多個任務(wù)同時訓(xùn)練，不同任務(wù)之間相互促進(jìn)，可進(jìn)一步提高故障診斷性能。例如，康玉祥等[21]采用殘差網(wǎng)絡(luò)提取深層特征、共享主框架，建立能夠同時進(jìn)行故障狀態(tài)識別、故障部位識別以及故障程度識別的多任務(wù)模型。然而，模型中每個任務(wù)的權(quán)重一致，這很容易導(dǎo)致多個任務(wù)的學(xué)習(xí)進(jìn)度不一致，出現(xiàn)過擬合或欠擬合現(xiàn)象。

本文針對振動信號時間尺度不一、故障特征分布差異及信息冗余等問題，提出一種多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)（multi-scale multi-task attention convolutional neural network，MSTACNN）的滾動軸承故障多任務(wù)診斷方法。首先，在參數(shù)共享單元構(gòu)建多尺度卷積神經(jīng)網(wǎng)絡(luò)，提取振動信號中包含多任務(wù)之間共享信息的多尺度通用特征；其次，利用多任務(wù)學(xué)習(xí)機(jī)制對故障類型、故障尺寸以及運(yùn)行工況同時訓(xùn)練，規(guī)避單任務(wù)學(xué)習(xí)效率低下問題，促進(jìn)不同任務(wù)之間從通用特征中進(jìn)一步學(xué)習(xí)互補(bǔ)信息，使得特征學(xué)習(xí)更加全面；然后，引入注意力機(jī)制對特征進(jìn)行篩選，識別并保留具有交互關(guān)系的有效特征并剔除無關(guān)特征，提高運(yùn)算速度和識別效率；最后，設(shè)計一種自適應(yīng)損失權(quán)重算法，聯(lián)合優(yōu)化控制不同任務(wù)學(xué)習(xí)進(jìn)度，把計算資源放在更難識別的任務(wù)上。在凱斯西儲大學(xué)（CWRU）和帕德博恩（PU）大學(xué)軸承數(shù)據(jù)集上，對建立的多任務(wù)模型進(jìn)行實(shí)驗(yàn)驗(yàn)證。在CWRU數(shù)據(jù)集[22]上，三個任務(wù)識別準(zhǔn)確率均達(dá)到98%以上，并驗(yàn)證了所提方法具有良好的收斂性。同時，在PU數(shù)據(jù)集[23]上，所提方法在三個任務(wù)的識別準(zhǔn)確率方面較其他方法具有明顯優(yōu)勢，實(shí)驗(yàn)結(jié)果充分表明所提方法具有很強(qiáng)的故障多任務(wù)診斷能力。

理論背景

卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)的局部連接、權(quán)重共享以及池化操作等特性，可有效減少訓(xùn)練參數(shù)數(shù)量，被廣泛應(yīng)用于計算機(jī)視覺[24]、自然語言處理[25]和故障識別等領(lǐng)域[26-27]。卷積神經(jīng)網(wǎng)絡(luò)的一般結(jié)構(gòu)包括輸入層、卷積層、激活層池化層以及分類層。為增強(qiáng)模型的泛化能力，經(jīng)常采用批歸一化、隨機(jī)失活以及正則化等技術(shù)手段。

卷積層

卷積層具有稀疏連接、參數(shù)共享的優(yōu)點(diǎn)，利用卷積核對特征信息進(jìn)行卷積運(yùn)算，完成局部特征提取。假設(shè)Kl i代表著第l層的第i個卷積核， 表示第l層的第j個局部區(qū)域，則卷積運(yùn)算過程表示如下：

（1）

其中，yl（i，j）代表核與其感受區(qū)域的點(diǎn)積，W表示卷積核的寬度，Kl i（j）表示卷積核l在第j個區(qū)域中的權(quán)重。

通常在卷積層后添加激活層，利用激活函數(shù)增強(qiáng)輸入信號的非線性表達(dá)能力。整流線性單元（Rectified Linear Unit， ReLU）以其能加快網(wǎng)絡(luò)訓(xùn)練和抑制過擬合的優(yōu)點(diǎn)，成為卷積神經(jīng)網(wǎng)絡(luò)最常用的激活函數(shù)。ReLU激活層運(yùn)算過程如下：

（2）

其中，zl（i，j）是CNN的輸出序列，al（i，j）是對zl（i，j）激活后的結(jié)果。

批歸一化層

批歸一化（batch normalization， BN）是由Ioffe和Szegedy于2015年提出的，其目的是對模型中任意一層的輸出進(jìn)行歸一化處理，減少內(nèi)部協(xié)變量偏移的同時，加快模型訓(xùn)練速度，并且在一定程度上緩解過擬合及梯度彌散問題，從而使模型訓(xùn)練更加容易和穩(wěn)定。

BN層通常放置在卷積層之后，運(yùn)算公式如下：

（3）

（4）

（5）

其中，dl（i，j）表示某個神經(jīng)元的輸出，μ和σ2分別是yl（i，j）的平均值與方差，ε為常數(shù)，用于在方差為0時防止無效計算。

池化層

在卷積批歸一化之后，通過池化操作降低卷積層輸出的特征信息維度，減少訓(xùn)練參數(shù)和計算成本。典型的池化操作包括最大池化和平均池化[28]。最大池化和平均池化計算過程如下：

（6）

（7）

其中，al（i，t）是第l層第i個視野范圍內(nèi)第t個神經(jīng)元的值，Wm是最大池化窗口的寬度，Wa是平均池化窗口的寬度，pl（i，j） m是最大池化處理之后的結(jié)果，pl（i，j） a是平均池化處理之后的結(jié)果。

隨機(jī)失活（dropout）

dropout作為一種常見的正則化方法，通過在訓(xùn)練階段隨機(jī)地使一定比例地節(jié)點(diǎn)失活，從而抑制網(wǎng)絡(luò)出現(xiàn)過擬合現(xiàn)象。dropout通常被放置在CNN中參數(shù)較多的全連接層。而在MSTACNN中，dropout被放置在批歸一化層之后，其目的是通過其使節(jié)點(diǎn)隨機(jī)置零，改變信息尺度的特點(diǎn)，與平均池化一同獲取不同尺度的特征信息。

注意力機(jī)制

注意力機(jī)制[29]在深度學(xué)習(xí)領(lǐng)域被廣泛應(yīng)用，它可以理解為針對原本平均分配的資源根據(jù)注意力對象的重要程度重新分配資源，著重關(guān)注需要重點(diǎn)使用的地方，得到更多的特征信息。隨著通道注意力和空間注意力的提出，不同的注意力機(jī)制被運(yùn)用到故障識別的網(wǎng)絡(luò)中，如特征金字塔注意力網(wǎng)絡(luò)（pyramid feature attention network， PFANET）[30]對不同層級的特征添加注意力并結(jié)合全局平均池化與金字塔融合模塊提高網(wǎng)絡(luò)的分割精度。注意力機(jī)制的引入增加了特征提取的豐富程度，但伴隨著注意力機(jī)制的添加，模型的參數(shù)量也隨之增加。

多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)故障診斷模型

為獲取更全面特征，增強(qiáng)診斷模型性能，本文提出多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)MSTACNN，從原始振動信號中提取不同時間尺度特征信息，采用有監(jiān)督學(xué)習(xí)的多任務(wù)聯(lián)合訓(xùn)練，實(shí)現(xiàn)故障類型、故障部位與運(yùn)行工況的識別。模型由共享網(wǎng)絡(luò)、注意力機(jī)制模塊與分支網(wǎng)絡(luò)三部分構(gòu)成，其具體結(jié)構(gòu)如圖1所示，其中，Conv c@i×j表示卷積核為i×j且卷積核個數(shù)為c的卷積模塊，Maxpool（i）和avgpool（i）分別表示池化窗口為i的最大池化和平均池化，dropout（i）表示使節(jié)點(diǎn)失活。

共享網(wǎng)絡(luò)

電機(jī)在客觀自然環(huán)境下運(yùn)行時，時域振動信號往往呈現(xiàn)出多時間尺度特性。滾動軸承失效時，故障特征也通常表現(xiàn)出多尺度性質(zhì)。為有效提取故障特征成分以增強(qiáng)診斷模型效果，在共享網(wǎng)絡(luò)框架中，構(gòu)建多尺度卷積神經(jīng)網(wǎng)絡(luò)提取包含有多個任務(wù)之間共享知識的多尺度通用特征。共享網(wǎng)絡(luò)以CNN為基礎(chǔ)，通過卷積、批歸一化、激活函數(shù)及池化等操作實(shí)現(xiàn)多尺度通用特征提取，主要由4個普通卷積模塊和4個多尺度卷積模塊構(gòu)成。其中，普通卷積模塊包含1個卷積層、1個BN層與1個ReLU激活層；多尺度卷積模塊，并行包含1個dropout層和2個不同池化窗口的池化層，其特征信息提取操作如圖2所示。特征信息經(jīng)過多尺度卷積模塊后，經(jīng)過concatenate堆疊處理之后傳入最大池化進(jìn)行降采樣。搭配多對多尺度卷積模塊和最大池化操作，在保證網(wǎng)絡(luò)輕量化的同時，增強(qiáng)了對多尺度信息的挖掘和學(xué)習(xí)能力。

注意力機(jī)制模塊

電機(jī)運(yùn)行過程受到力、電、熱、磁等多物理場耦合效應(yīng)影響，會產(chǎn)生大量振動噪聲。此外，滾動軸承某一部位失效時，除了產(chǎn)生包含故障特征分量的低頻振動外，還會產(chǎn)生高頻固有振動。因此，通過加速度傳感器拾取的振動信號往往具有一定程度冗余信息。為衡量不同信息的重要程度，引入注意力機(jī)制模型以獲取多尺度通用特征的權(quán)重向量，并根據(jù)具體任務(wù)需求來確定保留或舍棄哪些特征。

本文的注意力機(jī)制模塊中，首先采用全局平均池化（Global Average Pooling， GAP）按通道對多尺度通用特征進(jìn)行壓縮。接著，使用卷積層對通道進(jìn)行先降后升處理，降低特征信息噪聲干擾后，經(jīng)過sigmoid函數(shù)輸出不同特征的權(quán)重系數(shù)。然后，將權(quán)重系數(shù)和輸入相乘后再與輸入疊加作為模型的輸出。最終，既篩選出重要特征，又避免了特征衰減。

分支網(wǎng)絡(luò)

共享網(wǎng)絡(luò)中提取的多尺度通用特征經(jīng)過注意力機(jī)制模塊篩選后，輸入到不同的任務(wù)模型進(jìn)一步獲取更深層次的特定特征，并計算各個任務(wù)的損失函數(shù)大小。通過有監(jiān)督的多任務(wù)同時訓(xùn)練，自動探索多尺度通用特征和特定特征的最佳組合，從而實(shí)現(xiàn)故障類型、故障尺寸和運(yùn)行工況識別。共享網(wǎng)絡(luò)和分支網(wǎng)絡(luò)采用并聯(lián)連接方式，最大化利用共享網(wǎng)絡(luò)的通用特征。此外，在四個多尺度卷積設(shè)置共享網(wǎng)絡(luò)與分支網(wǎng)路的連接點(diǎn)，學(xué)習(xí)特征過程不同任務(wù)之間相互促進(jìn)，相互補(bǔ)充，提升彼此的性能。

每個分支網(wǎng)絡(luò)由4個注意力機(jī)制模塊、4個卷積模塊、4個池化模塊以及1分類模塊組成。其中，卷積模塊包括1個卷積層、1個BN層與1個ReLU激活層，分類模塊包括1個全局平均池化層、1個

全連接層與1個softmax激活函數(shù)層。模型損失函數(shù)為三個任務(wù)損失函數(shù)的線性加權(quán)，其表達(dá)式為：

（8）

其中，λi為第i個任務(wù)的損失權(quán)重，Li為第i個任務(wù)的損失函數(shù)，i=1，2，3。

三個任務(wù)的損失函數(shù)均為交叉熵?fù)p失函數(shù)，其表達(dá)式為：

（9）

其中，Pj為第j個真實(shí)one-hot編碼標(biāo)簽，P* j為第j個輸出類別，n=4。

其他細(xì)節(jié)

本文模型由Keras和python3.7.7實(shí)現(xiàn)，網(wǎng)絡(luò)的訓(xùn)練和測試均在Windows系統(tǒng)的工作站上完成。訓(xùn)練時學(xué)習(xí)率為0.001，batch_size為64。在此使用準(zhǔn)確度指標(biāo)來評估模型性能。

自適應(yīng)損失權(quán)重算法

模型訓(xùn)練過程中，前向傳播過程與普通CNN相同。反向傳播過程中，為避免因損失權(quán)重固定導(dǎo)致某些任務(wù)過擬合時其他任務(wù)處于欠擬合狀態(tài)，本文提出一種自適應(yīng)損失權(quán)重算法。通過計算子損失占總損失比重動態(tài)調(diào)整相應(yīng)子任務(wù)的損失權(quán)重，并將每個損失權(quán)重乘以不同的系數(shù)，來更佳的控制每個任務(wù)的學(xué)習(xí)進(jìn)度，以此來根據(jù)總損失計算梯度、反向傳播、更新參數(shù)，保證三個分類任務(wù)具有相似的收斂速度。具體步驟如下：

1）初始化訓(xùn)練步數(shù)k=0和損失權(quán)重[λ1， λ2， …， λi] = [1， 1， …1]；

2）獲取分類層輸出output[i]；

3）當(dāng)k∈1，2，…，n時；

計算各任務(wù)的損失：

L_i=Loss（labels[j]，output[j] ）；

計算每個任務(wù)的損失權(quán)重：

λ_i=λ_s L_i/∑_（i=1）^n?L_i ；

4）計算總損失L_all：

L_all=∑_（i=1）^n?〖λ_i L_i 〗；

5）計算每個任務(wù)的梯度，根據(jù)梯度反向傳播更新參數(shù)，每更新一次后，k=k+1；

6）當(dāng)k=n+1時，算法結(jié)束。

實(shí)驗(yàn)驗(yàn)證

為驗(yàn)證本文所提診斷模型的準(zhǔn)確性和泛化能力，利用美國凱斯西儲大學(xué)（CWRU）軸承數(shù)據(jù)集和德國帕德博恩（PU）軸承數(shù)據(jù)集進(jìn)行，構(gòu)造多種場景以分析多尺度卷積、自適應(yīng)損失權(quán)重算法以及多任務(wù)學(xué)習(xí)的有效性，同時進(jìn)行多種方法的對比試驗(yàn)，并通過T-SNE技術(shù)可視化模型內(nèi)部的特征變化。

數(shù)據(jù)集1：CWRU軸承故障數(shù)據(jù)集

數(shù)據(jù)描述

選擇CWRU軸承故障數(shù)據(jù)集的驅(qū)動端數(shù)據(jù)為實(shí)驗(yàn)數(shù)據(jù)，其對應(yīng)的軸承型號為SKF6205。軸承包括四種狀態(tài)：正常狀況、外圈故障、內(nèi)圈故障和滾動體故障，其中每種故障類型包含了0.007英寸、0.014英寸、0.021英寸三種損失尺寸。分別在0hp、1hp、2hp、3hp四種負(fù)載下通過加速度計拾取振動信號，采樣頻率為12kHz。為增加樣本數(shù)量，在保證訓(xùn)練集和測試集數(shù)據(jù)獨(dú)立性的情況下，將振動信號中每1024個數(shù)據(jù)點(diǎn)進(jìn)行重疊切割形成一個樣本。同時，為了模擬軸承運(yùn)行過程中背景噪聲干擾，在振動信號中添加-2dB高斯白噪聲進(jìn)行分析。診斷模型共設(shè)置三個任務(wù)，分別對應(yīng)故障類型、故障尺寸以及運(yùn)行工況識別。表1描述了本文對CWRU軸

承故障數(shù)據(jù)集的分類設(shè)置。

多尺度卷積有效性驗(yàn)證

所提出診斷模型中，可對共享網(wǎng)絡(luò)中的多尺度卷積模塊進(jìn)行設(shè)置，獲得有多尺度卷積（All-MS）和無多尺度卷積（NO-MS）兩種網(wǎng)絡(luò)結(jié)構(gòu)。將添加噪聲的樣本輸入到模型中，驗(yàn)證多尺度卷積的有效性，實(shí)驗(yàn)結(jié)果見如表2所示。

由表2可知，在處理CWRU數(shù)據(jù)，含故障類型、故障尺寸與運(yùn)行工況的4種狀態(tài)時，2種不同的網(wǎng)絡(luò)結(jié)構(gòu)在低信噪比下（-2dB）準(zhǔn)確度分別是96.45%、98.11%、87.51%和99.95%、99.98%、98.7%。隨著共享網(wǎng)絡(luò)中多尺度卷積模塊的引入，準(zhǔn)確度分別提高了3.5%、1.87%、11.19%。可以看出，與單尺度卷積相比，使用多尺度卷積模塊的網(wǎng)絡(luò)在低信噪比下的準(zhǔn)確度顯著提高。在多尺度卷積模塊中大池化窗口通過其感受野的優(yōu)勢在全局信息上的提取能力更強(qiáng)，但特征分辨率較低，且包含較多的無效信息。相比之下，小池化窗口的特征分辨率更高，對特征信息的處理更細(xì)致，特征種類更豐富。同種工況下不同故障類型其故障特征分量大小也不同，進(jìn)而對不同尺度信息的敏感度不同。采用多個尺寸的池化窗口提取出不同尺度的故障特征供給模型學(xué)習(xí)，模型在遇到不同故障頻率的故障時也能很好的區(qū)分開。因此，多尺度卷積模塊可以為分支網(wǎng)絡(luò)提供多任務(wù)之間共享知識的多尺度通用特征，擴(kuò)展特征學(xué)習(xí)過程深度，提高分支網(wǎng)絡(luò)識別性能。然而，不同任務(wù)受多尺度卷積模塊影響不同。其中，CWRU數(shù)據(jù)集工況差異較小，沒有多尺度特征信息情況下分類性能不佳，利用多尺度卷積模塊提取多尺度特征后，運(yùn)行工況識別性能得到大幅提升。

自適應(yīng)損失權(quán)重算法有效性驗(yàn)證

為進(jìn)一步驗(yàn)證自適應(yīng)損失權(quán)重算法的有效性，利用CWRU實(shí)驗(yàn)數(shù)據(jù)構(gòu)造損失權(quán)重固定和動態(tài)調(diào)

整不同的場景，獲取診斷模型訓(xùn)練過程中的損失曲線，實(shí)驗(yàn)結(jié)果如圖3所示。損失權(quán)重固定時，模型訓(xùn)練約90個epoch才達(dá)到收斂。此外，三個任務(wù)的收斂速度存在較大差異。加入自適應(yīng)損失權(quán)重算法之后，模型訓(xùn)練約50個epoch就可以收斂，并且三個任務(wù)具有相似的收斂速度。

在多任務(wù)學(xué)習(xí)中，不同任務(wù)學(xué)習(xí)的難易程度也不同，從而導(dǎo)致不同任務(wù)可能處于不同的學(xué)習(xí)階段。當(dāng)使用固定權(quán)重時，會出現(xiàn)任務(wù)A接近收斂，任務(wù)B仍然沒訓(xùn)練好的情況，從而限制了不同任務(wù)的學(xué)習(xí)。通過自適應(yīng)損失權(quán)重算法使更難的任務(wù)分配的權(quán)重更大，很好地協(xié)調(diào)了各個任務(wù)之間的學(xué)習(xí)進(jìn)度，得到了各個任務(wù)具有相似收斂速度的結(jié)果。當(dāng)進(jìn)一步深入分析后發(fā)現(xiàn)，加入自適應(yīng)損失權(quán)重算法后還消除了簡單任務(wù)過擬合、困難任務(wù)欠擬合的現(xiàn)象。因此，通過采用自適應(yīng)損失權(quán)重算法，在訓(xùn)練過程中不斷動態(tài)調(diào)整損失權(quán)重，可有效提高模型的收斂速度，并保證三個任務(wù)收斂速度一致。相對于損失權(quán)重固定的情況，在動態(tài)調(diào)整損失權(quán)重中，每個損失權(quán)重都乘以相應(yīng)的系數(shù)，因此收斂后的損失大于固定損失權(quán)重中收斂后的損失。

對比分析

為驗(yàn)證模型的可靠性和優(yōu)越性，在同等噪聲環(huán)境下，分別與多層感知機(jī)（MLP）、基于一維卷積神經(jīng)網(wǎng)絡(luò)的WDCNN[31]、多個殘差模塊組成的ResCNN[32]和門控循環(huán)單元（GRU）進(jìn)行對比，實(shí)驗(yàn)結(jié)果如表3所示。

觀察表3可知，對于故障類型和故障尺寸識別任務(wù)，五種方法都具有較好的特征學(xué)習(xí)能力，識別準(zhǔn)確率皆在90%以上。但是，測試效果最好的是本文所提MSTACNN診斷模型，故障類型識別準(zhǔn)確率為99.95%，故障尺寸識別準(zhǔn)確率為99.98%，相比多層感知機(jī)MLP，故障類型和尺寸識別準(zhǔn)確率分別提高5.32%和7.48%。相比WDCNN，故障類型和尺寸識別準(zhǔn)確率的提升幅度為2.61%和4.51%。對于運(yùn)行工況識別任務(wù)，由于振動信號采集工況差異較小，本文方法因具備多尺度卷積及注意力機(jī)制模塊，可同時提取振動信號時間多尺度特性及故障多尺度振動特性并抑制冗余信息，運(yùn)行工況識別準(zhǔn)確率仍具備較好的穩(wěn)定性與準(zhǔn)確性，明顯優(yōu)于其他四種方法。相比ResCNN，運(yùn)行工況識別效果提高了6.2%，相比GRU，運(yùn)行工況識別效果更是提高了13.42%。此外，對比同種方法三個任務(wù)之間的分類準(zhǔn)確率可以發(fā)現(xiàn)，所提模型在不同任務(wù)識別準(zhǔn)確率上下限差值最小。因此，上述實(shí)驗(yàn)結(jié)果充分說明所提MSTACNN模型在三項任務(wù)上均取得了非常有競爭力的結(jié)果，并較好地證明所提MSTACNN模型進(jìn)行多任務(wù)學(xué)習(xí)的有效性，同時表明基于振動信號分析進(jìn)行故障類型識別、故障尺寸識別以及運(yùn)行工況識別的可行性。

數(shù)據(jù)集2：PU軸承故障數(shù)據(jù)集

數(shù)據(jù)描述

在PU數(shù)據(jù)集中，損傷類別分為人為損傷軸承樣本和通過加速壽命試驗(yàn)產(chǎn)生的真正軸承損傷樣本。為更加符合實(shí)際工業(yè)環(huán)境，選用真實(shí)軸承損傷的測量數(shù)據(jù)。真實(shí)損傷軸承共有14個，包含5個外圈故障軸承（OR）、6個內(nèi)圈故障軸承（IR）、3個內(nèi)外圈復(fù)合故障軸承（IR+OR）。損傷原因包括疲勞點(diǎn)蝕（FP）和變形壓痕（PI）。損失類型分為單一損傷（S）、重復(fù)損傷（R）和多重?fù)p傷（M）。損傷等級分為三個層次。選用的軸承數(shù)據(jù)包括1個健康軸承（health）和12個不同故障等級的真實(shí)損傷軸承分別在4種不同工況實(shí)驗(yàn)所采集的振動信號，采樣頻率為64kHz，采樣時間為4s，詳細(xì)的工況信息和數(shù)據(jù)描述如表4和表5所示。為驗(yàn)證本文診斷模型的學(xué)習(xí)能力，同樣設(shè)置了故障類型、故障尺寸與運(yùn)行工況三個子任務(wù)，但在故障類型識別任務(wù)中，一并包含了故障部位、損失原因及損失類型共10種不同情況。

多任務(wù)學(xué)習(xí)有效性驗(yàn)證

為了探討多任務(wù)學(xué)習(xí)中不同任務(wù)之間相輔相成的促進(jìn)關(guān)系，利用PU實(shí)驗(yàn)數(shù)據(jù)，設(shè)置了MSTACNN、F-CNN（處理故障類型識別任務(wù)）和SL-CNN（處理故障尺寸和運(yùn)行工況識別任務(wù)）三個網(wǎng)絡(luò)進(jìn)行對比分析，實(shí)驗(yàn)結(jié)果如表6所示。同時，將多

任務(wù)學(xué)習(xí)方法MSTACNN和單任務(wù)學(xué)習(xí)方法F-CNN的混淆矩陣進(jìn)行可視化展示，如圖4所示。從表6可以看出，對于故障類型識別任務(wù)，MSTACNN網(wǎng)絡(luò)識別準(zhǔn)確率為98.41%，相比F-CNN提高5.58%。此外，從混淆矩陣可以分析發(fā)現(xiàn)，與F-CNN相比，每種故障類型下，MSTACNN準(zhǔn)確識別的樣本數(shù)量都有所提升，這表明故障尺寸和運(yùn)行工況識別任務(wù)的故障特征中包含了故障類型識別任務(wù)所需的有用信息，這些信息能夠相互共享，以提高故障類型識別任務(wù)的準(zhǔn)確率。其中，兩種方法正確識別故障類型3和故障類型5的樣本數(shù)量相對較低，這是因?yàn)樽冃螇汉巯鄬τ谄邳c(diǎn)蝕故障特征不明顯，識別起來難度較高。對于故障尺寸和運(yùn)行工況識別任務(wù)，MSTACNN網(wǎng)絡(luò)識別準(zhǔn)確率分別為98.06%和89.12%，相比SL-CNN分別提高4.81%和6.15%，這同時也證明故障類型識別任務(wù)為故障尺寸和運(yùn)行工況識別任務(wù)提供了有效的信息補(bǔ)充。上述實(shí)驗(yàn)結(jié)果充分證明在進(jìn)行多任務(wù)學(xué)習(xí)中，不同任務(wù)之間從多尺度通用特征中進(jìn)一步學(xué)習(xí)互補(bǔ)信息，相互補(bǔ)充，相互促進(jìn)，提升彼此的性能。因此，在對故障類型識別的同時完成對運(yùn)行工況或其他任務(wù)的學(xué)習(xí)，使得故障發(fā)生時電機(jī)運(yùn)行狀況更加透明，在合理安排運(yùn)行方式和檢修時間的同時又能進(jìn)一步提高經(jīng)濟(jì)效益。

注意力機(jī)制有效性驗(yàn)證

注意力機(jī)制作為所提MSTACNN模型的核心，可以為不同任務(wù)自動選擇所需要的故障特征。為驗(yàn)證注意力機(jī)制模塊對網(wǎng)絡(luò)性能的影響，對網(wǎng)絡(luò)模型中的注意力機(jī)制模塊進(jìn)行設(shè)置，分別獲得有注意力機(jī)制（All-AN）和無注意力機(jī)制（NO-AN）兩種網(wǎng)絡(luò)結(jié)構(gòu)。在噪聲強(qiáng)度為-2dB下，將PU實(shí)驗(yàn)數(shù)據(jù)輸入到兩種模型中，實(shí)驗(yàn)結(jié)果如表7所示。

觀察表7實(shí)驗(yàn)結(jié)果可以看出，注意力機(jī)制模塊對三個任務(wù)識別準(zhǔn)確率均有較大影響。無注意力機(jī)制網(wǎng)絡(luò)模型中，故障類型和故障尺寸識別任務(wù)準(zhǔn)確率僅僅達(dá)到了91.06%和91.60%，與有注意力機(jī)制網(wǎng)絡(luò)模型相比分別降低了7.35%和6.46%。對于運(yùn)行工況識別任務(wù)，無注意力機(jī)制網(wǎng)絡(luò)模型的識別準(zhǔn)確率為82.70%，相比有注意力機(jī)制網(wǎng)絡(luò)模型降低了6.42%。因此，上述實(shí)驗(yàn)結(jié)果充分說明移除注意力機(jī)制模塊后，三個任務(wù)識別準(zhǔn)確率均有降低，這是因?yàn)樵诠蚕砭W(wǎng)絡(luò)中利用多尺度卷積獲取多尺寸故障特征后，分支網(wǎng)絡(luò)缺乏有效的特征篩選能力，過于豐富的冗余特征信息反而導(dǎo)致網(wǎng)絡(luò)性能下降。

為了更好的理解注意力機(jī)制模塊的有效特征篩選機(jī)制，對MSTACNN模型中共12個注意力機(jī)制模塊的權(quán)重向量進(jìn)行可視化展示，其結(jié)果如圖5所示。觀察圖5可以看出，對于三個識別任務(wù)，每個任務(wù)各自的四個注意力機(jī)制模塊（A1-A4）生成不同的權(quán)重向量，通過權(quán)重向量逐層從共享特征中獲得相應(yīng)所需特征，抑制冗余特征。此外，在注意力機(jī)制模塊為三個任務(wù)生成的權(quán)重中，有些權(quán)重差別很大，而有些只是略有不同。這再次表明注意力機(jī)制模塊可以為特定任務(wù)篩選出靈活的特征組合，以達(dá)到共享特征利用最大化的效果。

對比分析

在PU數(shù)據(jù)集上，進(jìn)一步將本文方法與其他四種代表性深度學(xué)習(xí)方法比較分析，結(jié)果如表8所示。

相較于CWRU數(shù)據(jù)集，PU數(shù)據(jù)集的故障類型劃分更為復(fù)雜，故障尺寸與工況內(nèi)部差異更小，所以三個任務(wù)的識別準(zhǔn)確率稍有降低。即便如此，表8中結(jié)果顯示，在故障類型和故障尺寸識別任務(wù)中，MSTACNN的識別準(zhǔn)確率達(dá)到了98.41%和98.06%，與MLP，WDCNN，ResCNN及GRU相比，最高提升6.89%和8.19%，最低提升也達(dá)到了4.38%和4.59%。尤其是在較難的運(yùn)行工況識別任務(wù)中，MSTACNN的識別準(zhǔn)確率達(dá)到了89.12%，相比他四種方法最高提升8.76%。上述實(shí)驗(yàn)結(jié)果表明，MSTACNN在PU數(shù)據(jù)集上也擁有良好的性能，并且經(jīng)過兩個不同數(shù)據(jù)集的實(shí)驗(yàn)驗(yàn)證，也證明了MSTACNN擁有較好的泛化能力。

特征可視化

為了深入直觀理解本文模型內(nèi)在機(jī)理，采用T-SNE技術(shù)在二維空間分別對輸入層、3個分支網(wǎng)絡(luò)的4個注意力機(jī)制模塊輸入層和輸出層特征進(jìn)行可視化，結(jié)果如圖6所示。其中，F(xiàn)1-F10表示10種不同類別軸承故障狀態(tài)，S1-S4表示4種故障等級，L1-L4表示4種運(yùn)行工況。由6（a）可知，原始振動信號特征相互重疊，雜亂無序分布在整個空間。由圖6（b）可知，經(jīng)過1個普通卷積模塊和多尺度卷積模塊處理之后，不同特征開始分離，但由于均屬于共享網(wǎng)絡(luò)，三個分支網(wǎng)絡(luò)特征變化趨勢類似。觀察圖6（c）-圖6（d）可以發(fā)現(xiàn)，不同分支網(wǎng)絡(luò)經(jīng)過多個普通卷積模型和多尺度卷積模塊以及注意力機(jī)制權(quán)重分配操作之后，學(xué)習(xí)的特征之間逐漸存在差異性，但每個分支網(wǎng)絡(luò)中的同一類別聚集緊密，不同類別相互分散。由圖6（f）可知，經(jīng)過全局平均池化和全連接層之后，三個分支網(wǎng)絡(luò)中不同類別已經(jīng)被明顯劃分。綜上表明，本文模型可以從振動信號中有效提取多尺度特征并進(jìn)行多任務(wù)學(xué)習(xí)，從而具備良好的多任務(wù)診斷性能。

總結(jié)

本文提出一種多尺度多任務(wù)注意力卷積神經(jīng)網(wǎng)絡(luò)多任務(wù)診斷模型，同時完成滾動軸承故障類型、故障尺寸和運(yùn)行工況識別。通過多尺度特征提取，表征振動信號的多時間尺度信息；其次，構(gòu)建共享網(wǎng)絡(luò)和多任務(wù)框架，學(xué)習(xí)多任務(wù)之間的共享特征并有效利用不同任務(wù)之間的關(guān)聯(lián)信息；然后，在不同任務(wù)中引入注意力機(jī)制模塊，自動篩選每個任務(wù)所需特征。同時，為平衡不同任務(wù)學(xué)習(xí)進(jìn)度，避免欠/過擬合現(xiàn)象的發(fā)生，提出一種自適應(yīng)損失權(quán)重算法，動態(tài)調(diào)整每個任務(wù)的損失權(quán)重。在CWRU數(shù)據(jù)集和PU數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，本文所提方法均展現(xiàn)出較高的識別準(zhǔn)確率、良好的收斂速度和穩(wěn)定性，同時擁有出色的泛化能力。此外，本文模型還具有優(yōu)秀的可擴(kuò)展性，可根據(jù)需求調(diào)整任務(wù)分支個數(shù)。然而，在實(shí)際的工業(yè)環(huán)境下，旋轉(zhuǎn)機(jī)械的速度和負(fù)載處于連續(xù)變化狀態(tài)，而本文使用的是離散的速度和負(fù)載。因此，下一步工作將對上述問題進(jìn)行深入研究。

參考文獻(xiàn)

宋向金， 趙文祥. 交流電機(jī)信號特征分析的滾動軸承故障診斷方法綜述[J]. 中國電機(jī)工程學(xué)報， 2022， 42（4）： 1582.

SONG Xiangjin， ZHAO Wenxiang. A review of rolling bearing fault diagnosis approaches using AC motor signature analysis[J].Proceedings of the CSEE， 2022， 42（4）： 1582.

PAN Z， MENG Z， CHEN Z， et al. A two-stage method based on extreme learning machine for predicting the remaining useful life of rolling-element bearings[J]. Mechanical Systems and Signal Processing， 2020， 144： 106899.

XUE H， WU M， ZHANG Z， et al. Intelligent diagnosis of mechanical faults of in-wheel motor based on improved artificial hydrocarbon networks[J]. ISA Transactions， 2022， 120： 360.

GAO Z， CECATI C， DING S X. A survey of fault diagnosis and fault-tolerant techniques—Part I： Fault diagnosis with model-based and signal-based approaches[J]. IEEE Transactions on Industrial Electronics， 2015， 62（6）： 3757.

JIN X， ZHAO M， CHOW T W S， et al. Motor bearing fault diagnosis using trace ratio linear discriminant analysis[J]. IEEE Transactions on Industrial Electronics， 2013， 61（5）： 2441.

LEI Y， LIN J， HE Z， et al. A review on empirical mode decomposition in fault diagnosis of rotating machinery[J]. Mechanical Systems and Signal Processing， 2013， 35（1-2）： 108.

夏志凌， 胡凱波， 劉心悅， 等. 基于變模態(tài)分解的異步電機(jī)轉(zhuǎn)子斷條故障診斷[J]. 電工技術(shù)學(xué)報， 2023， 38（08）： 2048.

XIA Zhiling， HU Kaibo， LIU Xinyue， et al. Fault diagnosis of rotor broken bar in induction motor based on variable mode decomposition[J]. Transactions of China Electrotechnical Society， 2023， 38（08）： 2048.

LAU E C C， NGAN H W. Detection of motor bearing outer raceway defect by wavelet packet transformed motor current signature analysis[J]. IEEE Transactions on Instrumentation and Measurement， 2010， 59（10）： 2683.

CHENG F， WANG J， QU L， et al. Rotor-current-based fault diagnosis for DFIG wind turbine drivetrain gearboxes using frequency analysis and a deep classifier[J]. IEEE Transactions on Industry Applications， 2017， 54（2）： 1062.

余印振， 韓哲哲， 許傳龍. 基于深度卷積神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的NOx濃度預(yù)測[J]. 中國電機(jī)工程學(xué)報， 2022， 42（01）： 238.

YU Yinzhen， HAN Zhezhe， XU Chuanlong. NOx concentration prediction based on deep convolution neural network and support vector machine[J]. Proceeding of the CSEE， 2022， 42（01）： 238.

LI C， SANCHEZ R V， ZURITA G， et al. Gearbox fault diagnosis based on deep random forest fusion of acoustic and vibratory signals[J]. Mechanical Systems and Signal Processing， 2016， 76： 283.

李兵， 韓睿， 何怡剛， 等. 改進(jìn)隨機(jī)森林算法在電機(jī)軸承故障診斷中的應(yīng)用[J]. 中國電機(jī)工程學(xué)報， 2020， 40（4）： 1310.

LI Bing， HAN Rui， HE Yigang， et al. Applications of the improved random forest algorithm in fault diagnosis of motor bearings[J]. Proceeding of the CSEE， 2020， 40（4）： 1310.

WAQAR T， DEMETGUL M. Thermal analysis MLP neural network based fault diagnosis on worm gears[J]. Measurement， 2016， 86： 56.

ZHAO R， YAN R， CHEN Z， et al. Deep learning and its applications to machine health monitoring[J]. Mechanical Systems and Signal Processing， 2019， 115： 213.

XING Z， ZHAO R， WU Y， et al. Intelligent fault diagnosis of rolling bearing based on novel CNN model considering data imbalance[J]. Applied Intelligence， 2022： 1.

DIBAJ A， ETTEFAGH M M， HASSANNEJAD R， et al. A hybrid fine-tuned VMD and CNN scheme for untrained compound fault diagnosis of rotating machinery with unequal-severity faults[J]. Expert Systems with Applications， 2021， 167： 114094.

王正英， 胥永剛， 李強(qiáng)， 等. 機(jī)械振動信號內(nèi)在模式的復(fù)雜性評估[J]. 振動與沖擊， 2009， 28（1）： 81.

WANG Zhengying， XU Yonggang， LI Qiang， et al. Empirical mode decomposition and complexity measurement of mechanical vibration signals[J]. Journal of Vibration and Shock， 2009， 28（1）： 81.

JIANG G， HE H， YAN J， et al. Multiscale convolutional neural networks for fault diagnosis of wind turbine gearbox[J]. IEEE Transactions on Industrial Electronics， 2018， 66（4）： 3196.

王妮妮， 馬萍， 張宏立等. 基于多尺度深度卷積網(wǎng)絡(luò)特征融合的滾動軸承故障診斷[J]. 太陽能學(xué)報， 2022， 43（04）： 351.

WANG Nini， MA Ping， ZHANG Hongli， et al. Fault diagnosis of rolling bearing based on feature fusion of multi-scale deep convolutional network[J]. Acta Energiae Solaris Sinica， 2022， 43（4）： 351.

丁雪， 鄧艾東， 李晶， 等. 基于多尺度和注意力機(jī)制的滾動軸承故障診斷[J]. 東南大學(xué)學(xué)報（自然科學(xué)版）， 2022， 52（1）： 172.

DING Xue， DENG Aidong， LI Jing， et al. Fault diagnosis of rolling bearing based on multi-scale and attention mechanism[J]. Journal of Southeast University（Natural Science Edition）， 2022， 52（1）： 172.

康玉祥， 陳果， 尉詢楷， 等. 基于殘差網(wǎng)絡(luò)的航空發(fā)動機(jī)滾動軸承故障多任務(wù)診斷方法[J]. 振動與沖擊， 2022， 41（16）： 285.

KANG Yuxiang， CHEN Guo， WEI Xunkai， et al. A multi-task fault diagnosis method of rolling bearings based on the residual network[J]. Journal of Vibration and Shock， 2022， 41（16）： 285.

SMITH W A， RANDALL R B. Rolling element bearing diagnostics using the Case Western Reserve University data： A benchmark study[J]. Mechanical Systems and Signal Processing， 2015， 64： 100.

LESSMEIER C， KIMOTHO J K， ZIMMER D， et al. Condition monitoring of bearing damage in electromechanical drive systems by using motor current signals of electric motors： A benchmark data set for data-driven classification[C]//PHM Society European Conference， October 3-6， 2016， Denver， Colorado. 2016：1-17.

GAO H， CHENG B， WANG J， et al. Object classification using CNN-based fusion of vision and LIDAR in autonomous vehicle environment[J]. IEEE Transactions on Industrial Informatics， 2018， 14（9）： 4224.

SANTOS C D， GATTI M. Deep convolutional neural networks for sentiment analysis of short texts[C]//Proceedings of the 25th International Conference on Computational Linguistics， August 23-29， 2014， Dublin， Ireland. 2014： 69-78.

NIU G， LIU E， WANG X， et al. Enhanced discriminate feature learning deep residual CNN for multitask bearing fault diagnosis with information fusion[J]. IEEE Transactions on Industrial Informatics， 2022， 19（1）： 762.

肖建平， 朱永利， 張翼， 等. 基于增量學(xué)習(xí)的變壓器局部放電模式識別[J]. 電機(jī)與控制學(xué)報， 2023， 27（02）： 9.

XIAO Jianping， ZHU Yongli， ZHANG Yi， et al. Transformer partial discharge pattern recognition based on incremental learning[J]. Electric Machines and Control， 2023， 27（02）： 9.

宋向金， 孫文舉， 劉國海， 等. 深度子領(lǐng)域自適應(yīng)網(wǎng)絡(luò)電機(jī)滾動軸承跨工況故障診斷[J]. 電工技術(shù)學(xué)報， 2024， 39（01）： 182.

SONG Xiangjin， SUN Wenju， LIU Guohai， et al. Across working conditions fault diagnosis for motor rolling bearing based on deep subdomain adaption network[J]. Transactions of China Electrotechnical Society， 2024， 39（01）： 182.

金亮， 楊柳， 王艷陽. 基于特征遷移的永磁同步電機(jī)性能預(yù)測[J]. 電機(jī)與控制學(xué)報， 2022， 26（03）： 117.

JIN Liang， YANG Liu， WANG Yanyang. Performance prediction of permanent magnet synchronous motors based on feature transfer[J]. Electric Machines and Control， 2022， 26（03）： 117.

ZHAO Ting， WU Xiangqian. Pyramid feature attention network for saliency detection[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition， June 15-20， 2019， Long Beach， CA， USA. 2019： 3085-3094.

ZHANG W， PENG G， LI C， et al. A new deep learning model for fault diagnosis with good anti-noise and domain adaptation ability on raw vibration signals[J]. Sensors， 2017， 17（2）： 425.

ZHANG W， LI X， DING Q. Deep residual learning-based fault diagnosis method for rotating machinery[J]. ISA Transactions， 2019， 95： 295.

（編輯：劉素菊）