一種基于二維卷積神經網絡的舵機故障檢測方法*

鄒倩倩 楊瑞峰 郭晨霞

1. 中北大學儀器與電子學院，太原 030051 2.山西省自動化檢測裝備與系統工程技術研究中心，太原 030051

0 引言

舵系統主要應用于航空航天，軍事，船舶和自動駕駛等領域，它是一種位置伺服系統，接收來自飛行控制系統的控制信號，驅動方向舵的偏轉，進而控制飛行的姿態和軌跡[1]。舵系統在制導設備和相關領域中有不可或缺的主導地位，由于舵系統的長時間高負荷運轉，一旦發生故障，就會發生難以估計的損失，為避免造成嚴重后果，需要時刻關心系統的運行情況，監測設備運行并采集數據進行故障診斷。

文獻[2]利用決策樹和隨機森林等實現了舵機的故障定位。文獻[3]通過SVM實現了對不平衡數據的故障診斷；文獻[4]提出了混合粒子群果蠅優化BP算法，實現了舵系統的故障診斷和定位查詢。

隨著計算機技術不斷發展，深度學習由于其出色的識別能力為故障診斷提供了新思路，并逐漸成為故障檢測的主要工具[5]。卷積神經網絡作為深度學習中研究最充分的方法，其模型被廣泛的應用到各種場景中[6]。對比傳統的故障診斷方法，基于深度學習的故障診斷表現出了更為良好的準確度和適應性。文獻[7]將粒子群和深度學習相結合進行故障診斷，得到滿意的診斷結果；文獻[8]將VGG16卷積神經網絡模型應用于故障診斷領域，在不同狀態和多分類任務中保持了良好的算法性能；文獻[9]構建了基于卷積神經網絡HPSOGWO-CNN 模型，解決了舵機故障測試數據中的小樣本數據不均衡的問題。文獻[10]利用粒子群優化算法確定卷積神經網絡的超參數選取問題，該方法具備良好的普適性。顯然，CNN已經成為深度學習中常用的智能診斷方法之一[11]。

雖然傳統的一維卷積神經網絡(1D-CNN)已被廣泛應用在故障診斷中，但在相同的卷積條件下，卷積神經網絡更容易從高維數據中提取特征，一維卷積神經網絡相較于二維卷積神經網絡(2D-CNN)獲得的感受野較小，存在特征提取不充分、訓練過程中容易出現過擬合的問題。文獻[12]提出一種基于2D-CNN的識別語音情緒的方法，并和1D-CNN進行比較，得到優于傳統1D-CNN的識別分類結果；文獻[13]將一維信號轉化為矩陣形式的二維輸入信號，并對二維卷積神經網絡提取的數據特征進行故障診斷和分類，實現了不同情況下的故障識別。從上述研究中發現，相對于訓練一維數據，CNN在處理二維數據中展現出了更好的性能，更適合處理二維數據。

本文提出一種基于2D-CNN舵機故障診斷模型的方法，將一維數據轉化為二維數組作為輸入，并設計了局部學習特征模塊(Feature-learning module)，簡稱為FM，FM架構中包含一個卷積層，一個批量標準化層，和一個Re LU激活函數。通過對比模型中所含FM的個數，確定最優的網絡結構。本實驗中所提出的2D-CNN模型包含5個FM架構，1個最大池化層，1個全連接層和1個失活層。

1 理論背景

1.1 基本原理

不同于圖像深度學習中的卷積神經網絡，在舵機設備的故障診斷中輸入數據的信息分布更為稠密，根據數據量的差別，在實際可行性上對降維過程有較少的依賴，但由于不確定輸入對于輸出的貢獻程度，全局感受野往往占據更為重要的地位。

一維卷積神經網絡可以實現故障模式識別中的特征提取與特征選擇，并對結果進行分類，但是一維卷積神經網絡針對不同的應用場景需配置不同的深度以滿足全局感受野，且能滿足全局感受野的最低深度和輸入的維度是正相關的，這也意味著在嚴苛的硬件條件下對于不同的故障診斷過程需要不同的深度。啟發于三維卷積神經網絡在視頻理解過程中將時序作為一個單獨的維度引入，提出了升維后的二維卷積神經網絡，二維卷積神經網絡提供了另一種溝通空間信息的方法，我們注意到并列排布進行升維對于擴大感受野的貢獻有限，所以尋找一種最大程度增加感受野的排布方式顯得十分重要，經過重重實驗，我們決定使用對稱排布的數據進行合并，組成新的二維特征數據圖，經過試驗，2D-CNN在參數量和計算量與1D-CNN幾乎相同的情況下獲得了性能提升。

1.2 二維卷積神經網絡

提出的二維卷積神經網絡模型，首先將一維舵機數據12×1升級為12×2的形式。如圖1所示，將12維原始數據按照分組重新排列，將每組數據首尾拼接起來作為一個12×2的矩陣，讓數據首尾兼顧，讓原本相距較遠的兩個參數對結果產生影響，打破了提取數據空間的局部性，使每一層的感受野不再局限于相鄰的數據，使特征提取具有全局性，卷積層的1d卷積核升級為2d卷積核，實現了數據增強，增加了可學習參數，將隱藏層映射在更高維的空間，提取出更加抽象的信息，使提取數據深層次的特征更加全面。

卷積神經網絡由輸入層、卷積層、激活函數、最大池化層、全連接和輸出層組成。在卷積層中，卷積核通過步長移動進行特征提?。蛔畲蟪鼗瘜佑脕頊p少數據的空間尺寸并保存有用的特征，降低網絡計算的難度；全連接層把上一層的輸出數據特征結合變成全局特征，并通過Softmax分類得到最后的分類結果。

圖1 一維數據升級為二維數組

1.3 批量標準化(Batch Normalization)

在網絡訓練過程中，每一層的輸入受前一層參數的影響，隨著網絡的加深，網絡參數的微小變化累積被放大，即產生協變量偏移，為了減少內部協變量偏移，引入批量標準化。批量標準化(BN)層對每一個輸入神經元進行歸一化處理。

批量標準化對輸出的Batch的數據{x(1)，x(2)，…，x(k)}的批零歸一化操作如下所示。

E[x(k)]和Var[x(k)]為訓練數據集的期望和方差：

(1)

歸一化后x(k)引入參數γ(k)和β(k)，用來對標準化的數據進行縮放和平移：

(2)

式(1)和(2)為數據歸一化的過程，歸一化過程被用于每個網絡層，使得每一層的輸出數據呈正態分布，減少數據的發散程度，增加網絡的泛化能力，抑制參數在變化隨網絡加深而被放大的問題，避免了在調整參數時網絡出現震蕩不收斂的現象。

本實驗中用BN層代替池化層，可以簡化調參，加快訓練速度，抑制過擬合，穩定網絡。

2 實驗設計

2.1 實驗設置

實驗數據集包含19889組數據，每組數據集包含12種不同的舵機測試指標，包括零輸入響應、舵偏角、上升時間、下降時間、超調量、零輸入響、應遲滯特性、穩態誤差、加載帶寬、空載帶寬等。數據集被分為13種狀態：合格狀態(Q)和異常狀態(F1-F12)。實驗數據以8：2被分為訓練集和測試集，15872組數據為訓練集；4017組數據為測試集。實驗訓練一次選取的批量大小設置為512，迭代次數設為300次，Adam為優化算法。

2.2 不同網絡結構性能測試

該實驗中設計了一個局部特征學習模塊(Feature-learning module)，簡稱為FM。如圖2所示。該模塊包括一個卷積層、BN層和ReLU激活函數；在相同條件設置下，通過改變FM的數量確定最佳的網絡模型。FM3包含3個FM結構，FM4包含4個FM結構，FM5包含5個FM結構，FM6包含6個FM結構，通過多次實驗對比，FM3，FM4，FM5和FM6的平均準確度分別為0.9901，0.9924，0.9948和0.9913，如圖3所示，當FM的數量為5時，網絡表現得最好。由此可見，適當的增加網絡結構的數量，可以提高提取深層次特征的準確率，當FM模塊過多時，會增加訓練時間和訓練難度，準確率反而下降。

圖2 局部特征學習模塊FM

圖3 FM結構的準確度

2.3 學習率的選擇

在2D-CNN訓練過程中，為了確定保證網絡可以達到最好的狀態，學習率的選擇至關重要。以需要重復進行實驗，來確定最優數值。設置其他參數不變時，遞進地改變學習率的數值，實驗結果如表1所示，當學習率為0.05時，準確率最高，達到了0.9953。所以選取學習率0.05為最優值。

表1 不同學習率的準確度

2.4 2D-CNN故障診斷模型的構建

如表2所示，為了提取更深一層的特征，該模型的第1、2、3、4和5層為FM結構，批量大小為512，多次實驗對比確定每一層的卷積核個數分別為150、90、60、32和16；第6層為最大池化層，卷積核的大小為2×1，步長為2；第7層為全連接層，并以0.25的概率隨機失活，最后通過Softmax分類器分類，得到最后的13種分類結果：合格和12類故障，即舵機的故障診斷結果。

3 仿真校驗

3.1 評價指標

舵機的故障診斷實質上為數據的分類問題,本次實驗使用準確度(Accuracy)、精確度(Precision)、召回率(Recall)和F-score來評估該模型的分類性能：

(3)

(4)

(5)

(6)

TP代表真陽性；TN代表真陰性；FP代表假陰性；FN代表假陽性。

3.2 性能驗證

在網絡訓練的過程中，損失函數用來衡量模型的優劣，在網絡訓練中，iter代表了模型處理批量大小的數據，則512個iter代表了一次迭代，從圖4可以看出，數據在經過不斷迭代的過程中趨于穩定并收斂，證明該模型是可行的。

圖4 損失函數可視化

3.3 不同模型性能比較

為了對所提出的模型作出全面的性能評估，將該模型與不同的優化算法SVM，BP，KNN和1D-CNN進行評估和驗證，并對相應算法就準確度、精確度、召回率和F1分數進行比較，如表3所示，2D-CNN模型的準確率高達0.9953，精確度為0.9961，召回率為0.9977，F-score為0.9969。可以看出，所提出的2D-CNN模型相比于其他4種模型在舵機分類故障診斷中表現最佳。

實驗繪制了如表4所示的2D-CNN模型的混淆矩陣，從表3可知，Q，F1，F2，F4，F5，F8和F11的故障準確度分別為0.997、0.9875、0.9803、0.9771、0.9736、0.9813和0.9824；其余的故障分類準確度均達到了1。

表2 2D-CNN框架圖

表3 模型的性能評估

表4 2D-CNN的混淆矩陣

4 結論

對于舵機的故障診斷，提出了一種基于二維卷積神經網絡的舵機故障檢測，擴大感受野，提高了特征提取的效率。該模型與其他模型進行對比，其準確率高達0.9953，精確度為0.9961，召回率為0.9977，F-score為0.9969，均為最優。表明CNN在處理二維數據中表現優異，2D-CNN在舵機的故障診斷中效果良好，滿足了對舵機故障檢測的要求。