基于深度寬卷積殘差收縮網絡的球磨機負荷狀態診斷

高云鵬 ，孟雪晴 ，張其旺 ，王慶凱 ，楊佳偉 ，董一隆

（1.湖南大學 電氣與信息工程學院，湖南 長沙 410082；2.礦冶過程自動控制技術國家重點實驗室，北京 100160；3.礦冶過程自動控制技術北京市重點實驗室，北京 100160）

球磨機作為選礦過程中的關鍵機械設備，具有十分重要的地位［1］，其運行效率對選礦廠的生產水平具有直接影響［2］.球磨機負荷表示磨機瞬時總負荷，即磨機筒體內鋼球、礦和水等物料的總和.理想磨機負荷對設備和系統的生產效率與耗能直接產生積極的影響，而過負荷將導致磨機出口粒度變粗、堵塞、漲肚和生產過程中斷等問題，欠負荷會產生電能浪費，增加鋼材消耗，破壞磨機設備，嚴重情況下會使磨機處于或接近空砸狀態［3］.因此，準確診斷球磨機負荷狀態，及時指導操作控制對提高選礦廠效率和保障安全生產具有重要價值與意義.

在選礦廠實際生產過程中，球磨機運行的時變性、非線性和隨機干擾大等特點導致磨機負荷狀態難以識別［4］.為此，近年來國內外專家展開一定研究.由于工業環境和技術手段的限制，現有如磨音法、軸承振動信號分析法、功率法等方法測量結果不可靠，而基于磨機筒體振動信號的檢測方法以其靈敏度高、抗干擾性強的優點被廣泛應用［5］.文獻［6］通過信號分析建立基于PCA 和最小二乘支持向量機的磨機負荷測量模型.文獻［7］通過EWT 分解振動信號，利用相關性分析技術選取敏感模態分量信號重構，計算細化復合多尺度彌散熵（RCMDE）實現特征提取，并建立FVM-SVM 預測模型來判斷磨機負荷狀態.文獻［8］采用自適應VMD 分解技術，自卷積窗結合能量重心法的功率譜估計進行信號特征提取，通過SVM 進行916 負荷狀態識別.上述方法均通過提取信號主成分，基于特征提取和機器學習方法獲取磨機負荷狀態，但該類分析方法仍存在信號分解不完整、有效信息易丟失、檢測精度低、依賴專家經驗且診斷耗時較長等缺點.

針對上述方法存在的問題，采用自學習能力的方法，因其能自主學習信號內部特征，可避免主成分提取或信號分解重構過程中丟失信息.文獻［9］基于流形正則化域適應隨機權神經網絡模型，解決不同工況條件下模型訓練穩定性問題，提高檢測精度.文獻［10］提出基于CNN-ELM 的負荷檢測方法，將CNN 算法提取的高層次抽象特征移至ELM 構建測量模型，其特征提取優于傳統PCA 和PLS 等方法.然而，傳統網絡模型參數優化困難，且球磨機在強背景噪聲下運轉，筒體振動信號易受噪聲干擾，使用局部特征提取器可能無法檢測負荷相關特征，導致輸出層高級特征沒有足夠的分辨力，從而難以識別高代表性的特征，模型檢測準確度有待進一步提高.

本文針對球磨機負荷狀態特征提取困難、診斷準確度低的問題，結合領域專家研究經驗，以原始筒體振動信號為依據，建立深度寬卷積殘差收縮網絡（Deep Wide Residual Shrinkage Networks，DWRSNs）負荷狀態診斷方法，并融合卷積神經網絡、殘差網絡、軟閾值函數和注意力機制，加強DWRSNs面對負荷特征的學習能力，去除與狀態判別無關的特征，強化細節特征.為提高網絡泛化能力、防止過擬合，通過數據增強和降采樣方式進行數據預處理，在網絡訓練中采用批量歸一化（Batch Normalization，BN）和損失函數正則化進一步提高模型泛化能力.最后，通過仿真試驗和工業實例驗證本文構建方法的準確性和有效性.

1 深度殘差收縮網絡

1.1 殘差網絡

為滿足不同研究領域的需求，卷積神經網絡深度不斷增加，在一定深度范圍內模型性能與網絡深度呈正相關，但當網絡層數增加到一定數目之后繼續增加則會造成訓練精度與測試精度下降，模型性能變差［11］，該現象被稱為網絡退化.He 等［12］在卷積神經網絡中引入恒等映射設計深度殘差網絡（Deep Residual Network），可有效緩解網絡深度增加引起的梯度爆炸和網絡退化問題，減小卷積神經網絡的訓練難度，提升網絡的準確率.

殘差網絡由基本的殘差塊組成，如圖1 所示，一個基本殘差塊分為映射部分和殘差部分，即為：

式中：xl指直接映射，即圖1 中identity 部分；Wl指殘差單元的權重參數；F（xl，Wl）指殘差函數，由兩到三個卷積操作組成.由式（1）可知，殘差塊中恒等映射添加到殘差函數輸出，沒有增加額外參數和計算復雜度.

圖1 殘差塊Fig.1 Residual block

1.2 深度殘差網絡

為提高噪聲下振動信號特征提取的能力，Zhao等［13］首次提出深度殘差收縮網絡（Deep Residual Shrinkage Networks，DRSNs），其在深層結構中插入軟閾值作為非線性變換層，以消除不重要的特征.通過加入注意力機制，一方面可自動學習閾值，另一方面將學習得到的特征進行變換以消除噪聲影響.

軟閾值化為信號降噪的核心步驟，其通過將絕對值低于某個閾值的特征置零，將其余特征趨于零收縮，該軟閾值函數可表示為：

式中：y表示輸出特征；x表示輸入特征；xthr指閾值.根據式（2）可得軟閾值函數的導數：

由式（3）可知，軟閾值函數的導數為0 或1，可有效防止梯度消失或梯度爆炸等問題，因此，軟閾值函數可作為神經網絡的激活函數.但閾值設置往往存在較大難度，準確性無法保證，因此引入注意力機制自動學習閾值，將從關注全部轉換為關注重點.該機制類似于人腦的資源分類策略，為快速獲得關鍵信息，通常將注意力集中在重要部分.根據注意力分配和可微性問題，注意力機制可分為硬注意力和軟注意力，硬注意力機制可看作0/1 問題，即某個區域只有重要和不重要兩種可能性，而軟注意力是可微的，其以［0，1］區間的數值表示某個區域的重要性［14］.上述注意力機制工作主要分為兩步：通過全局掃描，發現局部有用信息；通過子網絡自動學習一組權重，對輸入特征各通道進行加權以增強有用信息并抑制冗余信息.

具有信道明智閾值的深度殘差收縮網絡的基本模塊（RSBU-CW）如圖2 所示，圖2 中C×W×1 中C、W、1 分別指特征映射的通道數量、寬度和高度.RSBU-CW 對特征映射的每個通道均應用單獨閾值，利用絕對運算和全局平均池化（Global Average Pool?ing，GAP）將特征映射x簡化為一維向量，傳播至兩層全連接網絡（FC），該FC網絡中的第二層有多個神經元，其數量等于輸入特征映射的通道數量，FC 網絡的輸出被縮放到［0，1］的范圍，其縮放式為：

圖2 RSBU-CW 基本模塊Fig.2 RSBU-CW block

式中：zc為第c個神經元的輸出；αc為第c個縮放參數.通過將縮放參數與經過絕對運算和GAP處理后所得一維向量相乘，可計算閾值如下：

式中：τc為特征圖譜中第c個通道的閾值；i、j、c分別為特征映射x的寬度、高度、通道的索引.軟閾值化后的輸出特征與直接映射特征相加即為最終輸出特征.

上述即為一個殘差收縮網絡基本模塊的工作過程，由多個基本模塊開發的DRSN-CW 即為深度殘差收縮網絡基本模型.

2 基于DWRSNs的磨機負荷狀態診斷

2.1 數據增強

數據增強技術能夠在不實質性增加數據的情況下，讓有限數據產生等價于更多數據的價值.深度學習網絡模型中的數據量直接影響模型的泛化能力和穩定性，通過數據增強可提高模型性能且能防止過擬合［15］.

由此本文在原振動信號基礎上添加隨機噪聲，增加數據樣本量，并通過降采樣的方式降低信號采樣率，在保證測量精度的前提下減少模型復雜度和參數量.

2.2 DWRSNs網絡構建

根據1.2節所述殘差收縮網絡原理，基于球磨機筒體振動信號特點建立DWRSNs 模型，其第一層設計寬卷積神經網絡，以獲取更大感受野，增強對狀態信息的感知能力，有效提取振動信號短時特征，提升網絡性能.

2.2.1 寬卷積神經網絡構建

本文在第一層卷積神經網絡中設置寬卷積核，可提高短時特征提取能力，增強網絡性能，建立準則為感受野，即為一個神經元在下層網絡中的感知范圍.本文選取單周期振動信號進行負荷狀態診斷，因此以最后一個池化層在輸入信號中的感受范圍R（0）=T為設計準則.其中，第l個池化層感受野與第l-1個池化層感受野之間有如下關系：

式中：R（l-1）和R（l）分別為第l-1 和第l個池化層感受野；S（l）和W（l）分別表示第l個卷積層的步長和卷積核寬度；P（l）表示第l個池化層降采樣點的個數.當l大于1 時，有S（l）=1，W（l）=3，P（l）=2，因此，式（6）可簡化為：

當l=n時，R（n）=1，輸入層感受野可表示為：

式中：n為卷積層個數.由卷積神經網絡原理，S（1）需滿足可被信號長度整除，本文信號長度為T，因此，構建準則最終化為：

基于該構建準則和數據特點，通過計算可獲取寬卷積層步長的合理數值，考慮到該數值與2 的冪次關系，取該數值相鄰的2 的冪次值分別實驗，根據實驗效果取最優.

2.2.2 網絡參數設置

為使反向傳播算法更有效地進行網絡訓練，模型在卷積層后添加BN 層，其主要操作步驟類似一種標準化操作.實踐證明，BN 層網絡通過更新權值和偏置實現收斂，可減少數據發散程度，降低網絡學習難度，具有解決內部協變量轉移和加速訓練的優勢.

首先將一組數據B=｛x1，x2，…，xm｝輸入網絡，通過式（10）和式（11）求取數據平均值和方差，即：

對數據歸一化處理：

式中：ε為保證數值穩定的常數項.

通過添加縮放與偏置計算輸入筒體振動信號特征的歸一化結果：

式中：γ、β分別表示BN 層縮放與偏置，為可訓練參數.

本文建立的DWRSNs 模型架構如圖3 所示，其網絡中包含三個殘差收縮模塊，RS-block1 和RSblock2 包含三個卷積塊，依據寬卷積神經網絡基于感受野的設計準則，針對式（9）中表征卷積層個數的變量n多次取值，基于不同值對診斷方法和結果的影響程度，將RS-block3 設為兩個卷積塊，以獲取最佳的球磨機負荷狀態診斷結果.本文采用Adam 優化算法動態調整每個參數的學習率，為提高模型表達能力，在配置其他超參數時需根據訓練數據逐步調整.網絡各個參數如表1所示.

表1 網絡參數詳情Tab.1 Details of network parameters

圖3 DWRSNs網絡結構Fig.3 The structure of DWRSNs

寬卷積神經網絡和深度殘差收縮網絡提取的特征，經全局平均池化后輸入全連接層和Softmax 分類器，實現負荷狀態診斷.全連接層將權重矩陣與輸入向量相乘后添加偏置，即：

式中：wj為第j類特征的權重，即每維特征的重要程度.通過特征加權求和獲取每個類別的分數，經過Softmax層映射為概率，可得：

式中：K為類別個數；zj為全連接層輸出所得第j類的分數.通過分類器將全連接層的輸入映射到［0，1］之間，獲取樣本屬于各負荷狀態的概率，取最大概率為最終診斷結果，將該結果與one-hot 標簽設定準則對比來獲取磨機負荷狀態.

3 實驗與分析

3.1 實驗平臺與評價指標

本文基于球磨機筒體振動信號進行負荷狀態診斷，預測診斷結果混淆矩陣如表2 所示.實驗環境基于Windows10 操作系統，運行于Intel（R）Core（TM）i5-6198DU CPU@ 2.30GHz，4G 內存的PC，實驗編程語言為Python3.7，在深度學習框架Keras 2.3.1 中實現.

表2 負荷狀態診斷結果混淆矩陣Tab.2 Confusion matrix of load state diagnostic result

為全面評價本文提出的基于DWRSNs 的球磨機負荷狀態診斷方法性能，驗證其對負荷狀態診斷的有效性，分別通過準確性、查準率、召回率以及F1值等標準進行方法性能評估，不同評估標準的含義和計算方法分別如下.

準確性（Accuracy）：所有負荷狀態正確診斷的樣本數量占樣本總數的比例，其計算式為：

查準率（Precision）：診斷正確的某狀態負荷數據占診斷為此狀態數據的比例，以欠負荷（0）為例，其計算式為：

召回率（Recall）：所有真實標簽為此負荷狀態類別的樣本中，預測正確的比例，以欠負荷狀態為例，計算式為：

F1值（F1score）：調和平均值，其計算式為：

3.2 實例分析

為驗證本文提出的基于DWRSNs 負荷狀態診斷方法的準確性，采用山東黃金集團焦家金礦選礦廠磨浮車間的溢流型球磨機（MQYΦ 5.5 m×8.5 m）現場正常運行一個月的筒體振動信號運行數據進行工程實驗驗證.數據包含欠負荷、理想負荷、過負荷等三種狀態的振動信號，經過下采樣處理，每個信號長度為32 800，經加噪處理后，共有樣本1 800 組，三種狀態樣本量均等，不同負荷狀態去直流振動信號如圖4所示.

由圖4 可知，不同負荷狀態下的振動信號皆為紡錘形，表現為兩頭小、中間大，因為此時加速度傳感器正處于筒體最下方的襯板上，球磨機內部物料拋落到該襯板產生較大加速度.在選礦工業現場，球磨機筒體振動信號易受噪聲干擾，本文提出方法中DRSN-CW 模塊對高噪聲振動信號短時特征學習能力較強，基于此方法進行球磨機負荷狀態診斷實驗，通過TSNE 對測試集原始數據和由DWRSNs 模型提取的高級特征進行可視化，保證低維空間中樣本分布在其他樣本周圍的概率逼近在高維空間中的分布概率，其結果如圖5所示.

圖4 不同負荷狀態球磨機筒體振動信號分析Fig.4 Vibration signal analysis of ball mill barrel under different load states

圖5 為基于TSNE 原始數據和DWRSNs 提取的特征，數據映射至二維平面分別設為P1軸、P2軸，則數據降維后映射成的二維平面坐標可描述為（P1，P2）.圖5（a）為原始數據映射至二維平面的散點圖分布，可見不同負荷狀態的振動信號樣本重疊嚴重，原始信號的可分辨性較差.圖5（b）為DWRSNs最終提取的100 個特征降至二維的可視化結果，可知同一狀態的信號基本集中在一個簇中，且不同簇間距離較遠，分界明顯.由此表明，本文提出的基于DWRSNs 的球磨機負荷狀態診斷方法具有良好的特征學習和自動提取特征能力.

圖5 基于TSNE原始數據和DWRSNs提取的特征Fig.5 Visualizations of raw input data and features extracted by DWRSNs based on TSNE

基于本文提出方法進行球磨機負荷狀態診斷，三種不同狀態測試集樣本診斷結果混淆矩陣如圖6所示.該圖中0代表欠負荷狀態，1和2分別代表理想負荷和過負荷狀態.由圖6 可知，三種不同負荷狀態測試集共360 組，僅有過負荷狀態一個樣本被錯誤識別，最終測試集數據診斷準確度達99.7%，交叉熵損失為0.077 2.

圖6 測試集檢測結果混淆矩陣Fig.6 Detection result confusion matrix of test samples

不同負荷狀態診斷結果的查準率和召回率矩陣如圖7 所示.由圖7（a）可知，欠負荷和過負荷兩種狀態下查準率為1，理想負荷狀態下查準率為0.99；由圖7（b）可知，欠負荷和理想負荷狀態召回率為1，過負荷狀態下召回率為0.99.可見本文提出方法不僅總體準確度較高，且各種類別的查準率和召回率指標較好，表明了本文方法的準確性和有效性.

圖7 不同負荷狀態診斷查準率和召回率混淆矩陣Fig.7 Precision and recall confusion matrix of different load states

3.3 現有方法比較

為驗證本文提出的基于DWRSNs 的球磨機負荷狀態診斷方法的先進性，通過設計對比試驗將本文方法與深度卷積神經網絡（Deep Convolutional Neu?ral Networks，DCNN）、殘差網絡（Residual Networks，ResNets）和深度殘差收縮網絡（Deep Residual Shrinkage Networks，DRSNs）進行比較與分析.所有診斷方法Epochs 設置為100，不同診斷方法在訓練時驗證集準確度和交叉熵損失如圖8所示.

圖8 不同模型訓練過程中驗證集準確度和損失Fig.8 The accuracy and loss of validation during training of different models

由圖8可知，本文提出方法經12次迭代后收斂，而DCNN 在20 次迭代后收斂，與DRSNs 相比，DWRSNs 的準確率明顯提高且損失更小，在訓練能力快速增長階段，ResNets 準確度增加、損失減小，但整體曲線波動較大，穩定性較差，由DWRSNs valid loss 曲線可見，該網絡一直處于學習狀態，穩定性較好，學習能力更強.由此可見，DWRSNs 方法整體相較于其余三種方法準確度更高、損失更小、收斂更快，具有更優的表達能力和擬合能力.

基于建立診斷方法展開對比試驗，所得測試集故障診斷結果和不同故障狀態診斷查準率、召回率和F1值分別如表3和表4所示.

表3 不同方法測試集的準確率和損失Tab.3 Accuracy and loss of test samples in different models

表4 不同負荷狀態在4種模型中的測試結果Tab.4 Test results of different load states in four models

由表3和4可知，本文提出方法在測試集上的準確性和交叉熵損失相比其余三種方法有較大提升，對于每種球磨機負荷狀態，基于本文提出方法獲得的查準率、召回率和F1值3 項評價指標相比其余方法更優，證明了本文方法對于噪聲大和頻率成分較復雜的球磨機筒體振動信號具有更強的識別和分辨能力.

同時，為進一步證明本文提出方法的先進性，將本文方法和ResNets、DRSNs、DCNN 及基于頻譜分析、改進功率譜與多尺度模糊熵的負荷狀態診斷方法相比較，其對比結果如表5所示.

由表5 可知，基于頻譜分析的KPCA-EM_ELM診斷方法準確率為84.7%，AVMD-改進功率譜-GA_BP 和CEEMDAN-多尺度模糊熵-ISRNN 兩種負荷狀態診斷方法測試集準確率分別為90.0%和93.3%，且上述方法信號診斷平均耗時在60 s 以上，相比本文提出方法準確率較低、耗時較長.此外，本文提出方法相較于ResNets、DRSNs、DCNN 三種深度學習方法，需較少迭代次數即可收斂，達到穩定效果，診斷準確率達99.7%，可為工業現場提供更及時、更準確的磨機負荷狀態診斷.

表5 本文方法與現有診斷方法測試對比Tab.5 Comparison among the proposed method with the existing diagnostic methods

4 球磨機負荷狀態診斷系統

基于本文提出的DWRSNs 球磨機負荷狀態診斷方法，構建球磨機負荷狀態診斷系統的結構框圖如圖9 所示.系統由安裝于球磨機筒體的加速度傳感器采集振動信號，以無線方式發送至地面接收處理部分，完成信號的解碼和分析，通過NI 公司的myDAQ 采集與傳輸，并基于本文提出方法開發負荷狀態診斷軟件系統.

圖9 球磨機負荷診斷系統結構框圖Fig.9 Structure block diagram of ball mill load diagnosis system

將本文提出的球磨機負荷狀態診斷方法融入上位機系統，系統管理界面如圖10 所示，該系統管理界面可實現在線監測、數據解析和存儲、負荷狀態診斷、離線分析、用戶管理等功能.如圖10 所示，上位機系統可顯示輸入的球磨機筒體振動信號波形和數據，并基于系統中的DWRSNs 診斷方法實現負荷狀態判別，基于本系統對球磨機筒體信號的實際診斷分析結果如表6所示.

圖10 球磨機負荷狀態診斷系統識別界面Fig.10 The identification interface of ball mill load state diagnosis system

由表6 可見，負荷狀態診斷分為欠負荷、理想負荷和過負荷三種，在該系統中進行實例樣本診斷，僅有一個過負荷樣本被識別為理想負荷，欠負荷與理想負荷樣本的診斷識別率達100%.本文開發的球磨機負荷狀態診斷系統識別準確率高，可為磨礦生產操作提供可靠、有效的指導.

表6 系統實際診斷分析結果Tab.6 The actual diagnosis and analysis results of system

5 結論

針對磨礦工業過程中球磨機負荷狀態難以準確判斷的問題，本文提出了基于深度寬卷積殘差收縮網絡的球磨機負荷狀態診斷方法.實測分析結果表明：寬卷積核神經網絡具有較強的短時特征提取能力，有效提高了網絡性能；注意力機制和軟閾值化可強化重要特征，構建了具有人腦功能的特征提取方法，顯著提高了模型的特征提取和選擇能力.建立了基于磨礦過程球磨機負荷狀態診斷系統，實現了筒體振動信號監測、信號解析、數據存儲、負荷狀態診斷以及統計分析等功能.本文提出的球磨機負荷狀態診斷方法具有較強的學習能力、擬合能力和較快的收斂速度，且相比現有方法提高了診斷準確率、減少了診斷所需時間，可為磨礦效率提高和過程優化控制提供準確、可靠的判據.