基于深度置信網絡的道岔故障智能診斷方法

摘要：傳統的道岔故障診斷方法往往依賴于復雜的信號處理過程以及豐富的專家經驗，需要對信號進行精確的分段，過程繁瑣，不利于現場使用。采用粒子群算法（PSO）優化的深度置信網絡（DBN）的方法，直接對道岔功率原始數據提取特征，利用受限玻爾茲曼機（RBM）逐層擬合數據特征同時實現對數據的降維。然后采用極限學習機（ELM）對故障進行分類，提高了診斷的速度。研究結果表明：與PSO優化的支持向量機（SVM）方法相比，準確率提升了4%，達到了96%，所用時間也大大減少。

關鍵詞：S700K轉轍機；DBN；特征提取；ELM；故障診斷

中圖分類號：U284" " " " " 文獻標志碼：A" " " 文章編號：1000-582X（2023）07-075-11

An intelligent diagnosis method of switch machine based on deep belief network

SI Yongbo， ZHANG Guorui， CHEN Guangwu， WEI Zongshou

（1. Automatic Control Research Institute， Lanzhou Jiaotong University， Lanzhou 730070， P. R. China; 2. Gansu Provincial Key Laboratory of Traffic Information Engineering and Control， Lanzhou 730070， P. R. China）

Abstract： The traditional fault diagnosis method often relies on the complex signal processing procedures and experts’ rich experience. It requires precise signal segmentation， which is a tedious process and is not conducive to the field use. In this paper， the deep belief network （DBN） method optimized by particle swarm optimization （PSO） is used to directly extract features from the original power data， and the restricted Boltzmann machine （RBM） is employed to fit the data features layer by layer， achieving the data dimension reduction at the same time. Then， extreme learning machine （ELM） is used to classify each state， thereby improving the diagnosis speed. The results show the accuracy reaches 96%， which is a 4% improvement， and the required time is significantly reduced， when compared to support vector machine （SVM） optimized by PSO.

Keywords： S700K switch machine; DBN; feature extraction; ELM; fault diagnosis

近年來，隨著中國高速鐵路的飛速發展，鐵路信號設備的狀態識別和智能故障診斷方法成為一項亟需解決的問題。S700K高速轉轍機作為基礎設備中最重要但故障頻率最高的設備，其狀態將直接影響鐵路運行安全和效率。

據統計，道岔轉換設備故障占信號設備故障總數的40%以上[1]。現有的故障診斷方法主要依靠工作人員觀察微機監測系統所采集的道岔動作電流或功率曲線來實現故障識別[2]，人為因素大，效率低。

目前國內外在道岔故障的診斷方面已經有了相應的研究。王瑞峰等[3]提出了一種基于灰色神經網絡的方法來對建立的故障樣本庫進行識別診斷。許慶陽等[4]提出了一種基于隱式馬爾科夫模型診斷方法，利用統計的方法提取道岔狀態的時域和值域特征，然后通過與不同狀態下建立的隱式馬爾可夫模型進行匹配診斷。張釘等[5]提出了一種基于小波分解的方法提取道岔功率信號的高頻和低頻特征，然后利用遺傳算法優化的BP神經網絡完成診斷。劉新發等[6]將提取到的時域特征建立故障的模糊相似矩陣，然后進行特征聚類，達到診斷的目的。鐘志旺等[7]通過提取故障文檔中的特征詞，利用支持向量機（support vector machine，SVM）對故障文檔進行故障分類。

故障診斷的關鍵在于特征提取，高質量的特征提取可以更好地擬合原始數據的特征。由以上研究可知，目前的道岔故障診斷普遍采用統計學、信號處理等方法來提取故障數據的特征，然后利用神經網絡、SVM、聚類等方法來診斷故障。這些方法通常存在以下問題：1）特征提取的過程往往比較繁瑣，要對道岔的運行周期分段提取特征，整個過程必須依賴于豐富的先驗知識；2）僅僅選取一些時域和值域等一些淺層統計特征不足以從本質上反映道岔的狀態，并且可能會遺漏重要的特征信息；3）提取的特征維數較高，仍然需要對提取的結果進行降維，增加了過程的復雜度；4）算法適應性差，針對不同類型或同一類型但不同應用場景的道岔設備，需要采用不同的方法有針對性的提取特征。

筆者采用了一種基于深度置信網絡（deep belief networks，DBN）的故障診斷方法，將傳統的人為設定特征參數的方式轉變為從原始數據中自動對道岔故障特征進行深度學習的方法。利用受限玻爾茲曼機（restricted Boltzmann machine，RBM）將原始數據逐層抽取成更深層次的機器特征，最大可能地擬合原始數據的特征，同時DBN利用其特殊的網絡結構實現了對原始數據的降維，實現特征提取與降維一體化。然后將自動提取的特征輸入極限學習機（extreme learning machine，ELM）進行分類，得出診斷結果。與傳統的神經網絡分類方法相比，ELM的速度和泛化性能更好，且不易陷入局部最優解，更適合用于對現場故障的分類。利用提出的PSO-DBN-ELM的方法診斷微機監測系統上采集的真實的故障數據，取得了良好的效果。

1 S700K轉轍機狀態分析

轉轍機的運行狀態可以通過其輸出的推拉力來體現，且推拉力與其工作功率直接相關[8]。因此通過分析功率曲線就可以判斷其工作狀態。

1.1 S700K轉轍機正常狀態分析

正常工作的S700K轉轍機的功率曲線如圖1所示。剛開始的啟動解鎖階段阻力較大，在0.15 s左右達到功率峰值。隨著道岔開始動作，功率快速下降并穩定在0.5～0.8 kW范圍內，之后進入鎖閉階段。正常狀態下，轉換和鎖閉階段運行相對平穩。鎖閉階段過后，功率值會逐漸的下降，進入表示階段，但是由于繼電器的緩放作用，不會立即下降至0 kW，大約在0.2 kW左右，表示電路給出表示后，功率下降為0。

1.2 S700K道岔故障狀態

從微機監測的數據以及故障日志中分析整理出S700K轉轍機8種常見的故障狀態，對應的功率曲線如圖2所示。

2 DBN網絡及訓練過程

2.1 DBN網絡概念

DBN[9]是一個包含多層隱含層的神經網絡模型。DBN的學習過程分為2步：第1步利用無監督學習，從原始數據中逐層提取特征；第2步借助監督學習微調整個網絡的參數。DBN能夠通過一系列的非線性變換自動從原始數據中提取由低層到高層、具體到抽象的特征[10]。相比傳統的故障診斷方式，基于DBN的方法有著明顯的優勢，2種方法的對比如圖3所示。

2.2 DBN網絡結構

DBN網絡是由RBM堆疊形成的多層感知器神經網絡。采用經典的3層RBM堆疊的DBN網絡，如圖4所示。

2.3 DBN網絡訓練過程

DBN網絡的訓練過程包括各層RBM的無監督的預訓練以及有監督的微調。RBM的結構如圖5所示。

圖5中變量的定義：分別是可視層和隱含層的節點數，層間權重矩陣為。

可視層狀態向量： ， （1）

可視層偏執向量： ， （2）

隱含層狀態向量： ， （3）

隱含層偏執向量： 。 （4）

RBM是一種基于能量的模型[11]，對于一組給定的道岔狀態（v， h）其能量函數為

， （5）

式中，是RBM的參數，轉化為矩陣形式

。 （6）

將能量函數轉化為道岔狀態的聯合概率分布

， （7）

其中：

， （8）

稱作歸一化因子，也叫做配分函數（partition function）。

對于實際的問題，我們關心的往往是輸入原始數據v的邊緣概率分布，也叫做似然函數（likelihood function）。

， （9）

同理：

。 （10）

聯合概率和邊緣概率，已知，根據貝葉斯公式，可求得條件概率

， （11）

， （12）

式中，指的是激活函數，采用sigmoid函數。

若道岔的功率原始數據組成的訓練樣本為：，其中指的是訓練樣本的個數，，l=1， 2， …， ns。對于S中任意樣本，最大似然函數為

， （13）

為了方便求解，兩邊同時取對數

。 （14）

訓練RBM的最終目的是為了得到參數，然后利用去更新網絡的3個參數。以的求解為例，利用梯度下降法求出

。 （15）

進一步求得

。 （16）

由于式（16）中第二項的計算量太大，不便直接計算，所以利用k步對比散度算法[12]（contrastive divergence，CD）求其近似值。

利用（11）（12）中2個條件概率分別在第t步時進行吉布斯抽樣，可求出：h（t-1）和vt，t=1， 2， …， k。利用k步采樣得到的vk來近似估計（16）中第二項中的期望項，這樣一來，就可求得

， （17）

然后利用式（18）對進行更新

。 （18）

同理，參數ci和bj的更新過程和wji的類似，不再贅述。綜上，RBM的參數更新的訓練過程主要包含5個步驟。

Step1" 將原始數據v歸一化之后輸入到第1層RBM的可視層v1，訓練并調整v1和h1之間的權重和偏置參數并得出h1開啟的概率。

Step2" 網絡參數初始化。確定網絡層數，初始化RBM層的權重和偏置。

Step3" 用h1重構v2，作為第2層RBM的輸入。同Step1，訓練并調整v2和h2之間的權重和偏置參數并得出h2開啟的概率。

Step4" 重復Step1和Step2，直到前兩層RBM預訓練完成，至此無監督的特征學習過程完成。

Step5" 將樣本標簽數據y加入到h2中，用（y，h2）重構v3，作為第三層RBM的輸入，利用BP算法對整個網絡每層的權重和偏置進行反向微調，監督學習完成整個DBN網絡的訓練。

3 基于DBN算法的故障診斷方法

采用的故障診斷方法分為以下4個步驟：

Step1" 轉轍機原始功率數據歸一化處理。

Step2" 數據輸入，利用PSO算法優化每層RBM神經元的個數，建立DBN。

Step3" 利用DBN對功率數據自動提取特征。

Step4" 將網絡提取的特征輸入ELM進行預測分類，診斷結果輸出。

3.1 PSO優化算法

由于隱含層的神經元個數對特征提取的質量和速度影響較大，采用利用粒子群優化算法（particle swarm optimization，PSO）[13]，在指定的范圍[Hmin， Hmax]內對每層RBM神經元的個數進行優化。通過改變范圍，發現每層的隱含節點在[1， 15]內尋優時，已經能達到較好準確率，如果繼續擴大搜尋范圍，準確率并沒有明顯的提升，但是消耗的時間會明顯增加。在[1， 25]內雖然測試集準確率達到100%，但是相比[1， 15]時間增加了近50%，考慮到實際的數據樣本較大以及實時性的問題，最終選取在區間[1， 15]的優化結果。隱含層神經元個數優化結果如表1所示。其中H1，H2，H3代表PSO優化的3層RBM的隱含層的最優節點數，t代表PSO算法所用時間，trainAcc和testAcc分別代表訓練集和測試集的準確率。

3.2 基于DBN的特征提取方法

數據集來自微機監測采集的真實數據，共250條，其中正常狀態50條，8種故障狀態各25條，每類各自取20%作為測試集，剩下的做訓練集。S700K型轉轍機動作一次大約需要6.5 s時間，而微機監測系統的以40 ms為采樣頻率進行采樣，因此原始功率數據為162維。數據組成如表2所示。

經過3層RBM的特征抽取以及BP算法的反向微調之后，道岔功率原始數據經過DBN特征提取之后得到的14維特征，從原始數據的每類狀態中選取一個作為代表，特征提取結果如表3所示。ID是各個狀態的編號。

3.3 特征提取結果可視化

盡管通過DBN提取的特征已經降低至較低的維度，但是如果要將特征提取的效果進行可視化分析，還需要將特征進行二次降維，便于直觀的展示DBN特征提取的效果。

LLE[14]局部線性嵌入（locally linear embedding，LLE）是一種無監督的降維方法，可以在保持數據領域關系的情況下實現對數據的降維。針對數據的特點，選取了此方法對特征進行降維。利用LLE將特征降至二維和三維的空間內，并對降維后的數據進行歸一化處理，可視化的結果如圖7所示，原始數據的分布情況如圖6所示，其中F0～F8分別代表正常和8種故障狀態。

從圖6中可以看出，原始數據中雖然幾類也大體分布在一起，但是不同狀態之間重合的點很多，不便于直接分類。從圖7中可以看出，經過DBN自動提取的道岔的9種狀態特征除了故障4和故障5有個別重合外，其他的狀態被很清晰的區分開，證明了DBN網絡很好的特征提取能力。

3.4 基于極限學習機的分類方法

ELM是一種單隱含層前饋神經網絡算法，相對于傳統神經網絡的訓練方法，訓練速度特別快[15?16]。與傳統的SVM和反向傳播神經網絡（back propagation，BP）分類方法相比，ELM具有參數調整簡單、不易陷入局部最小值、學習速度快等優勢。并且ELM作為分類器可以很好地彌補DBN的特征提取消耗時間相對較長的特點。

將提取的特征輸入到ELM中進行分類。假設有N個學習樣本，其中：

輸入樣本： ; （19）

樣本標簽： 。 （20）

則對于一個有L層隱含層的ELM網絡，網絡的診斷結果可以表示為

， （21）

其中，g（x）是激活函數；

（22）

是輸入的權重矩陣，輸出的權重，bi是第i個隱含層神經元的偏置。網絡的學習目標是使得輸出的誤差最小，即

。 （23）

訓練ELM的過程就是尋找，Wi和bi使得輸出的結果盡可能的接近樣本的分類標簽tj，即

。 （24）

將其表示成矩陣：，其中矩陣H由激活函數的結果組成，矩陣T是訓練集樣本標簽組成的期望輸出矩陣。在ELM算法中，Wi和bi被隨機確定，隱含層的輸出矩陣H就可以被確定，進一步求得隱含層網絡的輸出權值：。

ELM將網絡的未知參數求解轉變成矩陣求逆的問題，加快了模型的訓練速度。之后只需要確定隱含層的神經元個數L之后，網絡就可以開始訓練。由于L對ELM的訓練時間和分類準確率都有較大影響，為了確定最佳的L，對L和測試集的準確率之間的關系進行分析，如圖8所示。

從圖8可以看出，當L=13時，測試集的準確率第1次到達100%，隨著L的繼續增大，準確率基本穩定在95%～100%之間，但是考慮到L對ELM速度的影響，最終選取13作為ELM中隱含層神經元的個數。

4 實驗仿真

4.1 診斷結果仿真

分別對訓練集和測試集的分類準確率進行仿真分析，訓練集的分類結果如圖9所示，測試集的分類結果如圖10所示。其中橫坐標代表樣本數，縱坐標代表了正常和8種故障類別。

圖10可以看出，故障4和故障5之間有部分點分類錯誤，錯誤診斷為他類的概率分別為0.2，其他故障的診斷準確率均為100%，分類結果和3.3中的DBN提取的特征可視化結果相符。

4.2 與PSO-統計特征-SVM診斷方法對比

首先對PSO-DBN-ELM、PSO-統計特征-SVM這2種方法的模型訓練時間和分類器所用時間做了對比，如表4所示。方法一采用DBN提取原始數據的特征建立特征矩陣。方法二采用文獻[4]中的方法，將道岔功率數據按照動作過程分成4段，每段提取均值、方差、偏度等10種統計特征建立特征矩陣，然后使用PSO-SVM方法進行分類，在迭代次數maxgen=100，學習因子c1=1.5，c2=1.7，v=3，pop=20的初始條件下，PSO參數優化結果：懲罰因子cbest=7.563，核函數參數gbest=0.286。

從表4可以看出，DBN-ELM方法的訓練時間相對其他2種方法，模型訓練的速度大大提升，相比采用統計方法提取的時域特征，利用DBN網絡在特征提取的同時對特征進行了降維，因此速度大大提升。并且ELM作為分類器，在數據集不是很大的情況下仍然比SVM分類器快了0.61 s，證明了ELM分類器的快速性。

然后又對2種方法的測試集準確率做對比，對比結果如表5所示。

從表5可以看出，基于DBN方法的準確率相比PSO-SVM方法準確率提升了4%，進一步證明了DBN的特征提取能力。

綜上可知，PSO-DBN-ELM模型優于PSO-統計特征-SVM模型，重要的原因在于特征提取的效果，前者采用的是DBN提取的深度抽象特征，后者采用的是人工選取的時域特征，特征提取效果差異導致2個模型的分類效果的差異。

5 結" 論

1）DBN特征提取方法提高了特征提取的質量。對提取到的深層次特征進行可視化可知，除了故障4和故障5有少量重疊外，各個故障狀態被清晰的區分開，說明了DBN提取的特征準確的擬合了原始數據的特征。

2）基于DBN的故障診斷方法實現了特征提取與降維的一體化。DBN利用RBM組成的特殊結構，在對原始數據進行降維的同時實現了對數據特征的降維，進一步簡化了特征提取的復雜度。

3）ELM故障分類提高了診斷的速度。與傳統的神經網絡分類方法相比，ELM學習速度更快，泛化性能好，且不易陷入局部最小值，更適合用于故障的分類。

4）算法的普適性強。基于DBN的故障診斷方法直接輸入轉轍機功率原始數據，減少了對專家經驗的依賴，對不同類型或不同工況下的轉轍機都可以通過采集的原始數據進行診斷。

參考文獻

［1］" 鐘志旺， 陳建譯， 唐濤， 等. 基于SVDD的道岔故障檢測和健康評估方法[J]. 西南交通大學學報， 2018， 53（4）： 842-849.

Zhong Z W， Chen J Y， Tang T， et al. SVDD-based research on railway-turnout fault detection and health assessment[J]. Journal of Southwest Jiaotong University， 2018， 53（4）： 842-849.（in Chinese）

［2］" 張凱， 杜凱， 巨永鋒. 基于BP神經網絡的提速道岔故障診斷算法[J]. 武漢理工大學學報， 2014， 36（11）： 77-81.

Zhang K， Du K， Ju Y F. Algorithm of speed-up turnout fault diagnosis based on BP neural network[J]. Journal of Wuhan University of Technology， 2014， 36（11）： 77-81.（in Chinese）

［3］" 王瑞峰， 陳旺斌. 基于灰色神經網絡的S700K轉轍機故障診斷方法研究[J]. 鐵道學報， 2016， 38（6）： 68-72.

Wang R F， Chen W B. Research on fault diagnosis method for S700K switch machine based on grey neural network[J]. Journal of the China Railway Society， 2016， 38（6）： 68-72.（in Chinese）

［4］" 許慶陽， 劉中田， 趙會兵. 基于隱馬爾科夫模型的道岔故障診斷方法[J]. 鐵道學報， 2018， 40（8）： 98-106.

Xu Q Y， Liu Z T， Zhao H B. Method of turnout fault diagnosis based on hidden Markov model[J]. Journal of the China Railway Society， 2018， 40（8）： 98-106.（in Chinese）

［5］" 張釘， 李國寧. 基于改進WNN分析功率曲線的S700K轉轍機故障診斷[J]. 鐵道科學與工程學報， 2018， 15（8）： 2123-2130.

Zhang D， Li G N. Fault diagnosis of S700K switch machine based on improved WNN analyses power curve[J]. Journal of Railway Science and Engineering， 2018， 15（8）： 2123-2130.（in Chinese）

［6］" 劉新發， 魏文軍. 基于模糊聚類方法的S700K轉轍機故障診斷[J]. 中南大學學報（自然科學版）， 2019， 50（9）： 2148-2155.

Liu X F， Wei W J. Fault diagnosis of S700K switch machine based on fuzzy cluster method[J]. Journal of Central South University （Science and Technology）， 2019， 50（9）： 2148-2155.（in Chinese）

［7］" 鐘志旺， 唐濤， 王峰. 基于PLSA和SVM的道岔故障特征提取與診斷方法研究[J]. 鐵道學報， 2018， 40（7）： 80-87.

Zhong Z W， Tang T， Wang F. Research on fault feature extraction and diagnosis of railway switches based on PLSA and SVM[J]. Journal of the China Railway Society， 2018， 40（7）： 80-87.（in Chinese）

［8］" 何攸旻. 高速鐵路道岔故障診斷方法研究[D]. 北京： 北京交通大學， 2014.

He Y M. Research on fault diagnosis method of high-speed railway turnout[D].Beijing： Beijing Jiaotong University， 2014. （in Chinese）

［9］" Hinton G E， Osindero S， Teh Y W. A fast learning algorithm for deep belief nets[J]. Neural Computation， 2006， 18（7）： 1527-1554.

［10］" 熊景鳴， 潘林， 朱昇， 等. DBN與PSO-SVM的滾動軸承故障診斷[J]. 機械科學與技術， 2019， 38（11）： 1726-1731.

Xiong J M， Pan L， Zhu S， et al. Bearing fault diagnosis based on deep belief networks and particle swarm optimization support vector machine[J]. Mechanical Science and Technology for Aerospace Engineering， 2019， 38（11）： 1726-1731.（in Chinese）

［11］" Hinton G E. A practical guide to training restricted boltzmann machines[M]// Neural Networks： Tricks of the Trade. Berlin， Heidelberg： Springer， 2012： 599-619.

［12］" Hinton G E. Training products of experts by minimizing contrastive divergence[J]. Neural Computation， 2002， 14（8）： 1771-1800.

［13］" Kennedy J， Eberhart R. Particle swarm optimization[C]//Proceedings of ICNN'95 - International Conference on Neural Networks. November 27 - December 1， 1995， Perth， WA， Australia. IEEE， 2002： 1942-1948.

［14］" Roweis S T， Saul L K. Nonlinear dimensionality reduction by locally linear embedding[J]. Science， 2000， 290（5500）： 2323-2326.

［15］" Huang G B， Zhu Q Y， Siew C K. Extreme learning machine： a new learning scheme of feedforward neural networks[C]//2004 IEEE International Joint Conference on Neural Networks （IEEE Cat. No.04CH37541）. July 25-29， 2004， Budapest， Hungary. IEEE， 2005： 985-990.

［16］" Huang G B， Zhu Q Y， Siew C K. Extreme learning machine： theory and applications[J]. Neurocomputing， 2006， 70（1/2/3）： 489-501.

（編輯" 鄭潔）