結合注意力機制與MSCNN-BiLSTM模型的電梯主動式故障預警

劉鎧 林穗賢 胡昱 楊賢

摘? 要：主動式故障預警不僅可以輔助電梯的檢修與維護，還可以最大程度地降低電梯安全事故。基于某公司現有電梯運行狀態的數據集，提出一種電梯健康指數（HI）預測模型。該模型是結合注意力機制的多尺度卷積神經網絡（MSCNN）和雙向長短時記憶網絡（BiLSTM）的融合模型，可以全面提取電梯數據集的深層次特征和時序信息，實現HI預測和主動式故障預警。在與其他常見模型方法的比較中，證實了該文模型具有更好的預測性能。

關鍵詞：主動式；故障預警；MSCNN-BiLSTM；注意力機制

中圖分類號：TP183；TP391 文獻標識碼：A 文章編號：2096-4706（2023）15-0151-06

Elevator Active Fault Early Warning Based on Attention Mechanism and

MSCNN-BiLSTM Model

LIU Kai1， LIN Suixian2， HU Yu1， YANG Xian1

（1.School of Electromechanical Engineering， Guangdong University of Technology， Guangzhou? 510006， China; 2.Guangzhou Guangri Elevator Industry Co.， Ltd.， Guangzhou? 511441， China）

Abstract： Active fault early warning can not only assist in elevator's maintenance and repair， but also minimize elevator safety accidents. A predictive model for elevator health index （HI） is proposed based on the existing dataset of elevator operation status in a certain company. This model is a fusion model of Multi-Scale Convolutional neural network （MSCNN） and bidirectional long short memory network （BiLSTM） combining attention mechanism， which can comprehensively extract the deep features and time series information of elevator dataset， and realize HI prediction and active fault early warning. In comparison with other common model methods， it has been confirmed that the model proposed in this paper has better predictive performance.

Keywords： active; fault early warning; MSCNN-BiLSTM; attention mechanism

0? 引? 言

故障預警是設備故障預測和設備健康管理領域的研究熱點，其有著廣泛的應用[1-3]。在物聯網、云計算等技術的驅動下，機械設備與工業制造系統朝著大型化、復雜化、高精度化和智能化方向發展，隨之產生了諸多問題，如設備健康維護與保障的難度不斷加大，維護成本持續提高；設備不可預測的故障增加，尤其是電梯等特種設備，一旦關鍵部件出現意外故障，可能會帶來災難性的后果。隨著國家經濟發展和人民生活水平提高，電梯已然成為日常生活中的常用設備，也因為其使用頻率較高，故障率也一直維持在較高的水平，這給百姓的生活帶來極大不便甚至生命威脅。故障預警可提前掌握電梯運行狀態并進行電梯檢修，避免故障的發生，具有很高的研究價值。

王玉軍[4]提出，當維修成本較高時，預防性維修比故障后維修更符合經濟效益。我國實行的是電梯定期預防性維修以及故障后的緊急搶修相結合的電梯維保制度，定期維修存在著資源消耗過大的問題。針對此問題，學者們提出了不定期維保制度，依賴于故障預警技術確定設備維修時間，輔助工程師制定維修策略。現今故障預警領域的關鍵技術為：分析故障產生機理、退化趨勢，構建性能退化模型[5]；提取設備運行狀態發展趨勢特征，剔除噪聲信息，進而構建設備故障預測模型[6]；根據設備退化趨勢和實際生產生活需求，確定故障預警時間。

在電梯相關領域的研究成果主要集中在故障診斷方面，而對故障預警時間的研究較少。在現有的故障預警研究中，基本只采用了歷史電梯運行數據，而沒有結合電梯故障數據，未針對故障發生時刻的電梯參數進行研究[7]。使用單一的電梯狀態數據進行故障預測，會導致忽略了電梯的其他關鍵數據，最終造成故障預警精確度不高，無法準確提前預警電梯故障發生時間等問題。

因此，本文結合電梯歷史故障數據和運行數據對電梯進行故障發生時間預測，提出了一種結合注意力機制的多尺度卷積神經網絡和長短時雙向記憶神經網絡（Multi-Scale Convolutional Neural Network and Bi-directional Long Short-Term Memory， MSCNN-BiLSTM）的HI預測模型。該模型一方面充分利用了MSCNN深層次空間特征提取的優點，提高了模型特征提取的深度和效率；另一方面融合了BiLSTM時間序列信息的處理能力，增強了算法模型對電梯退化期間時間序列信息的記憶能力；最后使用注意力機制實現權重分配，過濾無效信息，實現電梯的HI預測，最終根據實際需要確定故障預警閾值來完成故障預警。

1? 背景分析

1.1? 故障預警現狀

隨著軟硬件技術的快速發展，物聯網技術逐漸應用到機械設備的運行監管系統中，以實現設備深層次監管，定期評估設備的運行狀況。電梯行業結合物聯網技術，通過在電梯設備中添加傳感器或者電梯主控板進行電梯運行數據采集與分析，基于此實現電梯故障預警。

故障預警一般聚焦于故障診斷和預警時間預測，傳統故障診斷技術局限于人工信號分析，依賴于專業技術人員的機理知識和經驗[8]，存在著局限性；隨著機器學習和深度學習的快速發展，診斷技術增添了智能診斷方向，通過卷積神經網絡等深度學習算法[9]極大地提高了診斷效率和便捷性。江朋等[10]提出了一種集成故障預警模型，通過FP-Growth算法對歷史運行數據和故障檢修數據進行特征參數融合和故障分類，實現了故障診斷專家知識庫構建和設備故障預警。

故障預警最重要的一環是故障預警的時間，現今主要的預測依據是設備的運行狀態與正常狀態的偏離度和設備故障時間。對于偏離度計算方法，彭道剛[11]等人提出一種基于長短期記憶網絡和支持向量機的故障預警方法，利用長短期記憶網絡輸出壓氣機的參數預測值和實際值的殘差曲線，設立預警閾值，通過殘差與閾值的距離以此來確定預警時間。

1.2? 健康指數預測方法

數據驅動方法具有高效的數據處理能力，并且無需依賴設備實際退化機理模型和專家知識，通過挖掘隱藏在大量歷史數據中的退化信息，進行有效的故障預測。在這一領域中，已有一些效果不錯的成果[12，13]。蔣文博等人采用比例風險模型構造HI，再通過機器學習模型實現了電梯故障預測[7]。李京峰等人采用深度置信網絡對各個監測參數加權融合，構造HI，再通過長短時記憶神經網絡（LSTM）實現了發動機故障預測[14]。王玉靜等人使用卷積神經網絡和LSTM構建出具HI，最后通過多項式曲線擬合實現了軸承故障預測[15]。谷夢瑤等人采用馬氏距離計算設備狀態的偏離度，再運用負向轉換函數構建HI，最后通過相似性壽命預測方法實現了陀螺儀故障預測[16]。岳研等人采用多通道融合特征提取器提和自適應選擇器提取關鍵特征，最后通過BiLSTM構造HI并實現了故障預測[17]。

綜上所述，故障預測是故障預警任務中必不可少的部分，是指導工程師制定維保策略至關重要的基礎，所以本文主要研究電梯設備的HI預測模型，實現電梯自動式故障預警。

2? 數據和方法

實驗所使用的數據集來自某電梯公司2022年179臺電梯的故障數據和運行數據，保證了數據集的真實可靠性，實驗在Python編程環境中編寫。本文提出的模型方法預測流程由數據采集、數據存儲、數據預處理、數據分析4大模塊組成。

2.1? 數據介紹

故障數據包含了主故障碼、電梯編號、故障時間、電梯運行次數、電梯狀態碼、故障解除時間等故障相關信息，共有176列，表1為故障數據樣本；運行數據是電梯運行過程所記錄的參數信息，包括電梯編號、運行時間、啟動樓層、停止樓層、電梯狀態、運行接觸器吸合時間等57列信息，表2為運行數據樣本。

2.2? 數據預處理

2.2.1? 原始數據處理

原始的電梯故障數據和電梯運行數據是按照發生時間直接存儲在總數據庫中，存在重復提交、系統誤判和部分記錄內容缺失等問題，無法直接用于數據匹配和模型訓練，需要設置數據清洗步驟，獲取一份規整的電梯故障數據和運行數據。

對于原始故障數據，首先剔除故障次數小于3次的電梯故障數據，此類電梯一般是使用年限較短、質量較好、使用頻率較低的電梯，也可能是部分數據丟失等情況，缺乏足夠的歷史數據；其次剔除短期內多次發生相同故障的數據，此情況是系統重復報障或者維修人員維修不完全導致的；再者剔除誤報障的數據，此類數據是由于系統誤判電梯狀況產生的；最后基于日均故障次數，用四分位展布法去除離群點，剔除的數據基本來源于實驗電梯和使用頻率低的電梯。

對于電梯運行數據，首先基于故障數據的時間和電梯工號，構建剩余使用壽命標簽；接著對數據進行去重操作；最后經過歸一化處理每個特征，因為數據維度高，擁有著不同的量綱。歸一化處理公式為：

2.2.2? 數據標簽構建

對于同一種故障而言，電梯從故障解除到故障發生的周期內的運行數據具有時間連續性。隨著電梯運行時間不斷增加，電梯部件的磨損不斷加重，使得電梯部件的HI在運行周期內時刻變化，因此可采用基準度量法計算電梯在運行周期中的位置LOC，以此初步定義HI，計算公式為：

其中，T（n， i）表示第i個運行周期中的故障時刻，T（0， i）表示第i個運行周期的起始時刻，T（ j， i）表示第i個運行周期中的第j個時刻。雖然LOC與故障直接相關，但時間并不足以作為HI定義的唯一判斷標準，因為一般故障的發生是由多種因素相結合所導致的，所以需要融合多個因素構造的HI更加有效。本文采用多元線性回歸算法對相關特征與LOC進行擬合，由擬合結果實現對HI的最終定義，計算公式為：

HI = b0 + b1F1 + b2F2 + … + bnFn + ε? ? ? ? （3）

其中HI表示更新后的健康指數，b0表示常數項，Fi表示第i個特征，bi表示第i個特征的回歸系數，ε表示誤差項。

2.3? 基于注意力機制的MSCNN-BiLSTM模型

本文提出的基于注意力機制的MSCNN-BiLSTM（MSCNN-BiLSTM-AM）健康指數預測模型是由空間特征處理模塊、時間特征處理模塊和輸出模塊3個部分組成。空間特征處理模塊由3個不同卷積核的卷積層和Concatenate層構成；時間特征處理模塊由BiLSTM層、Attention層構成；健康指數輸出模塊由Flatten層和全連接層組成，結構如圖1所示。在空間特征處理模塊中，MSCNN模型通過設置不同大小卷積核自動提取并整合電梯數據的多尺度特征，經過多次重復提取，最終提取到最全面有效的特征信息；在時間特征處理模塊中，BiLSTM模型提取并保留長時間的序列信息，再經由注意力機制層權重分配后，與MSCNN模型提取的特征映射圖作為下一模塊的輸入數據。健康指數輸出模塊將兩種輸入數據融合且一維化處理，最后通過全連接層輸出健康指數值。

2.3.1 MSCNN

卷積神經網絡（CNN）是模擬于人體神經元，具有局部提取和參數共享的特性，在特征自動提取方面有著很廣闊的應用前景。當數據集的數據維度比較高時，CNN和最大池化層相結合可以自動高效提取特征和縮小數據規模，提高模型的信息提取能力和訓練效率。電梯運行狀態數據包含大量信息，需要進行全面的數據特征提取和篩選工作。由于單尺度CNN只能提取到局部的特征信息，忽略了全局特征，丟失了部分重要的空間信息，而MSCNN由多個不同尺度卷積核組成，可以提取數據中多維度的空間特征信息，因此本文使用MSCNN來提取電梯運行過程中的不同層次的數據特征，捕獲數據集中更為全面的深層次空間特征信息。

在本文中，輸入數據集為二維向量，長為特征數量，寬為時間序列。二維數據經過數據處理后，輸入到多尺度卷積層中經過多尺度特征提取，形成相對應的特征映射圖。為了維持每個卷積層輸出的數據維度，本文采用了零填充法，且使用了Relu激活函數來增加卷積核的非線性擬合能力。最后將每個尺度的特征圖整合為一張綜合特征映射圖，并將其作為下一層的輸入值。

2.3.2 BiLSTM

RNN被稱為循環神經網絡，其中每個隱藏層都具有自連接的特性，因此相較于其他模型結構，擁有時間記憶功能。由于自身網絡結構無法記錄長時間序列數據間的聯系信息，為此科學家設計了細胞狀態和三種門結構來實現長期信息記憶功能。細胞狀態負責保存數據信息，sigmoid、tanh激活函數以及點乘操作等內容組合形成一種綜合門結構，其結構如圖2所示。電梯運行數據蘊含著時間序列特征信息，其中當前時刻的運行狀態與前一時刻的運行狀態有關，因此需要利用LSTM的特性捕捉時間特征信息。

BiLSTM模型稱為雙向長短期記憶神經網絡，由前向LSTM和反向LSTM層結合而成，如圖3所示，輸入層將參數同時輸入到兩個方向的LSTM模型中，從前向和后向兩個方向同步處理序列；兩個方向的LSTM均有獨立的隱藏層，可以在一個特定的時間步長中同時獲取前向和后向的信息，從而提取更為全面的時間特征信息。相較于只能獲得單一方向信息的LSTM，BiLSTM理論上能夠提高最終預測的準確率。

2.3.3? 注意力機制

注意力機制是啟發于動物關注眼睛看到的特別部分，并通過神經計算做出反應。它可以使模型篩選出冗余數據中的高質量信息，只選擇關鍵信息進行處理，提高了信息提取能力。BiLSTM模型雖然具有長時間的數據記憶能力，但很難捕捉到時間序列中的復雜特征，而注意力機制已經在睡眠分期[18]、語音識別[19]等諸多方面展現出了顯著效果，因此本文選用注意力機制，輔助模型進行注意力權重分配，賦予關鍵信息更高的權重，減少資源浪費和提高模型效率。

注意力機制由查詢向量（Query Vector）和鍵值對（key-value pair）進行權重計算，其計算步驟如下：

1）每個輸入向量和query點積計算出注意力打分函數，計算它們之間的相關性。

2）Softmax計算出每key的權重。

3）將權重與對應的value加權求和得到最終的注意力。

計算公式為：

其中，q、（K， V ）分別表示query、輸入信息的矩陣表示，K用來計算注意力分布，V用來計算聚合信息，s （kn， q）表示打分函數。

2.4? 評價指標

本文采用平均絕對誤差MAE和決定分數R2對模型的預測性能進行評價。兩者均是評估真實值與預測之間距離的指標，MAE指標值越小，R2指標值越接近于1，代表預測的效果越好，模型的精度越高，計算公式為：

3? 實驗結果

本節將展示模型在電梯數據集上的預測性能，并為了驗證不同卷積核公差對于模型性能的影響，單獨以卷積核公差為自變量進行大量驗證實驗。本文采用留出法將電梯數據集隨機劃分3個獨立的數據集：訓練集、驗證集和測試集，其中訓練集占總數據集的70%，驗證集占總數據集的10%，測試集占20%。

3.1? 模型回歸預測性能

用訓練集訓練融合模型，再利用驗證集進行性能驗證，以此訓練多個模型，最后選擇性能最優模型擬合測試集，得到實際健康度和預測值的擬合結果圖。如圖4所示，x軸為時間序列，y軸為健康指數，其中黑線為真實值，灰線為模型預測值。

根據圖4真實值和預測值的擬合效果所示，可以看出本文所提出的融合模型的預測性能較好，擬合的電梯健康指數曲線雖然有波動的趨勢，但前進的趨勢與實際情況吻合，和實際壽命曲線十分接近，特別是到磨損中后期，兩條曲線基本重合。

3.2? 卷積核公差實驗

在本實驗中，我們研究不同的卷積范圍對于模型性能的影響。MSCNN采用了三種不同尺度的卷積核自動提取數據特征，以此得到不同范圍的特征信息。為了保證自變量只有卷積核公差，實驗必須首先確定中心卷積核尺度，將其設為不變量。經過大量實驗，發現中心卷積核為9時模型對測試集的擬合效果最佳。最終以9為中心基準，以1～7的公差范圍進行實驗。對比實驗結果如圖5所示，當公差為4時，MSE取得最小值，R2取得最大值，訓練出的模型綜合預測性能最佳；在公差為1時，模型性能最差，而隨著公差的增加，模型的性能逐漸提高，但當超過4后，模型的性能反而開始下降。實驗結果表明，更大的公差能夠提取到更多的空間層次特征信息，從而提高模型的預測準確度；而當公差超過一定范圍后，將會給模型帶來干擾信息，導致模型訓練過擬合，引起最終的預測準確度下降。

4? 對比分析

為了進一步驗證本文提出的健康指數預測模型的可靠性和有效性，本文添加了與流行的深度學習模型的對比實驗，如DCNN、CNN-LSTM、CNN-BiLSTM、CNN-BiLSTM-AM、MSCNN-BiLSTM方法。為排除數據不同帶來的預測誤差，本文采用同一批數據進行實驗，并且采用MAE和R2兩種評價指標對模型的預測性能進行評估。模型預測性能對比如表3所示。

由表3可以得知，在同一批實驗數據中，基于注意力機制的MSCNN-BiLSTM模型的平均絕對誤差MAE最小，決定系數R2更接近于1。

由CNN-BiLSTM-AM與MSCNN-BiLSTM-AM模型算法預測性能的對比可知，在同時進行多尺度卷積自動提取數據特征的前提下，后者的MAE比前者降低了41.40%，R2提高了2.15%。該結果說明了多尺度卷積模塊從不同角度提取了數據中更多、更深層次的空間特征，提供給模型全面且有效數據信息，提高了模型的預測準確率。

由MSCNN-BiLSTM與MSCNN-BiLSTM-AM模型算法預測性能的對比可知，在增加注意力機制的情況下，后者的MAE比前者降低了50.49%，R2提高了3.72%。由此充分說明了注意力機制根據電梯的運行狀態分配不同注意力權重，讓模型得以專注于更為有效的特征信息，實現更精準的電梯健康指數預測。

綜上所述，對比于如今較為流行的模型算法，本文所提出的基于注意力機制的MSCNN-BiLSTM模型在電梯健康指數預測領域中具有較高的預測性能，也證明了本文所提出模型的可靠性和優越性。

根據相關的評判標準和工程實踐經驗，將健康指數的范圍劃分成5個等級，分別為健康、亞健康、良好、異常和缺陷，如表4所示。當健康等級到達異常等級時，則進行故障預警，讓維修人員著手制定檢修方案。

5? 結? 論

本文提出了一個基于注意力機制的電梯健康指數預測模型，該模型由空間特征處理模塊、時間特征處理模塊和輸出模塊三部分組成。空間特征處理模塊中通過MSCNN的多尺度的卷積核自動提取電梯數據中深層次的隱藏特征，并篩選出具有最完善信息和趨勢性的特征；時間特征處理模塊中采用BiLSTM的雙向LSTM和LSTM特有的三種門結構同時捕捉計算過程中每個時間點的歷史和未來數據，充分利用了序列數據的前后時間關系特征，完成對數據信息的全面提取分析；通過注意力機制實現注意力權重分配；輸出模塊利用全連接層完成對電電梯健康指數的高效、精確預測。本文通過對電梯數據的實驗研究和模型性能對比分析，驗證了所提出方法模型的有效性和可靠性。

參考文獻：

[1] 牛玉廣，李曉彬，張佳輝.基于多元狀態估計與自適應閩值的電站輔機故障預警 [J].動力工程學報，2019，39（9）：717-724.

[2] 孫建平，趙立慧，孫博揚，等.基于數據驅動與多變量狀態估計的汽動引風機故障預警 [J].熱力發電，2020，49（1）：78-84.

[3] 韓寶宏，閆明勝，段鵬飛，等.基于SOM-MQE模型的設備故障預警方法 [J].工業技術創新，2021，8（1）：74-78.

[4] 王玉軍.浴盆曲線理論在民航空管設備管理中的應用 [J].通訊世界，2017（17）：280-281.

[5] 劉子健，劉柏，吳婷，等.考慮性能退化的海用雷達可靠性優化策略方法 [J].船舶標準化與質量，2017（4）：45-49+56.

[6] ELLEFSEN A L，BJ?RLYKHAUG E，?S?Y V，et al. Remaining useful life predictions for turbofan engine degradation using semi-supervised deep architecture [J].Reliability Engineering & System Safety，2019，183：240-251.

[7] 蔣文博，胡瀾也，宋斐，等.基于比例風險模型與機器學習混合方法的電梯故障預測 [J].工業工程與管理，2021，26（4）：19-27.

[8] 王江萍，孫文莉.基于小波包能量譜齒輪振動信號的分析與故障診斷 [J].機械傳動，2011，35（1）：55-58.

[9] ZHAO D Z，WANG T Y，CHU F L. Deep convolutional neural network based planet bearing fault classification [J].Computers in Industry，2019，107：59-66.

[10] 江朋，陸遠，胡瑩.基于LSTM+FP-Growth算法的印刷設備故障預警及診斷 [J].南昌大學學報：工科版，2021，43（3）：276-284.

[11] 彭道剛，姬傳晟，涂煊，等.基于LSTM-SVM的燃氣輪機壓氣機故障預警研究 [J].動力工程學報，2021，41（5）：394-399.

[12] YAN L，ZHANG H T，GONCALVES J，et al. An interpretable mortality prediction model for COVID-19 patients [J].Nature Machine Intelligence，2020，2（5）：283-288.

[13] ZHU J L，GE Z Q，SONG Z H，et al. Review and big data perspectives on robust data mining approaches for industrial process modeling with outliers and missing data [J].Annual Reviews in Control，2018，46：107-133.

[14] 李京峰，陳云翔，項華春，等.基于LSTM-DBN的航空發動機剩余壽命預測 [J].系統工程與電子技術，2020，42（7）：1637-1644.

[15] 王玉靜，李少鵬，康守強，等.結合CNN和LSTM的滾動軸承剩余使用壽命預測方法 [J].振動、測試與診斷，2021，41（3）：439-446+617.

[16] 谷夢瑤，陳友玲，王新龍.多退化變量下基于實時健康度的相似性壽命預測方法 [J].計算機集成制造系統，2017，23（2）：362-372.

[17] 岳研，劉暢，劉韜.基于深度融合神經網絡的軸承健康指標構建 [J].電子測量與儀器學報，2021，35（7）：44-52.

[18] BAHDANAU D，CHOROWSKI J，SERDYUK D，et al. End-to-End Attention-based Large Vocabulary Speech Recognition [J/OL].arXiv：1508.04395 [cs.CL].[2023-01-02].https：//arxiv.org/abs/1508.04395v2.

[19] 邱錫鵬.神經網絡與深度學習 [M].北京：機械工業出版社，2020.