基于深度信念網(wǎng)絡(luò)的空壓機故障監(jiān)測研究

王華秋，王 斌

(1.重慶理工大學(xué) 兩江人工智能學(xué)院， 重慶 401135； 2.重慶理工大學(xué) 計算機科學(xué)與工程學(xué)院， 重慶 400054)

空氣壓縮機是一種用來壓縮空氣的設(shè)備，種類多樣，其中螺桿式空壓機已成為當(dāng)今空氣壓縮機發(fā)展的新主流[1]。螺桿式空氣壓縮機具有結(jié)構(gòu)簡單、易損件少、配件更換方便、噪聲小及運轉(zhuǎn)安全可靠、單級壓比大、效率高等優(yōu)點[2]。因而其在工業(yè)生產(chǎn)中的應(yīng)用越來越廣泛，又因其在生產(chǎn)中的廣泛應(yīng)用，各種故障也時常出現(xiàn)，逐漸受到人們的關(guān)注。如果在空壓機的運行過程中出現(xiàn)了問題，而不能及時發(fā)現(xiàn)，將會帶來各種無法預(yù)計的后果與損失。因此，對空壓機運行狀態(tài)的監(jiān)控、研究與分析對于空壓機的正常運行，保障生產(chǎn)生活的持續(xù)良好進行意義重大。

文獻[3]對空壓機運行過程中的各種故障做了分析，其中排氣溫度異常是一個十分常見的運行故障現(xiàn)象。對于空壓機排氣溫度的監(jiān)測主要還是基于傳統(tǒng)的傳感器和設(shè)置固定的故障閾值。文獻[4]使用云推理的方法預(yù)測葉絲干燥筒壁溫度，而文獻[5]在對冷水機組運行性能的預(yù)測中使用了基于改進BP神經(jīng)網(wǎng)絡(luò)的方法。因此，如果在空壓機的運行狀態(tài)監(jiān)測方引入一些基于數(shù)據(jù)的機器學(xué)習(xí)方法，就能有效提高監(jiān)測的效率與準(zhǔn)確性。

2006年，Hinton等學(xué)者開啟了深度學(xué)習(xí)的浪潮[6]。所謂深度學(xué)習(xí)，其本質(zhì)目的是提取特征，手段是通過大規(guī)模的數(shù)據(jù)樣本對復(fù)雜的網(wǎng)絡(luò)模型進行訓(xùn)練，以此來提高預(yù)測和分類精度。深度信念網(wǎng)絡(luò)屬于深度學(xué)習(xí)技術(shù)的一種，它是由Hinton等學(xué)者提出。這種網(wǎng)絡(luò)利用受限玻爾茨曼機(RBM)組成深度神經(jīng)網(wǎng)絡(luò)，同時將訓(xùn)練分為預(yù)訓(xùn)練和微調(diào)兩部分，解決了一些傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)所具有的深層網(wǎng)絡(luò)訓(xùn)練困難、易陷入局部最優(yōu)以及需要大量的帶標(biāo)記的訓(xùn)練樣本的缺點。在語音、文字識別方面已有許多應(yīng)用方向與實際案例，同時在故障監(jiān)測、診斷方面也有許多應(yīng)用[7]。本文將深度信念網(wǎng)絡(luò)的優(yōu)勢應(yīng)用于空壓機排氣溫度預(yù)測，提出一種新的空壓機排氣溫度監(jiān)測方法，以實現(xiàn)空壓機運行過程中的異常監(jiān)測。

1 深度信念網(wǎng)絡(luò)

深度信念網(wǎng)絡(luò)(deep belief network,DBN)是一種典型的深度學(xué)習(xí)(Deep Learning)方法[8]。它由多個神經(jīng)元疊加而成，其組成元件是受限制玻爾茲曼機(RBM)，同時也屬于一種概率生成模型。RBM是一種神經(jīng)感知器，由一個可視層和一個隱藏層構(gòu)成，可視層與隱藏層的神經(jīng)元之間為雙向全連接。其中，任意兩個相連的神經(jīng)元之間有一個權(quán)值表示其連接強度。同時，每個RBM的隱藏層作為下一個RBM的可視層，并最終構(gòu)建成整個網(wǎng)絡(luò)。圖1是由3個RBM組成的深度信念網(wǎng)絡(luò)。深度信念網(wǎng)絡(luò)的整個訓(xùn)練過程分為無監(jiān)督的預(yù)訓(xùn)練和有監(jiān)督的微調(diào)兩部分。

圖1 深度信念網(wǎng)絡(luò)結(jié)構(gòu)

1.1 預(yù)訓(xùn)練

預(yù)訓(xùn)練是使用未進行標(biāo)注的數(shù)據(jù)集對每一層受限制玻爾茲曼機分別進行單獨訓(xùn)練，然后自下而上，把下層受限制玻爾茲曼機隱藏層作為上層受限制玻爾茲曼機的可視層繼續(xù)訓(xùn)練?？傮w來說，它是通過一個非監(jiān)督貪婪逐層方法進行預(yù)訓(xùn)練獲得權(quán)重[9]。

設(shè)定RBM中可視層與隱藏層神經(jīng)元都只有激活與未激活兩種狀態(tài)，分別用1與0表示。給定一組狀態(tài)(v,h)表示可視層與隱藏層，則一個有n個可視層和m個隱藏層的RBM的能量函數(shù)可定義為：

(1)

式中θ={w,b,a}是RBM的參數(shù)，vi表示可視層的狀態(tài)，hj表示隱藏層的狀態(tài)，bi表示可視層的偏置，aj表示隱藏層的偏置，wij則表示連接可視層和隱藏層的權(quán)重。

基于該能量函數(shù)定義一個可視層與隱藏層的聯(lián)合概率分布為

(2)

其中Z為歸一化因子，公式為

可得聯(lián)合概率分布P(v,h;θ)的邊際分布為

(3)

使用最大似然估計法對上式進行最大化求得RBM參數(shù)θ，然后應(yīng)用對比散度方法求出RBM的參數(shù)θ={w,b,a},更新規(guī)則為：

Δwij=ε(〈vihj〉P(h|v)-〈vihj〉recon)

(4)

Δbi=ε(〈vi〉P(h|v)-〈vi〉recon)

(5)

Δaj=ε(〈hj〉P(h|v)-〈hj〉recon)

(6)

式中：ε為學(xué)習(xí)率，〈·〉P(h|v)代表P(h|v)分布下偏導(dǎo)函數(shù)的極限，〈·〉recon表示重構(gòu)模型分布下的偏導(dǎo)函數(shù)的極限。

1.2 微調(diào)

當(dāng)預(yù)訓(xùn)練完成后，網(wǎng)絡(luò)會獲得一個較好的網(wǎng)絡(luò)初始值，但這還不是最優(yōu)的，所以需要對網(wǎng)絡(luò)進行微調(diào)。具體做法是：利用反向傳播神經(jīng)網(wǎng)絡(luò)(BP),將其設(shè)置在深度信念網(wǎng)絡(luò)的最后一層，將最后的RBM的隱藏層即輸出層作為BP的輸入層，然后利用有標(biāo)簽的數(shù)據(jù)集進行由下至頂?shù)挠斜O(jiān)督的訓(xùn)練，實現(xiàn)對深度信念網(wǎng)絡(luò)在預(yù)訓(xùn)練階段生成的參數(shù)進行優(yōu)化微調(diào)，使模型更加準(zhǔn)確。深度信念網(wǎng)絡(luò)巧妙地將無監(jiān)督與有監(jiān)督學(xué)習(xí)合二為一，優(yōu)勢互補，避免了BP網(wǎng)絡(luò)容易陷入局部極小的弊端，同時縮短了收斂時間，加快了訓(xùn)練速度。

1.3 對DBN的改進

深度網(wǎng)絡(luò)的難點體現(xiàn)在網(wǎng)絡(luò)的訓(xùn)練過程中[10]，學(xué)習(xí)率、權(quán)值初始化、網(wǎng)絡(luò)層數(shù)、單層神經(jīng)元數(shù)等訓(xùn)練參數(shù)對模型起決定性的影響。其中，學(xué)習(xí)率的設(shè)定特別重要，傳統(tǒng)的方法是人工設(shè)定，往往并非最佳設(shè)定。后果學(xué)習(xí)率是設(shè)定太高可能導(dǎo)致無法收斂，而學(xué)習(xí)率設(shè)定太低又會造成學(xué)習(xí)速度太慢，增加了實驗的成本。為解決這一問題，提高DBN的性能，本文引入了一種基于動態(tài)學(xué)習(xí)率的DBN訓(xùn)練方法。所謂動態(tài)學(xué)習(xí)率，就是在RBM結(jié)構(gòu)的訓(xùn)練過程中，自適應(yīng)動態(tài)調(diào)整學(xué)習(xí)率。其具體內(nèi)容如下：

根據(jù)前后的重構(gòu)誤差自適應(yīng)調(diào)整學(xué)習(xí)率，定義P(h|v)分布下偏導(dǎo)函數(shù)的極限〈·〉P(h|v)，重構(gòu)模型分布下的偏導(dǎo)函數(shù)的極限〈·〉recon之間的誤差為：

Ω=〈·〉P(h|v)-〈·〉recon

(7)

將學(xué)習(xí)率更新為：

(8)

其中，λ是學(xué)習(xí)率的調(diào)整系數(shù)，而參數(shù)更新規(guī)則可改為：

(9)

(10)

(11)

其中，γ為更新過程的慣性系數(shù)，可以減少學(xué)習(xí)過程中的震動，使其更加穩(wěn)定。t表示在參數(shù)更新序列中本次更新的參數(shù)，t-1則表示上次更新的參數(shù)。

2 基于DBN的空壓機排氣溫度預(yù)測模型建立

2.1 空壓機排氣溫度預(yù)測建模參數(shù)選取

為了建立基于DBN的空壓機排氣溫度預(yù)測模型，需要先確定參與模型建立的具體參數(shù)。因為該空壓機運行參數(shù)眾多，若要降低模型的復(fù)雜程度同時降低訓(xùn)練量，另外為了剔除一些相關(guān)性太低的參數(shù)對模型的影響，需要對各參數(shù)與空壓機排氣溫度的相關(guān)性進行分析，然后選取相關(guān)性較高的參數(shù)參與建模。

在一般研究中，常用Pearson相關(guān)性系數(shù)做相關(guān)性分析[11]，其計算公式為

(12)

利用一段時間的空壓機正常運轉(zhuǎn)數(shù)據(jù)對各項參數(shù)與空壓機排氣溫度進行相關(guān)性分析，得到各參數(shù)的相關(guān)系數(shù)。通常情況下相關(guān)系數(shù)在1.0～0.8為極強相關(guān)，0.8～0.6則是強相關(guān)，0.6～0.4是中等相關(guān)，而0.4～0就只是弱相關(guān)到不相關(guān)。因此，取其中相關(guān)系數(shù)大于0.4的參數(shù)作為模型輸入變量，最后得到7個相關(guān)性較強的參數(shù)如表1所示。

表1 參數(shù)相關(guān)性系數(shù)

2.2 基于DBN的空壓機排氣溫度預(yù)測模型構(gòu)建、訓(xùn)練及驗證

將上面選取的7個相關(guān)性較高的運行參數(shù)作為底層的輸入層，然后構(gòu)建基于深度信念網(wǎng)絡(luò)的空壓機排氣溫度模型。深度信念網(wǎng)絡(luò)的結(jié)構(gòu)主要參數(shù)是網(wǎng)絡(luò)層數(shù)以及每層網(wǎng)絡(luò)的具體神經(jīng)元個數(shù)。為了使模型的預(yù)測精度達到最優(yōu)，需要對網(wǎng)絡(luò)使用枚舉法，以確定每個參數(shù)的最佳值。因此，在本文實驗中，選取了2018年6月19日到25日的空壓機運轉(zhuǎn)數(shù)據(jù)作為訓(xùn)練集，一方面用于試驗確定空壓機溫度模型的具體網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)；另一方面用于模型參數(shù)確定后的模型訓(xùn)練。經(jīng)過多次實驗以及參考文獻[12]的參數(shù)選取方法后確定了最優(yōu)的模型網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)，其具體結(jié)構(gòu)為4層，包括底部的輸入層，中間的兩個隱含層以及頂部的輸出層，每層具體神經(jīng)元數(shù)量為7-25-5-1。

在確定了模型具體結(jié)構(gòu)后，使用選取的數(shù)據(jù)集作為訓(xùn)練樣本，對模型進行訓(xùn)練。隨著訓(xùn)練周期的不斷增加，模型預(yù)測結(jié)果的準(zhǔn)確率也在增加且增長趨勢逐漸變緩。最后，根據(jù)模型準(zhǔn)確率以及訓(xùn)練時間成本的考慮，確定訓(xùn)練周期為200。之后選取2018年6月26日到30日的數(shù)據(jù)作為測試數(shù)據(jù)集，對模型進行預(yù)測準(zhǔn)確率的具體測試。

另外，為了確定基于DBN模型的方法是否有更好的效果，分別使用基于BP神經(jīng)網(wǎng)絡(luò)、SVM算法、RBF神經(jīng)網(wǎng)絡(luò)的方法進行溫度預(yù)測。最后，將基于DBN方法的結(jié)果與以上3種方法進行對比。圖2和圖3分別表示了4種預(yù)測方法的具體預(yù)測值以及預(yù)測殘差。

圖2 模型預(yù)測結(jié)果對比

圖3 模型預(yù)測殘差特性對比

由圖2、3可以看出：在空壓機的正常運轉(zhuǎn)過程中，基于DBN的模型預(yù)測方法的預(yù)測值與實際值之間的距離明顯小于基于BP神經(jīng)網(wǎng)絡(luò)、SVM算法、RBF神經(jīng)網(wǎng)絡(luò)的模型預(yù)測方法的預(yù)測值與實際值之間的偏離程度，基于DBN的預(yù)測方法殘差明顯更小。

另外，為了更直觀地表現(xiàn)幾種預(yù)測方法的預(yù)測效果，使用回歸預(yù)測的3個常用評估指標(biāo)平均標(biāo)準(zhǔn)誤差(MAE)、平均平方誤差(MSE)、平均百分比誤差(MAPE)來對4種預(yù)測方法進行效果評估，對比結(jié)果如表2所示。從表2的對比結(jié)果可以看出：因BP神經(jīng)網(wǎng)絡(luò)易陷入局部極小，故預(yù)測精度較低；而SVM方法與RBF神經(jīng)網(wǎng)絡(luò)方法雖也有較高的精度，但因為基于DBN的預(yù)測方法是一種深度學(xué)習(xí)方法，能夠利用深度模型提取更復(fù)雜的參數(shù)關(guān)系，因此能獲得更為精確的預(yù)測結(jié)果。

3 基于排氣溫度預(yù)測殘差分析的空壓機運行異常監(jiān)測

當(dāng)使用以上模型預(yù)測出排氣溫度后要對其值是否異常進行確定，因此需要確定一個故障閾值用以監(jiān)測運行過程中的異常變化。本文選取了核密度估計的方法用以確定故障閾值，其具體監(jiān)測機制是在得到模型預(yù)測溫度之后，才能得到預(yù)測值的殘差特性，然后檢查其是否超出了設(shè)定好的故障閾值。當(dāng)其超出故障閾值后，就可以激發(fā)后續(xù)的一系列告警、通知、維護措施。使用核密度估計方法，可以估計一個序列分布的密度函數(shù)。本文就是通過對模型預(yù)測殘差特性序列進行核密度估計從而獲得其密度函數(shù)，然后根據(jù)密度函數(shù)可以得到所需的故障閾值。

表2 模型預(yù)測性能評估

因為缺少豐富詳細的空壓機異常運行數(shù)據(jù)，于是進行故障模擬。具體方法是通過對測試樣本數(shù)據(jù)中實際的排氣溫度值逐個添加0.01度的累計溫度偏移。該方法的目的是為了模擬排氣溫度異常情況中的排氣溫度過高以及其溫度逐漸升高的過程。分別使用4種方法進行溫度預(yù)測，4種方法的預(yù)測殘差以及故障閾值如圖4所示。

圖4 殘差值與故障閾值

通過圖4的比較可以看出：隨著排氣溫度實際值不斷增高即模擬的故障程度不斷增強，預(yù)測結(jié)果的殘差值也不斷變大。可以發(fā)現(xiàn)4種方法都檢測出了異常故障的發(fā)生，但明顯基于深度信念網(wǎng)絡(luò)的方法最早達到了預(yù)設(shè)的故障閾值。因此說，基于深度信念網(wǎng)絡(luò)的方法能夠較早發(fā)現(xiàn)空壓機運行過程中的異常情況，驗證了本文所提方法是準(zhǔn)確、有效的。

4 結(jié)束語

針對螺桿式空壓機排氣溫度異常故障的監(jiān)測，本文提出了一種基于深度信念網(wǎng)絡(luò)的螺桿式空壓機排氣溫度監(jiān)測方法。經(jīng)過實驗分析模型具體參數(shù)，選取了合適的模型結(jié)構(gòu)，構(gòu)建了基于深度信念網(wǎng)絡(luò)的空壓機排氣溫度預(yù)測模型。采用核密度估計方法對空壓機的故障閾值進行了設(shè)定，并利用模擬故障的方式對模型進行了對比測試。在基于BP神經(jīng)網(wǎng)絡(luò)的方法的測試中可以看出：本文提出的基于深度信念網(wǎng)絡(luò)的方法更為高效、準(zhǔn)確，能夠準(zhǔn)確、及時地發(fā)現(xiàn)空壓溫度異常，明顯優(yōu)于基于BP神經(jīng)網(wǎng)絡(luò)、SVM算法、RBF神經(jīng)網(wǎng)絡(luò)的預(yù)測方法，說明本方法性能優(yōu)異、預(yù)測有效。另一方面，本方法有很好的拓展性，經(jīng)過修改與優(yōu)化可以進一步應(yīng)用于空壓機其他故障的監(jiān)測與診斷，甚至可應(yīng)用于與空壓機類似的其他機械裝置的故障監(jiān)測與診斷。