基于深度小世界神經網絡的風電機組異常檢測

李亞光，李蒙

（1.華電煤業集團有限公司，北京市 西城區 100035；2.北京交通大學機械與電子控制工程學院，北京市 海淀區 100044）

0 引言

惡劣多變的環境是風力發電機故障頻發的主要原因[1-6]。一般情況下，風機的各個系統中都安裝有各類狀態監測傳感器，并由數據采集與監視控制(supervisory control and data acquisition，SCADA)系統對監測參數進行記錄和保存[7]。一旦有異常發生，設備的故障信息將反饋到多維傳感器參數中[8]。因此，利用SCADA數據進行早期異常檢測，將有利于實現風電機組的狀態評估和故障預警。

通常情況下，故障檢測與隔離(fault detection and isolation，FDI)的方法有2個關鍵過程：1）從復雜數據中提取有效特征；2）利用先驗知識或機器學習技術實現故障分類。值得注意的是，這2個步驟都需要明顯的標簽信息(正常或異常標簽)作為訓練智能分類算法的基本要素[9-10]。但在實際的風機SCADA系統中，幾乎不可能獲得足夠的標簽數據。這是因為正常運行時間比故障發生時間長很多，導致數據稀疏是不可避免的。另外，SCADA的監控數據和故障信息大多是分開記錄的，它們之間的相關性只能在故障發生后由人工來完成。這種非智能化的記錄和分類工作是巨大的，也是不現實的。因此，利用不完善的無標簽數據來完成風電機組的FDI任務充滿了挑戰。

深度學習方法[11]以其良好的非線性逼近性能已經在數據挖掘和智能故障診斷中得到了廣泛應用[12]。與淺層神經網絡相比，一些深度學習算法[13]，如多層感知器、深度神經網絡(deep neural network，DNN)、長短期記憶網絡(long-short-term memory，LSTM)和卷積神經網絡(convolutional neural network，CNN)等，均可以模擬人類真實的學習過程，并從數據中挖掘有價值的信息。Jiang等人[14]提出了一種多尺度卷積神經網絡，用以有效地學習高層故障特征。Yang等人[15]利用LSTM遞歸神經網絡挖掘SCADA信號中隱藏的時空關系，實現了風機齒輪故障的分類。面對SCADA系統采集的大量文本數據，近年來的研究工作創新性地將其轉化為圖像或地圖形式，然后利用圖像識別算法進行異常檢測和識別。例如，文獻[16-17]將振動信號轉換成時域譜，應用CNN提取故障特征。然而，上述網絡的實現需要基于有監督的和足夠標簽的學習環境下進行，這在實際應用中卻很難實現。

使用無監督學習構造的深度神經網絡也相對成熟[18]，相應的算法主要包括受限玻爾茲曼機(restricted Boltzmann machine，RBM)或自動編碼器(auto-encoder，AE)。深度置信網絡(deep belief network，DBN)[19]、去噪自編碼器(denoise auto-encoder，DAE)[20]和堆疊自編碼器(stacked auto-encoder，SAE)[21]是最具代表性的無監督深度神經網絡。Qin等[22]用DBN診斷風力發電機行星齒輪箱故障，提出了改進的Logistic-sigmoid單元和脈沖特征法，解決了DBN在反向傳播中容易出現梯度消失的問題。Qin等[23]在多層BP神經網絡的基礎上建立了一個深度SAE網絡，利用來自SCADA系統的方位數據，通過無監督貪婪學習對SAE網絡神經元進行逐層訓練，再將訓練后的權值作為深度BP神經網絡的初始權值。此外，Zhao等[24]還提出了一種基于多層Boltzmann機的深度自編碼網絡，以實現風力發電機組部件的早期異常檢測和故障檢測。

目前，隨著應用領域的不斷變化，對神經網絡的結構進行改進主要有加深網絡層次、丟包與丟包連接、批量規范化等方法。其中，增加非相鄰隱含層之間的連接邊(添加邊)方法是目前神經網絡緩解梯度消失的研究熱點。從網絡結構上看，通過加邊改進使得傳統的神經網絡成為一個小世界神經網絡，已可應用于風力發電的功率預測[25]和風機變槳系統的故障診斷[26]。因此，本文結合風電機組的SCADA數據特點，基于深度自動編碼網絡的原型結構，提出一種深度小世界神經網絡(deep small-world neural network，DSWNN)，以期進一步解決風電機組的早期故障檢測與預警問題。未標記的風電機組SCADA數據被用于預先訓練DSWNN原型以提取隱含特征。通過隨機加邊法將規則神經網絡轉化為一個小世界網絡，并在有監督的情況下利用標記數據訓練重構的DSWNN模型，對網絡的全局參數進行微調。

由于實際運行中風速的隨機變化和干擾，固定的故障判斷閾值往往不合理，容易造成誤報警。本文提出一種基于極值理論的自適應閾值作為異常檢測判斷的準則。通過上述方法構造的DSWNN模型具有良好的深度挖掘數據特性。最后，以風力機變槳系統為例，驗證了該方法的有效性和準確性。

1 深度小世界神經網絡模型構建

1.1 深度小世界神經網絡結構

深度自編碼網絡是一種在輸入層和輸出層之間具有多個隱含層的深度神經網絡。該網絡的參數通過對輸入數據逐層進行無監督學習來初始化，然后利用有監督學習進行微調，在較高的輸出層產生更復雜的特征，并且學習到的復雜特征將隨著輸入數據的變化而保持不變。基于深度自編碼網絡結構，本文在非相鄰隱含層之間增加了額外的神經元連接，進而構建了由多個RBM堆棧組成的具有4個隱含層的深度小世界神經網絡，如圖1所示。它的訓練過程包括預訓練、小世界轉換和微調3個階段，用于獲取DSWNN模型的參數。

圖1 深度小世界神經網絡結構Fig. 1 Structure of DSWNN model

1.2 DSWNN原型的預訓練

DSWNN模型的原型是一個具有多個基于特定能量的隨機RBM的深度自動編碼網絡。圖2所示RBM結構具有一個可見層和一個隱含層，其中可見神經元與隱含神經元完全相連。

圖2 RBM結構Fig. 2 Structure of RBM

多層RBM的訓練是在無監督環境下逐層實現的，可作為DSWNN原型的預訓練過程。經過逐層預訓練后得到整個網絡的權值，將被記錄并用作后續監督訓練(微調)的優先值。

1.3 DSWNN網絡的小世界轉換

小世界網絡是介于完全隨機和完全規則之間的中間網絡[27]。應用小世界網絡的特性對人工神經網絡結構進行改進[28]，主要有2種方式：重連變換和加邊變換，如圖3所示。

圖3 小世界網絡轉換的方式Fig. 3 Transformation way of small-world network

以每層4個神經元的4層BP神經網絡為例，重連變換首先隨機斷開相鄰層神經元之間的連接，然后與非相鄰層神經元之間隨機地建立新的連接。而加邊變換沒有斷開過程，它只在不改變任何原始邊的情況下在非相鄰層神經元之間添加新的連接。新增連接的位置都是隨機分布在所有網絡神經元之間的，網絡的隨機程度用概率p來描述。

式中nad和nor分別為新添加的連接數和原始連接數。

圖4給出了從常規網絡到隨機網絡的隨機加邊變換過程。當p=0或p=1時，網絡是完全規則或完全隨機的。當p介于0和1之間時，網絡具有小世界屬性。因此，利用特征路徑長度L(p)和聚類系數C(p)對小世界結構性質進行量化，并探討中間區域(0＜p＜1)的特性。

圖4 從規則BP神經網絡到隨機網絡的隨機加邊過程Fig. 4 Random add-edge procedure from a regular BP neural network to a random one

特征路徑長度L(p)是衡量網絡中所有連接邊平均長度的全局性質，聚類系數C(p)是描述網絡中連接邊密度的局部性質。圖5顯示了圖1中描述的4個隱含層DSWNN的L(p)和C(p)隨p變化的規范化值。可以觀察到，隨著p的增加，L(p)急劇下降，而C(p)下降相對緩慢。當p接近0.1時，得到了一個大C(p)和一個小L(p)，這表明DSWNN的拓撲結構具有最好的小世界性質。因此，新添加的邊連接數是原始連接數的10%。

圖5 圖1中描述的4個隱含層DSWNN的L(p)和C(p)Fig. 5 L(p) and C(p) for the four-hidden-layer DSWNN described in figure 1

本文選擇了加邊變換方法來重建DSWNN模型。假設DSWNN模型有H(H=1,2,3,…,i,…)個隱含層，第i個隱含層有N個神經元，第i+1個隱含層有M個神經元。當p=0時，DSWNN模型是一個規則網絡，第i層和i+1層之間的權重矩陣Wi被描述為

因此，整個隱含層的連接矩陣W可以表示為

當p=0.1時，DSWNN不斷開原始網絡中的連接，只在非相鄰隱含層中的神經元之間生成連接。矩陣W中的對角線權重不會改變，因為連接不會斷開。整個隱含層的全局Wa可以表示為

1.4 DSWNN網絡的參數微調

經過逐層預訓練和小世界轉換后，利用反向傳播有監督學習BP算法對DSWNN進行微調，并在微調過程中優化隱含層的參數，最終得到了DSWNN模型的全局優化參數。在此過程中，DSWNN模型的初始參數由訓練前參數(權值和偏差)和小世界轉換得到的連接權值組成。由于微調只完成基于這些初始參數的局部搜索，因此在優化過程中大大縮短了收斂時間。

本文將tanh函數作為隱含層的激活函數，將Softmax函數作為頂層分類器的激活函數。選擇公式(6)中所示的交叉熵[29]作為測量誤差的代價函數C。

式中：k為輸出層中的神經元數量；tk為輸出層期望的輸出標簽值；ak為輸出層實際預測值。

RBM訓練過程可以看作DSWNN模型權值參數的初始化，克服了權值參數隨機初始化容易陷入局部最優和訓練時間長的缺點。對于故障的檢測，可以使用大量未標記的SCADA數據進行預訓練，使用少量標記的數據進行微調。這樣，訓練后的DSWNN比深度自編碼網絡或BP網絡更為優化。

2 基于自適應閾值估計方法的異常檢測

在異常檢測中，利用訓練好的DSWNN模型預測SCADA信號的未來值，并利用預測值與實際值之間的預測誤差EP來判斷異常。定義為

式中：X為SCADA數據的當前值；X^為DSWNN模型的預測輸出。

一般來說，設定閾值并將其與EP進行比較是評估風電機組是否發生故障的最常用和最有效的方法。風機正常運行時，SCADA信號均在閾值范圍內。一旦出現異常，這些監測信號之間的隱式關系將被打破，一個或多個信號值將突然超過閾值發出報警。確定異常情況的規則定義為

式中Rth是閾值。

然而，閾值的設置范圍往往很廣，且經常在初次設置后保持不變。一方面，閾值內的故障將無法診斷；另一方面，隨機風速引起的一些偶然波動將被誤診為故障。因此，本文提出了一種基于極值理論的自適應閾值估計方法，用于監測EP的變化趨勢，檢測EP的異常變化。

假設X1，X2,…,Xn是分布函數為F(x)的獨立隨機變量的n個樣本向量。每個樣本向量Xi在一段時間內包含一定數量的值。Mn=max(X1，X2,…,Xn)表示n個樣本向量的最大值。對于一組Mn，概率分布函數可以描述為

式中：an和bn分別是比例參數和位置參數；β是形狀參數。

大量正常的SCADA數據被用來訓練DSWNN模型，也被用來計算EP值。由于數據大多為正態分布，EP的均值是穩定的，但其方差數據應該是非平穩的。因此，比例參數an和位置參數bn分別表示為：

式中：δ0和δt均為常值系數；g(t)是描述受不斷變化的SCADA數據影響的可變運行條件的函數。然后，用于確定警告的最終自適應閾值可以通過以下方法計算：

式中：ρ為置信度，由累積分布函數法計算而得；參數an、bn和β可通過最大似然估計方法來獲得。

3 實例驗證

3.1 風機變槳系統監測參數

為了測試所提出DSWNN模型的性能，在故障識別、預測和分類方面做實例分析。實驗數據來源于某風電場30臺2 MW風電機組一年的SCADA系統數據。另外，為了增加對比度，采用了經典DBN和DNN模型作為對比測試方法。俯仰故障主要分為俯仰傳感器故障和執行器故障。變槳傳感器故障是由編碼器盤上的灰塵、葉片變槳軸承調整不正確、溫度和濕度超出可接受范圍或校準不當引起的。葉片變槳距傳感器和執行器的這些故障經常出現，導致轉子不平衡引起汽輪機結構負荷，影響浮動平臺的穩定性。這些故障主要與俯仰角、俯仰力矩、俯仰電機等信號有關。用于訓練DSWNN、DBN和DNN模型的特定監控SCADA參數如表1所示。

表1 風機變槳系統監測參數Tab. 1 Monitoring parameters of wind turbine pitch system

3.2 變槳異常預測分析

風力機的3個葉片具有3組獨立同步的變槳驅動裝置。當風速突然變化，葉片需要頻繁改變槳距角時，3個槳距驅動器的同步動作失效往往導致多個故障同時發生。表2記錄了2017年1月1日發生的多次報警記錄。經證實，主要原因是3個葉片的俯仰動作經后期維護后不同步。這種故障是由典型的機械磨損引起的，其故障特征將隱藏在SCADA數據中。因此，所監測的相關信號可以表示為

表2 風機變槳系統故障報警記錄Tab. 2 Fault alarm record of wind turbine pitch system

使用數據集XA訓練DSWNN、DBN和DNN模型，然后使用記錄的故障SCADA數據計算預測的均方誤差，結果見圖6。

從圖6(c)可以看出，在時間t3之前，DSWNN獲得的預測誤差在自適應閾值范圍內波動。但t3后，誤差接近其上限，然后逐漸超過其上限。根據表2報警記錄，第一個名為“俯仰角1不同步”的故障發生在07:58:12。這意味著DSWNN可以在實際停機時間前大約3 h檢測到異常，從而為俯仰系統的維護提供了足夠的時間。對比圖6(a)和圖6(b)可知，DNN和DBN模型分別可以提前1.1 h和2.3 h預測出故障，均比本文所提出的DSWNN模型預測時間短。此外，DSWNN模型的計算誤差在3種模型中也最小，說明DSWNN模型可以從正常的SCADA數據中提取更充分的動態特征。因此，一方面，用DSWNN模型來描述俯仰系統的動態特性更為準確，且可更早地檢測出早期故障。另一方面，自適應閾值可以有效地跟蹤預測誤差，以提高預測模型的適應性，為系統減少誤報和漏報提供了更準確的判斷依據。

圖6 故障預測誤差Fig. 6 Fault prediction error

3.3 變槳故障分類性能比較

為了驗證所提出的多故障分類方法的準確性，根據SCADA系統的實際報警信息，選取了9個典型或頻繁的基本故障作為分類目標。表3列出了具體的故障，其中F1～F9表示9個故障報警，F10表示無故障狀態。同樣，采用DBN和DNN作為比較模型，3個模型采用相同的網絡結構：1）輸入神經元數量為12個，對應于表1中描述的12維參數；2）輸出神經元數量為10個，分別對應于表3中的10個分類；3）3種模型均選擇5個隱含層，每層30個神經元。具體而言，DSWNN模型在預訓練過程中有5個RBM，小世界轉換過程中的概率設為p=0.1。與DSWNN相比，DBN模型沒有小世界轉換的過程，它只包括2個過程：預訓練和微調。DNN模型是一種標準的多層前向神經網絡，其訓練過程遵循誤差反向傳播原理。

表3 故障列表Tab. 3 Fault list

在數據準備方面，將實驗數據分為20 000段訓練數據和6 000段驗證數據。此外，每個故障類別都包含一定數量的故障數據，數據分布如表4所示。值得注意的是，提供的所有數據片段都是根據相應的故障類型進行標記的。在模型訓練過程中，DSWNN和DBN首先由去掉標簽的數據片段進行預訓練，然后用這些標簽的數據片段進行微調。簡單地說，神經網絡模型使用所有標記數據進行訓練和驗證，這些訓練和驗證是在有監督的環境下進行的。

表4 實驗數據的分配Tab. 4 Confusion information of the experimental data

圖7給出了3個模型的分類精度。通過與混淆矩陣中所示的錯誤分類條件比較，神經網絡模型可以很容易地判斷F3、F5、F6和F8的錯誤，因為這些真實的否定會導致嚴重的后果。F3、F5為電氣故障，其發生具有較強的隨機性和偶然性。F6和F8與槳距角有關，而槳距角應該由風速、風力、槳距角編碼器和葉根扭矩等監測，這些故障的原因是隨機風速對葉片的影響很大。診斷上述故障的基本要求是，所使用的分類算法應具有從多個運行數據中挖掘隱含特征的能力。

圖7 3種神經網絡對10種故障分類精度的比較Fig. 7 Comparison of three neural networks in classification accuracy of 10 types of faults

然而，這正是神經網絡模型所缺乏的，因為它的網絡參數是由隨機初始化產生的，沒有任何理論基礎。眾所周知，參數直接影響分類結果。DSWNN和DBN模型使用了預訓練來獲得更好的網絡參數，并且它們對所有故障的分類精度都比DNN模型顯示出更好的性能(見圖7(b)和7(c))。但故障F4和F5的診斷準確率也有所下降，這可能是由訓練數據中缺乏故障數據所致。

此外，還同時記錄了3個模型在訓練過程中的全局變化誤差，如圖8所示。從圖中可以看出，DSWNN、DBN和DNN的收斂時間分別為255、210、168 s。DSWNN的計算時間最長，這是因為它在預訓練和微調之間有一個小世界轉換過程。在0～110 s間隔內，DSWNN和DBN的訓練誤差幾乎達到階段穩定，這是因為網絡處于訓練前階段，其多個RBM達到了能量守恒。在110～130 s范圍內，DSWNN和DBN由無監督訓練變為有監督訓練，訓練誤差突然減小，出現新的低收斂值。在124 s時，DSWNN的訓練誤差在短時間內增加，這是由小世界轉換后網絡結構中增加的邊的附加權值引起的。DSWNN重新跟蹤隨機的新添加邊，導致短期誤差增加。

圖8 DSWNN、DBN和DNN的訓練誤差Fig. 8 Training error of DSWNN, DBN, and DNN

4 結論

提出了一種基于無監督學習的風電機組早期異常檢測DSWNN模型。DSWNN模型是深度自編碼網絡和小世界神經網絡的有效結合，可以更準確地模擬風力發電機的動態行為。基于實際案例的仿真分析得出如下結論：

1）自適應閾值能夠有效地跟蹤預測誤差，減少誤報。因此，所提出的基于極值理論的自適應閾值方法可以應用于風電機組的實時監測，減少風速波動和外界干擾對風電機組異常檢測的影響。

2）與DBN和DNN算法相比，DSWNN模型具有更小、更準確的預測誤差，證明了DSWNN模型具有深度網絡特征和更好的學習能力。

3）結合DSWNN模型和自適應閾值，能夠提前3 h預測變槳距系統故障，可用于后續的風電機組異常檢測和故障診斷。