自適應粒子群優化的HMM故障診斷方法及應用

郭 森，王大為，張紹偉，張學成

(1.上海機電工程研究所，上海 201109；2.陸軍裝備部駐上海地區第三軍代室，上海 201109)

伴隨著機器學習等人工智能技術的飛速發展，智能化技術在軍事裝備中的應用也在不斷深入[1]。隱馬爾科夫模型(hidden Markov model,HMM)自20世紀70年代末由Baum創建以來[2]，因其強大的識別能力在語音識別領域取得了巨大成功[3]，并逐漸在圖像處理、設備狀態識別、故障診斷等模式識別方面應用[4-7]。但是，將HMM應用于裝備的故障診斷過程當中出現了一些不足，主要是由于該模型用于解決學習問題的Baum-Welch算法在參數尋優時會出現收斂到局部極值的情況，從而導致模型診斷結果精度不夠[8-9]。

針對這一問題，許多學者引入群體智能優化算法來對HMM模型參數訓練過程進行優化，提高學習效率及精度。文獻[8]將粒子群算法(PSO)引入HMM的參數優化過程，實現全局優化的目的，并將改進后的模型應用到對報警信息識別和預測中；文獻[10]將鳥群算法(BSA)與Baum-Welch算法相結合，可以有效跳出局部極值點，相對傳統的HMM訓練算法能夠取得更好的訓練結果；文獻[11]提出一種帶極值擾動的自適應粒子群算法，將改進后的粒子群算法引入到HMM的訓練中，對其初始參數進行了優化，結果表明改進后的HMM具有較高的識別能力。

本文提出一種基于自適應粒子群算法優化的HMM方法，在PSO算法中增加慣性權重因子，通過動態控制慣性權重因子及加速因子的大小，改進PSO算法的全局搜索能力，提高尋優效率。并且，利用改進的PSO算法對HMM參數學習過程進行優化。將其應用到油機電站的故障診斷當中，與傳統方法相比，診斷的效率和精度得到了有效地提升。

1 粒子群算法及其改進

1.1 PSO算法基本原理

PSO算法是一種用于非線性函數優化的集群智能優化算法[12]，它在解決大規模非線性問題中具有更高的優化效率和更好的優化結果。該算法將各個備選解稱為“粒子”，全部的粒子集合稱作“種群”。PSO算法首先生成初始種群，即在可行解空間當中隨機初始化生成一群粒子，并根據要優化的目標函數確定與之相對應的適應度值。優化過程就是初始種群在可行解空間內部飛行，并尋找最大或最小適應度值的過程，粒子飛行的方向與距離由速度決定。

其數學過程描述如下：

設搜索空間維數為D，總粒子數為N，第i個粒子的位置表示為向量xi=(xi1,xi2,…,xiD)，第i個粒子當前搜索到的最優位置為pbesti=(Pi1,Pi2,…,PiD)，整個粒子群當前搜索到的最優位置為gbest=(g1,g2,…,gD)，第i個粒子的位置變化率(即速度)為向量vi=(vi1,vi2,…,viD)，則粒子i的d維速度和位置可按照式(1)、(2)進行迭代更新：

vid(t+1)=vid(t)+c1r1(pid(t)-xid(t))+

c2r2(gd(t)-xid(t))

(1)

xid(t+1)=xid(t)+vid(t+1),1≤i≤N,1≤d≤D

(2)

式中：c1、c2為正數，稱作加速因子。c1調節粒子飛向自身最好位置方向上的步長；c2調節粒子飛向全局最好位置方向上的步長。r1、r2為[0,1]的隨機數。

通過比較更新前后各粒子的適應度值，對單個粒子最優位置及全局最優位置進行更新，直到滿足迭代終止條件。

1.2 PSO算法的自適應改進

與其它群體智能算法相比，PSO算法概念簡單，易于編程實現求解，但在優化過程中同樣會面臨易于陷入局部極值點、搜索精度不高、收斂速度慢的問題。為此引入慣性權重因子ω，對粒子飛行速度進行調節，提高PSO算法的收斂速度及全局搜索能力，使其能夠快速得到全局最優結果[13]。慣性權重因子ω對速度的調節原理如式(3)所示：

vid(t+1)=ωvid(t)+c1r1(pid(t)-xid(t))+

c2r2(gd(t)-xid(t))

(3)

由式(3)可以看出，引入的ω代表的含義主要對上一代粒子狀態對當前粒子狀態的影響程度，ω取值越大，則上一代粒子狀態對與當前粒子的狀態影響越大；反之，影響則越小。同時，算法的全局搜索能力也會隨著ω的增大而提高。因此，通過控制慣性權重因子ω的大小，可以改進粒子群算法的全局搜索能力，當ω值取為常數1時，式(3)即退化為基本粒子群算法的速度更新公式。

為了進一步提高粒子群算法的優化性能，提升算法效率，采用基于距離控制因子的自適應調整策略來動態修正慣性權重ω及加速因子c1、c2，原理如式(4)所示：

(4)

式中：disti表示各粒子到全局最優值的平均距離；max(dist)表示至今平均距離的最大值；cont表示距離控制因子，即各粒子到全局最優點的平均距離與平均距離最大值的比值。

2 隱馬爾科夫模型及其優化

2.1 隱馬爾科夫模型

HMM類似于一階Markov過程，不同點是HMM是一個雙內嵌式隨機過程，即HMM是由兩個隨機過程組成，一個是狀態轉移序列，它對應著一個單純Markov過程；另一個是每次轉移時輸出的符號組成的符號序列。其中，狀態轉移隨機過程是不可觀測的，只能通過另一個隨機過程的輸出觀察序列觀測。

HMM可以通過5個參數來進行定量描述：

(1)系統狀態空間Qt∈(q1，q2,…,qN)，其中N為狀態數目；

(2)觀測值序列Ot∈(o1,o2,…,oM)，其中M為系統觀測值數目；

(3)系統初始狀態概率分布π=(π1,π2,…,πN)；

(4)系統狀態轉移矩陣A={aij}N×N，其中aij=P(Qt+1=qj|Qt=qi),1≤i,j≤N；

(5)觀測值轉移概率矩陣B={bjk}N×M，其中bjk=P(Ot=Vk|Qt=qj),1≤j≤N,1≤k≤M。

通常HMM模型記為λ=(N,M,π,A,B)，簡記為λ=(π,A,B)。一部分隨機過程由參數π和A表示，另一部分用參數B來表示。

在實際工程應用當中，HMM主要解決三個問題：評估問題、解碼問題和學習問題。評估問題主要解是在模型λ和觀測序列O已知的條件下，計算在此模型下產生該觀測序列的概率P(O|λ)，可以利用Forward-Backward算法進行求解；解碼問題主要是在模型λ和觀測序列O已知的條件下，確定此模型下產生相應觀測序列的最優狀態序列Q，可以利用Viterbi算法加以解決；學習問題即HMM模型的參數尋優，通過對多個觀測序列O進行學習，對HMM模型參數λ=(π,A,B)進行調整使得P(O|λ)最大，可以利用Baum-Welch算法進行訓練。

解決HMM參數學習問題的Baum-Welch算法是通過迭代逐步逼近極大化似然函數的下界實現的，它只能保證收斂到對數似然函數序列的局部極值點，而非全局極值點。在HMM理論中，通過訓練數據集對HMM參數進行訓練時，不同的初始模型參數對訓練結果有較大影響，在初始模型參數適當時才能求得與全局最優值接近的局部極大值。較其他參數而言，觀測值概率矩陣的初始值對訓練結果有較大影響[14-15]，故使用優化算法對其初值選取進行優化。

2.2 基于自適應PSO的初始參數優化

利用改進的PSO算法對隱馬爾科夫模型初始參數優化的流程如圖1所示。優化過程中，每一個粒子代表一個初始參數即觀測值轉移概率矩陣B，選擇Forward-Backward算法作為適應度函數，計算每個粒子的輸出似然概率值P(O|λ)作為粒子適應度值，并據此來選擇更優的個體粒子，選取的原則為：適應度值越大的粒子位置越優。利用Forward-Backward算法計算P(O|λ)原理如式(5)所示：

圖1 HMM初始參數優化流程Fig.1 Flowchart of optimization for HMM initial parameter

(5)

式中：T為觀測序列時間長度；αt(i)通過前向算法迭代計算；βt(i)通過后向算法迭代計算。

通過對比每次迭代后各粒子的適應度值來對粒子群個體最優位置pbest和全局最優位置gbest進行更新，粒子的速度按式(3)進行自適應更新，根據粒子速度來更新整個粒子群，反復迭代直至滿足終止條件，得到最優的初始觀測值轉移概率矩陣。

3 基于自適應PSO-HMM故障診斷方法

在改進粒子群優化算法的基礎上，本文提出一種基于自適應PSO-HMM的故障診斷方法，故障診斷流程如圖2所示。故障診斷主要分為兩個方面，一方面是不同故障狀態下HMM模型的建立，另一方面是利用建立的不同故障模型對待診斷數據進行處理，得到診斷結果。

圖2 基于自適應PSO-HMM的故障診斷流程Fig.2 Flowchart of fault diagnosis based on adaptive PSO-HMM

3.1 數據預處理

油機電站故障診斷的數據來源于不同狀態下的振動信號，油機振動時產生的噪聲對有用信號有所掩蓋。因此，在提取特征之前需要對柴油機故障振動信號進行有效的降噪處理。

而且由于油機電站故障發生時，常常會伴隨著短時脈沖、間斷等突發性異常信號的出現，基于小波分解等常用的信號降噪方法在處理這些異常信號時，計算復雜，費時費力。研究表明，在分析突發性故障信號時，數學形態濾波法更有優勢[16]。因此，采用多尺度形態濾波器對油機電站的振動數據進行去噪預處理。

3.2 特征提取與降維量化

油機運行過程中的振動信號含有多形式、多特征、多征兆信息，這些信息蘊含在多個特征空間內，而所采集的振動信號只是一維的時域信息。為了全面反映油機的特征，從多個特征域提取設備的振動特征，主要包括時域范圍內的均值、方差、均方根值、波形指標、峰值指標、脈沖指標、裕度指標、峭度指標、歪度指標等，頻域范圍內的頻率、幅值等，時頻域的小波包能量譜等，總共37維特征。

故障特征集構造完畢之后，為提升算法效率，引入核主元分析(KPCA)方法對其進行維數約簡，融合多個復雜性能指標，刪除冗余，保留反應故障狀態的主要特征，減少模型訓練時間。將篩選后的故障特征集進行歸一化處理并量化，完成HMM模型訓練之前的數據準備工作。

3.3 HMM模型訓練

HMM模型訓練過程主要有兩部分，一是利用自適應PSO算法對模型初始參數進行優化，二是根據參數初始化結果采用Baum-Welch算法對模型參數進行尋優，得到油機電站不同狀態的HMM模型。

3.4 故障診斷

完成油機電站各狀態下HMM模型的建立之后，即可以針對實測數據進行診斷，根據模型的輸出結果來判斷油機的故障類型。

根據圖2故障診斷流程，待診斷油機振動數據也需要進行預處理進行去噪，之后提取故障特征并降維量化處理，形成待診斷數據集。將經降維量化之后的特征集輸入至經過訓練的各狀態HMM模型，采用Forward-Backward算法計算各模型輸出結果即對數似然概率值，選擇似然概率值較大的模型對應油機待診斷數據所屬的故障模式，完成故障診斷。

4 仿真驗證

4.1 振動特征提取

本文采用油機電站實際振動數據對上述自適應PSO-HMM故障診斷方法進行仿真，試驗選用康明斯EQB190-20型號油機，在空載情況下設置正常、供氣不足、進氣門間隙異常三種狀態，采用加速度傳感器采集油機缸蓋振動信號，采樣頻率設置為20.48 kHz，采集的數據包括三種狀態下各500組振動數據。在此基礎上分析自適應PSO算法優化性能及優化之后HMM故障診斷的精度。仿真試驗平臺采用i5-8500處理器，內存8 GB，操作系統為64位Windows 7系統。

首先對各組數據先進行高通濾波，然后采用多尺度數學形態濾波方法進行去噪，結果示例如圖3。提取混合域振動特征，并使用KPCA方法對混合域特征進行降維和歸一化處理，其3維特征累積貢獻率即達到90%以上，如圖4所示，三種狀態基本能夠分離。將主元累積貢獻率設置為96%時，混合域特征維度降低為7維，繼續增加維度，累積貢獻率并無明顯提高。因此，選擇此7維特征作為融合后的故障樣本進行量化處理，隨機選取各狀態400組樣本作為訓練數據用于HMM模型訓練，剩余樣本作為待診斷數據用于測試模型分類準確率。

圖3 振動信號降噪結果Fig.3 Result of noise reduction for vibration signal

圖4 KPCA降維結果Fig.4 Result of dimension reduction by KPCA

4.2 基于自適應PSO的初始參數優化

初始觀測值轉移概率矩陣B的取值對隱馬爾科夫模型的訓練結果會產生較大影響，因此將HMM模型的初始參數B作為算法優化目標，以Forward-Backward算法作為適應度函數，計算每個粒子的輸出似然概率值作為粒子適應度值。采用降維量化后的訓練數據集進行算法的優化，并與標準PSO算法優化結果進行對比。兩種算法對不同狀態的模型初始參數優化結果如圖5所示。

圖5 各狀態模型參數優化訓練曲線Fig.5 Training curve of parameter optimization

從幾種不同狀態的模型參數優化曲線可以看出，與標準PSO算法相比，無論是在最終的適應度收斂值上，還是收斂速度方面，經過自適應改進的PSO算法表現都更加優異，證明自適應PSO算法的全局尋優能力要優于標準的PSO算法。

4.3 HMM模型訓練與診斷結果

將選取的各狀態訓練數據集量化之后用于HMM模型訓練，HMM模型狀態數設置為3，量化級數設置為25，初始狀態轉移概率矩陣隨機選取。將經過自適應PSO算法優化的結果作為Baum-Welch算法的初始參數，分別對油機正常狀態、供氣不足、進氣門間隙異常的HMM模型進行訓練。

訓練完成之后，將剩余300組測試數據集分別輸入已訓練的各狀態HMM模型，對訓練的模型識別精度進行測試，并將測試結果與經標準PSO算法優化的HMM模型及傳統HMM模型分類結果進行對比。傳統HMM、標準PSO-HMM及自適應PSO-HMM的輸出似然概率值如圖6～8所示。

圖6 傳統HMM算法輸出結果Fig.6 Output of traditional HMM

圖7 標準PSO-HMM算法輸出結果Fig.7 Output of standard PSO-HMM

圖8 自適應PSO-HMM算法輸出結果Fig.8 Output of adaptive PSO-HMM

根據輸出似然概率值最大原則確定測試樣本的故障診斷結果，并計算各算法的識別精度。同時采用支持向量機(SVM)算法用相同數據進行訓練、測試，將診斷結果與自適應PSO-HMM算法識別結果進行對比分析。各算法分類正確率如表1所示，自適應PSO-HMM算法識別效果最優，標準PSO-HMM和經典SVM算法次之，傳統HMM算法識別能力最弱。從中可以看出，引入群體智能優化算法能夠提高傳統HMM模型的診斷精度。并且經過自適應改進粒子群算法優化的HMM方法對油機電站的故障診斷精度要比標準PSO-HMM算法精度更高，其中油機正常狀態的分類正確率提升了10%，供氣不足的分類準確率提升了1%，進氣門間隙異常的分類準確率提升了14%。整體分類準確率達到97.3%，與標準PSO-HMM相比提高了8.3%。此外，由于經典SVM算法中核函數及懲罰因子等參數的選擇對模型診斷結果影響較大，因而模型識別能力要弱于自適應PSO-HMM算法。

表1 不同算法分類結果對比Tab.1 Diagnosis result of different algorithms

不同算法訓練耗時如表2所示，由于群體智能優化算法的引入，HMM訓練耗時有所增加，但前期對油機振動數據進行特征提取后采用KPCA方法進行降維處理，有效提升后續算法的訓練效率，一定程度上降低了由于自適應PSO算法所帶來的模型訓練時間上的影響。而且，對標準PSO算法進行自適應改進后，能夠更快找到全局最優值，有效減少算法迭代次數，縮短訓練時長。模型訓練完畢，采用相同數據集進行測試時，各算法的測試用時相差不大，均在5 s左右，說明算法的實用性。

表2 不同算法耗時對比Tab.2 Execution time of different algorithms

5 結 論

本文提出了一種基于自適應粒子群優化的HMM故障診斷方法，對標準PSO算法進行了自適應改進，在此基礎上對HMM初始參數進行了優化，并給出了基于自適應PSO-HMM的故障診斷流程。為了驗證該方法的有效性，利用油機電站不同狀態的實測振動數據，將自適應PSO-HMM與傳統診斷方法進行了對比，得到以下結論：

(1)經過改進的自適應PSO算法較標準算法有更優的全局搜索能力和更快的收斂速度，模型訓練耗時明顯降低。

(2)自適應PSO-HMM的診斷精度比標準PSO-HMM更高，整體分類準確率能夠達到97.3%，提高8%以上。