IIWPSO-PNN在化工過程故障診斷中的應用

譚 莉，于春梅

(西南科技大學信息工程學院，四川 綿陽 621010)

IIWPSO-PNN在化工過程故障診斷中的應用

譚 莉，于春梅

(西南科技大學信息工程學院，四川 綿陽 621010)

概率神經網絡(PNN)已成功應用于化工過程故障診斷。在概率神經網絡中，平滑參數對網絡性能有很大的影響，并且很難確定。因此，采用粒子群優化(PSO)算法，尋找最優平滑參數。針對粒子群優化算法中線性變化的慣性權重易使其陷入局部極值問題，采用非線性變化的慣性權重替代線性變化的慣性權重，并將其應用于改進慣性權重粒子群(IIWPSO)算法。將IIWPSO算法應用于概率神經網絡中(即IIWPSO-PNN)，使其自動搜索并尋找最優的平滑參數用于概率神經網絡的訓練和測試。與前人提出的線性變化慣性權重、兩種非線性變化的慣性權重(分別記為w1、w2和w3)進行比較，將w1、w2和w3應用于PSO-PNN中(分別記為PSO-PNN1、PSO-PNN2和PSO-PNN3)。最后將IIWPSO-PNN應用于田納西-伊斯曼過程中，與PNN、PSO-PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3網絡進行比較。試驗結果表明：IIWPSO-PNN在解決故障診斷問題時，識別率與收斂速度都有較大的提高。試驗結果驗證了IIWPSO-PNN算法應用于化工過程的可行性和有效性。

概率神經網絡； 故障診斷； 平滑參數； 慣性權重； 粒子群算法； 田納西-伊斯曼； 化工過程

0 引言

化工過程具有規模大、復雜性高、變量多等特點。為確保化工過程安全可靠地運行、消除故障隱患，對其進行及時、有效的故障診斷非常必要。概率神經網絡(probabilistic neural network,PNN)已廣泛地應用于各類故障診斷中。Wang等提出采用概率神經網絡進行故障診斷，結果表明，識別率與仿真速度明顯優于其他網絡[1]。

針對概率神經網絡平滑參數的問題，Yi等提出自適應策略改進概率神經網絡的平滑參數，效果優于PNN網絡，但隨著自適應的范圍逐漸增大，效率逐漸降低[2]。黎群輝等將差異演化算法應用于PNN中，識別率提高，但收斂速度較慢[3]。Porwik等提出粒子群優化(particle swarm optimization-PNN,PSO-PNN)概率神經網絡進行識別，效果明顯優于PNN網絡，并且穩定性提高[4]。因此，本文在PSO-PNN的基礎上，將改進慣性權重粒子群(improved inertia weight PSO,IIWPSO)算法應用于PNN網絡中，并基于標準化工測試過程——田納西-伊斯曼過程進行仿真驗證。

1 算法描述

1.1 概率神經網絡

概率神經網絡是基于徑向基神經網絡發展而來的一種前向性神經網絡[5]，1990年由Specht提出，是一種基于貝葉斯規則與Parzen窗的概率密度函數發展而來的并行算法，具有訓練時間短、結構固定、非線性識別能力強等特點，特別適合故障診斷以及識別問題[6]。概率神經網絡由輸入層、模式層、求和層和輸出層組成，其網絡結構如圖1所示。

圖1 概率神經網絡結構圖

輸入層神經元的數目和訓練樣本的維數相等，記訓練樣本為X=(x1,x2,…,xm)T。

模式層計算訓練樣本X與權值向量IW的距離，通常采用歐氏距離；然后通過徑向基非線性映射后獲得模式層的輸出向量M。徑向基函數通常選取高斯函數，輸出向量M表示訓練樣本輸出為各類的概率，由式(1)計算，σ為平滑參數。

(1)

求和層計算模式層輸出向量M的加權和S，由式(2)計算：

(2)

(3)

式中：wij為各向量的權重；n為總的模式數；Ni為i類模式層的神經元數目。

輸出層根據求和層的輸出S中的最大值，獲得網絡的輸出Q(X)。

(4)

平滑參數決定了以樣本點為中心的高斯曲線的寬度，并對網絡性能有很大的影響，且在一定范圍內有一個值使識別效果達到最好。在概率神經網絡中，平滑參數通常是經驗設定，需要在多次仿真試驗中才能找出使識別效果最好的值。因此，本文提出改進粒子群優化算法尋找最優平滑參數，使其自動搜索并尋找最優的平滑參數，并將其應用于概率神經網絡中。

1.2 改進粒子群優化算法

粒子群優化算法是由Kennedy和Eberhart于1995年提出的種群智能優化算法[7]。在粒子群算法中，每個粒子代表尋優空間中一個潛在的解。每一次迭代進化中，粒子通過自身和群體的歷史最優位置更新當前的速度和位置，在任意(t+1)時刻，粒子群算法中第i個粒子第d維的速度和位置由式(5)和式(6)更新[8]。

vid(t+1)=wvid(t)+c1r1[pid-xid(t)]+c2r2[pgd-xid(t)]

(5)

xid(t+1)=xid(t)+vid(t+1)

(6)

式中：vid和xid為粒子的速度和位置；w為慣性權重；c1和c2為加速因子，分別代表認知參數和社會參數；pid和pgd分別為個體和群體的歷史最優位置；r1和r2為相互獨立且服從[0,1]均勻分布的隨機數。

w由式(7)計算，wmax為w的最大值；wmin為w的最小值；t為當前迭代步數；Tmax為最大迭代步數[8]。

(7)

當w較大時，全局搜索能力強，局部開發能力弱[9]。因此，在全局搜索算法中，希望前期有較高的全局搜索能力以搜索更大的空間，并定位全局最優的近似位置，而在后期有較高的開發能力，以增強局部搜索能力，加快收斂速度。文獻[10]與文獻[11]提出的非線性變化慣性權重，其計算公式分別如式(8)和式(9)所示。Nickabadi等提出自適應慣性權重的粒子群算法(adaptive inertia weight PSO,AIWPSO)，具體過程見文獻[12]。

(8)

(9)

本文針對慣性權重的特點進行相應改進，其計算公式如式(10)所示。

(10)

假設最大慣性權重wmax=1、最小慣性權重wmin=0.3、最大迭代步數Tmax=100、s=-0.7，則四種慣性權重變化曲線如圖2所示。

圖2 慣性權重變化曲線

從圖2比較可知，w1呈線性變化，在前期全局搜索能力較強，但如果搜索不到最優點，隨著w的減小，局部搜索能力隨之加強，容易陷入局部極值；w2在前期下降緩慢，有較強的全局搜索能力，但在后期下降很快，局部搜索能力較差；w3整個曲線下降緩慢，有較強的全局與局部搜索能力，但收斂速度較慢；而w4的變化曲線在前期和后期變化緩慢，中間區域下降較快，因此，前期能夠保持較長時間的全局搜索能力以搜索到最優解區域，后期保持較長時間的局部開發能力搜索到最優解，并且收斂速度快。

1.3 IIWPSO-PNN訓練過程

本文采用概率神經網絡的識別率作為改進粒子群算法的適應度函數，由式(11)計算:

(11)

IIWPSO-PNN的訓練步驟如下。

①載入訓練樣本與測試樣本。

②初始化粒子群參數。

③用訓練樣本訓練PNN網絡，計算每個微粒的適應度函數值。

④將每個微粒的適應值pid與當前全局最優適應值pgd比較，更新pgd，使pgd保持較大值。

⑤根據式(5)和式(6)更新微粒的速度和位置，并根據式(10)更新慣性權重。

⑥終止條件。當訓練樣本識別率大于99%或者達到最大迭代步數，循環結束，否則返回步驟③。

⑦返回粒子群全局最優值pgd。

⑧用測試樣本訓練PNN網絡，此時平滑參數為pgd，統計識別率，仿真結束。

2 仿真分析

本文以TE過程為試驗背景，對IIWPSO-PNN網絡仿真驗證。TE過程是Downs和Vogel于1993年在“Computer & Chemical Engineer”上發表的一個典型化工過程[13]。其工藝流程圖及詳細仿真過程見文獻[14]。

為保證仿真結果的客觀性，所有仿真都在同一臺計算機上完成，計算機處理器為Pentium(R) Dual-Core，安裝內存(RAM)為2 GB，系統類型為32位操作系統；MATLAB版本為R2012b。

2.1 仿真驗證

在仿真過程中，每一種故障的訓練集數據是480組(都是有故障的情況)，測試集數據為320組(前160組為正常情況，后160組為有故障情況)。對于PNN網絡，仿真中網絡判斷當前輸入狀況為正常情況，則輸出1；反之，若判斷當前輸入狀況為故障情況，則輸出2。本文采用粒子群算法優化平滑參數，因此設置粒子的維數為1。根據文獻[15],設置粒子數為10、最大迭代步數為100、wmax=1、wmin=0.3、c1=c2=2、粒子最大速度為1、r1和r2為[0,1]之間的隨機數。

2.2 結果分析

將前人提出[10-12]的w1、w2和w3應用于PSO-PNN中，分別記為PSO-PNN1、PSO-PNN2和PSO-PNN3。為驗證IIWPSO-PNN算法的有效性，將仿真結果與PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3進行比較。其中概率神經網絡的平滑參數σ設為0.7。本文給出TE過程中21種故障(共21種)的識別率，具體如表1所示。

表1 故障識別率比較

從表1可得，IIWPSO-PNN對每一種故障的識別率都在0.7以上，并且故障6、7的識別率達到了100%。故障3、11、15、16的識別率高于PSO-PNN1和PSO-PNN2；故障3、11的識別率高于PSO-PNN3，其他故障識別率基本一樣；說明在故障3、11、15、16中，四種粒子群算法尋找到的平滑參數不一樣，IIWPSO算法找到相對更優的平滑參數，因此故障診斷的效果更好。另外，經過粒子群優化的概率神經網絡對于每一種故障的仿真結果都優于PNN(σ=0.7)網絡。

故障3、11、15、16的收斂曲線如圖3所示。

圖3 收斂曲線

IIWPSO-PNN網絡分別在20步、27步、25步開始收斂，并趨于穩定。比較發現，IIWPSO-PNN的收斂速度最快，其次是PSO-PNN3，且收斂速度優于PSO-PNN2，最慢的是PSO-PNN1。綜上可知，針對故障3、11、15、16，IIWPSO-PNN網絡不僅識別率高于其他網絡，而且收斂速度更快，驗證了改進算法的有效性。

3 結束語

本文以典型田納西-伊斯曼化工過程為研究對象，針對過程數據分布復雜、高維以及相關等特性，采用概率神經網絡進行故障診斷。針對網絡中平滑參數的不確定性，提出改進粒子群優化算法尋找最優平滑參數的方法，并將其成功應用于概率神經網絡中。TE過程仿真結果表明，針對故障1～21，IIWPSO-PNN的平均識別率是86.61%，與PNN、PSO-PNN1、PSO-PNN2和PSO-PNN3網絡相比，平均識別率分別提高了21.91%、3.28%、2.15%和0.67%，收斂速度也相對加快。因此，收斂速度與識別率兩方面數據表明，IIWPSO-PNN能有效解決化工過程故障診斷問題。

[1] WANG C Q,ZHOU J Z,QIN H,et al.Fault diagnosis based on pulse coupled neural network and probability neural network [J].Expert Systems with Applications,2011,38(6):14307-14313.

[2] YI J H,WANG J,WANG G G.Improved probabilistic neural networks with self-adaptive strategies for transformer fault diagnosis problem[J].Advances in Mechanical Engineering,2016,8(1):1-13.

[3] 黎群輝,張航.基于改進概率神經網絡的交通標志圖像識別方法[J].系統工程,2006,24(4):97-101.

[4] PORWIK P,DOROZ R,ORCZYK T.Signatures verification based on PNN classifier optimized by PSO algorithm [J].Pattern Recognition,2016,60(9):998-1014.

[5] 李浩,王福忠,王銳.免疫粒子群優化RBF神經網絡的變壓器故障診斷[J].自動化儀表,2016,37(11):4-7.

[6] SPECHT D.Probabilistic neural network [J] .Neural Networks,1990,3(1):109-118.

[7] KENNEDY J,EBERHART R.Particle swarm optimization[C]//Proceedings of the 1995 IEEE International Conference on Neural Networks,1995:1942-1948.

[8] SHI Y,EBERHART R.A modified particle swarm optimizer[C]//Proceedings of the 1998 IEEE International Conference on Evolutionary Computation,1998:1942-1948.

[9] EBERHART R,SHI Y.Comparsion between genetic algorithm and particle swarm optimization[M]//Lecture Notes in Computer Science(Evolutionary Progranllning Vll).Berlin:Springer Press,1998:611-616.

[10]LEI K,QIU Y,HE Y.A new adaptive well- chosen inertia weights in particle automat- ically harmonize global and local search ability in particle swarm optimization[C]//ISSCAA,2006.

[11]胡建秀,曾建潮.微粒群算法中慣性權重的調整策略[J].計算機工程,2007,33(11):193-195.

[12]TICKABADI A,EBADZADEH M M,SAFABAKHSH R.A novel particle swarm optimization algorithm with adaptive inertia weight[J].Applied Soft Computing,2011(11):3658- 3670.

[13]DOWNS J J,VOGEL E F.A plant-wide industrial-process control problem [J].Computer & Chemical Engineering,1993,17(3):245-255.

[14]蔣浩天,拉塞爾，布拉茨.工業系統的故障檢測與診斷[M].段建明,譯.北京:機械工業出版社,2003.

[15]王東風,孟麗.粒子群優化算法的性能分析和參數選擇[J].自動化學報,2016,42(10):1552- 1561.

ApplicationofIIWPSO-PNNinFaultDiagnosisofChemicalProcess

TAN Li，YU Chunmei

(School of Information Engineering,Southwest University of Science and Technology,Mianyang 621010,China)

Probabilistic neural network has been successfully applied in fault diagnosis of chemical process.In probabilistic neural network,the smoothing parameter has great influence on its performance and it is difficult to determine the optimal value.Therefore,the particle swarm optimization (PSO) algorithm is used to seek for the optimal smoothing parameter.In PSO algorithm,the inertia weight of linear variation is easy to make the algorithm fall into local extremum,so the inertia weight of nonlinear change is used to replace the inertia weight of linear change and apply into the improved inertia weight particle swarm optimization algorithm (IIWPSO).Then,the IIWPSO is applied to probabilistic neural network,which can automatically search and find the optimal smoothing parameter to be used for training and testing the probabilistic neural network.Compared with the inertia weight of the linear change and two kinds of nonlinear inertia weight (namedw1,w2andw3),thew1,w2andw3are applied to PSO-PNN respectively,which are denoted as PSO-PNN1,PSO-PNN2 and PSO-PNN3.Finally,the IIWPSO-PNN network is applied in Tennessee Eastman process,and compared with PNN,PSO-PNN,PSO-PNN1,PSO-PNN2 and PSO-PNN3 networks.The test results indicate that IIWPSO-PNN network has higher recognition rate and convergence rate when addressing the fault diagnosis problem.The feasibility and effectiveness of the IIWPSO-PNN algorithm in chemical process are verified.

Probabilistic neural network; Fault diagnosis; Smoothing parameter; Inertia weight; Particle swarm optimization; Tennessee-Eastman; Chemical process

TH165; TP277

： A

10.16086/j.cnki.issn1000-0380.201709003

修改稿收到日期:2017-03-19

四川省重點實驗室開放基金資助項目(13zxtk16)、 西南科技大學博士基金資助項目(11zx07)

譚莉(1991—)，女，在讀碩士研究生，主要從事故障檢測與診斷方向的研究。E-mail：tanlicq521@163.com。 于春梅(通信作者)，女，博士，教授，主要從事故障診斷、模式識別、機器人控制方向的研究。E-mail：512232478@qq.com。