基于自適應MCMC采樣的新型UPFNN鋁電解能耗模型

丁 偉, 姚立忠2,, 龍 偉, 李炎炎

(1. 四川大學機械工程學院, 成都 610065;2. 重慶科技學院電氣工程學院, 重慶 401331)

1 引 言

電解鋁產品已廣泛應用于航天、交通、建筑、機械制造等重要領域,在世界工業發展過程中占有舉足輕重的戰略地位[1].據統計結果分析,在消耗方面,2019年我國電解鋁消費量為3 672萬噸,同比增長2.4%[2].然而,我國鋁電解工業已進入到技術瓶頸期,其主要原因是鋁電解能耗過高.由于鋁電解工藝制造系統具有波動性、動態時變以及不確定性等特征,故難以準確地建立相對動態平穩的鋁電解能耗模型,從而導致部分企業無法根據此模型來對未來狀況進行整體規劃和技術優化.因此,研究高精度鋁電解能耗建模技術對工業生產提質增效具有重要意義.

鋁電解系統存在一系列的物理化學反應,機理復雜不易量化.因神經網絡[3]可處理系統機理未知的建模問題而備受關注.文獻[4]使用小波神經網絡來研究分析鋁電解槽過程中各狀態階段;文獻[5]介紹了神經網絡控制技術與預測技術結合來調整氧化鋁濃度的控制策略.然而,當傳統神經網絡建模完成時,其權值和閾值將保持不變.當鋁電解系統工藝參數因實時工況變化而改變時,基于先前數據所建立的靜態神經網絡模型將無法滿足鋁電解工藝條件動態優化的需求.因此,為保證能耗模型對鋁電解制造系統運行規律具有一定的漸進學習能力,可引進濾波技術來實時更新系統模型參數.

現如今大多數論文引入擴展卡爾曼濾波(Extended Kalman Filter, UKF)和無跡卡爾曼濾波(Unscented Kalman Filter, UKF)對神經網絡的權值閾值進行動態調整.相比于靜態神經網絡模型,EKFNN與UKFNN所建立的模型能夠隨工藝條件的改變而實時變化,具有良好的漸進學習能力.文獻[6]采用改進無跡卡爾曼優化神經網絡來提高建模精度;文獻[7]將神經網絡、擴展卡爾曼濾波器和遞歸最小二乘法結合進行參數估計;文獻[8]提出一種基于自適應擴展卡爾曼濾波器的徑向基函數神經網絡;Yao等[9]提出一種基于強跟蹤UKF的改進前饋神經網絡算法,用于建立鋁電解能耗模型;文獻[10]將人工神經網絡和UKF結合對非線性系統進行狀態估計.

根據上述文獻分析可知,EKFNN與UKFNN有效拓展了鋁電解能耗建模技術,但上述技術往往限定了高斯、低維環境的假設條件,缺乏對高維非線性非高斯系統能耗建模技術的探討,而實際上鋁電解系統具有噪聲密集、分布類型未知且參數高維等特征.因無跡粒子濾波具有典型處理非線性非高斯問題的能力,故本文在無跡粒子濾波(Unscented Particle Filter, UPF)漸進更新神經網絡權值閾值[11]的構建框架下,為進一步使算法適應于高維數據,通過改善無跡變換(UT)中κ參數來優化采樣過程.同時,為避免該算法中粒子狀態出現多樣性損失,本文在傳統馬爾科夫鏈蒙特卡洛(MCMC)方法[12-13]基礎上引入自適應采樣策略來保持粒子的多樣性,精調模型狀態逼近真實運行系統的貼近程度.

綜上所述,本文提出一種基于自適應馬爾科夫鏈蒙特卡洛采樣的新型無跡粒子濾波神經網絡(Adaptive Markov Chain Monte Carlo Unscented Particle Filter Neural Network, AMCMC-UPFNN)算法,并用此來建立鋁電解能耗模型.該技術有望提高鋁電解能耗建模精度不佳的難題,可作為鋁電解未來能耗預測的有效方法.最后，以重慶某鋁廠電解車間工藝系統為例,采集9種主要決策變量數據進行鋁電解能耗建模,驗證了所研究的科學性與有效性.

2 基于自適應MCMC的新型無跡粒子濾波神經網絡

2.1 濾波方程

在傳統神經網絡建模[6]基礎上,為動態描述濾波方法對神經網絡權值閾值的更新過程,使用狀態空間表示法建立濾波方程[14-15],如式(1)所示.

(1)

其中,ωk表示k時刻狀態變量(即神經網絡權值閾值)；uk表示k時刻某工業制造系統的輸入變量；yk表示k時刻量測變量(即評價工業制造系統優劣的輸出變量).假設系統測量噪聲vk為0均值高斯噪聲,方差為R;系統過程噪聲為0均值高斯噪聲,方差為Q.第k時刻的網絡權值依賴于k-1時刻的網絡權值以及系統隨機過程噪聲θk,而測量噪聲主要來描述系統因傳感器等裝置導致的建模誤差.非線性測量函數h(·)使用一個多層感知器來近似,其表達式如式(2)所示.

(2)

2.2 自適應MCMC-UPFNN算法描述

2.2.1 新型UPFNN算法描述 在工業系統過程建模中,通常將環境擾動變量和內部狀態變量簡單地看成是相對穩定的.但是,在實際的工業過程中,由于“人、機、料、法、環”等諸多不確定因素的存在,使得由決策變量建立的靜態神經網絡模型難以適應真實工藝.本文則以UPFNN為研究對象,將神經網絡的權值閾值作為UPFNN的狀態變量,將神經網絡的輸出作為UPFNN的量測變量,具體UPFNN算法可參見文獻[16].

UPFNN的算法精度主要取決于無跡粒子濾波器,然而在高維情況下會發生算法會發散現象,從而導致算法精度顯著下降.為解決該問題,本文改進了無跡變換(Unscented Transformation, UT),將常規項κ由平方項κ2代替,改進后的無跡變換能夠有效地避免數據高維而導致UT矩陣出現負定情況,進而保證UT采樣的正確性.其中，UPFNN的UT采樣過程,如式(3)所示.

(3)

λ=α2(N+κ2)-N

(4)

從改進后的UT表達式可以看出,新型UPFNN算法通過調整κ參數,確保在高維環境下UT矩陣的非負定性和算法的穩定性,并通過UT得到的采樣點及其相應權重建立的概率密度分布更加接近制造系統真實狀態的概率密度分布.

2.2.2 自適應MCMC方法描述 無跡粒子濾波本質上屬于粒子濾波理論[17-18]的范疇,隨著時間更新UPFNN算法中粒子種類會逐漸減少,從而引起粒子多樣性損失問題.而MCMC方法是在貝葉斯理論框架下提出,通過計算機進行模擬滿足Markov序列的Monte Carlo方法,實現抽樣分布隨模擬的進行而改變的動態模擬.因此,MCMC在粒子重采樣后能使粒子保持多樣性而不影響近似有效性.

MCMC理論中最核心部分是采樣粒子時的接受概率[19],但粒子多樣性會隨著更新迭代而逐漸減少,故要求在保證粒子多樣性的前提下,盡可能保持原有粒子的真實狀態,從而使所建立的概率密度分布更接近真實分布.對此,本文提出了如式(5)的表達式,該表達式能夠根據粒子迭代次數來調整接受概率,更新前期粒子種類足夠多,此時接受概率可以小一些;隨著更新迭代,后期接受概率要大一些,使粒子的種類增加,以防止粒子多樣性損失.

(5)

2.2.3 自適應MCMC-UPFNN算法設計及分析基于上述新型UPF算法、自適應MCMC理論和神經網絡,本文提出一種基于自適應MCMC采樣的新型無跡粒子濾波神經網絡即AMCMC-UPFNN算法.

基于式(1)的濾波方程,AMCMC-UPFNN流程如下.

(2) 時間更新.根據式(3)進行UT采樣,通過得到的采樣點及其相應權重計算統計量y.

(6)

(7)

(8)

(8)

(9)

(10)

(11)

(12)

(13)

(14)

(15)

若Neff≤Nth(Neff為有效粒子數,Nth為設定的閾值,一般取為N/3)則說明粒子的權值已經退化嚴重,需要進行重要性重采樣;否則直接進入下一步驟.

(5) MCMC過程.根據式(5)的接受概率來產生新的粒子:

(a) 若接受,則

(a) 平均絕對誤差MAE

(a) PFNN (b) UPFNN

(16)

(b) 若否則拒絕,則

(b) 平均相對誤差MRE

(17)

(6) 結果輸出.

(18)

3 鋁電解能耗建模應用實驗

3.1 實驗對象

本文將重慶某電解鋁制造車間異型陰極和穿孔陽極聯合使用的新型鋁電解裝備作為實驗對象[12],如圖1所示.其中，f1表示噸鋁直流能耗,原則上希望其數值越小越好.

根據專家的經驗，以及我們對電解鋁制造系統的工藝參數的分析,得出影響噸鋁直流電耗的系列參數有如下過程工藝變量:系列電流、分子比、鋁水平、電解質水平、槽溫度、出鋁量、氟化鹽日用量、下料間隔和槽壓.基于工廠計算機測控系統對電解槽進行日報數據采樣得到上述工藝數據樣本773 組,如表1所示.利用這些實測樣本和本文所開發的算法開展鋁電解制造系統單位直流能耗的建模分析與研究.

3.2 基于AMCMC-UPFNN的建模及結果分析

為驗證AMCMC-UPFNN算法的有效性和優越性,本文在相同的數據樣本及仿真平臺(MATLABR2014b)條件下,對比預測誤差來衡量算法性能.所有實驗均將表1中773組鋁電解數據分成訓練集樣本700組和檢驗集樣本73組,其中采用9-9-1的神經網絡結構,輸入為9種決策參數,輸出為單位能耗,隱含層傳遞函數為Sigmoid函數,輸出層傳遞函數為Purelin函數.

依據PFNN、UPFNN、MCMC-UPFNN和AMCMC-UPFNN建立鋁電解工藝能耗模型,如圖2所示.為了清楚地分析模型優劣,4種模型預測能耗相對誤差對比如圖3.從曲線的擬合效果可看出,AMCMC-UPFNN擬合效果都遠遠優于其他模型.整體來看,根據調整后的無跡變換所建立的模型性能均優于其他模型,凸顯了其優越性,并且自適應MCMC對于算法的優化是可行的.

圖3 模型能耗相對誤差對比圖Fig.3 Comparison of relative error of model energy consumption

從方法上而言,調整后的UT使算法可適用于高維數據的場合,提高了算法的魯棒性;通過引入自適應MCMC克服了算法中粒子多樣性損失問題,提高了模型的精度.從圖3可看出,AMCMC-UPFNN相對誤差百分比不超過1%,取得了比PFNN、UPFNN和MCMC-UPFNN更優的性能指標.各模型建立能耗模型的指標數據對比見表2.

表2 不同模型相關性能指標比較

從表2可知，就模型精度而言,很明顯AMCMC-UPFNN的各項絕對誤差指標都低于PFNN、UPFNN和MCMC-UPFNN.特別是,AMCMC-UPFNN模型的SSE、MSE和RMSE明顯低于其他3種方法,進而驗證了AMCMC-UPFNN方法的有效性.

為了避免隨機化初始值對模型評估的偶然影響,本文基于各模型分別對能耗預測進行20次獨立重復實驗,然后統計實驗結果的相關性能指標,并通過箱線圖的形式展示了AMCMC-UPFNN能耗模型良好的穩定性,如圖4所示.

(c) 相關系數R

4 結 論

本文提出了一種基于自適應MCMC采樣的新型無跡粒子濾波神經網絡(AMCMC-UPFNN)算法,以無跡粒子濾波神經網絡為研究對象,利用無跡變換(UT)中κ參數的平方項代替UPFNN算法中對應的常規項;然后,引入自適應MCMC來解決UPFNN中粒子多樣性損失問題;最后本文系統性地呈現了AMCMC-UPFNN算法框架并構建了鋁電解能耗模型.通過對PFNN、PFNN、MCMC-UPFNN和AMCMC-UPFNN建立的鋁電解能耗模型進行對比實驗驗證.結果證實了利用AMCMC-UPFNN算法所建模型精度高和自適應能力強.因此,本研究為利用濾波神經網絡進行建模提供了新的思路和方法.在未來研究過程中,將進一步探索濾波理論與深度神經網絡學習算法的融合策略來進一步挖掘鋁電解制造系統的隱藏運行規律.