基于LSTM的燃煤電廠NOx排量軟測量

潘紅光，裴嘉寶，蘇 濤，辛芳芳

(西安科技大學 電氣與控制工程學院，陜西 西安 710054)

0 引 言

火力發電以煤電為主，燃煤電廠煤粉在燃燒過程中產生的有害氣體會對大氣環境造成污染。目前，燃煤電廠主要通過SCR(selective catalytic reduction，SCR)脫硝系統降低NOx排放量[1]，鍋爐燃燒工藝流程如圖1所示。為有效應對NOx的排放，對其進行實時測量至關重要。NOx的排放量一般通過建立湍流模型[2]、氣固流動模型[3]等方式進行測量。目前，NOx排放量一般采用硬件傳感器或者分析儀，利用連續排放監測系統(continuous emissions monitoring system，CEMS)進行實時測量。然而，CEMS在線測量NOx排放量時，投資成本過高、計算速度慢、測量存在滯后性等缺點，難以滿足煙氣出口NOx排放量迅速、穩定的監測要求。對于復雜工業環境而言，在具體生產過程中受設備和技術因素的影響，往往導致有些關鍵變量測量誤差較大甚至難以測量。除此之外，某些設備測量的結果時間上存在滯后性無法實時指導生產活動，這就很難對生產活動進行實時控制。軟測量技術的發展正是為了解決這類質量指標的實時測量和控制問題。

圖1 鍋爐燃燒工藝流程Fig.1 Process flow chart of boiler combustion

軟測量技術主要依據工業生產過程中可測的輔助變量來實時估計待測的目標變量[4]。軟測量技術的基本過程如下：首先，通過對目標變量的分析，選擇與目標變量密切相關的易測量；其次，通過數據采集和預處理，確定數據的有效性后建模；最后，對模型進行分析確定其是否滿足實際生產需求。大量的文獻表明，軟測量技術具有實際運用價值。GONZAGA等采用基于人工神經網絡(artificial neural network，ANN)的軟測量方法對一個聚合過程的聚合物粘度進行估計，并將此估計結果成功應用于伺服和調節問題，并使得工業裝置有效運行[5]。LI等提出一種利用靈敏度矩陣分析和核脊回歸(kernel ridge regression，KRR)實現蒸餾成分在線軟測量的組合軟測量傳感器，并在模擬精餾塔上的應用表明該方法的有效性[6]。毛清華等針對采煤機機截割載荷難以直接測量的問題，采用基于ELM神經網絡的軟測量方法建立采煤機機截割載荷軟測量模型，結果表明軟測量建模方法能夠實現采煤機機截割載荷預測[7]。由以上文獻研究和分析可知，軟測量技術在不同領域的實際應用中，都取得相應的成果，充分體現它自身所具有的優勢。

考慮到電站鍋爐具有大慣性、大滯后、時變和不確定性的特點，且各參數之間相互耦合，各個過程難以使用準確的數學模型來表征；同時，機組運行過程積累了大量數據，因此研究基于數據驅動的建模方法有望獲得有效的NOx排放量測量模型。近年來，研究人員提出很多方法用于分析鍋爐能效問題。例如MA等利用徑向基函數(radial basis function，RBF)神經網絡建立1 000 MW超超臨界機組模型來測量機組負荷、主蒸汽壓力和中間點溫度，獲得很好的效果，具有很強的實際工程意義[8]。GU等提出一種自適應最小二乘支持向量機(adaptive least squares support vector machine，ALS-SVM)算法，對鍋爐燃燒系統建模，結果表明該模型能夠很好反映鍋爐燃燒系統的時變特性[9]。李競岌等利用小型鼓泡流化床實驗臺比擬循環流化床(circulating fluidized bed，CFB)鍋爐密相區，在850 ℃床溫和10%O2濃度下，進行單顆粒焦炭的燃燒實驗，對不同床料粒度、制焦煤種、焦炭粒徑和流化風速條件下焦炭氮向NOx的轉化比例進行研究[10]。王科等在鍋爐原始燃燒系統的基礎上調整二次風配比并且引入燃盡風(separated over-fire air，SOFA)，通過數值模擬的方法評估新型燃燒系統在不同SOFA風率和不同SOFA位置時的整體燃燒性能，結果表明SOFA參數對NOx排放和飛灰含碳量有影響[11]。這些文獻從不同方面分析鍋爐能效問題，說明研究基于數據驅動的NOx排放量測量的建模方法具有實際意義。

鍋爐NOx排放量在數據上是一個非線性的時間序列，信息彼此間有著復雜的時間關聯性。目前，廣受關注的諸多深度學習方法，是一種能夠模擬出人腦的神經結構的機器學習方法，可以有效處理此處的非線性問題[12]。BP神經網絡和長短期記憶(long short term memory，LSTM)網絡就是其中的一部分。BP神經網絡是一種經典算法，它是一種按照誤差逆向傳播算法訓練的多層前饋神經網絡，是目前應用較為廣泛的神經網絡。ZHOU等提出一種基于BP神經網絡的自適應卡爾曼濾波算法，分析吸煙者和非吸煙者呼出CO和N2O的濃度[13]。TAO等提出一個結合BP神經網絡和地質統計學來描述污染場地的土壤污染物情況的模型[14]。但BP神經網絡泛化性較差，而LSTM神經網絡考慮數據的時間特性，在時間序列預測方面有更好的表現[15]。MA等研究LSTM神經網絡的架構，與動態神經網絡的不同拓撲以及SVM等其他算法比較，表明LSTM在準確性和穩定性方面可以實現最佳短期交通預測性能[16]。由以上文獻可知，LSTM對時序性數據處理效果較好。

綜上所述，基于LSTM網絡能夠學習到數據間的長期依賴性[17-18]，同時針對鍋爐NOx濃度時間序列預測這一問題，筆者提出一種基于LSTM神經網絡的軟測量方法對NOx排放量進行實時測量。首先，對NOx產生機理分析，并在實際生產數據集上初步選取與NOx排放量緊密相關的20個輔助變量；其次，在數據預處理后，利用灰色關聯度分析精選出15個輔助變量；最后，通過訓練集和測試集對LSTM模型進行訓練和測試，并將LSTM模型與BP神經網絡模型和SVM模型的軟測量結果比較發現，LSTM模型的預測準確度更高，泛化能力更強。

1 LSTM神經網絡

1997年，HOCHREITER等提出LSTM神經網絡，目的是解決循環神經網絡(recurrent neural network，RNN)梯度消失問題[19]。

RNN結構如圖2所示，圖中，Di(i=0,1,…,t)為時間i的輸入；ui(i=0,1,…,n)為輸出；中間部分E是隱藏層的信息流。但是，隨著時間序列的不斷增長，RNN將出現梯度消失問題，而LSTM神經網絡的提出，成功解決此類問題。

圖2 RNN網絡結構Fig.2 Network structure of RNN

LSTM神經網絡是一種特殊的RNN，可有效解決傳統RNN梯度消失或梯度爆炸現象[20-21]。LSTM將每一層神經元加入了“門控”結構，使得部分誤差在傳播過程中可以直接通過“門”，而不用歸因于當前神經元。因此，誤差可以直接傳播到下一層，梯度無論傳播多遠都不會出現梯度消失問題。在RNN隱藏層中，LSTM加入輸入門(Input Gate)，輸出門(Output Gate)，遺忘門(Forget Gate)和一個內部單元(Cell)，如圖3所示。

圖3 LSTM單元內部模型Fig.3 Internal model of LSTM unit

輸入門控制著新的輸入信息進入記憶單元的強度，即決定著多少新記憶和老記憶進行合并。

(1)

(2)

遺忘門決定細胞狀態中丟棄什么信息。

(3)

(4)

Cell的狀態更新如下。

(5)

(6)

輸出門控制長期記憶對當前輸出的影響，并確定輸出值。

(7)

(8)

最終通過以上3種門狀態輸出新的細胞狀態。

(9)

式中h(·)為激活函數，這里h選擇tanh函數。

在式(1)～式(9)中帶h的權重矩陣(ωh*或ω*h)均代表一種泛指，因為LSTM的一個重要特點是其靈活性，即Cell之間的互聯和隱含層之間互聯，可根據具體情況選擇連接與否。

文中采用均方誤差(MSE)作為誤差函數用于神經網絡的誤差反向傳播學習。

(10)

式中yi，pi分別為第i組樣本真實輸出和預測值。

2 NOx排量軟測量

2.1 數據采集與輔助變量初選

實驗數據來自陜西省榆林某電廠實際生產數據，數據內容為實測樣本，數據采集點是2019年1月1日 00∶00至6月9日2∶00，采樣間隔為1 h，共3 800個采樣點數據。

通常燃煤電廠鍋爐燃燒產生的NOx主要分為3大類，分別為燃料型NOx、熱力型NOx與快速型NOx。燃料型NOx在3種污染物中比例最大，它是煤質的直接燃燒產生的污染物；熱力型NOx在3種污染物中比例較小，它是送風機送入的氮元素在鍋爐中被氧化產生的污染物；快速型NOx在3種污染物中比例最小，它是煤質中的碳元素與空氣中的氮元素發生瞬時反應產生的污染物。通過對NOx生成原因分析，初步選取總給煤量、鍋爐總風量、爐膛出口溫度等3 800×20組變量(見表1變量1～20)，其中脫硝出口NOx排放量為目標變量。

表1 輔助變量Table 1 Auxiliary variables

其中，NOx國家的排放標準主要依據國家2014年發布的并且要求2016年7月開始執行的國家鍋爐大氣污染物排放標準，具體為：

1)燃氣鍋爐：在用鍋爐 400 mg/L、新建燃氣鍋爐 200 mg/L、重點地區 150 mg/L；

2)燃煤鍋爐：在用鍋爐 400 mg/L、新建燃氣鍋爐 300 mg/L、重點地區 200 mg/L；

3)燃油鍋爐：在用鍋爐 400 mg/L、新建燃氣鍋爐 250 mg/L、重點地區 150 mg/L。

2.2 數據預處理

考慮到工業環境復雜性，前述實測數據使用前需預處理。數據預處理包括隨機誤差、粗大誤差的處理及數據變換。粗大誤差一般由于傳感器失靈、設備異常等造成，一般情況下，粗大誤差出現概率較低，一旦出現會嚴重影響數據質量。隨機誤差主要由于測量信號的干擾及操作過程的隨機波動成。

2.2.1 粗大誤差處理

(11)

若樣本qk的偏差vk(1≤k≤n)滿足|vk|>3σ，則該樣本數據為粗大誤差數據，應予剔除。

2.2.2 隨機誤差處理

采用數據濾波中的滑動平均值法處理數據的隨機誤差。具體過程為：定義滑動時間窗口長度為k，設第i時刻參數的測量值為qi，用i到i+k時刻窗口中樣本的平均值代替qi的觀測值，即可消除隨機誤差。其過程描述如下

(12)

2.2.3 歸一化與反歸一化處理

各個數據之間的數量級差別過大，需要對數據進行歸一化處理

(13)

式中Qi為歸一化處理后的數據。為了返回原始量綱，須進行反歸一化處理

qi=Qi(qmax-qmin)+qmin

(14)

2.3 輔助變量精選

輔助變量精選可將數據維數控制在恰當范圍內；輔助變量太多會影響模型靈活性和時效性；反之，又難以充分輸入參數的特征信息，影響模型適用性和準確性。考慮到表1中變量1～20之間具有不同程度關聯，因此，采用灰色關聯度分析法量化變量間的關聯度，以精選輔助變量。灰色關聯分析法主要依據序列曲線幾何形狀的相似程度來判斷其聯系是否緊密：曲線越接近，相應序列間的關聯度越大；反之，越小。

采用灰色關聯度獲得各輔助變量關聯度，見表1。設定關聯度閾值為0.90[23-24]。據此閾值，精選2號給煤機密封風調門反饋、1號機組煙囪入口煙氣O2濃度、左側爐膛出口溫度、右側爐膛出口溫度等關聯度大于 0.90的15個輔助變量。因此，最終有效數據規模為3 800×15。

2.4 軟測量建模

軟測量技術的主要思想是：采用便于測量的變量來實時估計待測的目標變量。采用2號給煤機密封風調門反饋、1號機組煙囪入口煙氣O2濃度等15個輔助變量，利用LSTM算法進行軟測量建模估計目標變量脫硝出口NOx排放量，具體過程如下。

1)根據燃煤電廠的理論和技術收集脫硝出口NOx排放量和相關數據，并構建數據集。

2)使用(11)消除粗大誤差，使用(12)消除隨機誤差，并使用(13)～(14)標準化數據。

3)運用灰色關聯度對數據進行降維處理，以實現輔助變量的精選，并將數據集劃分為訓練集和測試集。

4)建立深度學習模型并初始化LSTM神經網絡相關參數。

5)訓練：在正向傳播中，使用(1)～(9)獲得預測輸出；在反向傳播中，使用梯度下降法來計算每個權重的梯度。之后經過迭代和修改權重，使損失函數最小化，并輸出最優模型。

6)測試：公式(10)用于計算測試集的評估指數。

7)如果精度符合要求，則輸出最終的LSTM神經網絡模型。否則，返回步驟 4)調試LSTM神經網絡參數。

3 仿真實驗

實驗中軟件環境為：Python的框架——PyTorch 0.3.1，Python編輯環境為PyCharm，操作系統為Win7(64位)；硬件配置為：內存DDRIII 12G(8G+4G)，CPU為 AMD A4-Series A4-5000。

3.1 場景及參數設計

一般來說，數據規模會對數據驅動方法的結果產生較大影響[25]。考慮到很多場景下大規模數據獲取存在困難，在仿真部分對小數據量(場景 1)和大數據量(場景2)分別進行仿真[26-27]。為便于比較，測試集數據均選為240組(2019年5月 30日 2∶00至6月9日2∶00)。場景1訓練集為480組(2019年5月10日1∶00至5月30日1∶00)；場景2訓練集為3 560組(除去240組測試數據后的剩余數據)。

與此同時，為比較文中所提方法的有效性，此部分還對基于BP神經網絡和SVM的2種方法進行仿真，并分別作了比較。根據上文選定的模型結構，基于LSTM神經網絡的軟測量模型參數見表2。BP神經網絡具體建模方法可參考[26]，具體參數見表2。對于SVM建模方法可參考[9]，其主要參數為最佳懲罰系數μ和徑向基函數的寬度ψ，其中，場景1下訓練后的參數ψ=11.313 7,ψ=0.022 1，場景2下訓練后的參數μ=2.828 4,ψ=0.250 0。

表2 網絡模型參數Table 2 Network model parameters

3.2 場景1仿真結果

圖4展示LSTM訓練過程的均方誤差(MSE)與迭代次數的關系：隨著迭代次數的增加，訓練誤差逐漸縮小。這一規律在場景1(紅色實心圓)和場景2(藍色實心圓)中基本一致；只是在場景2(大數據量)下，均方誤差下降速度更快。說明對于LSTM神經網絡模型而言，訓練集規模越大，訓練速度越快。

圖4 LSTM訓練誤差Fig.4 LSTM training errors

圖5～7給出場景1下3種方法的預測結果。整體來看，此種場景下基于SVM模型的預測精度最優。為進一步量化各方法的預測效果，表3分別從均方誤差(MSE)、均方相關系數(r2)兩方面對預測效果進行展示。其中，MSE反應的是預測值與真實值的偏離程度，MSE越小，說明模型精確度越高；r2反應2個變量變化時的相似程度，該系數越高表示預測值與真實值越接近；二者相互結合，綜合反應模型的優劣。

圖5 場景1基于LSTM的模型預測結果Fig.5 Forecast results of LSTM based model in Case 1

圖6 場景1基于BP的模型預測結果Fig.6 Forecast results of BP based model in Case 1

圖7 場景1基于SVM的模型預測結果Fig.7 Forecast results of SVM based model in Case 1

據表3，場景1下SVM的MSE比BP和LSTM分別低0.000 3和0.002 0；SVM的r2比BP和LSTM分別高0.014 0和0.026 8。也即，基于SVM的模型2項指標均優于其他2種模型。該結果說明，基于SVM的模型在小數據量的情況下其泛化能力更強，預測結果更好，適用于小數據量場景[9]。

3.3 場景2仿真結果

圖8～10給出3種方法在場景2下的預測結果。從整體看，場景2下基于LSTM模型的預測精度最優。由表3可知，場景2下LSTM的MSE比BP和SVM分別低0.000 2和 0.000 5；LSTM的r2比BP和SVM分別高0.020 6和0.065 9。即，基于LSTM的模型2項指標均優于其他2種模型。該結果說明，基于LSTM的模型在大數據量情況下泛化能力更強，預測結果更好，適用于大數據量場景[9]。

表3 3種方法結果比較Table 3 Result comparison of three methods

圖8 場景2基于LSTM的模型預測結果Fig.8 Forecast results of LSTM based model in Case 2

圖9 場景2基于BP的模型預測結果Fig.9 Forecast results of BP based model in Case 2

結合表3及圖5～圖10，可以得出如下結論：在大數據量的基礎上，基于LSTM的模型較基于BP和SVM的模型能夠學習到數據間的長期依賴性，同時對時間序列有強化記憶能力的特點[27]；其具體原因在于，LSTM加入“門控”結構替換原RNN網絡結構中的隱含層細胞，通過“門控”結構將長期記憶與短時記憶結合，使得部分信息在傳遞過程中可以直接通過“門”，而直接越過當前神經元，可以有效地處理長期依賴的動態相關問題，在一定程度上彌補RNN網絡“梯度消失”的問題；LSTM特殊的“門控”結構，使其在處理時序問題上的性能優于RNN網絡。同時表明，在當前數字化日益普及、大量數據存在的情況，基于LSTM模型的NOx排放量等方面的預測完全可行。所提方法在降低企業測量儀表投入、減少維護成本等方面具有很好的效果。

圖10 場景2基于SVM的模型預測結果Fig.10 Forecast results of SVM based model in Case 2

4 結 論

1)針對燃煤電廠NOx濃度排放量的測量這一復雜的非線性動態系統，提出基于LSTM的NOx排放量軟測量方法，該方法主要是分析與NOx排放量緊密相關的變量，通過構建NOx排放量軟測量模型實現NOx排放量的預測。

2)LSTM特殊的“門控”機制，使得LSTM在處理時序問題上更具優勢；燃煤電廠在生產過程中的歷史數據的關聯性及時序特征；基于LSTM的NOx排放量軟測量主要是結合LSTM的優勢以及燃煤電廠生產過程歷史數據的特性來實現NOx排放量的預測。

3)基于LSTM的NOx排放量軟測量主要選擇均方誤差和均方相關系數作為評價模型預測性能的標準。從仿真實驗結果來看，LSTM神經網絡的軟測量方法預測結果優于BP神經網絡和SVM模型。

4)該方法在NOx排放量的預測方面效果不錯，但是存在一定的不足，比如在小數據量的情況下，預測性能會有所下降，后續研究需要根據不同的應用場景、數據集的不同、領域的不同構建出符合數據標準的模型。