基于信號改進深度學習網絡的京津冀城市群二氧化氮濃度預測

宮同偉,張 洋,劉炳春

1.天津城建大學建筑學院,天津 300384

2.天津理工大學管理學院,天津 300384

隨著中國經濟的快速發展,各種大氣污染物的排放量不斷增多,造成經濟發展與環境保護的矛盾加劇,生態環境持續遭受破壞[1]。 京津冀城市群是該類矛盾表現最突出的區域之一,尤其是工業排放和機動車尾氣排放帶來的大量氮氧化物(NOx)、二氧化硫(SO2)和煙塵,導致區域性霧霾頻發,空氣污染嚴重[2-3]。 二氧化氮(NO2)在常溫狀態下呈現為具有刺激性氣味的有毒氣體。 除了雷電與土壤排放等自然來源之外,空氣中大量的NO2主要由化石燃料的使用、汽車尾氣排放等人為活動產生[4]。 NO2通過呼吸進入人體,會嚴重影響人體健康,在腐蝕呼吸道的同時,可能引發遲發性肺水腫等疾病[5]。 因此,對京津冀地區NO2日均濃度進行精準預測,探究其時空分布變化,對于NO2污染的預警與防治尤為重要。 通過模型預測揭示京津冀城市群NO2時空變化特點,探究其發展變化的趨勢和原因,可為京津冀城市群NO2污染防治工作提供科學參考。

當前,大氣污染物濃度預測研究主要集中在數值模式預測和統計模式預測兩方面。 數值模式需基于大氣污染物觀測實況、污染源排放情況和氣象資料,利用初始值和邊界值,通過模擬大氣運動狀態實現預測[6];傳統統計模型往往需要大量空氣污染物歷史觀測數據,利用回歸分析等擬合方法建立污染物歷史數據與被預測變量之間的關系[7]。 李華嬌等[8]開展了利用基于動態模糊綜合評價的混合模型,在我國建立空氣質量預測預警系統的研究與應用[8]。 WANG 等[9]結合模糊時間序列預測技術和數據后處理方法,對主要大氣污染物進行了預測。 機器學習和傳統回歸模型逐漸無法滿足大數據預測所需的數據承載能力,神經網絡算法成為預測領域的熱點方法[10]。WANG 等[11]結合全年污染來源的排放模式,從日常可用氣象參數中提取關鍵信息,建立了基于物理的人工神經網絡(ANN)空氣污染物預測工具,可以充分捕捉特定場景下空氣污染物濃度的時間變化。 然而在污染物濃度非常高的情況下,對PM2.5和PM10等顆粒物濃度的預測能力還存在不足[12]。 劉炳春等[13]采用IG-LASSO 組合預測方法對我國城市空氣質量指數進行了預測,證明通過輸入變量優化的組合模型的預測精度更高。NIU 等[14]設計了一種新的基于模糊聚類算法的模糊時間序列模型,該模型對異常值和噪聲數據點具有魯棒性。 然而,單一化的神經網絡模型已逐漸不能滿足政府和企業高精度的預測需求,于是研究人員不斷嘗試通過改進輸入變量結構來提高模型預測性能[15]。 LI 等[16]構建了基于數據預處理和分析的混合EMMD-GRNN 模型,提高了輸入變量的數據維度,實現了快速并準確預測未來一天的PM2.5濃度。 輸入變量選擇方面,朱素玲等[17]設計了一個非負性且高效的化學解決方案,修改了嵌套空氣質量預測系統的后序,僅考慮6項大氣常規污染物之間的影響關系進行數值預測。 以上研究為大氣污染控制提供了重要的技術支持,促進了空氣質量預測方法的發展。 目前,對污染物濃度的預測研究大多使用日均濃度數據進行試驗[18],因此,本文選擇京津冀城市群6 項大氣常規污染物日均濃度數據,組成NO2濃度預測數據庫進行預測。

相對于空氣質量指數的動態變化,長短期記憶(LSTM)神經網絡可以有效解決空氣質量指數時空變化帶來的不利影響。 LSTM 是一種通過學習長跨度時間序列來解析數據特性的深度學習方法,可以自動確定最優時間滯后,以實現精準預測[19]。 小波分解(WD)能夠有效、準確地表達空氣污染物的濃度信號信息,從而提高深度學習模型對試驗數據的學習能力。 因此,本文使用通過WD 得到的其他5 項大氣常規污染物(不包含NO2)日均濃度時序數據,作為訓練模型的輸入指標,繼而基于LSTM 構建預測模型,對京津冀城市群NO2濃度進行預測。 本文主要完成以下研究內容:①通過使用WD 對數據進行升維處理,優化輸入變量,提升LSTM 模型的預測精度;②開發針對京津冀城市群NO2日均濃度的WD 和LSTM 組合神經網絡預測模型(W-LSTM);③將傳統神經網絡預測模型與W-LSTM 預測模型進行性能比對,驗證組合預測模型的預測精度和穩定性;④基于W-LSTM 的2019—2020 年京津冀城市群NO2濃度預測與時空變化分析。

1 研究方法

1.1 LSTM 網絡

空氣污染物濃度預測不僅需要當日數據,還需要歷史數據用來進行經驗學習。 由于神經網絡模型的隱藏層存在自反饋機制,因此,其在處理長期依賴問題方面具有優勢。 LSTM 作為當前流行的遞歸神經網絡算法,促進了時間序列長期趨勢特征和短期動態特征的學習能力[20]。 不同于傳統的循環神經網絡模型,LSTM 擁有獨特的“記憶單元”,通過該結構構建的LSTM 網絡的隱藏層能夠存儲任意時間長度的信息,獲得更為精確的時間序列模型。 LSTM 網絡的記憶單元結構如圖1所示。 該模塊的主體由輸入門、遺忘門和輸出門,以及1 個循環單元構成。 LSTM 通過非線性函數實現對各“門”的開關控制,用以控制和保護記憶單元狀態,最終控制通過神經單元的信息量的增減。

圖1 LSTM 神經網絡示意圖Fig.1 Schematic diagram of the interior of LSTM

假設在t 時刻,某記憶單元模塊的輸入為xt,輸出為ht,單元狀態為ct,那么該記憶單元模塊的“門結構”可以表示為

輸入門:

遺忘門:

輸出門:

各計算模塊表示為

輸入轉換:

單元狀態更新:

隱藏層輸出:

式中:σ 為Sigmoid 函數;tan h 為雙曲正切函數;it、 ft、ot、c_int分別為輸入門、遺忘門、輸出門、輸入轉換對單元的輸入;Wix、Wfx、Wox、Wcx和Wim、Wfm、Wom、Wcm分別為xt和ht-1對應的輸入門、遺忘門、輸出門、輸入轉換的權重矩陣; bi、bf、bo、bc分別為輸入門、遺忘門、輸出門、輸入轉換的偏移向量。

1.2 WD 變換

WD 變換通過窗口調整使數據信號經伸縮平移后更便于局部化分析,變換后的信號包含反映變化趨勢的低頻信號和隨機波動的高頻信號。NO2濃度時序數據{y1,y2,…,yn} 的特點是非線性非平穩,經過WD 變換能夠提取NO2濃度時序數據在不同時頻上的信息特征。 通過WD 變換將污染物濃度數據分解為由不同維度數據信號構成的序列組。 與原始數據相比,這些序列組具有更穩定的方差和較少的奇異值點,在模型中可以更有效、準確地表達原信號信息。 若WD 變換的尺度函數為φ(t),母小波函數為ψ(t), 則

式中:j 為尺度參數,k 為平移參數。

由此可得

式中: cj0(k) 為近似系數,dj(k) 為細節系數。

NO2濃度數據經m 步變換得到

式中: Amt為近似信息集合, 表示原始數據的信息特征; D1t,…,Dmt為高頻信息集合, 表示細微信號波動,即原信息的噪聲部分。

1.3 組合預測模型

使用WD 變換和LSTM 網絡搭建京津冀NO2濃度組合預測模型,預測試驗分為兩個部分,如圖2 所示。 第一部分將京津冀地區13 個城市的6 項大氣常規污染物日均濃度原始數據通過WD變換獲得重組試驗數據集合,截取80%的原始數據(2014 年1 月—2018 年5 月)作為訓練數據集合,另外20%(2018 年6 月—2019 年6 月)作為測試數據集合。 本階段獲得兩組輸入集合,即NO2日均濃度數據通過WD 變換得到的低頻信息集合{a3},以及其他5 項大氣常規污染物數據通過WD 變換得到的多維信息集合{a3,d1,d2,d3}。

第二部分使用LSTM 網絡搭建多層次深度預測模型,學習和記憶訓練數據的數據特征及潛在指標之間的關聯關系,繼而使用測試數據集對模型進行預測性能測試,通過不斷調整參數獲得最優預測模型。 具體試驗過程如下:

第一步,由京津冀城市群6 項大氣常規污染物日均濃度數據形成時序數據集{AP1,AP2,…,APn},通過WD 變換將{AP1,AP2,…,APn}經m 層分解可得到高維輸入信息集{X′1,X′2,…,X′t}。

其中,X′i= (Ami-1,Dli-1,…,Dmi-1),i= 1,2,…,t。同理可得到t+1 時刻的分解結果,即:X′t+1=(Amt,D1t,…,Dmt)。

第四步,使用以上訓練得到的預測模型及第一步得到的t + 1 期輸入向量X′t+1, 可測得t + 1期NO2濃度的預測值f(X′t+1)。

通過重復步驟一至步驟四,得到預測值

f(X′1),…,f(X′t+1)。

圖2 W-LSTM 模型預測過程示意圖Fig.2 Frame of the W-LSTM forecasting model

1.4 模型預測性能評價指標

為評價模型的預測性能,選取平均絕對誤差(MAE)、均方根誤差(RMSE)、平均絕對百分誤差(MAPE)作為模型誤差評價指標[21],計算公式如公式(11)至公式(13)所示:

式中:n 為試驗樣本數量,yi為實際觀測值,為預測值。

2 實證結果

2.1 研究區域及數據

以京津冀城市群為研究對象,使用京津冀13個城市大氣污染物日均濃度歷史數據進行預測試驗。 為方便檢驗預測模型的預測效果,選取13 個城市在2014 年1 月—2019 年6 月的主要大氣污染物(PM10、PM2.5、SO2、NO2、O3、CO)濃度日均值數據(共計26 091 組),作為本次試驗的原始數據,對模型預測結果進行回算驗證,其中PM10、PM2.5、SO2、CO 和O3作為模型的輸入變量。

2.2 京津冀城市群NO2 濃度預測結果評價

本研究構建的W-LSTM 組合模型實質上是運用WD 變換對原始數據進行維度拓展,其預測性能與LSTM 模型的比較如表1 所示。 從整體性能來看,W-LSTM 模型對京津冀城市群13 個城市NO2濃度的預測結果更佳,平均MAPE 約為9%,說明W-LSTM 模型對京津冀城市群的整體預測結果更加接近真實值。 從各城市的預測結果來看,LSTM 模型的MAPE 均在10%左右,除天津和石家莊以外,該模型的預測穩定性較強。 WLSTM 模型對單一城市預測評價指標的MAPE 最優低至5.34%,但同時也存在張家口、承德MAPE 較高的情況,尤其是承德的MAPE 高達14. 47%。 出現該現象的原因是京津冀城市群整體呈狹長分布,南北各地區污染物濃度水平及分布規律存在明顯差別。 由于模型對學習訓練數據特征的敏感度較低,在充分學習唐山這一類較高污染水平城市的數據特征之后,再使用承德和張家口等較低污染水平城市的數據進行學習,會使預測性能下降。 可以認為,W-LSTM模型對不同地區污染數據的泛化能力比LSTM模型弱。 然而,W-LSTM 模型對京津冀城市群13 個城市NO2日均濃度預測結果的MAE 明顯優于LSTM 模型,平均MAE 為2. 645 8,且各地之間的偏差較小。 模型性能的另一評價指標RMSE 在兩個預測模型中的表現均較為良好,W-LSTM 模型以0. 462 1 的差值優于LSTM 模型,說明基于LSTM 搭建的W-LSTM 組合模型適用于京津冀城市群NO2濃度的預測。

表1 LSTM 模型與W-LSTM 模型NO2 濃度預測性能比較Table 1 Comparison of NO2 concentration prediction performance between LSTM model and W-LSTM model

LSTM 模型在預測石家莊市NO2日均濃度時表現較為優秀,MAPE 為5.61%,而W-LSTM 模型在預測唐山市NO2日均濃度時表現最為優秀,MAPE 為5.34%。 與LSTM 模型相比,W-LSTM模型提高了部分城市的NO2日均濃度預測精度,最為明顯的是在唐山市,其MAPE 由10.88%下降為5.34%。 另外,在預測北京、廊坊、衡水、秦皇島NO2日均濃度時,W-LSTM 也有更好的表現,其MAPE 分別下降了4.00%、1.62%、2.61%、3.03%。 兩種模型同時存在最優預測狀態,而W-LSTM 模型在平均預測性能方面表現更加卓越。 W-LSTM 模型預測結果與真實觀測結果的對比如圖3 所示。 通過將表1 中不同模型的MAE進行對比可知,加入WD 變換的組合預測模型可以有效降低MAE,部分城市的RMSE 也有非常明顯的降低。 也就是說,W-LSTM 模型能更加有效地預測NO2濃度的變化趨勢,對于空氣污染物控制工作具有更為有效的指導作用。

圖4 為W-LSTM 模型NO2濃度預測結果。輸入變量通過WD 變換轉而生成高維輸入變量,能夠有效增加數據表示的信息量,預測結果符合預測目標歷史數值變化規律,對提高預測模型的預測精度和穩健性貢獻較大。 京津冀地區西部環山、東部沿海,氣象條件在不同城市有一定的差別,并且氣象因素對于污染物累積和擴散的影響比較明顯。 在京津冀城市群整體氣象數據可獲取的情況下,若在組合預測模型輸入數據中補充氣象信息,可以更加準確地對環境狀態進行表達,有助于在很大程度上提高模型的泛化能力。

2.3 京津冀城市群NO2 污染趨勢分析

為更清晰地展現京津冀地區各地級市NO2污染指數的空間分布狀態,在繪制不同年際的京津冀城市群NO2污染綜合指數地圖時,使用統一的圖例可有效對比NO2污染指數的時空變化,同時也能夠避免極端值對等級劃分造成過大影響。鑒于此,以每10%分位點為劃分界限,對平均NO2污染指數進行等級劃分,研究通過統一劃分標準下的各地區不同時間、跨度較大的污染指數進行預測結果表達,最終得到便于對比分析的動態演變圖[22]。 NO2污染指數詮釋內容見表2。

通過迭代預測獲得2019 年7 月—2020 年12月共計18 個月的NO2日均濃度數據,繪制年平均NO2污染指數地圖,同時加入2018 年和2019年整年數據用來對比觀測,探究京津冀城市群NO2污染的時空演變規律,結果如圖5 所示。 從整體趨勢來看,京津冀城市群NO2污染水平從2018 年開始逐年明顯降低,僅唐山市的污染治理效果不明顯。

圖3 W-LSTM 模型NO2 濃度預測偏差觀測圖Fig.3 Deviation observation diagram of NO2 concentration prediction in W-LSTM

通過整理京津冀城市群2015 年以來有關空氣污染的部分治理舉措可知,2018—2019 年年均NO2污染綜合指數下降明顯,可能是我國在空氣污染預警、監管和減排等多方面控制力度不斷加強的結果。 北京市和河北省產業結構轉變速度相對較緩慢,而天津市第二產業比重降幅較大,在一定程度上造成了進行京津冀城市群NO2濃度預測分析與比對時,天津市NO2污染指數顯著降低的情況。 近年來,唐山不斷承接北京和天津等地的傳統工業企業外溢,導致唐山市NO2污染指數常年居于顯著水平,因此,建議將唐山作為開展京津冀城市群北部地區空氣污染治理的重點城市。

圖4 W-LSTM 模型NO2 濃度預測結果Fig.4 Results of NO2 concentration prediction in W-LSTM

表2 NO2 污染指數詮釋Table 2 Interpretation of nitrogen dioxide pollution index

圖5 京津冀城市群NO2 預測趨勢Fig.5 Trend of NO2 prediction results in Beijing-Tianjin-Hebei urban agglomeration

綜上所述,使用W-LSTM 模型得到的2019 年7 月—2020 年12 月京津冀城市群NO2濃度預測結果,基本符合當下京津冀城市群的NO2污染分布趨勢。 京津冀城市群NO2污染高值區的分布較為集中,以唐山、天津、石家莊、保定和邢臺為主的工業集中城市仍是該地區未來開展NO2污染治理的重點區域,應進一步加強區域協作與屬地管理,確保區域環境空氣質量得到切實改善。

3 結論

1)利用LSTM 網絡構建的W-LSTM 預測模型對長期跟蹤時序數據具備良好的預測性能,基本可以掌握NO2濃度數據的周期性變化規律,對于特殊時間節點的把控也有突出表現,例如季節更替、政策實施等。

2)NO2濃度時序數據通過WD 變換后,在一定程度上加深了對數據規律的解釋程度,WLSTM 組合模型的預測平均MAPE 明顯降低,說明增加輸入數據維度有助于提升LSTM 模型的預測精度。

3)由NO2空間分布特征分析結果可知,其分布特征差異較大,北部地區明顯低于南部地區,從北部草原到南部沿海呈現出明顯的增高趨勢,并且較高濃度水平的NO2污染分布區域較為集中,主要以保定、石家莊、邢臺一帶為中心。

4)本文提出的結合WD 和LSTM 網絡搭建的組合預測模型,對京津冀城市群整體NO2濃度的預測效果良好,平均MAPE 可達到9.21%,并且基于其他5 項大氣污染物數據的預測結果基本符合京津冀地區NO2分布規律,說明該模型可在NO2污染防治工作中發揮一定作用。