基于卷積門循環單元和氣象雷達圖像的臨近降水預報*

張佳洛 黃 勇 劉傳才，3

（1.南京理工大學計算機科學與工程學院 南京 210094）

（2.安徽省氣象科學研究所 合肥 230061）

（3.閩江學院物聯網產業化與智能生產協同創新中心 福州 350108）

1 引言

準確的降水預報服務可以幫助計劃戶外活動，甚至可以提供洪水或交通的預警。目前，我國預報業務通常把0～2h的天氣預報稱為臨近預報［1］。臨近預報的主要手段是基于天氣雷達資料的雷達回波外推技術，即根據當前時刻雷達觀測結果，推測雷達回波未來的位置和強度，以實現對未來時間段的降水預報［2］。目前常用的基于雷達回波進行預報的方法主要包括交叉相關法（Tracking Radar Echoes by Correlation，TREC）、單體質心法、光流法。1978年Rinehart提出了TREC算法，將雷達回波視為單體進行識別、分析、追蹤，對單體進行擬合外推來做臨近預報［3］。對較大的回波，交叉相關法有較好的識別和追蹤效果。對較小的單體，尤其是相互距離較近的多個單體，其識別和追蹤效果較差［4］。單體質心法是緊隨交叉相關法之后出現的。與交叉相關法相比，單體質心法能較好地識別和追蹤較小的孤立單體，并且能夠提供單體的更詳細的特征數據，因而得到了更快的發展。喬春貴等使用質心法對雷達回波圖進行線性外推，結果顯示該方法對穩定的層狀云表現較好，而對其他類型的云表現相對較差［5］。1950年由Gibson首先提出光流法，最初主要應用于圖像分割、目標追蹤、運動估計等領域［6］。Hoffman等在數值模式檢驗領域第一次引入了光流的概念，結果表明光流法與傳統的單體質心法和交叉相關法相比，對于變化較快的強對流降水天氣過程，具有明顯的預報優勢［7］。

相較于傳統的雷達回波預報方法，神經網絡模型通過逐層的特征變換，將樣本在原空間的特征表示變換到一個新的特征空間，從而提升分類或預測的準確性［8］。在最新的研究中，SHI Xingjian等提出一種時空序列預報模型ConvLSTM（Convolution Long Short-term Memory），將CNN和LSTM相結合，即在傳統LSTM的基礎上在每個LSTM單元中增加卷積結構。實驗結果表明，ConvLSTM相對于光流法能夠更好地捕捉雷達回波的時空特征，達到較優的結果［9］。

盡管ConvLSTM深度學習算法在對流臨近預報中表現良好，但是模型只能學習單一高度下雷達回波圖像序列的特征預測未來時間段回波序列。鑒于此，提出了一種基于卷積門循環單元的神經網絡的臨近降水預報模型，模型先對目標站點不同高度的雷達反射圖像做卷積，同一高度的卷積圖像通過GRU學習云團運動過程中的時序特征，最后將不同高度時序圖像的學習特征聚合到全連接層中進行訓練，輸出目標站點未來1h～2h的降水量。

2 研究方法

本文的預測模型結構如圖1所示，先對不同高度的時序圖像做卷積和池化處理，學習空間特征。對于每個高度上的時序圖像將卷積和池化后的特征作為輸入，使用GRU作為循環神經網絡的神經元來訓練數據，最后對四個高度的圖像特征進行全連接，以未來1h～2h的降水數據作為輸出。

圖1 預測模型流程圖

2.1 卷積層模型

雷達反射圖像有其固定的特性，在臨近預報模型中先對雷達圖像進行卷積操作，學習圖像中的云團特征。對整個圖像作卷積運算，可以得到圖像中任意位置上的不同特征的激活值［10］。在本文的臨近預報模型中，對目標站點觀測到的雷達圖像（100×100）做卷積操作，卷積核尺寸大小為（5×5），步長為5，卷積之后進行（2×2）的最大池化，最后單張雷達圖像的特征維度大小為（10×10）。

卷積過程可以由下式表示：

式（1）中，l表示當前位于的神經網絡層數，i，j分別表示特征映射圖上的點和編號，x表示計算數值（雷達回波圖像的灰度值），k為卷積核參數，b表示加性偏置，Mj表示特征映射圖集合，?表示卷積操作，σ(·)為激活函數。

最大池化（max-pooling）過程可表示為

2.2 循環層模型

簡單的卷積池化操作只能學習到當前時刻云團的空間特征，并不能學習到云團在運動過程中的聚合或消散特征，以及運動的軌跡。本文的模型中加入了循環層，學習不同時序上的雷達圖像的時序特征。如圖2所示，在循環神經網絡中，輸入t=［t1，t2，…，t14，t15］表示經過卷積和池化處理之后雷達圖像特征，在每個時間步（1≤t≤15）中，參數都要經過每層中的循環單元處理，最后將循環層輸出的結果聚合到全連接層，以未來1h～2h的降水量最為輸出訓練模型。

圖2 循環神經網絡模型

在傳統的RNN模型中，隨著當前和過去數據之間的差距越來越大，一般的RNN模型無法學習較長連接的輸入。Bengio等已經證明，傳統的RNN模型很難學習到輸入序列超過10的特征［11］。在臨近降水預報中，雷達時序圖像為15張，因此需要使用改進之后的RNN模型，提高循環神經網絡中的學習能力。在循環層中使用GRU模型，可以增加時序記憶同時減少訓練參數，節省模型訓練時間。

在GRU模型中，引入了重置門（reset gate）和更新門（update gate）的概念，從而修改了循環神經網絡中隱藏狀態的計算方式。GRU中的重置門和更新門的輸入均為當前時間步輸入Xt與上一時間步隱藏狀態Ht-1，輸出由激活函數為sigmoid函數的全連接層計算得到。

如圖3所示，神經元的輸入Xt∈Rn×d（n為樣本數，d為輸入個數）和上一時間步隱藏狀態Ht-1∈Rn×h（h為隱藏單元個數）。其中重置門Rt∈Rn×h和更新門Zt∈Rn×h的計算公式如下：

圖3 門循環單元（GRU）

式（5）中Xt∈Rn×d表示輸入，Wxh∈Rd×h，Whh∈Rh×h是權重參數，Rt∈Rn×h計算所得的重制門，Ht-1∈Rn×h表示t-1步的狀態，⊙表示變量做點乘，bn∈Rl×h是偏置參數，tanh函數作為激活函數來計算候選狀態的值。對于隱藏狀態計算公式如下：

式（6）中可以看出，時間步t的隱藏狀態值Ht∈Rn×h的計算依賴于重制門，時間步t-1的隱藏狀態值和時間步t的候選隱藏狀態值。

3 結果與分析

3.1 實驗數據

本文采用的實驗數據集包含雷達回波圖和目標站點地面降水量。每張雷達圖像覆蓋一個目標地點及其周邊地區，標記為100×100網格，其中每個網格點記錄的是經過線性轉換后的dBZ。實驗數據共有一萬個樣本，分為訓練集（80%）、測試集（10%）、驗證集（10%）。其中每個樣本包含90幀圖像，如圖4所示，共分為四組，分別表示目標站點在0.5km、1.5km、2.5km、3.5km監測到的圖像，每組15幀，每兩幀的時間間隔為6min，最后是目標站點未來1h～2h的降水量。

圖4 數據示例

3.2 實驗結果及分析

臨近降水預報屬于回歸問題，為了定量地描述其預報的準確性，在實際評估中，常采用了均方誤差（MSE）和平均絕對誤差（MAE）三個指標來對算法進行比較［12］，計算公式如下：

在實驗中，共有一萬個樣本數據，每個樣本包含60張雷達反射圖和對應1h～2h內的降水量。其中，8000個樣本作為訓練集，1000個樣本作為驗證集，1000個樣本作為測試集。表1表示的是模型在測試集中的評分結果。其中，Mul-Input ConvGRU采用圖1的輸入輸出模型，將四層高度的雷達圖片分別做卷積，并使用GRU模型學習，對不同高度學習的特征做全連接進行訓練。在卷積中使用的卷積核大小為（5×5），對卷積后的圖像（20×20），最后做最大池化（2×2）。最終用來輸入GRU模型中特征向量為（15×100），模型使用了兩層循環層，兩層全連接層，輸出預測的降水量。Sin-Input ConvGRU表示抽取樣本中的一層數據參與訓練，采用的卷積層、循環層、全連接層跟Mul-Input ConvGRU模型相同。

從表1中可以看出不同模型下的MSE和MAE，結果越小預報準確性越高。根據表1的實驗結果可以看到，多輸入模型的MSE和MAE都要小于單輸入模型。此外，在循環層中使用GRU可以將MSE降低3.2，MAE降低0.2。出現上述現象的原因是由于多輸入模型能夠學習到目標站點不同高度的特征信息，可以減少雷達誤差對預測結果的影響。且在循環層中使用GRU模型，引入重制門和更新門單元，保持長時記憶，從而提高了預報的準確性。

表1 模型評分結果

為直觀展示模型的預報性能，實驗采用Mul-Input ConvGRU模型對隨機抽取的100個樣本進行預報，結果如圖5所示，曲線重合程度越高，表明預報精度越高。從圖中可以看出當真實降水量較大的時候，預測值會出現偏差。這是由于降水量大情況下，較難學習到云團的劇烈運動特征，但相較于單輸入模型，已經具有較好的預測精度。

圖5 降水預報曲線

在Mul-Input ConvGRU模型中，不同的迭代次數會對預報性能產生較大的影響。實驗分析模型隨迭代次數增加時，MAE和MSE的表現。如圖6，7所示，圖中的曲線mul-input ConvGRU，0.5-sin-input ConvGRU，1.5-sin-input ConvGRU，2.5-sin-input ConvGRU，3.5-sin-input ConvGRU分別表示多輸入模型和不同高度下單輸入模型的MAE和MSE。從圖中曲線可以看出，對于單輸入模型，輸入訓練高度為1.5km的雷達圖像時，預測效果最好。這是由于高度低的時候會受到地物干擾，而高度偏高時看到的云雨信息由于距離地面較遠，下落過程中會出現蒸發、增長等物理過程，從而引起降水量變化。在1.5km處，不受地物影響，又貼近地面，下落到地面時，降水量的變化小。從圖中可以看出，多輸入模型的預測性能要優于單輸入模型。這主要是因為多數入模型在對不同高度的雷達特征聚合之前進行了Dropout操作，可以在保證學習不同高度特征的同時減少訓練參數，使得模型具有較強的泛化能力。

圖6 迭代次數與平均絕對誤差

圖7 迭代次數與均方誤差

4 結語

本文提出了一種基于ConvGRU神經網絡的臨近降水預報模型，通過訓練不同高度的雷達序列圖像來預測目標站點未來1h～2h的降水量。實驗結果分析表明，改進之后的模型能夠對不同高度的雷達序列圖像同時進行學習，有效解決單一高度下雷達圖像反射率失真的問題。但對于此模型的訓練來說，由于樣本數據較少使得模型參數較難訓練到最優，未來會收集更多樣本數據并加入一些數據預處理的方法擴大樣本數數據。