基于變分自編碼器的臨近降水預報技術研究

Abstract：Idertodressteisuetatcuentnowastingpreipiatinmodelswereuable toanlinearfeaturevariatiosofrdar echoimagesinsatialndporalmesios，tsprpropodpreipiatioastigethodsdortioaltocder （VAE）a）Avariatioaltoencoderasiltodefieaprobabilitisributionfunciintelatentspaceforthebuldingofdaro images.b）Teslf-atentiomehanismasmploedtoleatedpendenisofadarchoimagesinspatialandtmpraldisios. c）Thediscretelatentspacewasiroducedtocapturethcomplexcontextualsemanticinformationofrdarechoimages.ThemodelpeforanceevaluationexperimentserecoductedonthSEVRdataset，withomparativenalysesagaisttetoepreseaiepriion nowcasting modelsofimpandPhyet.Thresultsindicatethathisodelachievesaccuratepredictionofradarchoimagesofenext5 frames，aditspreditioaccuracyisgherthanthatoftheimandPyDetmodels.Theintroductionofachmodulecancotributeto the performance improvement of the precipitation nowcasting model.

Key words：nowcasting of precipitation；deep learning；variational autoencoder；self-attention mechanism

0 引言

臨近降水預報是一種短期天氣預報技術，通常關注 0～6h 內的天氣變化，其在氣象學中具有重要應用[]。當前，基于雷達回波圖像的臨近降水預報研究吸引了越來越多學者的關注，并取得了一定進展。臨近降水預報技術能夠強化雨水情監測預報“三道防線\"建設，延長洪水預見期，提高洪水預報精準度，提升流域雨水情預報、水旱災害防御等工作的數字化、網絡化、智能化水平。

近些年，隨著深度學習技術的快速發展，越來越多學者試圖利用深度學習技術來彌補基于雷達回波圖像的臨近降水預報方法存在的短板[2-3]。基于卷積神經網絡（CNN）的臨近降水預報模型能夠通過卷積核捕捉雷達回波圖像中的局部空間關聯性，例如降水云團的形態結構、強度分布及區域邊界特征。基于長短期記憶網絡（LSTM）的臨近降水預報模型能夠捕捉雷達回波序列中的時間依賴性，比如降水演變趨勢。Dong等[4]提出一種運動引導的全局-局部聚合Transformer架構，有效結合不同尺度的時空線索，從而加強臨近降水預報所需的全局-局部時空聚合。Zhao 等[5]提出一種多尺度可變形Transformer網絡，用于從不同空間尺度的雷達回波圖像塊中提取回聲上下文特征。Bi等[]提出一種基于人工智能的中期全球天氣預報方法，配備地球特定先驗知識的三維深度網絡，能夠有效處理天氣數據的復雜模式，并且分層時間聚合策略能夠減小預報的累計誤差。Ravuri等7提出一種基于深度生成模型的概率臨近降水預報方法，深度生成模型通過學習數據概率分布能夠輕松生成樣本。 Yu 等8從全局確定性運動和具有殘差機制的局部隨機變化角度對雷達回波圖像進行分解和建模，有效彌補了現有方法無法捕捉雷達回波圖像中上下文語義信息的不足。

基于深度學習的臨近降水預報模型通過直接減小預測樣本數據與真實數據的距離或提高相似性來預測回波序列，從而有效地捕捉降水趨勢。但其仍然面臨以下挑戰：1）現有模型在重構過程中往往會出現模糊或失真，特別是處理復雜天氣系統時；2）天氣系統的演變在空間和時間維度上具有高度的非線性特征，而現有模型過于依賴線性假設，無法有效地學習和表達復雜的降水動態特性。

本文提出一種基于變分自編碼器的臨近降水預報方法，構建一個變分自編碼器（VAE），在潛在空間上定義概率分布來重構雷達回波圖像。在基于變分自編碼器的臨近降水預報模型中引入自注意力機制，以更好地理解雷達回波圖像在空間和時間維度上的復雜依賴，從而有效捕捉圖像關系。通過引入離散的潛在空間，捕捉雷達回波圖像復雜的上下文語義信息，以更準確地表達不同天氣現象的語義信息。

1基于變分自編碼器的臨近降水預報模型框架

基于變分自編碼器的臨近降水預報模型框架如圖1所示，其中： X_?t-n+1，…，X_t 為輸入雷達回波圖像幀;X_t+1，…，X_t+n 為對輸入雷達回波圖像幀的重構圖像幀； z 表示潛在變量空間； z_q 表示離散潛在變量空間；嵌入空間（CODEBOOK）是一個由 N 個固定維度向量構成的集合， 1～N 表示CODEBOOK中每個向量的唯一標識符（ID）。該模型由變分自編碼器模塊（包括編碼器和解碼器）、倒殘差結構模塊、自注意力機制模塊、矢量量化模塊構成。

圖1基于變分自編碼器的臨近降水預報模型框架 Fig.1 Framework forNear Precipitation Forecasting ModelBasedonVariationalAutoencoder

1.1 變分自編碼器

傳統的自編碼器通過編碼器（Encoder）將輸人數據映射到一個低維空間，并在潛在空間上定義一個概率分布函數，再由解碼器（Decoder）將低維空間的數據映射回高維空間，從而實現數據重構。然而，利用傳統的自編碼器構建臨近降水預報模型時，會出現雷達回波圖像重構誤差較大，難以學習雷達回波圖像潛在空間分布的問題。為此，本文構建基于變分自編碼器的臨近降水預報模型，通過引入變分推理思想，有效學習雷達回波圖像潛在空間分布，從而實現更精確的雷達回波圖像重構和語義特征提取。

在訓練過程中，變分自編碼器的目標是最大化邊際似然給定數據生成的概率 p（x） ，但是直接計算 p（x） 比較困難，因此通過變分推斷來優化一個下界

式中： ?q（z|x） 為近似后驗分布 σ_;p（z） 為先驗分布： ?p（x∣z） 為解碼器網絡生成數據的條件概率； E_q（z∣x）[logp（x∣z）] 為在條件概率 q（z|x） 下的期望運算，用來衡量輸入雷達回波圖像數據 x 在潛在變量空間 z 的重構能力，通常假設服從標準正態分布 為相對熵散度，用來衡量近似后驗分布與先驗分布的差異。

損失函數主要用來衡量輸入數據與通過編碼器-解碼器網絡重構數據之間的差異，目標是差異最小化，使得自編碼器能夠學習輸入數據的特征表示。本文使用的最小化損失函數loss由重構損失和正則化項組成，可以表示為

式中： x 為輸人數據， 為重構數據，下標2為譜范數， N （μ_x，σ_x） 為變分自編碼器輸出的潛在變量的高斯分布 A_x 為 x 的均值， σ_x 為 x 的標準差。

1.2 倒殘差結構模塊

倒殘差結構是神經網絡架構中的一種模塊，最初在MobileNetV2[9]中引入。其結構如圖2所示，它是一種高效的網絡設計，通過先升維后降維的通道變換策略，在減少參數量的同時保留關鍵特征信息，能夠有效減小臨近降水預報模型的訓練計算量。

圖2倒殘差結構模塊Fig.2 InvertedResidualStructureModule

假設輸人特征圖為 X ，輸出特征圖為Y，擴展因子為 Φ_t 。首先，輸入特征圖通過一個 1×1 卷積，進行通道數擴展，使得模型能夠在更高維度的空間中進行特征學習。然后，在擴展后的高維空間中進行深度卷積，每個輸入通道獨立地進行卷積操作，再進行逐點卷積。最后，通過另一個 1×1 卷積將通道數壓縮回原來的維度，用于減小計算量。

1.3 自注意力機制模塊

為了在訓練過程中更好地學習不同幀雷達回波圖像之間的依賴關系，在變分自編碼器中添加了自注意力機制模塊。

原始自注意力機制旨在學習輸入矩陣中一個單元和整個輸入序列之間的依賴關系[10]。一個單元的注意力向量 A（x） 可以表示為

A（x）=W（x，x）V（x）

W（x，x）=f[K（x），Q（x）]

x_out=M[A（x）]

式中： W（x，x） 為每個單元和整個輸人序列之間的注意力矩陣序列， Q（x），K（x），V（x） 分別為查詢向量、鍵向量、值向量 ， 為歸一化指數函數（Softmax）， x_out 為多層感知機（MLP）變換的輸出， M[A（x）] 為多層感知機模型的預測輸出。

每個輸入元素都有一個查詢向量、鍵向量、值向量。鍵向量與每個輸入元素相關聯，用于與查詢向量進行匹配，確定輸入元素應該受到的關注程度（權重）。計算出權重后，對值向量進行加權，然后將加權值相加得到每個輸入元素的最終輸出。

考慮到原始自注意力機制的計算量較大，通過卷積層分別在二維特征圖上執行查詢向量、鍵向量和值向量嵌入，以減小計算量。這樣既能保持自注意力機制的核心優勢，又可彌補傳統線性映射在空間特征處理和計算效率方面的不足。卷積操作的局部感受野特性，可有效提取輸人數據的空間關聯信息。對于輸入數據 x 的二維特征圖，給定一個單元 x_i，j ，計算 x_i，j 和鄰域 x_a，b 之間的相對注意力值。通過應用卷積投影分別執行查詢向量、鍵向量、值向量嵌入。

單元 x_i，j 的相對注意力值 y_i，j 計算公式如下：

式中： q^′ 為查詢向量矩陣 q 的轉置矩陣， q_i，j^' 為轉置矩陣中第 i 行、第 j 列的值， q_i，j?k_i，j?v_i，j 分別為 x_i，j 與鄰域 x_a，b 生成的查詢向量、鍵向量、值向量的中間值， W_Q，W_K 、W_?V 分別為查詢向量、鍵向量、值向量的權重， k_a，b?k_m，n ）v_a，b 分別為以 x_i，j 為中心鄰域生成的查詢向量、鍵向量、值向量特定位置的值。

1.4 矢量量化模塊

變分自編碼器存在后驗崩潰問題，即訓練過程中模型正則化項主導損失函數，后驗分布與先驗分布相似，而解碼器變得過于強大，忽略了潛在變量，因此后驗分布不包含有關潛在變量的信息。本文在變分自編碼器中引入矢量量化模塊，將連續的潛在變量離散化，編碼器輸出的連續潛在變量被映射到離散嵌入空間中最近的離散變量。這個過程有助于模型捕捉和表示更加豐富和復雜的數據分布，使得編碼范圍更加可控

2模型參數設置及性能評估指標

2.1 參數設置

基于變分自編碼器的臨近降水預報模型是在Python3.9和PyTorch2.0框架上實現的。在訓練階段，使用一塊TeslaV10032G顯卡進行訓練，操作系統版本為Ubuntu20.04，訓練迭代次數為300，批量大小設置為16。編碼器和解碼器的學習率分別為0.0001和0.001，使用Adam優化器，每50輪降低一次學習率，最終學習率為 30% 。

2.2 性能評估指標

采用的模型性能評估指標包括臨界成功指數（ C_sr ）、Heidke技巧評分（ [H_ss] ）、峰值信噪比（ （P_sNR ）結構相似性指數（ S_sm ）和感知損失（ ?L_PIPS ）。

C_sr 反映正確預報降水事件的比例，計算公式為

式中： T_p 為真正例，即實際標簽是正樣本，模型預測也是正樣本的樣本數量； F_p 為假正例，即實際標簽是負樣本，模型預測是正樣本的樣本數量； F_N 為假負例，即實際標簽是正樣本，模型預測是負樣本的樣本數量。

H_ss 反映模型預測相對于隨機預測的改進程度，考慮正確預測、錯誤預測以及隨機預測的情況，計算公式為

式中： T_N 為真負例，即實際標簽是負樣本，模型預測也是負樣本的樣本數量

P_sNR 反映壓縮圖像與原始圖像之間的質量差異，

其值越高，表示壓縮圖像與原始圖像的質量越接近，計算公式為

式中： M_AX 為最大像素， S_?ME 為均方誤差。

L_PIPS 和 S_sm 均反映圖像之間的相似度，其中 L_PIPS 值越小兩圖像越相似。 S_sm 計算公式為

式中 ?：μ_?xμ_?y 分別為真實圖像、預測圖像的均值， σ_x，σ_y 分別為真實圖像、預測圖像的方差， σ_xy 為真實圖像和預測圖像的協方差， C₁ 和 C₂ 為常數。

2.3 數據集

使用SEVIR數據集[\"評估臨近降水預報模型的有效性。SEVIR數據集包含GOES-16衛星的3個通道數據、NEXRAD雷達降水數據以及GOES-16衛星閃電數據，共涉及20393個天氣事件，天氣事件時間跨度 ^4h ，覆蓋范圍 384km×384km 。

3模型性能評估及消融實驗結果

3.1 模型性能評估結果

在性能評估實驗中，臨近降水預報任務設置如下：一是在給定 t₁?t₂?t₃?t₄?t₅ 時刻5個初始幀的雷達回波圖像情況下，預測 時刻未來5幀的雷達回波圖像;二是在給定 t₃₁?t₃₂?t₃₃?t₃₄?t₃₅ 時刻5個初始幀的雷達回波圖像情況下，預測 t₃₆、t₃₇、t₃₈、t₃₉、t₄₀ 時刻未來5幀的雷達回波圖像。圖3展示了模型預測雷達回波圖像。分析可知，預測的雷達回波圖像沒有出現模糊現象，比較接近原始的雷達回波圖像，強回波區域非常清晰，表明所提出的臨近降水預報模型能夠準確預測未來5幀的雷達回波圖像，有效提取雷達回波圖像中的空間特征及捕獲局部空間依賴。

（a）任務一

圖3模型預測雷達回波圖像 Fig.3 Model Prediction of Radar Echo Image

基于變分自編碼器的臨近降水預報模型預測性能評估指標結果如下： C_sI 為 0.3877，C_st-pool4 （池化尺度為 4×4 的 C_sr ）為 0.4874，C_sI -pooll6（池化尺度為 16× 16的 C_sr ）為 0.6011，H_ss 為 0.543 4，L_PIPS 為0.1581，S_sm 為 0.683 3，P_sNR 為 24.2578 。

此外，選取 Simvp^[12] 和PhyDNet[13]兩個代表性的臨近降水預報模型與本模型進行性能對比。3種模型預測的雷達回波圖像對比見圖4，性能評估指標對比見表1。分析圖4可知，隨著預測時間增加，Simvp和PhyDNet模型預測雷達回波圖像幀與真實圖像幀相比越來越大，并逐漸模糊，預測精度較低。分析表1可知，與 Simvp、PhyDNet 模型相比，本模型的 C_stΥs_I- pool4 ?，C_st-pool16，H_ss.S_stM 值最大， L_PIPS 值最小，臨近預報性能最高。本模型利用自注意力機制和矢量量化模塊捕捉雷達回波圖像復雜的上下文語義信息，從而得到更精確的重構雷達回波圖像。

圖43種模型預測的雷達回波圖像對比 Fig.4Comparison of Three Models for Predicting Radar Echo Images

表2消融實驗結果

3.2 消融實驗結果

為了評估本模型中每個模塊的有效性，設計消融實驗評估各模塊對模型預報性能的貢獻。消融實驗以變分自編碼器模塊（VAE）為基準進行評估，每次實驗依次在變分自編碼器的基礎上增加倒殘差結構模塊（IRA）、自注意力機制模塊（SA）和矢量量化模塊（VQ），結果見表2。

表13種模型預測性能評估指標對比

Tab.2 Results of Ablation Experiment

分析表2可知，每個模塊的引入都能夠對臨近降水預報模型的性能提升有所貢獻，特別是自注意力機制模塊的引入，使得 C_sI 增加 0.049 4，C_sI-pool4 增加0.052 6，C_sI -pool16增加 0.0578，H_ss 增加 0.0555，L_PIPS （20號減小 0.0148，S_sIM 增加 0.045 3，P_sNR 增加1.1824。自注意力機制模塊建立全局長依賴關系，打破局部感受野限制，提升對雷達回波圖像復雜信息的捕捉能力。倒殘差結構模塊通過輕量化通道設計，高效融合多尺度局部特征，減少信息損失，提升模型對關鍵細節的捕捉能力。矢量量化模塊通過離散潛在變量，抑制噪聲干擾并增強語義特征解耦，增強模型的穩定性和泛化性。

4結論

本文提出基于變分自編碼器的臨近降水預報模型，其由變分自編碼器模塊、倒殘差結構模塊、自注意力機制模塊和矢量量化模塊構成。基于SEVIR數據集進行模型的性能評估實驗，與Simvp和PhyDNet兩個代表性的臨近降水預報模型進行對比，并進行消融實驗，結果表明本模型能更準確預測未來5幀的雷達回波圖像，模型中各模塊均有助于提升模型的性能。

參考文獻：

[1] GNEITING T，RAFTERY A E.Weather Forecasting with Ensemble Methods[J].Science，2005，310（5746） ：248-249.

[2] LI L Z，ZHANG X，HAN L.SCECA-Net：A Deep Learning Based Model forPrecipitation Nowcasting[J].IEEE Transactions on Geoscience and Remote Sensing，2025，63：1-11.

[3] GAOZ H，WANGYF，ZHOUZH.MSPTS-Net：Multi-Scale Parallel Temporal-Spatial Network for Precipitation Nowcasting [J].IEEE Geoscience and Remote Sensing Letters，2O25，22：1-5.

[4] DONGXC，ZHAO ZW，WANGYP，etal.Motion-Guided Global-Local Aggregation Transformer Network for Precipitation Nowcasting[J].IEEE Transactions on Geoscience and Remote Sensing，2022，60：1-16.

[5]ZHAO Z W，DONG X Y，WANG Y P，et al.MDTNet： Multiscale Deformable Transformer Network with Fourier Space Losses Toward Fine-Scale Spatiotemporal Precipitation Nowcasting[J].IEEE Transactions on Geoscience and Remote Sensing，2024，62：1-17.

[6]BI K F，XIE L X，ZHANG H H，et al.Accurate Medium-Range Global Weather Forecasting with 3D Neural Networks[J].Nature，2023，619（7970） ：533-538.

[7]RAVURI S，LENC K，WILLSON M，et al.Skilful Precipitation Nowcasting Using Deep Generative Models of Radar[J].Nature， 2021，597（ 7878） ：672-677.

[8]YU D，LI X，YE Y，et al.DiffCast：A Unified Framework Via Residual Diffusion for Precipitation Nowcasting[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR） .Washington： IEEE Press， 2024：27758-27767.

[9] SANDLER M，HOWARD A G，ZHU M L，et al.MobileNetV2： Inverted Residuals and Linear Bottlenecks[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition（CVPR）.Utah：IEEE Press，2018：4510-4520.

[10]VASWANI A，SHAZEER N，PARMAR N，et al.Attention is All You Need[C]//Advances in Neural Information Processing Systems（NeurIPS）.Vienna：MIT Press，2017：5998-6008.

[11] VEILLETTE M S，SAMSI S，MATTIOLI C J.SEVIR： A Storm Event Imagery Dataset for Deep Learning Applications in Radarand Satellite Meteorology[C]//Advancesin Neural Information Processing Systems（NeurIPS）.Utah：MIT Press，2020：22009-22019.

[12] GAOZY，TANC，WULR，etal.SimVP：SimplerYetBetter Video Prediction[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）. Louisiana：IEEE Press，2022：3170-3180.

[13] GUEN VL，THOME N.Disentangling Physical Dynamics From

Unknown Factors for Unsupervised Video Prediction [C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）.Washington： IEEE Press， 2020：11474-11484.

【責任編輯 栗銘】