GRAPES數(shù)值預(yù)報模式集成中試支撐平臺的設(shè)計與應(yīng)用

■ 趙春燕 郭鋒 孫婧 周斌 胡江凱 常飚 劉立明

為提高數(shù)值預(yù)報模式研發(fā)效率，以解決模式研發(fā)入門難、環(huán)節(jié)復(fù)雜、試驗數(shù)據(jù)缺乏管理、模式研發(fā)效果檢驗分析和診斷難以對比檢驗等問題，設(shè)計開發(fā)了模式集成中試支撐平臺，該平臺主要為科研用戶設(shè)計和提供可視化的統(tǒng)一用戶接口，實現(xiàn)了GRAPES模式的交互式模式試驗構(gòu)建、配置、編譯運行、監(jiān)控以及試驗管理。

GRAPES數(shù)值預(yù)報模式系統(tǒng)在用不同的試驗方案運行時，需要不同的初始數(shù)據(jù)和配置，在眾多的變量因子中，若某些缺省值的設(shè)置有變化，則很難對試驗結(jié)果進行比較。目前在模式試驗過程中，采用腳本部署試驗，需要一定的技術(shù)基礎(chǔ)并且需要對模式有一定的了解，此外，相同試驗的重復(fù)部署不能快速實現(xiàn)，缺乏便捷易用的通用可視化試驗平臺。

國際上，ECMWF開發(fā)的PrepIFS試驗平臺，提供了IFS模式的便捷的可視化、流程化的交互式界面，實現(xiàn)了模式試驗的快速部署、試驗重現(xiàn)、試驗過程監(jiān)視和結(jié)果比對，并實現(xiàn)了與可視化作業(yè)調(diào)度管理系統(tǒng)的無縫結(jié)合，可實時監(jiān)視顯示模式試驗的運行狀態(tài)，對錯誤狀態(tài)進行示警，有效地簡化了模式試驗的構(gòu)建配置過程，并對試驗及其數(shù)據(jù)提供了管理和分析的支持。NASA開發(fā)的工作流工具NED為NASA的科學(xué)家提供配置、運行、監(jiān)視和管理復(fù)雜的模式試驗。NED客戶端為科學(xué)家提供簡單易用的圖形交互界面，從而替代命令腳本和執(zhí)行系統(tǒng)命令的方式，由服務(wù)端LWWE實現(xiàn)工作流的執(zhí)行。

目前，我國尚未建立模式研究的中試平臺，模式集成試驗涉及的程序、數(shù)據(jù)、資源、可視化、檢驗診斷、試驗監(jiān)視各個環(huán)節(jié)尚未形成業(yè)務(wù)化的、便捷的一體化支撐環(huán)境，模式研究入門門檻要求高，缺乏模式研發(fā)數(shù)據(jù)的管理，模式檢驗評估分析和預(yù)報效果的比對存在困難。

1　平臺架構(gòu)

由于模式研發(fā)、試驗和運行涉及多套異構(gòu)的平臺系統(tǒng)，如數(shù)據(jù)系統(tǒng)、HPC系統(tǒng)等，系統(tǒng)采用C/S架構(gòu)設(shè)計，并基于消息中間件技術(shù)實現(xiàn)各個環(huán)節(jié)的消息通訊。如圖1所示平臺結(jié)構(gòu)，客戶端主要實現(xiàn)用戶所需交互操作功能，消息層實現(xiàn)前后臺消息交互，服務(wù)端實現(xiàn)試驗實例構(gòu)建、作業(yè)調(diào)度提交運行等功能，數(shù)據(jù)層主要實現(xiàn)數(shù)據(jù)的存儲。功能包括模式試驗參數(shù)的配置、試驗流程的組合、模式試驗的快速部署以及比較分析、編譯運行環(huán)境選擇、遠程提交作業(yè)、作業(yè)實時監(jiān)視，實現(xiàn)模式從創(chuàng)建試驗到參數(shù)配置、作業(yè)提交、實時監(jiān)視和數(shù)據(jù)歸檔、數(shù)據(jù)可視化等業(yè)務(wù)的一體化過程。

圖1　模式集成中試支撐平臺結(jié)構(gòu)

圖1所示，客戶端主要實現(xiàn)用戶交互的功能，包括試驗配置、試驗作業(yè)運行管理、試驗結(jié)果的可視化、試驗管理等用戶操作，以及系統(tǒng)管理功能；消息層通過消息中間件技術(shù)，實現(xiàn)跨平臺的消息通信；應(yīng)用服務(wù)端在后臺實現(xiàn)客戶端交互操作的執(zhí)行，如試驗的實際構(gòu)建，包括試驗環(huán)境準備、試驗數(shù)據(jù)準備、作業(yè)生成等，以及試驗作業(yè)的提交運行、試驗結(jié)果可視化的圖形繪制等處理過程；數(shù)據(jù)層實現(xiàn)試驗數(shù)據(jù)的管理，包括試驗信息和模式數(shù)據(jù)；接口系統(tǒng)實現(xiàn)與數(shù)據(jù)環(huán)境、程序的接口實現(xiàn)，并實現(xiàn)各個異構(gòu)系統(tǒng)用戶的統(tǒng)一管理。

2　系統(tǒng)功能實現(xiàn)

2.1　開發(fā)環(huán)境

該平臺包含客戶端和服務(wù)端的開發(fā)環(huán)境兩部分（表1），開發(fā)語言為Python，以支持系統(tǒng)的跨平臺特性并提升運行性能。為了提高交互界面的用戶體驗，客戶端界面框架采用具有豐富控件特性的wxPython3.0框架；服務(wù)端部署在Linux平臺，采用輕量級消息中間件RabbitMQ，以便于開發(fā)和部署，數(shù)據(jù)庫采用Oracle，與用戶管理系統(tǒng)一致便于管理；作業(yè)調(diào)度采用ECFLOW，即ECMWF開發(fā)的升級版作業(yè)調(diào)度系統(tǒng)，以便升級現(xiàn)有HPC系統(tǒng)上采用的SMS作業(yè)調(diào)度系統(tǒng)。

表1　開發(fā)環(huán)境

2.2　主要功能實現(xiàn)

1）試驗流程構(gòu)建

試驗流程構(gòu)建指選擇模式試驗所運行的模塊，并根據(jù)正確的運行流程組合試驗?zāi)K運行。平臺實現(xiàn)兩種試驗流程構(gòu)建方式：用戶定制試驗和試驗快速構(gòu)建。試驗快速構(gòu)建指根據(jù)試驗?zāi)０澹òㄍㄓ媚０濉⒂脩糇远x模板）創(chuàng)建試驗，模板已定義了試驗的常用默認流程和參數(shù)，用戶可修改。用戶定制試驗，需要用戶自行選擇試驗的運行模塊，配置試驗參數(shù)。

2）試驗參數(shù)配置

試驗參數(shù)配置包含配置試驗的資源參數(shù)、源碼、數(shù)據(jù)等。配置試驗時，首先配置試驗的計算平臺、作業(yè)隊列、資源節(jié)點數(shù)等資源需求，從客戶端界面配置和訪問試驗?zāi)K所使用的程序源碼，GRAPES程序源碼存儲在以Perforce版本控制軟件實現(xiàn)的程序庫中，實現(xiàn)了從Perforce程序庫選擇源碼路徑，通過Perforce的Python接口實現(xiàn)。試驗輸入數(shù)據(jù)配置來源于共享數(shù)據(jù)。所以參數(shù)均由默認值設(shè)置，用戶根據(jù)試驗需求自行定義修改。

3）作業(yè)運行監(jiān)控

作業(yè)提交運行采用ECFLOW軟件實現(xiàn)。在高性能計算機登錄節(jié)點上建立ECFLOW服務(wù)器，為每個用戶分配專屬的ECFLOW服務(wù)端口。用戶在客戶端界面點擊提交試驗后，系統(tǒng)后臺通過消息中間件在高性能計算機上啟動作業(yè)腳本的生成及運行環(huán)境的創(chuàng)建，并通過ECFLOW客戶端提交運行。

用戶在客戶端點擊作業(yè)監(jiān)控，即可調(diào)用ECFLOW的客戶端界面，監(jiān)控試驗作業(yè)的編譯運行，ECFLOW通過顏色標識作業(yè)運行的狀態(tài)，以紅色告警異常狀態(tài)，并可在界面直接干預(yù)作業(yè)運行。

4）試驗管理

試驗管理功能包括試驗歸檔、試驗查詢、試驗對比、試驗拷貝、試驗刪除等。為用戶提供全面的從試驗程序，參數(shù)配置方案到結(jié)果數(shù)據(jù)的全流程管理。

采用Oracle數(shù)據(jù)庫存儲試驗的結(jié)構(gòu)化信息，如試驗ID，試驗名稱、試驗起始時間、結(jié)束時間，分辨率等基本信息。基于關(guān)系型數(shù)據(jù)庫，采用傳統(tǒng)SQL查詢，實現(xiàn)試驗信息的檢索。試驗結(jié)果數(shù)據(jù)存儲在大數(shù)據(jù)平臺上歸檔，通過接口以試驗ID關(guān)鍵字查詢到結(jié)果數(shù)據(jù)并返回。通過試驗ID調(diào)出試驗所有信息，可提供試驗配置信息的比較和試驗結(jié)果圖形的對比。

3　結(jié)束語

該系統(tǒng)的設(shè)計和應(yīng)用，解決了用戶試驗和試驗數(shù)據(jù)沒有關(guān)聯(lián)管理、難以回調(diào)的問題，以GUI交互式構(gòu)建試驗屏蔽了底層操作，降低了試驗研究的難度，并鏈接了模式研究所涉及的程序、數(shù)據(jù)、試驗、作業(yè)、可視化等環(huán)節(jié)和接口系統(tǒng)，形成了一體化綜合支撐環(huán)境。該系統(tǒng)已試運行，應(yīng)用于模式研發(fā)試驗。初步為模式研發(fā)人員解決了研發(fā)中面臨的主要問題，包括試驗管理、試驗監(jiān)視、結(jié)果可視化，未來將進一步擴展和完善功能，提升模式發(fā)展效率。

深入閱讀

Videla A, Williams J J W, 著, 汪佳南, 譯, 2015. RabbitMQ實戰(zhàn)：高效部署分布式消息隊列. 北京: 電子工業(yè)出版社.

崔應(yīng)杰, 肖華東, 韓同欣, 2011. 參加ECMWF應(yīng)用軟件系統(tǒng)培訓(xùn)總結(jié).氣象科技合作動態(tài), 5: 24-26.

劉艷, 薛紀善, 張林, 等, 2016. GRAPES全球三維變分同化系統(tǒng)的檢驗與診斷. 應(yīng)用氣象學(xué)報, 27(1): 2-3.

沈?qū)W順, 蘇勇, 胡江林, 等, 2017. GRAPES_GFS全球中期預(yù)報系統(tǒng)的研發(fā)和業(yè)務(wù)化．應(yīng)用氣象學(xué)報, 28(1): 1-2．

趙立成, 沈文海, 肖華東, 等, 2016. 高性能計算技術(shù)在氣象領(lǐng)域的應(yīng)用．應(yīng)用氣象學(xué)報, 27(5): 550-552.