龔勛 邵宇 魏文華 馬慶巖 趙小舟 徐年平 邱盼
摘要:本文主要針對海量的氣象數據模型和分析相對滯后等實際問題,利用CMS(Content Management System)的理念,對氣象數據的輸入和輸出等諸多環節進行分類匯總,將氣象信息內網的內容管理系統從邏輯層面劃分為3個層次,重點設計和開發了管理器的功能,建成了以CMS技術為主導的氣象部門綜合數據交互平臺。該系統涉及到數據結構設計,功能設計和系統搭建等完整的數據分析處理應用過程所包含的各個技術環節。該系統的實施,有效提高了常規氣象信息的管理效率,同時為用戶提供了新的數據分析和展示方式用戶可以通過Web瀏覽器進行各種復雜的查詢和分析,查詢分析的結果可以以多種直觀的、可視化的方式進行展示,從而提高了數據利用效率,進一步為氣象決策服務。
前言
CMS是Content Management System的縮寫,即內容管理系統。采用CMS技術構建網站是因為它本身具有許多基于模板的優秀設計,可以加快網站開發的速度及減少開發的成本。氣象信息內網采用CMS技術建成氣象部門綜合信息交互平臺,加快氣象數據系統的電子政務進程。本文主要針對以上這些問題,進行了氣象信息聯機分析系統的研究與開發。旨在為各類不同用戶提供個性化的氣象分析服務,依據不同的用戶權限,用戶可以根據自己的需求定制數據、瀏覽數據、分析數據,為氣象人員在指揮生產,組織防災減災、資源開發利用和環境保護等方面科學決策提供氣象信息服務。它是一項涉及社會穩定、經濟發展和人民生命財產安全的全局性、綜合性和高層次的氣象服務平臺。
1氣象預報體系現狀分析
隨著信息技術的飛速發展以及自動數據采集技術的日漸成熟和廣泛應用,在各個領域都產生了大量的數據,如人類對太空的探索,銀行每天的巨額交易數據等等。數據量增加同時給人們帶來的煩惱是:如何從海量的數據中找到自己想要的信息變得越來越困難?在數據爆炸的時代,就出現了如下情形:豐富的數據,貧乏的知識。
由于數據的快速增長導致傳統的數據處理和分析技術已經不能滿足人們數據處理和分析的需求,從而提出了更深層次的問題:如何以一種新的方式來組織數據,使得人們更加方便的從大量的數據中找到有用的信息和知識,從而為決策服務?在這種情況下,數據倉庫和聯機分析處理技術就應運而生,并得到了廣泛的應用。氣象資料是我國歷史年代最長、保存最完整、最系統的地球信息資源之一。氣象資料來源復雜、種類繁多、格式多樣、表現形式各異、數據量巨大。隨著氣象部門各種氣象觀測工具的不斷使用,積累了大量的數據信息,以甘肅省氣象局的一個雷達觀測站為例,每六分鐘采集一次數據,數據量就高達20M,那么一個觀測站點一天所采集的數據就有4G之多。并且不同觀測工具所觀測到的數據結構不同,都以各自原始的格式存儲著,如:數據文件、數據集合等,這樣一來就無法實現數據的集成和共享,無法使大量的氣象數據得到有效的利用。
在氣象信息的查詢和統計分析方面,傳統的方法只能進行簡單的查詢和統計,涉及到比較復雜的查詢、統計,由于氣象數據的海量性和復雜性,傳統方法就無法在有效的時間內及時響應,甚至無法實現[1]。
關系數據庫中所存儲的數據通常是實體對象的最低級別的細節信息。例如:西北地區常規氣象信息包含每個氣象觀測站點、每天的氣溫、降水、氣壓、濕度等等。但是對于氣象決策人員來說,他們往往更加關注氣象要素的統計信息及變化規律,所以經常需要對細節數據進行集成,并且在更高的概念級別上表示。在OLAP出現之前,數據分析經常使用的技術是關系數據庫、電子數據表、各種統計方法。數據庫通常由專業人員建立和維護,最終用戶則直接使用電子數據表(如Microsoft Excel)。由于數據庫系統是針對事務處理而設計,在關系數據庫操作語言SQL中,僅定義了Max,Min,Sum,Count和Avg五個聚合函數和一個Group By分組語句,因此對于在數據統計和分析過程中經常使用的操作需要編寫大量的、復雜的SQL查詢語句。對于最終用戶來說,使用數據庫,只能在數據庫開發人員提供的集成查詢環境中按照程序設計人員定制好的查詢模板進行數據查詢,對于程序設計中沒有定義的查詢操作幾乎無能為力。然而分析的需求通常是經常變化的,傳統的電子數據表和數據庫技術很難適應用戶對數據的復雜查詢應用。盡管目前使用的商業數據庫產品中增加了部分OLAP功能,但是對于非數據庫專業人員來說難于使用。通常在一個簡單的多維模型上定義聚合操作需要熟練人員數天或者更長的時間來完成,數據處理已經成為科研人員日常工作中費時費力的工作[2]。由于使用的方法不同,不同的科研人員往往可能得到不同的查詢結果。
顯然,受關系數據庫和電子數據表的局限,直接在關系數據庫和電子數據表上進行復雜的氣象數據分析是不現實的,大量的氣象信息也無法得到有效的利用。聯機分析處理技術通過建立原始數據的多維模型(數據立方體) 能夠很好地解決這類復雜的數據查詢和匯總工作,減少數據分析人員的勞動,從而提高氣象數據分析的效率,使大量氣象數據得到充分利用。
2氣象信息內網的CMS結構設計
內容管理系統(CMS)的一個基本思想就是將內容管理與內容設計徹底分離。頁面美工設計存儲在頁面模板中,內容存儲在數據庫或獨立的文件中(又稱為數據倉庫),當一個用戶請求頁面時,各部分聯合生成一個標準的html頁面,這個合成的Web頁面中可包含多個數據源。
氣象信息內網在建設過程中充分考慮了CMS的特點,結合氣象部門的特點,將氣象信息內網的CMS結構在邏輯上設計成3個層面,即后臺業務管理系統、Portal系統(入口系統)、前臺發布系統,功能主要由4個相對獨立的管理器(物理層面)來實現,即網站管理器、企業管理器、配置管理器和服務管理器(見圖1)。
氣象信息內網的結構設計的內容管理系統邏輯上被劃分為3個層面,主要是考慮了CMS的不同功能需求。后臺管理系統優先考慮的是管理,重在對內容的管理;Portal系統優先考慮的是頁面的表現,重在對網頁所有模板的管理;而前臺發布優先考慮的是網站運行的效率,重在對站點發布的管理。氣象信息內網的內容管理系統在物理上采用網站管理器、企業管理器、配置管理器和服務管理器實現CMS的所有功能需求[2-3]。軟件設計采用基于Java和XML的瘦客戶端/服務器構架來實Web的內容管理,突出了內容倉庫、內容管理、數據庫配置、設計與內容分離、元素控制、工作流機制、權限管理、審核與統計報告及個性化界面設置等功能特點,是一個較為完善的內容管理系統。
3功能設計
該系統分為4大模塊分別為天氣預報預警信息降水實況溫度風能見度實況和探測信息。
3.1預警信息
該模塊為我國氣象臺及各地市氣象臺發布的大霧、霾、大風等預警信息,并以不同圖標做出提醒。預警信息是本系統的核心部分,時效要求很高。由于目前,國內發布預警信息都發到國家突發事件預警信息發布系統,所以我們利用后臺程序與國家突發事件預警信息發布系統有效對接,從而使預警信息統一、及時。
3.2降水實況
該模塊為我國過去一段時間的降水量分布實況,包括統計各個量級分別的站數,以及全國降水區域和降水量,點擊地市可以顯示相應地市各雨量觀測站的詳細降水情況,每小時發布一次。降水實況包括1小時降水量、12小時降水量和24小時降水量,分別為過去1小時12小時、24小時內的降水累計量圖形化顯示降水實況,通過不同顏色顯示降水區域和降水量。
3.3溫度、風、能見度實況
該模塊包括溫度、風、能見度3部分,分別為我國氣溫實況、極大風速實況、能見度實況,包括統計各個量級分別的站數,各區域通過不同顏色標識相應的級別,點擊地市可以顯示相應地市各觀測站的詳細情況,每小時發布一次。
3.4探測信息
該模塊包括衛星監測熱點及霧霾、環境氣象、雷達回波強度和衛星云圖。
環境氣象為我國的當前空氣質量情況,包括實況監測分析環境氣象日報、環境氣象周報環境氣象評估實況監測分析主要為當前時刻AQ實況及分布圖城市信息等級統計其中,當前時刻Q實況及分布圖為全國各城市空氣污染等級 AQ指數、首要污染物和全國的AQ實況分布圖;城市信息為全國各城市的過去24小時AQ指數變化情況空氣質量等級統計為全國各城市的空氣質量、出現站數、AQ均值,AQ極值、首要污染物和相應的觀測站信息環境氣象日報為空氣質量的實況分析和未來三天空氣質量預報,環境氣象周報為空氣質量的上周空氣質量回顧和本周空氣質量預報、環境氣象評估為對上月環境氣象的評估等。
4系統實現
4.1數據統計平臺搭建
本系統采用完全免費的Limux+ Apache+Mysql+ Php(LAMP)
搭建Web服務器和數據庫等,LAMP具有Web資源豐富、輕量、快速開發、易于維護的優點,因此無論是性能、質量還是價格都是本系統的首先平臺間。
4.2數據統計收集與處理
數據處理采用目錄監控和定時作業相結合的方式,以滿足不同資料的時效要求。數據存儲采用Mysql數據庫和文件系統相結合的方式,便于使用關系數據庫管理的數據采用Mysql數據庫進行存儲,而對于文件較大且不適合于關系數據庫的數據將采用文件庫進行管理。并且,本系統與“國家突發事件預警信息發布系統”等多個系統進行了有效的對接,使數據更加便捷、統一。本系統采用了開源WebGIS平臺,可以訪問到WebGIS站點中的空間數據和進行相關的空間分析和數據管理,避免了只能在本地電腦上瀏覽自己的空間數據,進行專題圖的制作的局限,實現基本的地圖操作功能,包括地圖放縮、拖動等[3]。
5結語
CMS氣象數據統計系統創新了氣象大數據共享應用的開發模式,提升了氣象大數據的服務效率和質量,對推動大數據技術發展、支撐氣象防災減災、服務地方經濟建設、促進農村改革發展發揮了重要的作用[4-6]。該系統有效的解決了傳統氣象信息管理和共享服務系統在可復用資源、系統集約化程度、信息管理能力、加工處理能力、共享服務能力等方面的局限性。
參考文獻:
[1]史建國,張彥剛.氣象災害防御綜合信息顯示系統.數字技術與應用,2016,(06):108-109.
[2]衛建國,王建林,莊立偉.氣象軟件設計模式的研究與實現[J].計算機工程,2010,36(09):59-61+64.
[3]景東俠,吳林榮,白光弼. 基于CMS技術的陜西氣象信息內網的設計與實現[A].信息技術在氣象領域的開發應用論文集(二)[C].:中國氣象學會,2006:4.
[4]姚志平,范生曄,吳娜.基于CMS技術的鎮賚氣象信息服務網站設計與實現[J].吉林氣象,2013(02):21-22+32.
[5]吳林榮,景東俠,白光弼.CMS技術在陜西氣象信息內網的應用[J].陜西氣象,2006(03):35-37.
[6]郭昌松,趙伯聽. 基于CMS的福建省氣象服務網網站群[A]. 中國氣象學會.第35屆中國氣象學會年會 S20深度信息化:應用支持與智能發展[C].中國氣象學會:中國氣象學會,2018:3.作者簡介:龔勛,男,博士后,研究員,研究方向:產業經濟學,E-mail:gongxun83@aliyun.com
基金項目:中國科協高端科技創新智庫青年項目資助(DXB-ZKQN-2017-043);中國船舶工業綜合技術經濟研究院《國外材料領域國防實驗室軍民融合發展策略研究》項目
(作者單位:龔勛、邵宇、魏文華、馬慶巖、趙小舟,葫蘆島市軍民融合和新材料產業發展中心;徐年平、邱盼,武漢超碟科技有限公司)