唐龍彪 唐友姣
摘 要:隨著信息技術的不斷發展,人們將越來越多新穎的技術運用到日常環境監測工作中。針對環境指標的不同,在信息描述上有著不同的差別,所收集到的數據也不同。因此,闡述了日常環境監測中數據融合技術的具體運用狀況。
關鍵詞:數據融合技術;環境監測;信息技術;信息技術
中圖分類號:TP79 文獻標識碼:A DOI:10.15913/j.cnki.kjycx.2017.05.144
1 關于數據融合技術概述
1.1 定義
作為新型的數據處理技術中的一種,數據融合最早在20世紀70年代初期出現,最開始這種技術主要是在軍事領域得以應用,所謂“數據融合”,事實上是指人腦進行信息處理的方式,在中樞神經的運用下傳送信息至大腦中隨后對信息進行綜合處理,從而控制和判斷外部環境的過程。數據融合依托于特定的算法,能將多傳感器在時間或空間上的數據互補或有效組合,其目的是為了獲得被測對象一致性的描述或解釋,從而獲取可信度更高、更加準確的監測結論的過程。
1.2 關鍵技術
由于在數據融合中有著不同的數據源信息描述方式以及數據格式,如圖1所示,因此,數據融合會在合適工具的利用下統一轉換數據格式,轉換完成后的數據能夠在MAPREDUCE的幫助下將不同信息源之間的信息相關性找出來,分析相關結果,并將其作為融合數據輸入到計算中;在DS證據論的幫助下將不同數據源重組,從分析相關性結果,將得出的數據作為融合計算輸入,針對不同來源的數據因素采取DS證據論證的辦法將各個因素之間的關系和信息進行融合;將得出的融合結果輸入,并儲存到相應的數據庫中。
2 設計環境監測系統
2.1 關于省級環境監測系統
水環境監測站點存在于環境監測系統中,能夠分成2個部分,一個是手工監測站點,另一個是手工監測站點。其中,有24個是自動監測站點,297個是手工監測站點。該環節主要內容是對水環境數據進行采集,比如石油類排放量、pH值以及氨氮排放量等。設置有24個大氣監測站點是對顆粒物、CO2以及NOX等進行監測,其中,還涉及到眾多的污染源信息以及針對不同污染問題所進行的應急交通處理信息,比如應急物資狀況、應急車輛等,面對這些龐大的數據,需要將這些信息存儲到本地系統中,并做好安全管理工作,避免網絡中斷的情況出現,以防有數據丟失問題發生。如果有網絡中斷問題出現,則需要在下一次恢復網絡時將補送數據發送到數據中心網絡中,并儲存到本地數據系統之后在網絡作用下向遠程數據中心傳送。
2.2 設計數據融合環境監測系統
從系統的整體架構出發,其通常被分成3層,按照從上到下的秩序,分別是應用層、核心功能層、平臺層,如圖2所示。其中,按照數據來源可以將應用層分成是大氣環境數據融合與水環境數據融合,依托于MAPREDUCE框架這一大數據技術的作用,平臺層在SPOOP以及HIVE的利用下能夠對NOSQL中的關系型數據庫進行傳輸和轉換,隨后將其儲存在HDFS文件系統中。當所有的機器都在集群中分布,并經過ZOOkeeper的審核后,才能對該集群進行有效管理。
3 設計模塊
3.1 關于數據采集模塊
存在于環境監測系統之中的數據采集模塊能被分成2大部分,其中一個是利用數據采集儀器對監測站點某一時間點中所涉及到的COD、水環境pH值和鹽度等數據的監測,并在Oracle這一關系型數據庫的利用下將相關數據存儲到本地數據庫中。不同的站點還需要在網絡編程的幫助下將收集到的數據向遠程數據中心傳送,遠程數據中心即NoSQL數據存儲方式。
3.2 關于規則構建模塊
在相關準則的依托下所進行的數據預處理有關的抽取、清洗和轉換等工作。一般情況下,清洗準則都是在國家出臺的相關業務準則下制訂的,比如COD含量、pH值的范圍等。為了保證數據再處理過程中的安全性,對于那些不符合準則要求的數據,需要重新進行過濾處理。對于轉換規則的操作則是需要統一處理數據,比如TXT、XML等文件統一轉換成TXT格式的文件。在處理某些污染物(命名有差異)或對污染物含量單位進行統一時,均需要在相關標準下進行。在抽取規則環節,需要在污染物類型、監測站點編號以及監測時間段維度等內容的標準下進行。
3.3 關于數據預處理模塊
就數據預處理模塊而言,其提取于關系型數據庫中,是相關性分析前所進行的操作,因此,這一環節的數據預處理模塊不僅能使相關模塊數據的合理性、有效性得到保證,還能夠使整個處理過程的安全性提高,如圖3所示。這一操作需要在MapReduce框架的幫助下進行,通過Task Tracker與Job Tracker將主從結構組成。其中,Task Tracke的作用在于任務執行,而Job Tracker的作用則在于任務分配和啟動。
4 結果展示
從環境監測系統中有關于風速、溫度以及濕度對于大氣監測值融合的最終結果來看,大氣監測值每隔5 s便需要更新一次。此時,需要每隔2 h計算一次平均概率分配值,隨后在風速、溫度以及濕度等監測值的參考下將基本的一個概率分配值得出來,最后再通過DS進行驗證計算。
5 結束語
綜上所述,本文主要是在數據融合技術的有效應用下,對存儲于環境監測中龐大的數據進行處理,并將存在于其中的問題進行有效解決,在各個傳感器間的性能以及協調性幫助下,逐步提升整個監測系統的準確性和效率。
參考文獻
[1]李恒燦,李權才.數據融合技術在環境監測中的應用[J].中國農機化,2011(04).
[2]劉衛萍,王寧,周曉磊.數據融合技術在環境監測領域的應用[J].計算機系統應用,2016(06).
[3]陸猛.數據融合技術在環境監測中的應用[J].科技風,2014(08).
〔編輯:張思楠〕