趙芳云,張明富(貴州工程應用技術學院 信息工程學院,貴州 畢節 551700)
基于云存儲的海量海洋監測數據平臺設計
趙芳云,張明富
(貴州工程應用技術學院 信息工程學院,貴州 畢節 551700)
海洋監測數據規模較大,當前平臺處理數據能力較低,無法有效處理海量海洋監測數據,不能滿足監控實時性的要求,為此,設計一種基于云存儲的海量海洋監測數據平臺,給出了平臺的總體結構,主要包括海洋數據監測子系統和云存儲子系統。針對海洋數據監測子系統,詳細分析了數據采集卡、傳感器、AD7606 芯片的設計過程,傳感器將得到的海洋監測數據發送至數據采集卡中,采集卡將結果傳輸至 AD7076 芯片中,對數據進行處理,將處理后的結果存儲至云存儲子系統中。針對云存儲子系統,給出了其詳細架構和工作流程,設計了關鍵的實現代碼。實驗結果表明,所設計系統具有較高的運行效率,且采集的海洋數據較真實,監測結果可靠。
云存儲;海量;監測數據;平臺
海洋在地球上所占的面積超過 70%,蘊藏著非常豐富的資源,但近年來,隨著人們大規模開發利用海洋資源,部分海域赤潮頻發,對人們的生命財產安全造成了很大威脅[1-3]。所以,研究一種有效的海洋監測數據平臺具有重要意義,已經成為相關學者研究的重點課題,受到越來越廣泛的關注[4-6]。
目前,有關海洋監測數據平臺的研究有很多,相關研究也取得了一定成果,其中,文獻[7]提出一種基于閾值的海洋數據監測方法,該方法對海洋數據的變化幅度進行閾值約束,若采集到的海洋數據變化幅值高于既定閾值,則認為可能會出現赤潮現象。采用該方法對海洋數據進行監測實現過程較為簡單,但閾值的確定沒有精確方法,只能依靠經驗,導致監測結果可靠性低。文獻[8]提出一種基于模糊邏輯的海洋數據監測方法,該方法針對不同傳感器建立獨立的模糊邏輯模型,用模糊規則代替實際值的海洋數據,通過模糊推理對節點的狀態進行決策,從而實現海洋數據的監測。該方法運行時間較短,但需給出用于判斷海洋數據是否存在赤潮現象的模糊規則,導致監測結果不準確;文獻[9]提出一種基于成分分析的海洋數據監測方法,該方法首先針對赤潮海洋數據構建一組特征流,利用得到的特征流對海洋數據進行分析,從而實現海洋數據的監測。然而該方法在進行層次分析時,不能準確得到多個海洋數據特征之間的聯系,導致最終得到的監測結果較為粗糙,無法達到精度要求;文獻[10]提出一種基于模擬信號的監測方法,該方法對赤潮信號進行模擬,獲取其特征信息,將得到的特征信息和海洋數據進行比對,從而實現海洋數據的監測。但該方法監測形式過于單一,且運行時間較長,不適于實際應用。
針對上述方法的弊端,本文設計一種基于云存儲的海量海洋監測數據平臺,給出了平臺的總體結構,主要包括海洋數據監測子系統和云存儲子系統。實驗結果表明,所設計系統具有較高的運行效率,且采集的海洋數據較真實,監測結果可靠。
海洋監測數據平臺與其他信息平臺不同,其整個設計、監理、實施均是以海洋資源這一特殊工業生產背景為核心展開的。所以,為了使基于云存儲的海量海洋監測數據平臺最終能夠實現業務化運行,平臺的設計必須以標準的海洋數據監測流程為依據,所設計平臺總體結構如圖1所示。

圖1 平臺總體結構圖Fig.1 Platform overall structure
如圖1所示,所設計的基于云存儲的海量海洋監測數據平臺主要包括海洋數據監測子系統和云存儲子系統 2 部分。平臺工作原理如下:傳感器將得到的海洋監測數據發送至數據采集卡中,采集卡將結果傳輸至 AD7076 芯片中,對數據進行處理,將處理后的結果存儲至云存儲子系統中。
海洋數據監測子系統為整個平臺的基礎,主要包括數據采集模塊、數據集成模塊和傳感器,子系統結構用圖2進行描述。
如圖2所示,數據采集模塊通過和傳感器的交互實現海洋數據的采集和監測,將采集到的數據傳輸至AD7606 芯片中,進行集成數據處理,最后將處理結果發送至上層監測臺站。

圖2 海洋數據監測子系統Fig.2 Platform overall structure
2.1傳感器設計
本節選用 SHT75 傳感器對海洋數據(例如溫度、鹽度、浮游生物含量等)進行采集,SHT75 傳感器采用專利的工業 COMS 過程微加工技術,能夠保證海洋數據的采集精度。SHT75 傳感器電路圖如圖3所示。
如圖3所示,SHT75 傳感器中含有 1個電容式聚合體測鹽度元件、1個能隙式測溫度元件和 1個電壓式測浮游生物含量元件,通過 1個 14 位的A/D 轉換器將得到的測試結果統一轉換成數值的形式進行輸出。SHT75 傳感器體積小、能耗低,完全符合平臺的設計要求。

圖3 SHT75傳感器電路圖Fig.3 SHT75 sensor circuit diagram
2.2數據采集卡設計
選用由 NI 公司生產的PCI-6224 數據采集卡,其是一款依據 PCI 總線的多功能數據采集卡,能夠采集 32路模擬信號,工作原理如圖4所示:
系統要求數據采集卡能夠同步采集 64 路數字信號,同時實現外部觸發功能,而 PCI6224的數字口沒有時鐘源,也沒有觸發功能,且只能采集 32 路模擬信號,所以本節采用外部觸發的形式對采集卡進行控制。采集卡 1 將自身輸出脈沖頻率看作是外部時鐘源,采集卡 2的接線端子經外部連線和采集卡 1的接線端子相連,利用軟件編程對 PC 機進行管理,從而保證采集卡 2的同步采集。

圖4 數據采集卡工作原理圖Fig.4 Working principle of the data acquisition card
2.3AD7606 芯片內部結構設計
AD7606 芯片為數據集成模塊的核心,主要用于接收不同數據采集卡的現場監測數據,同時具備數據校驗、匯總功能。
AD7606 芯片主要由 ADC、采集保持器構成,片外提供 5 V 基準參考電壓、基準緩沖器以及高速的并行接口。詳細電路如圖5所示。

圖5 AD7606芯片電路圖Fig.5 AD7606 chip circuit diagram
AD7606 芯片 CPU 選用 DSP28335,DSP28335 利用GPIO 引腳為 AD7606 提供 PWM 信號,也就是轉換信號。
AD7606的工作過程如下:開始對數據進行處理后,控制邏輯電路首先將寄存器的最高位置 1,其地位置 0,通過模數轉換器對其進行轉換獲取電壓值。將該值和輸入信號相比,在下一次比較前對其進行修正,直至完成最低有效位數據的處理。
3.1云存儲子系統架構
海洋監測數據規模大,平臺自身處理能力不足,因此,本節引入云存儲子系統。針對海量海洋監測數據平臺的實際需要,本節設計了1 種云存儲架構,如圖6所示。

圖6 云存儲子系統架構圖Fig.6 Cloud storage subsystem architecture diagram
分析圖6可知,云存儲子系統架構主要包括訪問層、應用接口層、基礎管理層和存儲層。下面進行詳細分析。
第1層為最底層的存儲層,該層是一個海洋數據中心,為構建云存儲架構的基礎,主要由服務器、存儲器與網絡設施等構成。存儲層利用底層的存儲管理平臺使海量海洋數據被保存至各存儲設備,通常采用的存儲設備是價格較低的PC 機,它們利用高速網絡互聯。
第2層為基礎管理層,該層主要負責提供操作系統服務,為云存儲子系統的核心,也是最難實現的部分。基礎管理層利用集群、海洋數據分布式文件系統與邏輯管理等技術,使多個存儲設備協同工作,對外提供相同的服務,增強海量海洋數據的訪問性能。
第3層為應用接口層,該層為海洋數據專線局域網與數據庫層的數據接口。接口層首先對用戶的需求進行分析,依據具體的需求提供相應的服務接口,使用戶得到需要的服務,該層為云存儲架構最靈活的部分。
第4層為訪問層,負責提供自助管理軟件服務,主要包括輔助決策展示服務、優化路徑展示服務、共享海洋數據資源服務、海洋數據備份服務、監控臺站服務、海量海洋數據融合服務等。訪問層能夠為用戶提供專用的計算環境,使用戶完全擁有海洋數據與程序的控制權。所有授權用戶均可登錄訪問云存儲子系統,享受云存儲服務。
3.2云存儲子系統流程
云存儲子系統利用內部 IP 地址完成海量海洋數據的傳輸與交互,使得用戶運行的應用程序在各種實例間均可互相處理通信資源,提高工作效率。為了通過云存儲子系統實現海量海洋實時監測數據的處理,并且實時解析數據流中的屬性值保存到不同類型海洋專題數據庫,本節設計的云存儲子系統工作流程用圖7所示。

圖7 云存儲子系統流程圖Fig.7 The flow chart of cloud storage subsystem
3.3關鍵代碼設計
依據上述分析的云存儲子系統流程圖對云存儲代碼進行設計,部分關鍵代碼如下:
object
div style=text-indent:2em;
//驗證用戶身份
font color=red;
div style=text-indent:2-9;
//限制文件大小
div class="wikiClear";
div style=margin-top:10px;
span class="btn btn-guide" style="float:left;
//開始存儲
divclass="like" style=margin-top:0;
class=bdlikebutton;
div class=bdlikebutton-inner;
div id="dislike";
style=margin-top:4px;display:block;end。
4.1實驗運行環境
為了驗證本文設計的基于云存儲的海量海洋監測數據平臺的有效性,需要進行相關的實驗分析。實驗將嵌入式平臺作為對比,在圖8描述的環境下進行實驗分析。

圖8 實驗環境圖Fig.8 Experimental environment
為了便于實驗分析,通過數據生成工具 DatGen 生成海洋赤潮監測要素的種類與范圍。實驗環境如下:中心站點選用 Intel 奔 PC 機,本地站點由 sitsang 開發板于 Intel 奔 PC 機構成。
4.2運行時間測試
運行時間是衡量平臺運行效率的重要指標,在圖8描述的實驗環境中,分別采用本文平臺和嵌入式平臺對海量海洋數據進行監測,得到的結果如圖9所示。

圖9 兩種平臺運行時間比較Fig.9 Two platforms running time
分析圖9可以看出,隨著待監測海洋數據量的逐漸增加,本文平臺和嵌入式平臺的運行時間均逐漸升高。但和嵌入式平臺相比,本文平臺的增長幅度明顯更低,說明本文平臺的運行時間較短,運行效率較高。
4.3交互數據量測試
在實際的海洋監測環境中,復雜的外界條件可能會引起較長的時間延遲,大大降低海洋數據監測的實時性,因此,需對平臺交互數據量進行測試,交互數據量越大,反映的海洋數據分布越真實,得到的監測結果越準確。表1描述的是 2 種平臺監測過程中產生的交互數據量與準確率。
分析表1可看出,不論數據集數量的多少,本文平臺的交互數據量一直高于嵌入式平臺,說明本文平臺采集的海洋數據分布更加真實。

表1 兩種平臺交互數據量比較結果Tab.1 Two platforms,interactive data comparison results
4.4海洋數據監測結果比較
圖10為本文平臺和嵌入式平臺與實際海洋數據監測結果的比較圖。
分析圖10 可知,采用本文平臺對海洋數據進行監測共出現了2次赤潮,和實際監測結果相同。而嵌入式平臺的監測結果中只出現了1次赤潮,和實際結果不符。說明本文平臺的監測結果更加可靠。

圖10 監測結果比較圖Fig.10 Monitoring results comparison chart
本文設計了一種基于云存儲的海量海洋監測數據平臺,給出了平臺的總體結構,主要包括海洋數據監測子系統和云存儲子系統。針對海洋數據監測子系統,詳細分析了數據采集卡、傳感器、AD7606 芯片的設計過程,傳感器將得到的海洋監測數據發送至數據采集卡中,采集卡將結果傳輸至 AD7076 芯片中,對數據進行處理,將處理后的結果存儲至云存儲子系統中。針對云存儲子系統,給出了其詳細架構和工作流程,設計了關鍵的實現代碼。實驗結果表明,所設計系統具有較高的運行效率,且采集的海洋數據較真實,監測結果可靠。
[1]張海山.基于云存儲視頻監控系統的研究[J].電子設計工程,2015,23(10):169-171.ZHANG Hai-shan.Research of video surveillance system based on cloud storage[J].Electronic Design Engineering,2015,23(10):169-171.
[2]黃冬梅,隨宏運,賀琪,等.云計算環境下基于數據關聯度的海洋監測大數據布局策略[J].計算機工程與科學,2015,37(11):1989-1996.HUANG Dong-mei,SUI Hong-yuan,HE Qi,et al.A marine monitoring big data placement strategy in cloud computing environment based on data dependency[J].Computer Engineering and Science,2015,37(11):1989-1996.
[3]李林陽,呂志平,陳正生,等.海量連續運行參考站網數據云存儲模型[J].導航定位學報,2014,2(3):64-70,86.LI Lin-yang,LV Zhi-ping,CHEN Zheng-sheng,et al.Cloud storage model of massive continuous operating reference station system data[J].Journal of Navigation and Positioning,2014,2(3):64-70,86.
[4]雷德龍,郭殿升,陳崇成,等.基于MongoDB的矢量空間數據云存儲與處理系統[J].地球信息科學學報,2014,16(4):507-516.LEI De-long,GUO Dian-sheng,CHEN Chong-cheng,et al.Vector spatial data cloud storage and processing based on MongoDB[J].Journal of Geo-information Science,2014,16(4):507-516.
[5]徐芳辰,沈蘇彬.一種基于OpenStack的云存儲方案[J].計算機技術與發展,2015,25(11):76-81,86.XU Fang-chen,SHEN Su-bin.A cloud storage solution based on OpenStack[J].Computer Technology and Development,2015,25(11):76-81,86.
[6]屈志堅,陳閣.容錯存儲的電力系統監測數據查詢優化技術[J].電網技術,2015,39(11):3221-3227.QU Zhi-jian,CHEN Ge.Query optimization for power system monitoring data with fault-tolerant storage[J].Power System Technology,2015,39(11):3221-3227.
[7]杜雅杰,姚炎明,焦建格.基于數值模擬的海洋水質監測數據同步化研究[J].科技通報,2015,31(3):258-262.DU Ya-jie,YAO Yan-ming,JIAO Jian-ge.Study on synchronization of the sea water quality monitoring data based on numerical simulation[J].Bulletin of Science and Technology,2015,31(3):258-262.
[8]李浩琦,王海斌,汪俊.基于CUDA的海洋監測數據并行壓縮技術研究[J].海洋技術學報,2014,33(1):39-44.LI Hao-qi,WANG Hai-bin,WANG Jun.Study on the parallel compression technique for marine monitoring data based on CUDA[J].Journal of Ocean Technology,2014,33(1):39-44.
[9]王斌,葉穎,郭海,等.基于混合通信的海洋環境綜合監測系統軟件設計[J].計算機測量與控制,2015,23(12):4225-4228.WANG Bin,YE Ying,GUO Hai,et al.Design of ocean environment comprehensive monitoring system software based on multi-communication[J].Computer Measurement & Control,2015,23(12):4225-4228.
[10]周恩光,李舟軍,郭華,等.一個改進的云存儲數據完整性驗證方案[J].電子學報,2014,42(1):150-154.ZHOU En-guang,LI Zhou-jun,GUO Hua,et al.An improved data integrity verification scheme in cloud storage system[J].Acta Electronica Sinica,2014,42(1):150-154.
Based on monitoring data of vast ocean cloud storage platform design
ZHAO Fang-yun,ZHANG Ming-fu
(Guizhou University of Engineering Science,School of Information Engineering,Bijie 551700,China)
The large scale marine monitoring data,the current platform data processing ability is low,cannot effectively handle huge amounts of marine monitoring data,cannot satisfy the requirement of monitoring real time,therefore,we design a massive marine monitoring data based on cloud storage platform,presented the general structure of the platform,mainly including marine data monitoring subsystem and the cloud storage subsystem.In view of the ocean data monitoring subsystem,detailed analysis of the data acquisition card,sensors,AD7606 chip design process,marine monitoring data of the sensor will be sent to the data acquisition card,the acquisition card to transmit the results to AD7076 chip to deal with data,the processed results stored to cloud storage subsystem.For the cloud storage subsystem,gives the detailed structure and working process,design the key implementation code.Experimental results show that the designed system has high efficiency,and ocean data is real,reliable monitoring results.
cloud storage;mass;monitoring data;platform
TP393
A
1672-7619(2016)07-0143-06
10.3404/j.issn.1672-7619.2016.07.032
2016-05-06
貴州省科學技術基金資助項目(黔科合LH字[2014]7536號);西南大學基本科研業務費專項資金資助項目(XDJK2014C109)
趙芳云(1975-),女,碩士,副教授,研究方向為物聯網技術與嵌入式系統。