999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

網絡存儲技術在地震數據存儲中的應用

2011-01-06 06:35:58
震災防御技術 2011年3期
關鍵詞:數據庫

曾 薇 楊 樂 譚 穎

(中國地震臺網中心,北京 100045)

網絡存儲技術在地震數據存儲中的應用

曾 薇 楊 樂 譚 穎

(中國地震臺網中心,北京 100045)

隨著地震觀測和地震科學研究水平的提高,大量寶貴的地震科學數據不斷產出。安全有效地存儲這些海量地震數據,是目前迫切需要解決的問題。本文簡要介紹了網絡存儲技術的發展和應用,并通過分析地震數據對存儲系統的要求,探討了網絡存儲技術在地震數據存儲中的應用。

網絡存儲 NAS SAN 地震數據

引言

計算機、網絡和存儲設備是信息技術基礎設施的三個主要部分。在計算機技術方面,CPU性能和各種總線技術得到了極大的發展;在網絡方面,萬兆網絡得到了廣泛的應用。而與計算機和網絡相比,數據存儲技術還相對落后,管理存儲設備的方式也相對原始。在計算機性能和網絡技術飛速發展的今天,人們需要更先進的數據存儲方式,以解決存儲容量擴展、存儲性能提高和對主機影響等方面的問題,為此網絡存儲應運而生。

網絡存儲是指借助于網絡存儲設備,通過原有網絡或者構建專有的存儲網絡,為用戶提供統一的數據存儲與數據共享服務,它是基于網絡的存儲方式。網絡存儲可將數據存儲任務從服務器主機中分離出來,這樣可減輕服務器的負荷,并將傳統的數據存儲獨立出來,作為網絡的一部分,為網絡用戶共享,它消除了數據“孤島”現象。同時網絡存儲的目標是整合廣泛的存儲設備,包括磁盤驅動器、備份磁帶驅動器、磁盤陣列、光盤庫等所有的存儲設備,這也使得存儲資源的集中管理和備份成為可能。

1 網絡存儲技術

1.1 網絡存儲接口技術

存儲設備通過標準化的I/O接口技術與服務器或者交換機/路由器通信,以實現開放式的系統互聯。在存儲系統的應用中,目前最主要的接口技術包括:SCSI、光線通道以及iSCSI等。

1.1.1 SCSI

SCSI(Small Computer System Interface)是用于計算機和智能設備之間(硬盤、軟驅、光驅、打印機、掃描儀等)系統級接口的獨立處理器標準。在系統中應用時,SCSI必須要有專門的SCSI控制器,也就是一塊SCSI控制卡,才能支持SCSI設備,這與IDE硬盤不同。在SCSI控制器上有一個相當于CPU的芯片,它對SCSI設備進行控制,能處理大部分的工作,減少了中央處理器的負擔(CPU占用率)。也正是由于 SCSI 擁有這些出眾的優點,使得 SCSI 能夠在專業應用中占據絕對的主導地位。

SCSI是 1979 年由美國的施加特 (Shugart) 公司 ( 希捷的前身 ) 研發并制定的,并于1986 年獲得 ANSI(美國標準協會)的承認。從發明到現在,SCSI通過20多年的發展已經成為一系列技術的集合,其性能也呈現多種多樣,如:多種總線寬度、多種總線速率、各種SCSI總線仲裁方式等。SCSI的總線速度已由開始的5兆字節/s發展到現在SCSI ULTRA320的320兆字節/s,并且仍在不斷地提高(周敬利等,2005)。

1.1.2 光纖通道

光線通道(Fiber Channel)是存儲系統中常用的介于I/O通道和網絡連接之間的通訊協議。光纖通道能為不同的設備間提供高速的數據交換通道,同時,也能提供較遠距離的通訊,目前,常見的光纖通道網絡可達到約10km的通訊距離。

光纖通道協議是一個分層的通訊協議,它包括:物理層、編解碼層、幀協議/流控制層、通用服務層、上層協議層。而光纖通道網絡中的設備必須遵循光纖通道協議的各個層次來通訊。

一般的存儲設備,如磁盤、磁帶庫等都有光纖通道接口,可以直接與其他光纖通道設備連接。而服務器往往沒有光纖通道接口,無法與其他光纖通道設備連接。在實際應用中,服務器需要一個主機總線適配卡(Host Bus Adaptor),而這個主機總線適配卡可插在服務器內部的總線擴展槽上,適配卡上有光纖通道接口。這樣一來,服務器就可以通過主機總線適配卡與光纖通道的連接設備(如光纖通道集線器、交換機)或其他光纖通道設備連接了。

1.1.3 iSCSI

iSCSI(internet Small Computer System Interface)是由IEETF公司開發的,它結合了TCP/IP和SCSI的網絡存儲接口標準,可將SCSI命令和塊狀數據封鎖到TCP/IP包中發送、接收,同時用IP協議將存儲設備連接在一起。發送端可將SCSI命令和數據封裝在TCP/IP包中通過網絡轉發,當接收端收到TCP/IP包后,可將其還原為SCSI命令和數據并執行,完成之后再將返回的SCSI命令和數據封裝到TCP/IP包中,再傳送到發送端。

通過在IP網上傳送SCSI命令和數據,iSCSI推動了數據在網際之間的傳遞,同時也促進了數據的遠距離管理。由于IP網絡的廣泛應用,iSCSI能夠在LAN、WAN甚至internet上進行數據傳送,使得數據的存儲不再受地域的限制。

1.2 RAID技術

RAID是Redundant Array of Independent Disks的縮寫,譯為獨立冗余磁盤陣列。RAID將一組磁盤驅動器用某種邏輯的方式聯系起來,作為邏輯上的一個磁盤驅動器來使用,可提高數據讀取速率和提供磁盤容錯能力。

RAID系統由2個主要部件總成:RAID控制器和磁盤陣列。RAID控制器是RAID系統的“大腦”,負責路由、緩沖及管理主機(或網絡)與磁盤陣列之間的數據流。RAID控制器通常以高速接口技術,如上面提到的SCSI、光纖通道等與主機(或網絡)和磁盤連接(圖1)。

圖1 RAID系統的物理結構Fig. 1 Physical structure of RAID

RAID控制器有各種不同的級別,由于各級采用的工作模式和算法不同,具有不同的可靠性和性能,根據應用的需求可以選擇相應的RAID級別。

2 網絡存儲的基本架構

目前,基于網絡的存儲架構有三個主要的發展方向:NAS、SAN和IP-SAN。網絡連接存儲NAS通過IP網絡向客戶端用戶提供文件級服務,而存儲區域網絡SAN和IP-SAN則通過網絡向服務器用戶提供塊級I/O服務。對于服務器而言,SAN和IP-SAN存儲設備表現為標準的塊設備,而NAS存儲設備對于PC或者服務器則表現為一個專用的文件服務器。NAS與SAN、IP-SAN在體系結構上存在較大的區別,而SAN與IP-SAN的體系結構存在較多的相同點。

2.1.1 NAS存儲體系結構

NAS使用了傳統以太網和IP協議,當進行文件共享時,則利用了NFS和CIFS以溝通NT和 Unix系統。由于NFS和CIFS都是基于操作系統的文件共享協議,所以NAS的性能特點是進行小文件級的共享存取。

從NAS的簡單機制可引申出它的一些明顯的優缺點。優點:NAS的部署非常簡單,只須與傳統交換機連接即可;其次,它的成本較低,因為NAS的投資僅限于1臺NAS服務器,而不像SAN是整個存儲網絡,同時,NAS服務器的價格往往是針對中小企業定位的;第三,NAS服務器的管理非常簡單,它一般都支持 Web的客戶端管理,對熟悉操作系統的網絡管理人員來說,其設置既熟悉又簡單。而在簡單易用的背后,NAS的缺點也非常明顯:從性能上看,由于與應用同時使用一個網絡,NAS會增加網絡擁塞,反過來,NAS性能也嚴重受制于網絡傳輸數據能力;其次,從數據安全性看,NA一般只提供兩級用戶安全機制,雖然這能簡化使用,但還需要用戶額外增加適當級別的文件安全手段。

2.1.2 SAN存儲體系結構

SAN和NAS所適合的應用不同。SAN是傳統的DAS技術的發展延續,適合大量的數據塊訪問方式的網絡存儲技術,即信息主要是以塊方式存儲及管理的應用。SAN與DAS的主要區別在于:SAN技術在主機和存儲設備之間增加了專用的存儲域交換機,構成了光纖FC存儲域網絡,實現了網絡存儲訪問。

高性能的光纖通道交換機和光纖通道網絡協議是 SAN的關鍵。我們把以光纖通道交換機為骨干的網絡拓撲結構稱為“SAN Fabric”,而光纖通道協議是SAN的另一個本質特征。SAN正是利用光纖通道協議上加載SCSI協議來達到可靠的塊級數據傳輸。

SAN以光纖通道交換機和光纖通道協議為主要特征的本質決定了它的諸多優點,可簡單地概括為性能、距離、管理等方面。首先,在一些關鍵應用中,傳輸塊級數據要求必須使用SAN,尤其是多個服務器共同向大型存儲設備進行讀取。由于在數據傳輸時被分成小段,使SAN對服務器處理的依賴較少,可以有效地傳送爆發性的塊數據,SAN的性能及可靠性就得到了充分的發揮。其次,通過城域網(MAN),SAN可以實現遠程災難恢復。一般地,使用E3信道, SAN可以在不降低性能的同時將部件間的距離增加至150km。第三,也是很重要的一點,SAN的管理是集中而且高效的。用戶可以在線添加/刪除設備、動態調整存儲網絡以及將異構設備統一成存儲池等。

2.1.3 IP-SAN存儲體系結構

IP-SAN是近些年來新興的網絡存儲技術,它通過使用TCP/IP以太網替代光纖通道網絡。前端通過IP網絡連接到服務器,后端采用IPSAN協議連接到存儲設備。iSCSI協議是IP-SAN中最為流行的協議,是IP存儲網絡的典型代表。

IP-SAN有效地利用了以太網絡,保護了現有的在以太網絡上的投資,而且千兆、萬兆以太網絡的廣泛使用,使得IP-SAN的性能得到提高。采用IP-SAN存儲網絡,可以達到較好的兼容性和高的性能價格比。

目前,相關的IP-SAN標準仍在制定中,在核心業務的應用也不多,其安全性和穩定性還有待考證。從網絡協議來看,IP協議比較適合傳輸大量的小塊數據,性能與FC存儲協議適合傳送大塊數據相比仍有差距。

3 SAN與NAS的融合

SAN對于高容量塊狀級數據傳輸具有明顯的優勢,而NAS則更加適合文件級別上的數據處理。盡管二者存在根本特性上的差異,但SAN和NAS 實際上可以相互補充存儲技術。如:SAN擅長塊數據傳輸,極易擴展且管理設備有效。用戶可以使用 SAN進行關鍵應用(比如數據庫、備份等),以完成數據的集中存取與管理;而NAS 支持若干客戶端之間文件共享,用戶可以使用NAS作為日常辦公中需要經常交換小文件的地方(比如存儲網頁等)。SAN和NAS在實際情況中還可以并存在一個系統中。再如:SAN可以與NAS聯合使用,旨在為NAS設備提供高性能、大容量的存儲設備,同時許多SAN通常也駐留在NAS的應用中(劉俊熙,2004)。

目前,許多公司已經推出了融合NAS與SAN的存儲解決方案,同時每家公司的方案都會有其獨特的一面,然而,從總體上看,這些方案大致可分為兩類:一類名為“NAS頭”;另一類名為“統一存儲系統”。

3.1 在NAS的基礎上添加對SAN的支持

在NAS基礎上添加對SAN的支持,就是“NAS頭”方案(圖2),在該方案中仍是以NAS為中心,NAS設備提供對SAN的支持,其中“NAS頭”由專為提供文化服務而優化的部件構成,相當于原來NAS存儲方式中的NAS文件管理器。

業務系統(如數據庫等)對性能要求較高的應用可部署在SAN的環境下,通過高速FC通道對數據進行存取;而對于性能要求不高但是需要資源共享的情況,即主要是文件級資源共享的應用系統(如Web應用、流媒體應用等)可部署在NAS環境下,通過TCP/IP通道對數據進行存取。

圖2 “NAS頭”方案拓撲架構Fig. 2 Topology structure of SAN+NAS

“NAS頭”連接到后端的SAN存儲上后,此時的NAS服務器就相當于SAN存儲網絡的網關,在前端主機需訪問SAN時,通過網關將文件級的訪問轉換成數據塊級的訪問,可節省前端主機HBA卡的開銷。同時又可以利用SAN進行存儲,為“NAS頭”提供存儲容量,這就使“NAS頭”后面的存儲設備可以根據環境的需求擴展到非常大的容量。

“NAS頭”方案雖然在一定程度上解決了SAN與NAS系統在存儲設備級的共享問題,但在文件級的共享上卻與傳統的NAS系統遇到了同樣的可擴展性問題,當一個文件系統負載很大時,“NAS頭”很可能成為系統的瓶頸。另外,SAN與NAS之間的空間無法進行有效利用。而這種模式的優點是可以充分利用不同存儲系統的一些優秀品質,但是并沒有減少管理和使用的復雜程度。

3.2 統一存儲系統

要實現一臺高端存儲系統完成所有數據的存儲空間需求,同時又支持SAN和NAS的訪問,在具體部署上首先要劃分出SAN和NAS的存儲邏輯分區,以保證在不同的應用模式下使用不同的資源配置,這樣才能在滿足業務需求的同時消除資源競爭(圖3)。

這種實現方式與在SAN前加“NAS頭”正好相反,它不是SAN到NAS的支持,而是NAS到SAN的支持,即在原有的NAS基礎上,增加對FCP協議的支持。由于NAS具有自己的操作和文件系統,因此增加的FCP和原有的NFS、CIFS、HTTP一樣,僅是一個協議的支持。同一網絡存儲可以通過不同的接口卡完成對SAN和NAS的同時支持,如通過以太網卡可以提供NAS的訪問服務,而同時又可以通過HBA卡提供SAN的訪問服務。至于NAS和SAN則可以共同而有效地使用所有虛擬化的空間。

圖3 統一存儲拓撲架構Fig. 3 Topology structure of united storage

有些統一存儲設備一般只支持高性能磁盤,這就造成了設備價格居高不下,也使得產品的投資風險加大,而將NAS和SAN統一在一個設備中,其可靠性相對2個存儲設備而言是有所下降的。

4 地震數據存儲的意義

地震數據主要來自于觀測、檢測、調查、試驗、實驗以及研究分析等科技活動。目前我國已有地震觀測臺站2000多個,形成了涵蓋地震、地磁、地電、地殼形變、GPS、地球重力、地下流體等方面的觀測網,這些觀測網自建立以來源源不斷地產出了大量寶貴的地球科學基礎數據,這些數據除用于地震行業的地震預測、地震基礎研究和防震減災外,同時也為我國的地球科學基礎研究、科研創新、國民經濟建設、生態環境、國防建設等提供了具有重大價值和應用意義的數據(路鵬等,2007)。

安全有效地存儲這些海量地震科學數據,是目前迫切需要解決的問題。而地震數據存儲設備整體規劃的具體目標,就是建立高效、安全、可靠的地震信息數據存儲和處理的基礎平臺,并在此之上提供對各種應用環境及數據集的有效備份和恢復機制,從而保證主要業務系統能夠持續、正常、穩定地運行。

5 網絡存儲技術的應用

中國地震臺網中心是我國地震監測預測、數據信息分析處理與服務、科技情報信息服務的專門業務機構,其中地震監測預報、震害預防、緊急救援又是核心技術支撐平臺。中國地震臺網中心數據存儲系統需要集中各系統的數據存儲需求,實現數據存儲、數據管理和數據備份三項功能。

地震監測數據存儲包括全國511個臺站的最近3個月的連續波形數據,以及最近12個月的地震事件波形數據和相應的處理數據。連續波形數據為實時連續接收數據,每秒數據量約為0.83M,暫存20分鐘后數據存儲到原始數據庫中。每次入庫數據量為1G/次。數據處理系統從原始數據庫中讀出數據,經過分析處理加工成為數據產品,寫入產品數據庫。數據服務系統可訪問原始數據庫和產品數據庫,并提供數據服務。

抗震救災指揮部技術系統的數據業務內容包括:基礎信息和應急處理數據。數據存儲方式有數據庫和文件兩種形式。基礎信息包括地理信息、震情數據、遙感信息和來自各級指揮中心的基礎數據等。基礎信息數據一次性寫入數據庫,定期進行少量數據更新,數據長期在線。當大地震發生應急系統啟動時,會產生突發性的、大量和頻繁的基礎數據訪問,要求數據存儲系統有盡可能高的讀出速度。應急處理數據為應急系統啟動時,由外部接收或內部產生的應急相應的處理過程數據。

國家地震前兆臺網中心每天接收約2.5G的增量數據。數據存入原始數據庫,原始數據經分析處理后,成為產品數據存入產品數據庫,產品數據長期在線,并提供數據服務。

國家地震信息網絡系統每天產出大量的系統運行狀態監控數據。負責臺網中心技術系統各類服務器的安全備份,并提供用戶的信息與數據服務。

中國地震臺網中心對匯集到的海量數據,按照各類數據的特點,考慮到數據的安全性、保密性級別,以合適的方式、適當的介質和數據格式進行存儲。根據對各分項需求的分析和信息存儲技術的發展,中國地震臺網中心存儲系統采用SAN+NAS的基礎架構,同時提供高性能的Block存儲服務和可共享的File存儲服務。磁盤陣列采用中高端智能多控制器磁盤陣列,以滿足中國地震臺網中心數據在線處理和長期存儲的需求。

中國地震臺網中心業務模式比較復雜,業務系統除了數據庫業務以外還有很多非數據庫業務。業務系統中的數據庫(對性能要求較高的應用)部署在SAN的環境下,通過高速FC通道對數據進行存取;而對于性能要求不高但是需要資源共享,主要是文件級資源共享的應用系統(如Web應用、流媒體應用等)部署在NAS環境下,通過TCP/IP通道對數據進行存取。通過建立這個集成的數據存儲系統,實現了中國地震臺網中心核心數據的存儲管理,并保證核心數據在中國地震臺網中心內部被妥善長期的保存和快速的訪問。

劉俊熙,2004. 電子商務環境下的網絡信息存儲技術:NAS 和SAN 的融合應用. 信息化與網絡建設,(12):64—65.

路鵬,劉瑞豐,李志雄等,2007. 地震科學數據的分級分類探討. 西北地震學報,(3):248—251.

周敬利,余勝生等,2005. 網絡存儲原理與技術. 北京:清華大學出版社.

Application of Network Storage on Seismic Data Management

Zeng Wei, Yang Le and Tan Ying
( China Earthquake Networks Center, Beijing 100045, China)

A large amount of valuable seismic data is produced continuously as the improvement of seismological observation and earthquake research. At present, the most important issue is how to save the mass seismic data safely and effectively. This paper briefly introduces the development and application of network storage technology,and discusses its application through the analysis of requests by seismic data storage.

曾薇,楊樂,譚穎,2011. 網絡存儲技術在地震數據存儲中的應用. 震災防御技術,6(3):335—342.

2011-05-26

曾薇,女,生于1980年。2006年畢業于北京郵電大學,獲計算機應用專業碩士學位,同年入職中國地震臺網中心信息網絡部。主要研究方向:信息網絡、衛星通信。E-mail: zengwei@seis.ac.cn

Κey words: Network storage; NAS; SAN; Seismic data

猜你喜歡
數據庫
數據庫
財經(2017年15期)2017-07-03 22:40:49
數據庫
財經(2017年2期)2017-03-10 14:35:35
兩種新的非確定數據庫上的Top-K查詢
數據庫
財經(2016年15期)2016-06-03 07:38:02
數據庫
財經(2016年3期)2016-03-07 07:44:46
數據庫
財經(2016年6期)2016-02-24 07:41:51
數據庫
財經(2015年3期)2015-06-09 17:41:31
數據庫
財經(2014年21期)2014-08-18 01:50:18
數據庫
財經(2014年6期)2014-03-12 08:28:19
數據庫
財經(2013年6期)2013-04-29 17:59:30
主站蜘蛛池模板: a级毛片免费看| 狠狠色狠狠色综合久久第一次| 国产日韩欧美在线播放| 亚洲精品少妇熟女| 99热最新网址| 日韩免费无码人妻系列| 国产性生交xxxxx免费| 67194成是人免费无码| 91色国产在线| 免费一极毛片| 亚洲国产看片基地久久1024| 亚洲AV无码乱码在线观看代蜜桃| 日本成人一区| 精品国产免费人成在线观看| 91精品最新国内在线播放| 亚洲高清无码精品| 国产福利大秀91| 久久性妇女精品免费| 永久免费AⅤ无码网站在线观看| 大学生久久香蕉国产线观看| 国产精品国产三级国产专业不| 综1合AV在线播放| 午夜毛片免费看| 成人毛片免费在线观看| 福利国产在线| 国产三级韩国三级理| 日本一区二区三区精品视频| 五月天丁香婷婷综合久久| 漂亮人妻被中出中文字幕久久| 亚洲欧美成aⅴ人在线观看 | www.91中文字幕| 中国特黄美女一级视频| 国产成人91精品| 网久久综合| 57pao国产成视频免费播放| 2020极品精品国产| 亚洲中文字幕国产av| 怡红院美国分院一区二区| 国产91色在线| 黄色一及毛片| 性喷潮久久久久久久久| 日韩国产综合精选| 无码电影在线观看| 成人午夜福利视频| 国产成人精品男人的天堂下载| 精品欧美日韩国产日漫一区不卡| 免费无码AV片在线观看国产| 国产精品任我爽爆在线播放6080 | 亚洲中文无码av永久伊人| 高清免费毛片| 国产精品性| 一区二区午夜| 91偷拍一区| 欧美成人日韩| 天天摸天天操免费播放小视频| 亚洲成a人片7777| 国产呦视频免费视频在线观看| 亚洲码一区二区三区| 伊人激情综合| jizz国产视频| 国产综合精品一区二区| 依依成人精品无v国产| 国产精品人成在线播放| 永久在线播放| 精品91在线| 国产成人综合网| 国产肉感大码AV无码| 99精品国产自在现线观看| 国产综合精品日本亚洲777| 老司国产精品视频| 成人毛片在线播放| 久久精品丝袜高跟鞋| 91色在线观看| 成人无码一区二区三区视频在线观看| h视频在线观看网站| 国产成人精品男人的天堂| 国产剧情国内精品原创| 91青草视频| 久久综合婷婷| 国产精品成人不卡在线观看 | 亚洲AV无码久久精品色欲| 亚洲二区视频|