陳達(dá)忠(上海郵電設(shè)計(jì)咨詢研究院有限公司,上海 200093)
當(dāng)前,通信業(yè)務(wù)的競(jìng)爭(zhēng)日趨激烈,保證網(wǎng)絡(luò)質(zhì)量無(wú)疑是網(wǎng)絡(luò)運(yùn)營(yíng)商競(jìng)爭(zhēng)取勝的關(guān)鍵所在。為提高網(wǎng)絡(luò)服務(wù)質(zhì)量,網(wǎng)絡(luò)運(yùn)營(yíng)商必須建立高效運(yùn)作的維護(hù)體系、推進(jìn)移動(dòng)網(wǎng)絡(luò)基礎(chǔ)運(yùn)營(yíng)的精確管理,并以信息化為支撐,通過(guò)先進(jìn)的維護(hù)手段不斷提高維護(hù)管理效率,為整個(gè)運(yùn)營(yíng)網(wǎng)絡(luò)提供可靠的業(yè)務(wù)保障。就無(wú)線網(wǎng)絡(luò)而言,由于網(wǎng)絡(luò)結(jié)構(gòu)和設(shè)備的復(fù)雜度遠(yuǎn)高于固網(wǎng),因此在同一網(wǎng)絡(luò)級(jí)別下,其管理平臺(tái)系統(tǒng)的數(shù)據(jù)量要遠(yuǎn)大于固網(wǎng)。這些系統(tǒng)以基礎(chǔ)數(shù)據(jù)為核心,并與性能管理、流程管控相耦合,實(shí)現(xiàn)了移動(dòng)網(wǎng)絡(luò)工作的全程管控,確保了移動(dòng)網(wǎng)絡(luò)質(zhì)量,支持了移動(dòng)業(yè)務(wù)發(fā)展。
以中國(guó)電信為例,其網(wǎng)絡(luò)管理平臺(tái)分為省(區(qū))和地(市)2個(gè)級(jí)別。可以想象出,一些大省份的網(wǎng)絡(luò)管理平臺(tái)的用戶數(shù)量是如何之大。但因其硬件水平有限,這類平臺(tái)都不同程度地出現(xiàn)了新增數(shù)據(jù)存儲(chǔ)受限和訪問速度減慢等現(xiàn)象。顯然,這些現(xiàn)象是由于早年設(shè)計(jì)的存儲(chǔ)架構(gòu)不能很好地滿足當(dāng)前存儲(chǔ)需求造成的。因此,對(duì)這類平臺(tái)的數(shù)據(jù)存儲(chǔ)方式進(jìn)行研究就有著極其重要的現(xiàn)實(shí)意義。本文以上海電信無(wú)線網(wǎng)管平臺(tái)數(shù)據(jù)存儲(chǔ)實(shí)現(xiàn)云化為例,對(duì)數(shù)據(jù)存儲(chǔ)云化有關(guān)問題進(jìn)行簡(jiǎn)要論述。
盡管上海電信無(wú)線網(wǎng)管平臺(tái)在經(jīng)歷3期建設(shè)后相繼解決了一些問題,使整個(gè)系統(tǒng)不斷得到完善和優(yōu)化,但隨著用戶群的不斷擴(kuò)大和電信業(yè)務(wù)的不斷豐富,需采集、存儲(chǔ)和處理的數(shù)據(jù)量也越來(lái)越大,使其逐步面臨數(shù)據(jù)存儲(chǔ)瓶頸和因數(shù)據(jù)備份恢復(fù)龐大而訪問緩慢問題。
云存儲(chǔ)[1]是指通過(guò)集群應(yīng)用、網(wǎng)格技術(shù)或分布式文件系統(tǒng)等功能,將網(wǎng)絡(luò)中大量不同類型的存儲(chǔ)設(shè)備通過(guò)應(yīng)用軟件集合起來(lái)協(xié)同工作,共同對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問功能的系統(tǒng),亦即以數(shù)據(jù)存儲(chǔ)和管理為核心的云計(jì)算系統(tǒng)。云存儲(chǔ)平臺(tái)架構(gòu)由數(shù)據(jù)存儲(chǔ)層、數(shù)據(jù)管理層和數(shù)據(jù)服務(wù)層組成,其難點(diǎn)是對(duì)大規(guī)模存儲(chǔ)設(shè)備的管理。
云存儲(chǔ)目前所能解決的問題有以下3個(gè)方面。
a)提供大規(guī)模存儲(chǔ)空間,滿足存儲(chǔ)海量數(shù)據(jù)。
b)面對(duì)新增數(shù)據(jù),滿足存儲(chǔ)空間可擴(kuò)展性。
c)面對(duì)海量數(shù)據(jù),提供較高性能存儲(chǔ)。
目前,已有不少IT公司向中小型企業(yè)及個(gè)人提供了云存儲(chǔ)服務(wù)[2]。對(duì)每天都需處理和分析大量數(shù)據(jù)業(yè)務(wù)的大型企業(yè)來(lái)說(shuō),云存儲(chǔ)無(wú)疑是個(gè)恰到好處的選擇。2009年12月,上海電信與EMC公司合作將分布在異構(gòu)存儲(chǔ)系統(tǒng)和平臺(tái)中的數(shù)據(jù)進(jìn)行了虛擬化云存儲(chǔ),推出了面向家庭和個(gè)人用戶的云信息服務(wù)的“e云”[3]。同時(shí),安徽移動(dòng)從BOSS3.0上線開始就利用云存儲(chǔ)技術(shù)對(duì)原存儲(chǔ)系統(tǒng)進(jìn)行了改造,通過(guò)虛擬化和云計(jì)算技術(shù)實(shí)現(xiàn)了異構(gòu)環(huán)境下的統(tǒng)一管理,使其應(yīng)用逐步擺脫了對(duì)硬件基礎(chǔ)架構(gòu)的依賴[4]。
由此看來(lái),選擇云存儲(chǔ)是未來(lái)企業(yè)大數(shù)據(jù)存儲(chǔ)的一個(gè)必然趨勢(shì)。
無(wú)線網(wǎng)管平臺(tái)由數(shù)據(jù)層、應(yīng)用層和展示層組成,數(shù)據(jù)層負(fù)責(zé)采集和存儲(chǔ)數(shù)據(jù),應(yīng)用層負(fù)責(zé)業(yè)務(wù)邏輯處理,展示層負(fù)責(zé)向用戶展示數(shù)據(jù),下層為其上層提供所需接口,具有較好的封裝性。
a)數(shù)據(jù)層。數(shù)據(jù)層負(fù)責(zé)完成數(shù)據(jù)采集、入庫(kù)及備份工作,它在任何一個(gè)管理平臺(tái)中都是至關(guān)重要的。數(shù)據(jù)層又可分為采集層和數(shù)據(jù)庫(kù)層。采集層通過(guò)各商家設(shè)備提供的采集接口采集原始數(shù)據(jù),由采集服務(wù)器解析原始數(shù)據(jù)并生成數(shù)據(jù)文件。在采集數(shù)據(jù)的同時(shí),還需要及時(shí)地將保存在采集服務(wù)器上的數(shù)據(jù)文件存入到數(shù)據(jù)庫(kù)中 (如所有數(shù)據(jù)必須在1 h的時(shí)間窗口內(nèi)完成入庫(kù))。在入庫(kù)過(guò)程中,將涉及到數(shù)據(jù)的統(tǒng)計(jì)和匯總,統(tǒng)計(jì)和匯總信息也會(huì)持久化在數(shù)據(jù)層中。在數(shù)據(jù)被持久化到數(shù)據(jù)庫(kù)后,上層應(yīng)用會(huì)有對(duì)數(shù)據(jù)庫(kù)中的數(shù)據(jù)進(jìn)行查詢和統(tǒng)計(jì)的需求,故數(shù)據(jù)層需提供查詢和統(tǒng)計(jì)接口給應(yīng)用層。對(duì)存儲(chǔ)大量數(shù)據(jù)的單一存儲(chǔ)服務(wù)器來(lái)說(shuō),查詢和統(tǒng)計(jì)性能的挑戰(zhàn)是很大的。
b)應(yīng)用層。應(yīng)用層主要負(fù)責(zé)平臺(tái)業(yè)務(wù)邏輯,依據(jù)功能模塊劃分出不同類型的業(yè)務(wù)方法。業(yè)務(wù)方法通過(guò)調(diào)用數(shù)據(jù)層提供的接口完成業(yè)務(wù)工作。
c)展示層。展示層根據(jù)應(yīng)用層Web Service提供的數(shù)據(jù),將其以不同形式展示出來(lái)。
無(wú)線網(wǎng)管平臺(tái)數(shù)據(jù)具有以下特點(diǎn)。
a)存儲(chǔ)數(shù)據(jù)量大且增長(zhǎng)迅速。系統(tǒng)目前需采集基礎(chǔ)、性能、參數(shù)、話單、鄰區(qū)及告警等數(shù)據(jù)。上海朗訊統(tǒng)計(jì)數(shù)據(jù)表明,上海電信2011年3月份無(wú)線性能數(shù)據(jù)達(dá)10 MB/h、話單數(shù)據(jù)忙時(shí)最大達(dá)4 MB/min。至2011年4月,中國(guó)電信CDMA的用戶總量已突破1億戶,用戶增速達(dá)365%[5],成了全球最大的CDMA網(wǎng)絡(luò)運(yùn)營(yíng)商。系統(tǒng)的數(shù)據(jù)存儲(chǔ)量無(wú)疑是與電信用戶量成正比的。
b)數(shù)據(jù)安全性要求高。數(shù)據(jù)是系統(tǒng)的核心,平臺(tái)上的所有應(yīng)用也都是基于數(shù)據(jù)的。系統(tǒng)中存儲(chǔ)的數(shù)據(jù)對(duì)電信業(yè)務(wù)質(zhì)量的分析和評(píng)價(jià)至關(guān)重要。如果用于評(píng)價(jià)電信業(yè)務(wù)質(zhì)量的數(shù)據(jù)完整性和正確性遭到破壞,建立管理平臺(tái)的目標(biāo)就難以達(dá)到;同時(shí)面向用戶的話單數(shù)據(jù)對(duì)業(yè)務(wù)也影響非常大,一旦話單數(shù)據(jù)的完整性和正確性遭到破壞,展示給用戶的話單數(shù)據(jù)會(huì)引起極大不滿,所以管理平臺(tái)對(duì)數(shù)據(jù)安全性的要求是比較高的。
c)數(shù)據(jù)入庫(kù)的及時(shí)性要求高。系統(tǒng)對(duì)數(shù)據(jù)入庫(kù)的及時(shí)性也有一定的要求 (如話單數(shù)據(jù)必須在1 h內(nèi)完成入庫(kù))。采集服務(wù)器采集和預(yù)處理的數(shù)據(jù)量大,入庫(kù)的數(shù)據(jù)量也勢(shì)必大。如果采集服務(wù)器的入庫(kù)并發(fā)性不高,數(shù)據(jù)入庫(kù)的及時(shí)性就會(huì)受到威脅。數(shù)據(jù)入庫(kù)的及時(shí)性將直接影響到數(shù)據(jù)庫(kù)數(shù)據(jù)的新鮮度。
d)大量的數(shù)據(jù)統(tǒng)計(jì)需求。由于采集服務(wù)器搜集到的均是原始數(shù)據(jù),而應(yīng)用所需的不僅是原始數(shù)據(jù),還包括較多的統(tǒng)計(jì)和分析數(shù)據(jù),因此為滿足前端應(yīng)用的查詢性能,在數(shù)據(jù)入庫(kù)過(guò)程中還需做大量的數(shù)據(jù)統(tǒng)計(jì)工作,將統(tǒng)計(jì)數(shù)據(jù)與普通數(shù)據(jù)一起入庫(kù)供應(yīng)用查詢。
經(jīng)對(duì)網(wǎng)管類系統(tǒng)特征分析發(fā)現(xiàn),海量數(shù)據(jù)平臺(tái)正逐步面臨著數(shù)據(jù)存儲(chǔ)量大、數(shù)據(jù)備份恢復(fù)涉及數(shù)據(jù)量龐大且過(guò)程緩慢等瓶頸問題;同時(shí)還發(fā)現(xiàn),采用平臺(tái)數(shù)據(jù)存儲(chǔ)云化(即采用并行計(jì)算采集和處理數(shù)據(jù))、重復(fù)數(shù)據(jù)刪除及差分增量備份等技術(shù),可有效地解決平臺(tái)目前即將面臨的問題和挑戰(zhàn),能為網(wǎng)管類平臺(tái)創(chuàng)造較好的發(fā)展前景。
以下基于上海電信無(wú)線網(wǎng)管平臺(tái)數(shù)據(jù)存儲(chǔ)實(shí)現(xiàn)云化工程的實(shí)踐經(jīng)驗(yàn)總結(jié),對(duì)數(shù)據(jù)存儲(chǔ)云化的有關(guān)問題進(jìn)行簡(jiǎn)要論述。
由于網(wǎng)管類平臺(tái)本身已有了較好的分層方式,因此該工程的設(shè)計(jì)和分析重點(diǎn)主要集中到了數(shù)據(jù)層上。
云存儲(chǔ)平臺(tái)由數(shù)據(jù)存儲(chǔ)層、數(shù)據(jù)管理層和數(shù)據(jù)服務(wù)層組成,其中:數(shù)據(jù)存儲(chǔ)層包括存儲(chǔ)設(shè)備和統(tǒng)一存儲(chǔ)層(虛擬化技術(shù))(實(shí)現(xiàn)動(dòng)態(tài)擴(kuò)容就在這一層),數(shù)據(jù)管理層包括數(shù)據(jù)安全策略(如數(shù)據(jù)備份),數(shù)據(jù)服務(wù)層提供應(yīng)用層訪問接口。
在分析原框架和數(shù)據(jù)特征后認(rèn)為,欲實(shí)現(xiàn)系統(tǒng)數(shù)據(jù)存儲(chǔ)和使用的高效性,可能需要改進(jìn)的是:將原數(shù)據(jù)庫(kù)層包裝成云存儲(chǔ)層,則需在存儲(chǔ)設(shè)備上加入存儲(chǔ)設(shè)備管理系統(tǒng),以實(shí)現(xiàn)存儲(chǔ)設(shè)備的邏輯虛擬化管理、多鏈路冗余管理及硬件設(shè)備狀態(tài)監(jiān)控和故障維護(hù),并加入基礎(chǔ)管理層。基礎(chǔ)管理層是云存儲(chǔ)的核心,也是云存儲(chǔ)中最難實(shí)現(xiàn)的部分。基礎(chǔ)管理層通過(guò)集群、分布式文件系統(tǒng)和網(wǎng)格計(jì)算等技術(shù),實(shí)現(xiàn)云存儲(chǔ)中多個(gè)存儲(chǔ)設(shè)備間協(xié)同工作,以提供更大更強(qiáng)更好的數(shù)據(jù)訪問性能。
3.2.1動(dòng)態(tài)擴(kuò)容
面對(duì)系統(tǒng)每天都要增長(zhǎng)巨大數(shù)據(jù)量問題,可通過(guò)動(dòng)態(tài)擴(kuò)容技術(shù)來(lái)實(shí)現(xiàn)自動(dòng)擴(kuò)展系統(tǒng)容量,使其能承受起數(shù)據(jù)增長(zhǎng)壓力。也就是說(shuō),在系統(tǒng)需要擴(kuò)充容量時(shí)能方便地加入新的存儲(chǔ)設(shè)備,僅需通過(guò)相關(guān)配置便可實(shí)現(xiàn)動(dòng)態(tài)擴(kuò)容。這就需要采用一定的技術(shù)將存儲(chǔ)設(shè)備虛擬化,并為存儲(chǔ)設(shè)備配置管理接口。存儲(chǔ)設(shè)備虛擬化,能很好地滿足存儲(chǔ)數(shù)據(jù)量大且增長(zhǎng)迅速的需求。
使用存儲(chǔ)設(shè)備虛擬化技術(shù)的好處在于,不再為存儲(chǔ)容量不足而發(fā)愁,因?yàn)橥ㄟ^(guò)配置相關(guān)文件、動(dòng)態(tài)加入新的存儲(chǔ)設(shè)備,就可以滿足動(dòng)態(tài)擴(kuò)容需求。存儲(chǔ)設(shè)備虛擬化不僅方便有效,還能保證存儲(chǔ)設(shè)備的在線狀態(tài)。
3.2.2 映射 /簡(jiǎn)化(map/reduce)[6]數(shù)據(jù)處理
由于系統(tǒng)存儲(chǔ)數(shù)據(jù)量巨大,需處理和分析的數(shù)據(jù)量也十分龐大,因此其計(jì)算性能尤為重要。經(jīng)研究后認(rèn)為,通過(guò)并行計(jì)算技術(shù)可滿足其高效計(jì)算需求。由于map/reduce是一種用于分布系統(tǒng)的編程模型,支持在計(jì)算機(jī)集群中對(duì)超大數(shù)據(jù)集進(jìn)行分布式處理,所以通過(guò)map/reduce實(shí)現(xiàn)系統(tǒng)的并行執(zhí)行能力,可較好地滿足大量數(shù)據(jù)統(tǒng)計(jì)需求,同時(shí)將入庫(kù)數(shù)據(jù)按要求分成若干個(gè)優(yōu)先級(jí)后,使用map/reduce先計(jì)算并入庫(kù)優(yōu)先級(jí)要求較高的數(shù)據(jù),還能滿足系統(tǒng)高及時(shí)性需求。
使用map/reduce技術(shù)的好處在于,map/reduce程序可運(yùn)行在普通PC上,只需通過(guò)增加機(jī)器數(shù)量即可實(shí)現(xiàn)計(jì)算能力的線性擴(kuò)展,因此可根據(jù)系統(tǒng)的業(yè)務(wù)量來(lái)規(guī)劃系統(tǒng)規(guī)模,從而獲得良好的投資回報(bào)。
3.2.3重復(fù)數(shù)據(jù)刪除
存儲(chǔ)系統(tǒng)中通常會(huì)有大量的重復(fù)數(shù)據(jù)。為消除冗余數(shù)據(jù)副本,可在數(shù)據(jù)存放磁盤前先進(jìn)行重復(fù)數(shù)據(jù)刪除(dedup)[7]工作。對(duì)海量存儲(chǔ)系統(tǒng)來(lái)說(shuō),這種刪除技術(shù)在節(jié)省存儲(chǔ)空間方面具有顯著效果。map/reduce與dedup技術(shù)的結(jié)合使用見圖1。

dedup可應(yīng)用在文件、數(shù)據(jù)塊或字節(jié)層面上。采用某個(gè)hash函數(shù)為數(shù)據(jù)單元計(jì)算校驗(yàn)和,該函數(shù)能以很高的概率唯一地識(shí)別數(shù)據(jù)(如SHA 256的hash碰撞概率約為2-256)。數(shù)據(jù)單元被記錄在一張表內(nèi),從而也就建立了從數(shù)據(jù)校驗(yàn)到存儲(chǔ)位置及引用次數(shù)的映射。當(dāng)存儲(chǔ)已有數(shù)據(jù)備份時(shí)僅增加引用次數(shù),當(dāng)數(shù)據(jù)高度冗余時(shí)(如備份服務(wù)器、虛擬機(jī)映像和源碼庫(kù))重復(fù)數(shù)據(jù)刪除能成倍地減少空間消耗。
3.2.4差分增量備份
對(duì)于系統(tǒng)數(shù)據(jù)的安全性和完整性問題,可采用差分增量備份技術(shù)可得到較好的解決。差分增量備份相對(duì)于全備份技術(shù)而言,有著巨大的空間節(jié)省效益。
差分增量備份是一種將自分裂備份與增量備份合二為一的備份模式。在該模式下,初始備份仍是一個(gè)全備份,后續(xù)的每次備份是與其前一次備份的自分裂增量備份。例如:星期一作一個(gè)全備份,星期二在將與星期一不同的部分進(jìn)行備份的同時(shí)將已被刪除的文件作為一個(gè)負(fù)增量記錄在這個(gè)備份版本里,星期三在將與星期二不同的部分進(jìn)行備份的同時(shí)將已被刪除的文件作為一個(gè)負(fù)增量記錄在這個(gè)備份版本里,依此類推。當(dāng)需要恢復(fù)時(shí),首先恢復(fù)初始的全備份,然后將每次的差分增量依次疊加上去。如果有負(fù)的增量,則需將該文件刪除掉。這種備份模式不僅備份效率最高,同時(shí)還能保證被用戶刪除的文件不會(huì)被恢復(fù)出來(lái)。如果用戶希望恢復(fù)被刪除的文件,可選擇不啟用自分裂。由此可知,相對(duì)于全備份技術(shù)而言,差分技術(shù)可大大地節(jié)省存儲(chǔ)空間。
鑒于差分增量備份恢復(fù)過(guò)程較為復(fù)雜,我們?cè)岢鲈趥浞莘?wù)器閑置時(shí)在備份介質(zhì)上進(jìn)行差分增量合成以形成新的全備份,并在經(jīng)典差分增量備份上進(jìn)行增強(qiáng)。另外,由于每個(gè)版本的經(jīng)典差分增量備份的索引文件都是孤立的,如果能將索引文件組合成一個(gè)索引網(wǎng)絡(luò),由其直接指出每個(gè)數(shù)據(jù)塊的具體位置(可能是任何一個(gè)備份的歷史版本中的一個(gè)文件),就能避免逐個(gè)恢復(fù)歷史版本。
在分布式系統(tǒng)中,可把備份數(shù)據(jù)發(fā)送到多臺(tái)服務(wù)器上,恢復(fù)時(shí)可并行接收數(shù)據(jù)。并行恢復(fù)可提高效率,尤其當(dāng)服務(wù)器的速度成為瓶頸時(shí)就更是如此。一般來(lái)說(shuō),備份系統(tǒng)都不會(huì)是單一的服務(wù)器。采用分布式并行恢復(fù)時(shí),在無(wú)須付出額外代價(jià)的情況下,就可帶來(lái)性能的提升,且在一定條件下,提升有可能是巨大的。
3.3數(shù)據(jù)存儲(chǔ)云化的利弊衡量
調(diào)查表明,半數(shù)以上的大型企業(yè)都傾向于擁有私有云。企業(yè)擁有私有云可帶來(lái)巨大的商業(yè)價(jià)值(如加速企業(yè)內(nèi)部創(chuàng)新速度、整合企業(yè)內(nèi)部資源及提高資源利用率等)。當(dāng)企業(yè)擁有私有云時(shí),企業(yè)自身就能更好地控制云計(jì)算,并根據(jù)實(shí)際需求進(jìn)行動(dòng)態(tài)調(diào)整和自主創(chuàng)新,其發(fā)展前途是很大的。
大存儲(chǔ)解決方案需要長(zhǎng)期的規(guī)劃和大量的前期投資。虛擬存儲(chǔ)可模塊化擴(kuò)增,通過(guò)適當(dāng)工具可逐漸地?cái)U(kuò)展專業(yè)云存儲(chǔ)容量、自由地配置資源,并能以經(jīng)濟(jì)方式平衡工作負(fù)載和容量,而其實(shí)施難點(diǎn)則在于對(duì)存儲(chǔ)設(shè)備的統(tǒng)一管理和監(jiān)控上。
針對(duì)存儲(chǔ)系統(tǒng)性能問題,我們采用map/reduce技術(shù)來(lái)加大計(jì)算的并行數(shù),以提高吞吐量和計(jì)算速度。同樣,這里也引進(jìn)了一些如map/reduce函數(shù)確定等難點(diǎn)問題。
對(duì)云存儲(chǔ)來(lái)說(shuō),數(shù)據(jù)的安全性是至關(guān)重要的[8]。在設(shè)計(jì)框架和系統(tǒng)時(shí),需考慮好數(shù)據(jù)安全性策略以保證系統(tǒng)的正常運(yùn)行。
針對(duì)運(yùn)營(yíng)商網(wǎng)管類平臺(tái)目前所存在的問題,期望通過(guò)將數(shù)據(jù)存儲(chǔ)云化(即通過(guò)分布式架構(gòu)及并行計(jì)算)來(lái)提高采集數(shù)據(jù)的存儲(chǔ)效率,通過(guò)云備份更好地對(duì)海量數(shù)據(jù)進(jìn)行處理,通過(guò)備份恢復(fù)來(lái)保障數(shù)據(jù)的安全性。本文對(duì)數(shù)據(jù)存儲(chǔ)云化相關(guān)技術(shù)和方案的簡(jiǎn)要論述,對(duì)擁有繁多類似平臺(tái)的電信運(yùn)營(yíng)商來(lái)說(shuō)具有一定的參考意義,同時(shí)也為其他海量數(shù)據(jù)應(yīng)用平臺(tái)及數(shù)據(jù)平臺(tái)的云化提供了借鑒和方法。
[1]Schmuck F B,Haskin R L.GPFS:A shared-disk file system for large computing clusters[EB/OL].[2011-12-10].http://citeseerx.ist.psu.edu/showciting?cid=46297.
[2]周可,王樺,李春花.云存儲(chǔ)技術(shù)及其應(yīng)用[J].中興通訊技術(shù),2010(4).
[3]黃海峰.從上海e云現(xiàn)狀看云存儲(chǔ)發(fā)展難題 [J].通信世界,2010(15).
[4]沈權(quán),周崎.云存儲(chǔ)下的容災(zāi)建設(shè)[J].通信世界,2011(5).
[5]中國(guó)電信用戶超過(guò) 1 億 年增長(zhǎng)率 365% [S/OL]. [2011-12-10].http://www.cb.com.cn/1634427/20110408/198214.html.
[6]徐小龍,吳家興,程春玲,李玲娟.基于大規(guī)模廉價(jià)計(jì)算平臺(tái)的海量數(shù)據(jù)處理系統(tǒng)的研究[J].計(jì)算機(jī)科學(xué)技術(shù),2010.
[7]王樹鵬.重復(fù)數(shù)據(jù)刪除技術(shù)的發(fā)展及應(yīng)用 [J].中興通訊技術(shù),2010,16(5).
[8]劉國(guó)萍,譚國(guó)權(quán),楊明川.基于云存儲(chǔ)的在線備份安全技術(shù)研究[J].電信科學(xué),2010,26(9):79-83.