網格環境下副本技術的研究與實現

趙秋云, 魏 樂

(成都信息工程學院計算機學院,四川成都610225)

1 引言

網格技術是為了滿足計算資源、計算能力不斷增長的需求而提出的,最終目標是實現網絡虛擬環境下的資源共享和協同工作。網格環境中維護的往往是海量數據,且這些數據大多是動態、分布存儲的,因此,數據管理技術及方案的選擇對網格性能來說至關重要。

副本技術是網格中提高數據訪問和處理效率的關鍵技術之一,通過在本地或者鄰近結點創建數據的副本,來改善高延遲網絡中數據的訪問速度和網格的整體性能。良好的數據副本管理技術可以減輕單個數據網格結點的通信和訪問壓力,降低遠程訪問該數據的網絡延遲及帶寬消耗;可以提高網絡的負載均衡度,同時提高數據的安全性、可靠性以及系統的容錯性。

2 副本技術研究與分析

2.1 Globus副本管理服務

Globus項目是目前國際上最有影響的網格計算相關項目之一,發起于20世紀90年代中期,由美國Argonne國家實驗室和幾十所大學等科研單位研發,也是較早開展副本管理研究的網格項目[1]。Globus項目的一個成果是開發出了開源工具包Globus Toolkit,該工具包提供了簡單的副本管理服務和副本定位服務,同時還提供了高速文件傳輸服務GridFTP。在副本管理服務方面,Globus Toolkit構造了一套底層的副本管理開發工具如復制管理服務、元數據服務、復制選擇服務和副本信息服務等組件,這些組件基于最簡單的集中式副本目錄,提供最基本的副本管理服務,但沒有提供副本動態創建、優化選擇以及一致性管理等功能。

Globus網格環境的副本管理是靜態的、集中的,主要體現在：在副本創建時對數據副本的動態生成沒有過多考慮;復制選擇中,當存在多個副本滿足要求時,僅僅根據存儲空間、可用帶寬等一些靜態或全局參數進行排序、選擇,既沒有充分利用用戶訪問數據的歷史記錄,以便對用戶以后的數據訪問進行預測,也沒有根據用戶的請求有針對性地采取不同的選擇策略。總之,Globus提供的復制管理服務的靈活性較差,無法滿足實際網格應用的需求。

2.2 副本創建策略

副本策略應該考慮副本的定位、創建、更新及刪除等多種任務,在副本管理的諸多任務中,副本的創建是根本,它的解決方案會直接影響其它問題的解決方法,也是副本管理方案性能的主要決定因素。

副本創建策略較多。文獻[2]給出了網格領域經典的幾種副本創建策略：沒有副本或緩存的策略、最佳客戶端策略、瀑布復制策略、簡單的緩存策略、緩存+瀑布策略和快速擴散策略。6種副本擴展策略中,快速擴散和瀑布策略較其它4種策略可以節省60%的網絡帶寬和減少60%的延遲。但快速擴展策略對訪問特征沒有進行任何處理,瀑布策略可以定期識別熱度文件,并將文件沿著層次進行副本擴展,非常適合于層次網格拓撲結構,但這種策略著重考慮文件訪問次數,對其它文件訪問特征處理簡單。最佳客戶端策略也同樣適合層次網格結構,但它只突出了訪問特征中的訪問次數和訪問者。除此之外,還有許多文獻提出了各種各樣的副本管理策略。由于重點在于副本管理的實現,此處對各種副本策略不再過多介紹。

選擇哪種副本創建策略應該根據網格拓撲結構、數據規模、網格環境下單節點存儲能力、副本管理的側重點及網格作業規模等多個方面考慮,從副本管理可擴展的角度考慮,一個設計良好的副本管理方案應該能提供多種副本管理策略。由于課題依據的計算網格是層次網格拓撲結構,本文的副本管理方案中副本創建方面首選瀑布策略。

2.3 網格體系結構與副本管理

網格技術在體系結構、標準規范上投入了大量的研究資源,目前最新的是由Globus聯盟、IBM和HP于2004年初共同提出的第三代網格體系結構：WSRF(Web Service Resource Framework,Web服務資源框架),WSRF v1.2規范已于2006年4月3日被批準為OASIS(Organization for the Advancement of Structured Information Standards,結構化信息標準促進組織)標準[3]。基于Web服務規范的Web服務資源框架如圖1所示。

WSRF采用了與傳統網格服務完全不同的定義：資源是有狀態的,網格服務是無狀態的。它的目的在于定義出一個通用且開放的架構,利用Web服務對具有狀態屬性的資源進行存取,并包含描述狀態屬性的機制和如何將機制延伸至Web服務中。利用WSRF,可以使網格服務具有如下特點：

(1)引入Web服務標準,同時更全面地擴展現有的XML標準,在目前的開發環境下,使網格服務的實現更為簡單。

(2)OGSI規范(Open Grid Service Infrastructure,開放網格服務基礎設施)中的術語和結構讓Web服務的標準組織感到困惑,因為OGSI錯誤地認為Web服務一定需要很多支撐的構建。WSRF通過對消息處理器和狀態資源進行分離來消除上述隱患,明確了其目標是允許Web服務操作對狀態資源進行管理和操縱。

2005年1月31日發布的Globus Toolkit 4(GT4),實現了WSRF和WSN標準。

圖1 Web服務資源框架

Web服務標準的引入,使得目前開發環境下用Web Service實現網格服務更為簡單。同時,Web Service也是分布式計算下一步發展的技術趨勢,它能使軟件以松散耦合、簡單和與平臺無關的方式與客戶、業務伙伴的軟件集成[3]。簡單地說,Web Service使用一套協議和技術來實現分布式應用程序的創建：用XML描述數據;使用SOAP消息調用訪問服務;使用WSDL進行界面描述,并通過 UDDI(Universal Description Discovery and Integration,統一描述、發現和集成)注冊中心發布。用Web Service開發網格副本管理服務,能很好地改進Globus中集中管理帶來的問題,也能夠增加副本管理系統的可擴展性,以及副本管理與其它網格應用的易集成性。

圖2 副本管理與調度系統的網格拓撲結構

3 副本管理方案的實現

3.1 副本管理系統方案

副本管理系統基于層次網格的拓撲結構,在充分研究這一網格拓撲結構的基礎上,提出了副本管理系統所需要的網格拓撲結構,如圖2所示。

在圖2中,網格拓撲結構的中樞為計算網格副本管理中心服務器,該服務器接受網格用戶通過副本管理服務門戶發來的副本操作請求,負責全局的副本管理,對文件訪問情況進行監控并直接操作數據庫服務器,根據文件訪問情況的分析結果,調度各節點上的本地副本管理服務。可以將中心服務器抽象為副本監控與調度器(Replica Monitor Scheduler,RMS)。

網格節點服務器包括單機節點和集群節點,每個網格節點都接受中心服務器發送來的副本管理調度命令,提供本節點上具體的副本管理服務。也就是說,各節點分布地完成具體的副本創建、刪除等工作。此處將節點服務器抽象為本地副本管理器(Local Replica Manager,LRM)。

數據庫服務器作為網格中的文件訪問歷史和副本信息的存儲中心,其中的文件訪問歷史信息將由網格的作業管理服務獲取,該服務器也接受來自副本管理服務門戶的用戶操作,由網格副本中心服務器直接控制。

副本管理服務門戶是副本服務平臺與網格用戶的交互接口,網格門戶設計為Web應用,用戶通過副本管理門戶進行各種副本操作。

3.2 方案實現

副本管理系統的創建、刪除及查詢功能模塊具有相對平行的操作過程,這些相對平行的過程是通過自動定時器或網格門戶、RMS和LRM的相互協作實現,在代碼實現時有相同的思路和過程,因此,僅以副本創建來闡述副本管理系統的實現。副本管理系統中和創建功能相關的類結構關系如圖3所示。

圖3 副本創建相關類結構

圖3中虛線上面的RMS運行在網格的中心服務器上。RMS中最主要的任務就是動態檢查文件訪問歷史記錄的監控和動態調度副本管理服務。采用一個簡單的Java定時器控制,Java定時器(java.util.Timer)有定時觸發計劃任務的功能,通過設定定時器的間隔時間,可以自動有規律地調用預先安排的任務,比如STask類(繼承自java.util.TimerTask)。實際工作時,在工程的配置文件web.xml中加入監聽器配置,STask就會在工程啟動時自動運行,并在整個工程生命期中處于監聽狀態。副本監控和調度任務是按照既定的時間間隔去檢查訪問歷史數據表,根據統計結果進行相應的服務調用,具體的統計過程采用了瀑布策略。調用結果返回后清空訪問歷史數據表,以便于下次統計和調度。

圖3中虛線下面部分是提供相同服務的LRM。分布在網格環境中的每個節點上的LRM都是獨立Web服務,其功能、服務名稱和注冊的本地副本管理服務訪問名稱格式全部相同,僅主機名不同,以便于相互區分。LRM在實現技術上采用了Globus提供的RLS和GridFTP基本服務協議和機制。副本位置服務(RLS)是一個分布式的注冊機制,向其它應用提供數據副本的位置,并支持副本的發現和定位,RLS java客戶端可以實現副本的注冊和位置管理。另外Java CoG工具包中的GridFTP編程接口可以實現具體的傳輸和安全保證。LRM中的創建和刪除服務實現過程類似,查詢服務不需要進行文件操作,實現上較副本創建或刪除服務更容易。下面以副本創建功能為例,詳細給出LRM的實現,其類結構如圖4所示。

圖4 LRM創建服務實現類結構

從一般用戶的角度來看,副本創建與文件下載的操作幾乎類似,但實際上兩者截然不同：(1)每次在文件復制前,LRM首先要進行用戶代理證書的認證。GridFTP支持網格安全體系結構GSI和Kerberos安全機制,在GridFTP中支持靈活可靠的安全鑒別和完整性檢查。(2)LRM中的副本創建服務的運行,是以副本管理服務特別是RLS為基礎的,在系統完成副本注冊后才實施復制。而網絡上較普遍的資源下載一般只提供簡單下載,不關心資源被下載后的情況,以及被下載資源和其它資源的關系問題。

總的來說,中心服務器用定時器TimerListener控制定時任務STask,在定時任務STask中封裝了對數據庫服務器上數據的監控功能：讀取文件訪問歷史記錄數據,根據瀑布策略進行分析整理后調用創建副本操作。副本在創建過程中,首先讀取全局副本目錄信息,然后通過副本創建服務的客戶端CreateClient來調用由某主機local-Host上的LRM 副本創建服務即可,服務路徑格式為 http：//″+localHost+″：8080/ws/services/CreateLocalReplica。

4 結束語

在深入研究GT4提供的網格副本管理服務特點、WSRF框架特性以及副本動態復制策略的基礎上,設計了一個開發副本管理服務的方案;并基于此方案,利用Web Service技術實現了分布式網格副本管理系統。在Globus網格環境下,副本管理系統被啟動后,能夠通過其中的副本監控與調度器(RMS)和本地副本管理器(LRM),初步地對計算網格中的文件及副本按照瀑布策略進行分布式動態管理。

已設計與實現的網格副本管理系統功能還不夠完善,如需要增加副本更新、一致性維護等功能;創建策略雖然使用了瀑布策略,但副本創建所使用的瀑布策略的效率仍有優化的空間;另外系統中的副本選擇使用的是Globus工具包提供的選擇方案,在實際應用中還需進一步優化,這些問題將在進一步的副本技術研究中逐步解決。

[1]都志輝,陳渝,劉鵬.網格計算[M].北京：清華大學出版社,2002.

[2]D.G.Feitelson,L.Rudolph.Metrics and Benchmarking for Parallel Job Scheduling[M].Springer Berlin/Heidelberg Publishers,2004.

[3]張文斌,葉紅云,陳恩紅.基于Web Service的B2B電子商務環境構建技術[J].計算機工程,2002,9(11)：77-79.