網格研究及其開發環境

摘要：探討了網格研究的基礎理論、核心問題、具體研究內容和難點；仿真是研究網格資源管理和調度問題的重要方法，分析和評價了目前主要仿真工具的特點及應用；GT3已經成為網格項目開發的主流工具，給出了建立GT3 Core網格服務開發平臺的方法；介紹了基于CGSP（China Grid Support Platform）的網格開發環境。以期有助于網格的創新研究和應用開發。

關鍵詞：網格；網格研究；仿真；開發環境；GT3；中國教育科研網格支撐平臺

中圖分類號：TP393文獻標志碼：A

文章編號：1001－3695(2007)07－0220－04

Internet實現了計算機的連通，Web實現了網頁的連通，而試圖實現互聯網上所有資源全面連通的網格已經成為當前國際上研究的熱點和前沿領域。

隨著網格研究的不斷升溫，我國越來越多的研究人員加入到網格研究的行列中。從科研院所到產業界，從重點高校到地方院校，研究人員和高校師生急需快速掌握網格研究開發的知識和技術。本文對網格研究的基本問題、網格研究可用的模擬仿真工具、網格服務開發平臺和環境進行全面探討，以期有助于網格的創新研究和應用開發。

1 網格研究的基本問題

1．1網格研究的基礎理論和核心問題

網格系統需要實現動態的、多機構虛擬組織中的協同資源共享與問題解決。其關鍵的三要素[1]是：①對非集中控制的資源進行協調；②使用標準的、開放的、通用的協議和接口；③提供非凡的服務質量（QoS）保證。網格的本質是對大規模的、分布式的、異構的、動態的、多機構的資源進行組織和管理。允許、維持和控制大規模的分布式自治資源的共享，以完成共同的目標，這就是網格系統的實現目標。網格計算環境下資源組織與管理的理論和方法是網格系統的研究和應用中最基本、最核心的問題之一，也是目前國際上公認的網格基礎理論研究方面的熱點和難點[2]。

在基礎理論的研究方面面臨著的一系列根本性的科學挑戰問題有：局部自治系統間的資源共享與協同、異構條件下的系統可用與易用、混沌環境下的QoS支持與性能保證等。其中最為核心和關鍵的問題包括：分布的、異構的、動態的、多組織的網格計算環境下的資源管理與任務調度的機制與方法；網格計算環境下的性能保證與QoS控制的模型、算法與機制；網格計算系統的性能與動態行為的性能評價模型與分析技術等。這些問題的核心就是從整體上統一研究網格計算環境下高效易用的資源組織與管理。

1．2網格研究的主要內容

網格涉及非常廣泛的技術領域，主要研究內容包括：①資源發現，即提供資源名稱及特點，以便在分布式系統中對資源進行自動定位；②同步和協作，即如何協作利用各種資源和進行復雜協同計算；③容錯性，即如何在分布式系統中出現各種意想不到的錯誤情況下保證任務的正確執行；④安全性，即確保在Internet環境下和大量用戶的情況下保證信息及資源的安全；⑤并發性和一致性，即保證分布式異構系統的數據的一致及操作的原語性；⑥性能，即在分布式大規模的系統中保持適當的性能；⑦異構性，即分布式系統的異構，包括網絡、硬件、軟件、功能、協議等；⑧可擴展性，即擴展到成千上萬個節點后，仍能正常工作；⑨數字版權，即科學內容的數字版權管理；⑩溯源創建和管理，即為了更方便地重復使用信息及重復實驗記錄、創建和管理數據產生的時間；B11元數據及其描述工具；B12服務描述及工具；B13工作流描述及工具；B14新設備的信息獲取和表示；B15發布和定位知識水平的服務語言；B16提供大規模本體服務的方法與工具；B17注解服務；B18知識獲取工具；B19從大量內容中動態搜索需要的內容；B20自然語言處理；B21推理服務，知識發現服務；B22多種知識服務的協作；B23在無所不在的設備中嵌入知識服務；B24面向服務的體系結構；B25基于Agent的技術；B26網格協議研究等。

1．3網格研究的關鍵難題

（1）異構（Heterogeneity）問題。由于網格涉及到資源的多樣性，而這些資源從本質上說是異構的，這里的異構可以指硬件、軟件、數據等方面的異構。

（2）可擴展性（Scalability）問題。網格節點可能有幾個到數百萬個，這可能造成隨著網格節點數量的增加而引起性能下降，甚至無法工作的嚴重后果。可擴展性涉及到自主性（節點能動態加入或退出系統）和管理層次化（Administrative Hierarchy）。其中管理層次化是Grid將自身劃分層次，以適應全球范圍內大量節點的管理需求。

（3）自適應性（Adaptability）問題。在網格系統中，資源失效是經常發生的，所以需要動態調節資源以獲得最大的性能。在資源失效時必須有一種機制保證任務的正確執行。

（4）安全性（Security）問題。由于網格中有很多節點和用戶，信息的安全是一個非常重大的問題。

（5）通信服務（Communication Services）問題。通信服務應適應不同的環境，即從可靠的點對點到不可靠的多播。支撐這種通信服務的通信體系結構應滿足大量數據傳輸、組傳輸的需求，同時提供響應時間、帶寬、可靠性、容錯性及抖動控制等QoS質量保證。

（6）信息服務（Information Services）問題。如何采用注冊和目錄機制來滿足網格的地點及服務類型的變化。信息服務應提供結構、資源、服務、狀態及環境等的注冊和目錄服務。

2 網格研究仿真工具

仿真是研究網格資源管理和調度問題的重要方法。對于網格這樣的復雜系統，難以采用試驗的方法對不同的作業調度和數據管理算法的性能進行分析和比較。在網格資源管理和調度算法的研究過程中，研究人員越來越多地采用網格仿真工具對提出的算法進行分析和比較。在此對目前主要仿真工具的特點及應用進行系統闡述和評價。

（1）MicroGrid[3]。它是一個虛擬的網格計算環境，由美國加州大學圣地亞哥分校UCSD于2000年發布。它用C語言開發，運行于x86 Linux操作系統，主要用于網格資源管理和應用程序適應性問題的研究。

MicroGrid通過對Globus Toolkit的模擬，使運行在Globus上的應用程序能夠不加修改地直接運行在MicroGrid之上。通過可重復和可控制的模擬實驗對動態資源管理技術進行科學研究和評估。通過截獲應用對Globus的調用并模擬它在實際資源上的運行和性能特征，實現對所用動態資源管理技術的評價。通過對Globus環境的應用程序進行模擬，MicroGrid一方面能夠很精確地模擬一個網格應用程序在不同運行環境中的行為和性能，并對不同的運行環境設置對應用性能的影響進行評價；另一方面，能夠對相同的環境設置在運行不同應用程序時的性能進行評估。

MicroGrid主要用做替代真實的網格環境對應用程序的性能進行評估的工具，而不是作為研究各種網格資源管理和調度技術的通用仿真工具。

（2）SimGrid[4]。它是分布式異構環境中的分布式調度和并行調度仿真工具，由加州大學圣地亞哥分校UCSD于2001年發布。它用C語言開發，運行于Linux、IRIX和AIX操作系統。

SimGrid由底層SG和上層MSG組成。SG是一個低級的、提供了分布計算環境應用程序仿真核心功能的離散事件仿真工具。它提供了基本的功能抽象和調用接口，包括建立網絡連接、TCP路由和主機等的資源模型，可以建立數據傳輸或者計算任務的任務模型，建立網絡拓撲結構，以及指定任務之間的依賴關系和任務調度過程。在SG的基礎上，MSG提供了更高一級的功能抽象，采用了Agent、Location、Task、Path和Channel五種核心抽象。Agent包括要完成的任務和任務的調度過程；Location是Agent運行的地方；Task是計算或數據傳輸任務；Path是連接不同Location的、可能包括多個物理鏈路的邏輯通道；而Channel為Agent之間進行通信的端口。

SimGrid的特點是提供了較強的網格拓撲模擬功能，包括網絡拓撲結構、帶寬共享模式等。通過與其他網格狀態監測工具的結合，可以生成更逼真的網格運行環境。

（3）ChicSim[5]。它是Chicago大學Ian Foster等人在2001年開發的基于PARSEC的仿真工具，主要用于對數據網格的動態復制策略進行仿真，與OptorSim的功能和設計目標相似。

ChicSim采用層次化分布式結構，主要包括對網格站點、用戶和傳輸網絡三種網格實體模擬。其中用戶生成待處理的作業，每個作業還需要一組數據文件才能執行；網格站點包括了一定數量的計算單元和存儲單元，站點之間的網絡鏈路帶寬有限。作業到站點的調度過程由外部調度器（External Scheduler，ES）決定，站點內的作業到不同處理單元的調度由本地調度器（Local Scheduler，LS）決定，而站點內的文件副本復制、刪除等操作由數據集調度器（DataSet Scheduler，DS）負責。ChicSim主要考慮外部調度器和數據集調度器中的調度算法，而本地調度器采用了簡單的先進先出（FIFO）算法。為了對各種調度策略進行評估，ChicSim的評價標準為：每個作業的平均數據傳輸量、作業的平均完成時間和處理單元的平均空閑時間。

（4）OptorSim[6]。它是基于EU DataGrid體系結構的網格仿真工具，最初發布于2002年，用Java語言編寫，主要用于對大規模廣域分布式數據網格中的各種數據復制算法進行評估。

數據復制是通過將一個數據文件的多個副本放在多個位置從而提高系統吞吐量的重要方法。如何創建、刪除和使用副本文件由數據復制策略定義，不同的數據復制策略會對系統性能產生不同影響。OptorSim假定每個網格節點可同時包括計算單元和存儲單元，分別提供計算和數據存儲服務。各個節點通過網絡鏈路連接，每條鏈路有相應的帶寬。計算單元在處理作業時需要使用存儲單元中的數據文件，作業到計算單元的調度由資源代理（Resource Broker）負責。數據文件副本的選擇、創建和刪除由復制管理器（Replica Manager）中的復制優化服務（Replica Optimisation Service）負責。資源代理通過對各個候選調度方案的性能進行評估來決定如何調度。為了對不同優化策略的性能進行評估，OptorSim采用了平均作業執行時間、網絡利用率、計算單元利用率和存儲單元利用率四種評價標準。

（5）Bricks[7]。它是基于Java的通用網格仿真工具，主要由日本Ochanomizu大學和東京工業大學于1999年發布。

Bricks采用客戶機/網絡/服務器的體系結構，它由全局計算環境和調度單元組成。全局計算環境包括客戶端、網絡和服務器三個部分，分別表示用戶、網絡和服務資源。其中網絡和服務器資源表示為排隊系統，整個Bricks作為一個排隊系統離散事件仿真器運行。調度單元可以根據對當前服務器和網絡狀態進行監測，將監測結果存儲到資源數據庫中。

Bricks作為通用的網格仿真工具，主要用于對高性能全局計算系統中的不同調度算法和框架進行評估，已經用于多客戶機多服務器的網絡計算環境中，對作業完成期限的調度算法、數據網格中不同的調度和復制算法的性能進行仿真，增加了對存儲資源（本地磁盤I/O開銷、存儲隊列）和復制管理機制的仿真。

（6）GridSim[8]。它是基于Java 語言開發的網格仿真工具，最初由澳大利亞Monash大學于2001年發布。它用于對集群、對等計算和網格等分布式計算環境機器調度算法進行建模和仿真。

SimJava是一個通用的、面向進程的離散事件仿真包，每個仿真系統都被看做是一組交互式實體或者進程的集合，實體之間通過傳遞事件進行通信。利用SimJava的離散事件仿真功能并借鑒其他網格仿真工具，GridSim開發者將主要的精力集中在并行分布式環境中的計算資源、通信資源、信息服務、實體間交互協議、應用程序代理（Broker）、調度器等的建模和仿真上，使其成為目前功能最全面的一個仿真工具。

GridSim主要提供了基于經濟學的網格資源共享機制和提前預留功能。在基于經濟學的資源調度問題中，除了考慮可用資源的處理能力之外，還需要考慮計算的經濟成本，從而實現技術和經濟兩方面的優化。基于經濟學的計算模式被認為是一種建立和公共電網類似的公共網格的有效途徑。在研究經濟學相關的網格資源管理問題時，可以考慮使用GridSim。

（7）NGGS（Next Generation Grid Simulator）。它是中國正在研發的下一代網格模擬器。NGGS的研發團隊是在解放軍理工大學網格中心主任劉鵬博士組織并領導下的一支國際化的研發隊伍，將在充分研究分析現有網格模擬器的基礎上，研發智能的、集成化的、開放的新一代網格模擬器。

以上工具中，SimGrid、GridSim和Bricks主要用于計算網格的作業調度算法研究，ChicSim和OptorSim主要用于數據網格中的作業調度與數據管理策略的研究。MicroGrid的仿真過程通過將真實的網格應用運行在虛擬的網格計算環境中，可以保證仿真結果的精確性，但在仿真過程中因需要真實的網格應用，從而會產生額外的開銷。

3網格應用與服務的開發環境

3．1基于OGSA的網格服務開發平臺的構建

Globus是美國Argonne國家實驗室等科研單位的研發項目。該項目開發出能在多種平臺上運行的網格計算工具包軟件Globus Toolkit，能夠用來幫助規劃和組建大型的網格試驗和應用平臺，開發適合大型網格系統運行的大型應用程序。2003年，Globus項目推出了基于OGSA[9，10]體系結構、支持網格服務的Globus Toolkit 3.0（GT3）工具包，它是遵循OGSI[9，10]標準的網格開發工具包，是OGSI標準的第一個實現，它允許編寫基于OGSI網格服務的應用。

GT3已經成為眾多網格項目開發的主流工具，成為建造網格應用和網格環境的首選平臺。下面給出在Windows 2000 Server上建立GT3 Core平臺的方法。

3．1．1準備工作

成功安裝并使用GT3編程需要以下幾個工具：

（1）gt3.0.2－core－bin.tar.gz（http://www.globus.org）。它是GT3 Core二進制發行包。

（2）J2SE1.4.2或更高的版本。本文使用的是Sun J2SE1.4.2（http://java.sun.com/j2se）。

（3）apache－ant－1.6.1－bin.tar（http://ant.apache.org）。

可選的工具有：Apache Tomcat 4.1.24（http://jakarta.apache.org）。GT3本身提供了一個Web服務容器以供測試使用，但要正式使用時，一般選擇Web服務容器如Tomcat或J2EE應用服務器，在這里采用Apache Tomcat 4.1.24作為Web服務容器。

3．1．2安裝步驟和方法

（1）安裝JDK。從http://java.sun.com下載j2sdk_1.4.2_win.exe。它是一個自解壓文件。雙擊運行并安裝到d:\\jdk目錄下。

（2）安裝ant。http://ant.apache.org下載apache－ant－1.6.1－bin.tar文件，并解壓到d:\\grid\\ant目錄下。

（3）安裝Tomcat應用服務器。

①從http://www.apache.org下載jakarta－tomcat－4.1.24.exe，并將jakarta－tomcat－4.1.24.exe安裝到目錄d:\omcat下。

②編輯d:\omcat\\conf\\web.xml文件，添加下面的代碼，以便在Tomcat中增加WSDL.wsdl、G－WSDL.gwsdl和XML Schema.xsd等MIME類型描述。

mime－mapping

extensionwsdl/extension

mime－typetext/xml/mime－type

/mime－mapping

mime－mapping

extensionxsd/extension

mime－typetext/xml/mime－type

/mime－mapping

mime－mapping

extensiongwsdl/extension

mime－typetext/xml/mime－type

/mime－mapping

（4）安裝GT3 Core。從http://www.globus.org下載GT3 Core的二進制版gt3.0.2－core－bin.tar.gz并解壓到d:\\grid\\ogsa目錄。進入d:\\grid\\ogsa\\目錄，將看到lib、etc、schema、tomcat等子目錄以及client－config.wsdd和service－config.wsdd等文件。其中schema是GT3所提供的服務和自帶實例的WSDL描述文件，lib目錄下是GT3所需的所有JAR文件，此時已經創建了GT3可執行環境。

（5）設置環境變量。

①GLOBUS_HOME=d:\\grid\\ogsa。

②ANT_HOME=d:\\grid\\ant，在PATH中添加d:\\grid\\ant\\bin。

③JAVA_HOME=d:\\jdk，并在PATH中添加d:\\jdk\\bin；d:\\jdk\\lib。

④TOMCAT_HOME=d:\omcat。

3．1．3安裝測試

（1）測試GT3安裝是否成功。在d:\\grid\\ogsa\\目錄下，鍵入ant startContainer，將啟動GT3自帶的容器。屏幕有相應顯示表示啟動成功。

（2）測試GT3安裝是否部署在Tomcat上。

①如果Tomcat正常運行，則關閉它。在DOS提示符下鍵入命令：d:\omcat\\bin\\shutdown.bat。

②啟動Tomcat。在DOS提示符下鍵入命令：d:\omcat\\bin\\startup.bat。

③通過Web瀏覽器訪問URL地址http://HOST:PORT/ogsa/services。這里：HOST是Tomcat服務器的主機地址；PORT是Tomcat的連接端口號，默認情況下是8080，也可以指定端口。

網格應用程序的開發，其實就是對服務的編寫。基于GT3網格服務開發的程序設計遵循分布式計算編程模式，即proxy－stub模型。利用GT3工具包對網格服務開發必須經過下列服務開發和部署的基本步驟：提供一個服務接口；生成stub文件；實現服務；創建部署文件；部署服務。

3．2基于CGSP的網格開發環境

3．2．1CGSP概述

ChinaGrid[11]（中國教育科研網格）公共支撐平臺CGSP（ChinaGrid Support Platform）是為ChinaGrid的建設和發展而研制的網格核心中間件，并為網格應用提供開發環境支持。CGSP基于當前的CERNET網絡及未來CERNET的高速傳輸網，它對教育和科研系統中的各種資源進行整合，屏蔽網格資源的異構性和動態性，為各種科學計算與工程研究提供高性能的、高可靠的、安全方便的透明網格服務。

CGSP提供ChinaGrid的服務門戶，同時也為各種網格應用的開發提供一套完整的開發和部署環境。與Microsoft Office類似，CGSP是一套相互協作的軟件組件，包含若干個可獨立運行的軟件系統，用于支持開發過程、運行過程、系統安裝過程和系統管理的各個環節。另外，CGSP還提供一組面向網格應用開發者的應用編程接口（API）和編程模式。根據這些軟件系統使用方式的不同，可將其劃分為運行態和開發態：①運行態軟件模塊，包括Portal、作業管理、服務容器、信息服務、域管理器、數據管理和安全管理。這些軟件模塊經過合理部署后可以協同工作，實現ChingGrid范圍的資源共享與協同問題求解。②開發態軟件模塊，包括CGSP網格開發環境提供的各種工具，如資源包裝工具、作業定義工作、Portal開發工具、并行編程模型及其運行環境、可視化管理/監控程序以及面向遠程安裝配置管理的CGSP安裝工具。

ChinaGrid正在開展廣泛的國際合作。英國的e－Science計劃表示將CGSP作為e－Science重點研究的網格中間件之一；德國的D－Grid項目將與ChinaGrid合作，采用D－Grid的Unicore客戶端和CGSP服務器端，聯合研制一個網格中間件系統；HP公司將支持建立ChinaGrid網格監控系統，另外ChinaGrid與IBM、Intel、Microsoft等知名公司也有合作。

3．2．2CGSP網格開發環境

CGSP網格開發環境[12]的主要功能模塊包括Portal開發工具、資源包裝工具、網格編程模型、作業定義工具、管理GUI和安裝工具包，描述如下：

（1）Portal開發工具。在ChinaGrid中，每個域都有各自的Portal，全局也有一個總的Portal，雖然不同Portal提供的功能不盡相同，但有很多共性。Portal開發工具的目的在于提供一套開發框架，通過一組類和接口，封裝ChinaGrid對外功能的具體實現過程，方便開發人員開發Portal。主要功能分為以下四部分：

①用戶部分——注冊、資料修改、登錄、身份驗證等；

②作業部分——網頁形式的作業定義、提交、狀態查詢、刪除、結果獲取；

③數據部分——數據上傳、下載、更新；

④信息部分——節點及其狀態查詢、服務及其狀態查詢、存儲資源及其狀態查詢。

（2）資源包裝工具。其功能包括為硬件和軟件資源提供一套盡可能統一的包裝接口，將其包裝成網格系統可用的服務。資源在包裝后將在信息中心進行注冊并部署到相應節點。

（3）網格編程模型。其目的在于制定一套編程規范和接口，使用戶能夠利用網格系統提供的服務編寫應用程序。根據網格應用的特點和需求，提供了三種類型的編程模型：

①RPC——網格環境中的遠程過程服務調用；

②并行編程模型——希望提供類似MPICH－G2編程模型，現階段已實現面向工作流的編程模型；

③GridPPI——基于共享軟件服務的協同使用機制和編程接口。

（4）作業定義工具。提供一套抽象描述工作流作業的工具，最終生成任務所對應的描述文檔。

（5）GUI。提供一個GUI圖形界面，方便管理員對系統進行管理。

（6）安裝工具包。指導用戶安裝CGSP整個流程的進行。

4結束語

網格計算環境下資源組織與管理的理論和方法是網格系統研究的基礎理論和核心問題。目前，網格計算環境的發展還處于初始階段，人們對于網格計算環境下資源組織與管理的理論、機制和方法等問題的認識還相當膚淺，基礎理論方面的研究還十分缺乏，在這方面還存在著許多重大的基礎問題亟待解決。

網格的研究往往難以使用實際系統分析算法的正確性及性能，選擇正確的網格仿真工具對研究工作起著事半功倍的作用。

構建基于GT3的網格項目開發平臺，允許編寫基于OGSI網格服務的應用。而CGSP提供了ChinaGrid的服務門戶，同時也為各種網格應用的開發提供一套完整的開發和部署環境，為從事網格研究與應用開發提供了一種熟悉的平臺。

網格不是一個已經成熟的、有定論的技術，今后幾年，將是中國網格研究與應用的關鍵時期。因此，網格為中國提供了一個前所未有的創新機會，包括科學理論創新、技術創新和產業模式的創新。網格應用成為新的互聯網機制將是很自然的，網格最終也將為整個社會提供IT基礎設施的服務。

參考文獻：

［1］FOSTER I. What is the grid:a three point checklist[EB/OL]. http://www－fp.mcs.anl.gov/~foster/ Articlels/WhatIsTheGrid.pdf.

［2］KRAUTER K，BUYYA R，MAHESWARAN M.A taxonomy and survey of grid resource management systems for distributed computing[J].International Journal of Software: Practice and Experience (SPE)， 2002，32（2）:135－164.

［3］XIA H，DAIL H，CASANOVA H，et al.The microdrid:using online simulation to predict application performance in diverse grid network environments:proc. of the 2nd International Workshop on Challenges of Large Applications in Distributed Environments[C].Washington DC:IEEE Computer Society Press，2004.

［4］LEGRAND A，MARCHAL L，CASANOVA H.Scheduling distributed applications:the SimGrid simulation framework:proc.of CCGrid[C].Washington DC:IEEE Computer Society Press，2003.

［5］RANGANATHAN K，FOSTER I.Decoupling computation and data scheduling in distributed data－intensive applications:proc. of the 11th IEEE International Symposium on High Performance Distributed Computing(HPDC－11)[C].Washington DC:IEEE Computer Society Press，2002.

［6］BELL W H，CAPMERON D G，CAPOIZZA L，et al.Simulation of dyna－mic grid replication strategies in OptorSim:proc.of the 3rd International Workshop on Grid Computing(Grid 2002)，Lecture Notes in Computer Science vol.2536[C].Berlin Heidelberg:Springer－Verlag，2002.

［7］TAKEFUSA A，MATSUOKA S，NAKADA H.Overview of a perfor－mance evaluation system for global computing scheduling algorithms:proc.of the 8th IEEE International Symposium on High Performance Distributing Computing(HPDC8)[C].Washington DC:IEEE Computer Society Press，1997.

［8］BUYYA R，MURSHED M.GridSim:a toolkit for the modeling and simulation of distributed resource management and scheduling for grid computing[J].Concurrency and Computation:Practice and Experience，2002，14(13～15):1175.

［9］劉迅，高陽.OGSA結構分析以及GT3中GRAM的實現[J].計算機應用研究，2005，22（5）：168－170.

［10］郝泳濤，方丁，林琳，等. 基于OGSI的網格計算研究綜述[J].計算機應用研究，2005，22（4）：18－20.

［11］[EB/OL].http://www.chinagrid.edu.cn.

［12］中國教育科研網格公共支撐平臺工作組. 中國教育科研網格公共支撐平臺設計規范[K].北京：清華大學出版社，2004.

注：“本文中所涉及到的圖表、注解、公式等內容請以PDF格式閱讀原文”