校園網格資源監控系統GridMonitor的實現

李淑玲

（西安歐亞學院 陜西 西安710065）

校園網格資源監控系統GridMonitor的實現

李淑玲

（西安歐亞學院 陜西 西安710065）

在資源監控系統的應用中，如何實現大量廣域分布、動態、多樣、自治、異構的資源間全面連通和有效組織，最大限度提高資源利用率和有效維護管理，成為實現網絡系統的重要研究方面。本文通過分析網格監控服務提供的數據，設計并實現了一個內容豐富并且易于擴展的網格監控系統。該監控系統是為網格環境下的資源包括應用類、主機類、用戶類等提供實時監控功能，對收集到的數據進行解析和歸檔。

計算網格；資源監控；GMA；作業調度

校園計算網格是校園網環境下各類軟硬件計算資源匯聚和共享的計算平臺，是計算網格的重要應用領域。文中研究的GridMonitor資源監控系統已在某高校部署，取得了令人滿意的效果。

1 校園計算網格簡介

某高校的定位是一個開放型、多科型和研究型的大學，隨著前沿和交叉學科的科學與工程計算任務的日益繁重，且學科發展要求共享計算資源、重大儀器設備、信息資源，要求進行全局資源的整合匯聚，給用戶提供一個單一的使用界面，這就對計算能力提出了很高的要求。因此，在高速校園網環境下，由學校組織，研究開發了校園計算網格系統。目前，該系統已能滿足校園內各個學院的計算需求，未來還要實現校園網環境下的信息網格和儀器網格，將整個校園的資源進行整合匯聚，為全校各個院系和各個部門的工作提供一個全新的公共支撐環境，為某高校科研工作的創新提供一個開放的研究和應用平臺。校園計算網格 （Campus Computation Grid，CCG）體系架構如圖1所示。

圖1 CCG體系架構

1.1 資源層

包含網上可訪問的所有資源，如運行NT或UNIX的PC機或工作站、運行cluster操作系統的集群、存儲設備、數據庫，也可能是科學儀器。校園計算網格以高性能計算中心為中心，連接各大實驗室。

1.2 網格中間件

對用戶信息和數據進行管理，向遠程進程管理、資源分配、存儲訪問、信息服務、登錄和認證、安全和質量服務（QoS）等提供核心服務。

1.3 網格應用層

提供系統能接受的語言，如HP C++和MPI等。可配置一些其它支持工程應用、數據庫訪問的軟件，還可提供WEB服務接口，使用戶可以通過Web方式提交作業并獲取結果。

計算網格Portal提供基于WEB和命令行兩種人機界面。通過Portal，管理員用戶可以執行用戶管理、節點管理、作業管理、資源管理和計費管理等操作，普通用戶可以執行作業提交、作業管理、費用查詢和信息修改等操作。

2 GridMonitor系統的設計

該監控系統的設計目標是為網格環境下的資源包括應用類、主機類、用戶類等提供實時監控功能，對收集到的數據進行解析和歸檔工作，通過該監控系統，用戶可以對網格系統的使用情況，包括應用類作業狀況、主機類負載狀況、軟件License狀況、用戶作業和在線時間等，進行查看、控制和搜索；能夠在系統出現問題的時候，迅速定位系統錯誤根源，及時解決問題；能夠發現網格環境中性能問題的來源，分析系統性能瓶頸，獲得更好的性能調整系統和應用；監控獲得的數據作為預測模型的輸入進行性能預測服務，從而可以提供更高的用戶級QoS。

2.1 網格監控系統總體設計

考慮到網格具有區域性強、自治性、專業性強的特點，系統總體上采用分層分域的樹型結構，分布式管理與局域集中管理相結合的監控體系，并采用面向服務的體系結構。全局注冊中心（對應GMA中的目錄服務）在全局域內維護、定位、命名和描述各局部域的監控服務，各個局部域內的監控服務通過在全局注冊中心中注冊實現相互的發現。全局監控信息收集者通過在全局注冊中心查找各個域監控服務注冊信息，發現域監控服務地址，然后直接通過服務調用，將各個域監控服務對外發布的資源監測信息收集匯總，通過分析處理將歷史信息存檔。全局監控服務還接受全局監控服務的實時或歷史資源信息的查詢請求。域監控服務接受來自域內外用戶的查詢請求，和全局信息收集者的統計信息收集請求，也可以接收其它監控域服務的查詢請求，當然也可以在全局注冊中心查詢感興趣的域監控服務并通過服務調用發出資源監控信息查詢請求。每個域內的監控信息收集者，主要負責依次收集局部監控域內各個資源結點中sensor提供的監測信息，并用統一的信息模型來統一有效地管理收集來的信息。因此，系統總體結構如圖2所示。

圖2 GridMonitor系統總體結構

2.2 GridMonitor系統的功能模塊設計

由于網格系統本身是一個復雜的異構、分布式系統，加入其中的資源更具有很強動態性和不穩定性。所以，該資源監控系統要實現的首要功能是：對網格環境下異構、分布的各種資源進行統一有效的監控，及時響應資源所有者、使用者以及系統管理員等對資源固有屬性和使用狀態等信息的查詢，同時還要提供動態預測功能支持網格作業管理及任務調度等功能的實現。此外，它還要負責對分布在網格環境中大量異構資源的信息和狀態數據進行組織、收集、處理和存儲，并以服務的方式向網格用戶與應用提供這些資源監測信息。

1）資源監控信息的收集 數據收集模塊是整個體系結構的基礎，是GMA體系中的生產者，負責整個被監控體系的數據收集任務，并向上層Web應用提供數據支持，是承上啟下的關鍵環節。數據收集模塊的設計原則是準確反映被監控資源的狀態信息，在此基礎之上，要求資源占用低，收集的信息豐富。目前，本系統需要收集的資源信息包括主機類信息、作業類信息、應用類信息和用戶類信息。主機類信息包括硬件資源的狀態信息，靜態的和動態的；作業類信息包括作業號，作業的狀態，用戶等信息；應用類信息包括所有軟件的所有模塊的License數目及目前的使用者；用戶類信息包括用戶完成作業數，出錯作業數，使用的CPU時間及在線時間。

2）資源監控信息的查詢 GridMonitor系統是一個面向用戶的結構，允許用戶訪問感興趣的資源基本信息或狀態數據。GridMonitor既可以為用戶提供實時的網格資源狀態信息，也可以為用戶提供一段時間之內監測資源的歷史數據。但是，無限制的給用戶提供各種資源信息，不僅會給系統造成沉重負擔，而且帶來不必要的安全隱患，因此，需要對用戶所得資源信息進行限制，對資源和用戶都進行分級別，加強安全處理工作。目前系統對用戶分為以下級別：普通用戶，VIP用戶、系統管理員幾個級別，對用戶分級，不僅可以便于管理，給不同的用戶提供不同的服務QoS，也提高了系統的安全性。

查詢功能可以通過在JSP中嵌入腳本來完成。當用戶點擊感興趣的資源信息以及輸入所要查詢的時間段后，系統調用后臺腳本，處理后所得結果顯示給用戶。也可以在用戶輸入想要查詢的資源后，系統通過調用數據庫查詢語句來獲得，同樣把所得結果處理后以圖表的方式顯示給用戶。

設計思想如下：對于普通用戶和管理員用戶提供不同的portal登陸頁面，這樣，普通用戶端就可以被限制為只可以查看和查詢與自己相關的資源信息，比如自己所提交作業的相關信息、自己的在線時間等。這一步解決了安全問題。對于用戶輸入所要查詢的資源后，系統調用腳本或者數據庫查詢語句，處理后把所得結果以圖表的方式顯示給用戶。

3）資源信息的統計與歸檔 資源的動態信息具有更新頻繁，種類繁多等特點因此產生的數據量十分巨大，由此帶來了一系列的問題:資源存儲空間不夠，信息查找效率低下，使用維護非常不方便，解決的辦法就是采用良好的統計和歸檔策略將信息壓縮存入數據庫中。當然，要注意的是存儲信息量的降低不能以犧牲滿足用戶的需求為代價。根據以上要求，我們設計了一套自適應的均值信息統計與歸檔方案，來完成信息的統計與歸檔，經過測試證明，方案能較為有效地滿足用戶對歷史監測信息的查詢請求。

方案總體設計如下：通過編寫shell腳本，利用Linux本身提供的的crontab具有定制任務功能，對于定期收集的信息，處理之后歸檔。例如CPU利用率的定期收集與歸檔設計如下：每小時定時執行采集任務，把所得數據放入.hour文件；每天把.hour中的數據分析處理，放入.day文件中，同時清空.hour文件中內容，為了第二天重新采集數據覆蓋之用；每月定期把.day中的數據分析處理后，放入.month文件中，同時清空其中的內容，為下月數據采集覆蓋之用。這樣，就保留了受控資源一年內的信息，在每年的結束之時，對于這些信息，歸檔存儲。這些都可以通過crontab的任務定制功能和shell腳本結合完成，完全不用人工干預，很好的解決了更新和維護需求。

3 資源實時監測的實現

以上對系統的各個組成模塊和系統結構進行了闡述，下面對各個模塊的具體實現進行闡述。

3.1 主機類資源信息服務的實現

針對安裝了 LSF的系統，以 LSF為系統的sensor，封裝LSF命令到腳本程序，執行信息采集服務，獲取主機類信息，實時檢測程序收集得到的信息，得到主機類資源信息服務的實現。

對于安裝有LSF的結點，我們可以設置節點能承受的作業數目，對于管理結點，我們可以設置不讓在此進行作業的運行，對于非管理結點，我們可以設置能運行的最大作業數。

針對安裝了PBS的系統，利用PBS提供的API以及Linux工具sar，得到的主機類信息如圖3所示。

圖3 PBS監控的主機類信息服務

3.2 應用類資源信息服務的實現

通過實現 Elim腳本利用 Flexlm實現軟件license的動態監控， 再通過 java的 Runtime. getRuntime（）.exec（）運行外部命令類來實現軟件license信息的收集。 目前系統安裝的軟件有ansyscfx、materials、gaussian03、ansys。ls_dyna和fastran，系統已經做到對這些軟件的license進行實時監控，包括軟件模塊的名稱、license總數、已用license數和使用者名字。

3.3 作業類資源信息服務的實現

由于底層作業管理系統的不同，分為LSF監控的作業和PBS監控的作業，利用這兩種軟件提供的作業管理相關API，使用信息采集程序，可以得到作業運行狀態的信息。

3.4 用戶類資源信息服務的實現

利用LSF對用戶所運行作業進行統計，利用Linux工具如ac對系統日志進行解析，得到用戶的作業信息和在線時間的統計結果，同時，支持對用戶作業數和在線時間的查詢功能。

圖4 LSF監控的作業信息服務

查詢的實現是通過后臺執行查詢腳本，得到用戶作業信息，處理后返回給用戶。

4 結 論

GridMonitor系統已在某高校大學校園網格內部署使用。此系統的實現，有效地解決了校園網格的自動化管理和可視化管理問題；可以及時有效的排除系統故障；監控服務為作業調度提供數據支持，達到校園網格負載均衡，License的充分共享；監控服務提供用戶信息的詳細統計，為收費系統的建立提供數據支持；監控服務的自動化數據收集與歸檔功能可以為下一階段的性能預測服務提供充實的數據，可以提供更高的QoS，滿足各個層次的用戶需求。

[1]金海，袁平鵬，石柯譯.網格計算[M].2版.北京：電子工業出版社，2004.

[2]徐志偉，馮百明，李偉.網格計算技術[M].北京:電子工業出版社，2004.

[3]田鳴華.網格環境下的資源監控系統的研究與實現[D].長沙.國防科技大學，2004.

[4]吳大剛，肖榮榮.C/S結構與B/S結構的信息系統比較分析[J].情報科學，2003（3）：313-315.

[5]GrADS Projects.[EB/OL]Htpp://www.hipersoft.rice. edu/grads/index.html

[6]潘景山.基于網格環境的資源監控的研究及實現[D].濟南：山東大學，2004.

[7]郁志輝，陳渝，劉鵬.網格計算[M].北京：清華出版社，2002.

[8]徐志偉，馮百明，李偉.網格計算技術[M].北京:電子工業出版社，2004.

[9]馬滿福，吳健，胡正國，等.網格計算資源管理中的信譽度模型[J].計算機應用，2005（1）：61-64.

[10]舒萬能，鄭世玨，陳廣東，等.校園網格的負載均衡算法研究 [J].計算機技術與發展，2006（1）：126-128.

An implementation of school grid resource monitor system GridMonitor

LI Shu-ling
（Xi'an Eurasia University，Xi'an 710065，China）

It is an important topic that how to interact and manage various distributed，dynamic，diversity， self-governing， isomerous resources to improve availability of resource and effective management in the resource manage system.We design and implement a grid resource monitor system after analyzing data collected by monitor service，which is rich content and flexible.This system is used to provide real-time monitor for application，host and user.Also，it analyzesand stores data collected.

computation grid；grid resource monitor；GMA；Job scheduling

TN0

：A

：1674－6236（2017）01-0078-04

2016-01-19稿件編號：201601152

李淑玲（1976—），女，河南鄭州人，碩士，工程師。研究方向：計算機應用。