中國傳媒大學：HPC走產學研之路

文/魯永泉 高鵬東

如何管理好，使用好龐大的計算設備和資源對所有HPC中心的管理者來說，都是一個非常重要和困難的問題。一般來說，國內的很多單位都是將HPC中心作為一個獨立的部門進行管理，甚至會給HPC中心賦予一定的行政級別，以便更好地進行設備維護和用戶管理。因此，國內的大部分HPC中心往往都維持了一個龐大的運營和管理團隊。這無疑加重了所在單位的負擔，尤其是資金上的壓力。很多高校和科研單位，在投入巨額資金建立了高性能HPC中心之后，都會出現缺乏應用和終端用戶的情況，面對后期運營中出現的各種問題，往往都是苦不堪言。

縱觀國內外HPC中心的普遍發展模式，不論在中國還是美國，都是一個需要資金持續投入的動態過程。技術發展帶來的工藝和設備更新要求HPC中心必須有新的投入，而龐大設備的維護和管理費用對HPC中心來說更是一個必須的持續投入。國外高性能發展的初期、國內HPC中心目前的運營狀況，都是如此。在缺少高附加值應用和終端客源的情況下，大多數HPC中心依靠自己的力量都難以為繼，都不得不依靠政府長期的支持和不斷的投入。如果缺少了政府的支持，將舉步維艱。中國傳媒大學高性能計算中心在可持續發展上，走出了一條獨具特色的產學研一體化道路。

COMS軟件的誕生

中國傳媒大學高性能計算中心自2006年成立以來，同樣遇到了上述問題。由于投入經費預算的限制，高性能計算中心僅設置4個專職的科研人員編制。中心工作人員除了進行高性能計算相關領域的研究開發，以及相關專業博士碩士研究生的教學培養外，還要負責管理和維護面向全校師生開放的高性能計算平臺。因此，如何盡可能地減少系統管理人員的工作負擔，使其能夠從繁冗瑣碎的日常管理工作中擺脫出來，同時有效提高高性能計算平臺管理工作的自動化程度，降低計算集群的使用門檻，是傳媒大學高性能計算中心在運行一段時間后，中心管理人員不得不思考的一個重要問題。

在對國內外現有集群管理系統軟件進行充分的調研之后，中心人員發現目前現有的集群管理系統軟件種類繁多，這些管理軟件在功能上都不盡相同，大都只是實現了集群系統的某個方面的管理功能。對于集群的管理員來說，需要的是針對集群系統全方位、各個層面的統一管理。因此，管理員往往不得不在各種不同的集群管理軟件之間來回切換。而且，大多數集群管理軟件還都是以命令行、配置文件的方式進行操作，這進一步加大了管理和使用的集群系統的難度。尤其對于集群的終端用戶來說，他們可能都是某些應用領域的專家，專業知識十分豐富，但由于不熟悉Linux下命令行的操作方式或由于任務提交過程過于復雜，使得這些老師的使用受到了極大的影響，有些人甚至因此放棄了對集群的使用。

鑒于集群管理和使用中存在的實際困難，中心的科研人員在深入分析比較了加拿大Platform公司的LSF、Platform Rocks以及香港聯科公司的CHESS軟件之后，決定不局限于現有的商業集群管理軟件，轉而立足于自身技術實力，根據中國傳媒大學師生使用集群的實際情況，開發具有自主知識產權的集群管理系統軟件。

COMS (Cluster Optimization and Management System)集群優化管理系統軟件正是在這樣的背景下產生的，是中心人員經過近兩年時間刻苦鉆研的結果。在2008年初，COMS v1.0誕生了。COMS v1.0整合了分散于操作系統、集群系統管理、作業調度管理、狀態監控等軟件中的多種管理功能，實現了對集群多個層次的統一管理，將集群所有節點從異構的、松散的狀態整合成一個緊密的具有單一映像的“虛擬超級計算機”，實現對集群系統資源有效的管理維護。為用戶和管理員提供一個友好的Web界面，有效降低了集群系統的使用及管理難度。

在推出該版本之前，中心科研人員對其進行了嚴格測試，而且還將其作為中國傳媒大學高性能計算平臺的管理系統為全校師生服務了長達半年之久，成功經受住了各種并行應用的考驗。

COMS作為一個專業性很強的業務系統。它的實現充分體現了各個子系統之間相對獨立性，而且每個子系統也都采用了N-Tier的軟件架構，實現了用戶界面和業務邏輯的分離。當用戶界面接收到通過Web瀏覽器發出的請求以后，首先是對數據進行必要的預處理，然后才調用業務邏輯層模塊進行處理，待處理完成后，再由用戶界面層加載相應的頁面模板動態生成HTML頁面，并返回給用戶。這不僅增強了系統的可維護性，還允許用戶定制適合自己風格的界面，從而有效地提高系統的易用性。另外，在用戶界面的開發上使用了AJAX技術，極大改善了系統的用戶體驗。

COMS軟件的產學研之路

隨著COMS軟件的不斷完善，功能的日趨豐富，在中心工作人員對外的學術交流中，COMS系統受到了越來越多業內人士的廣泛關注。因此，COMS作為中心人員辛勤工作的結晶，走上產業化的道路已經成為必然。

對于中心的科研成果向社會生產力轉化的問題，學校給予了大力支持。中國傳媒大學十分重視調動學校的科技、教育和人才資源，并逐步加強科技教育與經濟的結合，加速科技成果的轉化和產業化，有力的促進了首都的經濟建設和社會發展，取得了重要的產業化成就。

2009年4月，DELL公司和中心合作，為中科院空間中心提供了一套1024個處理器的高性能計算平臺。其中，DELL公司負責提供所有的硬件設備，中心負責系統所有軟件的部署和培訓，并進行Linpack基準測試。在系統部署過程中，中心研究人員發現并克服了DELL官方網站提供的網卡驅動程序存在不穩定等問題。而且在有限的時間內，在Linpack基準測試中跑出了并行效率為84.07%的最好成績。該成績使得空間中心的這套集群在2009年11月公布的中國高性能計算機TOP100排行上名列第45位。排名靠前的計算集群的規模都要遠遠大于空間中心的計算集群規模。此次合作標志著中國傳媒大學高性能計算中心研發的集群系統管理軟件COMS正式得到了國際IT設備制造商DELL的認可。之后，中心還先后與DELL公司合作，為中科院研究生院、中科院大氣物理研究所、中科院理論物理研究所、中央民族大學、北京市信息職業技術學院、燕山大學、內蒙古科技大學等一批國內知名高校和科研單位的高性能計算平臺建設提供技術支持與服務。

產學研的深入發展

COMS系統充分體現了中國傳媒大學高性能計算中心在高性能計算領域的科研實力，不僅為中心和學校贏得了榮譽，而且也使中心乃至傳媒大學得到了國內更多高性能計算應用領域用戶的了解和肯定。

正是憑借用戶對COMS系統的認可，中心得以和中國地震局地球物理研究所在“國家地震網絡計算應用系統”以及中科院空間中心在“空間天氣網格EScience示范項目”上開展了進一步深入的合作。2009年初，在經過中國地震局地球物理研究所對COMS系統嚴格的考察之后，雙方簽署了關于建設“國家地震網絡計算應用系統”的協議。由中心負責為中國地震局開發直接服務于我國地震監測與預報的網絡科技計算環境。該系統主要是基于地震行業內外集群計算資源、觀測數據資源和地學知識資源，通過地球科學計算模型的并行重構和計算應用軟件的規范化設計，采用網絡的形式為科學研究、地震預報和經濟建設提供高性能計算能力和遠程服務。

國家地震網絡計算應用系統

國家地震網絡計算應用系統，如圖1所示，是由集群計算系統、應用門戶系統、資源管理系統和地學計算應用系統等構成。在中國地震局已有的地震信息系統基礎上，擴充網絡數據傳輸、存儲、交換及處理等能力，依托地球物理研究所集群服務器，建立并行超級計算系統，通過門戶系統，使各個計算應用系統形成一個整體，構成具有一定并行處理能力的地震應用網絡計算示范系統，使用戶能夠通過網絡遠程訪問應用節點，共享節點的并行計算、數據信息和應用軟件等資源。該系統目前共支持國家地震行業中地球物理、地震預測、地質研究、地殼應力等方面的三十多種專業計算應用服務。

圖1 國家地震網絡計算應用系統

2009年底，中心和中科院空間中心在前期高性能計算平臺建設成功合作的基礎上，就中科院E-Science示范項目“空間天氣網格”的建設達成一致，并簽署了合作協議，由中心承擔中科院空間中心的EScience示范項目“空間天氣網格”建設，并為空間中心承擔的國家重大科技基礎設施項目“東半球空間環境地基綜合監測子午鏈（簡稱子午工程）”提供技術支持與服務。

在“空間天氣網格”E-Science示范項目建設中，主要是充分利用現有的探測數據和建模產品，以空間天氣網格為主要載體，充分利用實時數據、高性能計算與可視化設備等先進手段或工具，進行空間天氣事件的分析和預測。中心科研人員根據中科院空間中心的實際需求，為其量身打造了一款“網格應用管理系統GAMS”。該系統能夠將分布式的計算資源、存儲資源、數據資源、信息資源、知識資源和專家資源實現全面的共享，并提供給用戶透明的資源或者應用使用。

對于終端用戶或者應用來說，網格應用管理系統GAMS就好像是一臺超大型的虛擬計算機，通過在個人、組織和資源之間實現安全、協調的資源共享，創建出虛擬的動態組織。此外，網格應用管理系統基于Web的友好界面，使得終端用戶可以完全不理會系統底層復雜的網絡連接和應用實現，而輕松享受技術發展和進步所帶來的無盡便利。

如圖2所示，是E-Science示范項目“空間天氣網格”L1-磁層-電離層因果鏈物理模式數值磁層庫的使用界面。“國家地震網絡計算應用系統”和“空間天氣網格E-Science示范項目”是中國傳媒大學高性能計算中心在高性能計算領域繼COMS系統之后，產學研一體化繼續深入的另外兩個成功案例。這兩個項目的建設，不僅充分得到了最終用戶的充分肯定，而且為整合我國地震和空間天氣領域現有的設備、計算資源、數據資源以及人力資源做出了貢獻。

圖2 E-Science示范項目“空間天氣網格”