曹連兵, 周 蓮, 王新芳
(1. 中國移動通信集團設計院有限公司,北京 100038;2. 中國建筑科學研究院有限公司,北京 100013)
隨著4G通信技術、云計算和物聯網等各種技術不斷發展,數據中心建設迎來了一個新的建設高潮。面對高速發展的數據中心,常規機房是“固態的”,不能靈活配置,遠期擴展困難,隨著IDC業務的發展和應用的增加,常規機房的弊端逐漸顯現。常規機房基本上是按照項目進行部署的,機架密度低,部署建設緩慢,例如空調、電源、電氣等輔助模塊與服務器綁定嚴格,未來擴展困難,改造一處有可能涉及整個機房。到后期,隨著業務的發展、應用的增加,機房系統需求的軟件管理很多,使得冗余系統增加,原有的電源、空調等輔助模塊已很難滿足系統要求,此時需要對系統進行整體重新設計,并且進行擴展。
基于此,模塊化數據中心應運而生。不僅可解決客戶不斷增長、變化的業務需求與常規機房部署緩慢、投資高、回報低之間的矛盾,還可進一步提高數據中心的使用率和工作效率,控制投資成本。
采用模塊化布置的數據中心是把常規機房的制冷、電源、智能化、機架、布線等各系統集成化整合在一個裝置內,把數據中心的所有機房按照行業內的規范劃分成若干模塊,即整個數據中心的機房分成若干獨立區域,每個區域放置一個微模塊,其規模配置、負載功率、配電、制冷、監控、網絡等功能均按照統一標準和接口、模塊化的獨立運行區域進行設計,實現區域的微模塊化、獨立化,配電、冷源及系統管理軟件等均可獨立運行,無共享部分,實現了數據中心的快速靈活部署以及遠期的擴建,同時初期的建設和設備成本大幅降低,縮短建設和部署周期,進而使數據中心內的機房可以靈活、機動部署。
模塊化數據中心對建筑的要求不是很高,通常確認了物理建筑后,可以一次性把供電系統、發電機系統、制冷系統等配套設施建設好,僅預留遠期的出水、電、網絡等標準接口,后期具體按需部署機房模塊即可。這種建設模式使模塊的部署和整個建設過程可以分步實施,降低了互相影響的概率,能真正實現按需部署和擴展。據某公司研究顯示,模塊化數據中心建設周期要比常規機房縮短一半以上。
因此,微模塊數據中心利用先進的制冷技術、供電技術以及其他相關先進技術,既提高數據中心內部的IT設備效率,也加強了冷源的使用效率,提高能源的利用率,降低了機房的PUE值,極大地推動了數據中心的綠色化。常規機房組成及模塊化數據中心總體布局詳見圖1~2。

圖1 常規機房組成示意圖

圖2 模塊化數據中心總體布局圖
模塊化數據中心密閉通道適用于新建數據中心和舊機房的改造,可采用“密閉冷通道”方案,也能根據需求組成“密閉熱通道”方案。
當機房有精密空調時,單機柜功率不超過6kW且采用地板下送風時,能夠采用密閉冷通道方案,通過機房的精密空調來實現對密閉通道內設備的散熱要求,密閉冷通道可使冷源直接進入到IT設備,提高制冷效率。雙排密閉冷通道微模塊與密閉冷通道微模塊送風示意圖詳見圖3~4。

圖3 雙排密閉冷通道微模塊

圖4 密閉冷通道微模塊送風示意圖
當單機柜功率大于6kW時,由于單機柜功率大,傳統機房布置受限,不能滿足散熱要求,存在局部熱點,密閉冷通道的方案不能滿足散熱的需求,此時可采用密閉熱通道方案微模塊,只需將模塊化數據中心中各個設備旋轉180°,設備由“面對面”放置改為“背對背”放置,端門和天窗的接口在機柜上預留,即可實現密閉熱通道方案。密閉熱通道是將IT設備散發的熱量直接送入到空調的回風口,空調的制冷效率高,使模塊外的機房保持比較舒適的溫度。雙排密閉熱通道的微模塊示意圖如圖5所示。

圖5 雙排密閉熱通道的微模塊示意圖
模塊化數據中心具有快速部署、安全可靠、配置靈活、易于擴展、智能化管理、綠色節能等特點。
(1)模塊化數據中心在規劃、設計時嚴格遵循國際標準,按照既定的建設目標,采用合適的方式進行系統結構設計。選用滿足當前需求的設備數量與類型,設計模塊化和物理排列,集成度高,易于安裝。
(2)數據中心的微模塊可以批量生產,提高了交貨速度。在出廠前完成機柜的預安裝,為減少現場施工的工作量,采用標準化的配置和連接方式,進一步提高安裝速度。
(3)模塊化數據中心現場只需接通機柜外部電源、固定機柜等簡單操作后即可進行系統調試。此外,微模塊可以采用與現場一模一樣的方式在工廠進行連接并預先測試,提高系統的調試速度。
(4)根據當前的機房需求進行設計,只需部署比典型傳統系統設備數量更少的小型基礎設施,進一步縮短了各個部署階段所需的時間。
(5)微模塊化的數據中心建設周期可大大縮短,常規機房實施階段需要7~8個月,而采用微模塊建設周期可縮短至3~6個月。
(1)模塊化數據中心遵循Tier Ⅲ標準,采用模塊化、標準化和高整合設計,使得整個系統穩定度高,設備安全可靠。
(2)采用模塊化設計的機房充分考慮了自然災害的影響,進一步提高了抵御能力,充分保證了電源、冷源的可靠性,同時也保證通訊系統的正常工作。
(3)模塊化數據機房動環監控系統配置齊全,能夠隨時掌握機房情況,提升機房的防盜能力。
(1)配置模塊化機房,可分期靈活配置,滿足快速擴容的需求。
(2)機房的模塊化設計在配電、通信網絡上預留適當的備用余量,可實現靈活擴容。
(3)采用微模塊架構數據中心,可根據需求使微模塊從1個到幾十個逐步增加,進行分期建設。
(1)依據現階段預測的機架需求設計數據中心的基礎設施建設,同時考慮未來需求的變化,未來即可安裝新的微模塊,因而可節約非??捎^的電力成本。
(2)新建的數據中心采用模塊化方式進行設計,進一步優化了電源、冷源容量與機架負荷需求的匹配程度,提高了工作效率并減少過度配置。微模塊電源轉換率高達95.4%,同時微模塊內均采用統一的預留接口和統一的微模塊系統,極大節省電能,達到系統節能。
(3)微模塊采用機柜式(列間)空調,空調提供的冷源空氣直接送至機架負載處,更靠近熱源,這樣氣流通路較短,而且制冷更為精準,解決了局部熱點的問題。另外,微模塊內冷源部分的通道進行封閉,冷源和熱源被隔離控制在冷通道或熱通道內,避免氣流互相影響,提高空調系統的利用效率。相比常規機房,微模塊數據中心制冷效率提升12%以上。
(4)模塊化數據中心提高數據中心的能效,與常規機房相比,能量的損耗可減少約30%。
(1)數據中心動環系統智能化:可以采用多層次、多系統、實時調節的方式,使數據中心的管理更智能化、自動化、精細化,同時采用動畫系統的設備數據動態存儲功能來準確定位能源損耗的高點,進一步幫助用戶節約能源,降低損耗。
(2)充分利用動環系統的軟件平臺和資源。通過采集到各設備的動態數據進行實時分析,采用智能精細化節能措施,提高數據中心能源利用效率,降低PUE值,建成綠色節能數據中心。
(3)通過對數據中心全部資源的整個生命周期進行控制管理,達到數據中心能源信息的動態、閉環、精準管理,實現數據中心全部設備最優利用,降低設備損耗,提高能源使用率。
(4)按照用戶需求和數據中心的現狀制定切實可行的維護程序,及時刷新數據中心數據,實時控制。同時,按照事先制定的維護程序主動提示預警,并且可實時動態調節維護程序,根據數據中心的實際情況,保證實時執行最優維護策略,使數據中心的管理達到最優化。
為了保證數據機房的高可用性,機柜通常由2路電源供電,基于數據中心規模,微模塊的供電方式可分電源不入模塊、電源入模塊、分布式電源三大類。
此形態,UPS/HVDC、備用電池集中安置在電力電池室內,通過UPS/HVDC輸出柜向微模塊供電,微模塊內的供電系統(以雙電源為例)示意如圖6~7所示。

圖6 微模塊雙電源供電架構(大型DC、冷凍水空調架構)
圖6所示架構特點如下。
(1)采用冷凍水架構的數據中心適用。
(2)電源外置,集中部署。
(3)兩路電源為微模塊供電,微模塊內設置A、B兩個列頭柜為IT機柜、空調末端(圖中LCU)、微模塊控制器(圖中ECC800)提供雙路電源。
(4)為簡化微模塊供電架構,IT機柜、空調末端供電歸一化設計。
(5)兩路輸入電源(圖中INPUT A、INPUT B)可以是UPS、HVDC、市電電源的任一種,但A、B兩路電源不能同時由市電直接供電。
(6)如A、B兩路電源中有一個是HVDC供電時,IT設備、空調末端、微模塊控制器應可接受HVDC供電。
(7)A、B兩路電源完全獨立,微模塊供電等級可達T4。
(8)實際部署中,也可采用1路電源供電,此時微模塊供電等級為T2。
圖7所示架構特點如下。
(1)采用風冷空調的數據中心適用。
(2)電源外置,集中部署。
(3)兩路UPS或HVDC為微模塊供電,微模塊內設置A、B兩個列頭柜為微模塊內的IT機柜提供雙路電源。
(4)兩路市電為微模塊內的空調供電。
(5)UPS/HVDC、備用電池外置。
(6)微模塊供電等級通常為T3。
(7)實際部署中,可采用1路UPS/HVDC電源供電,此時微模塊等級為T2。
分布式電源形態,互聯網公司對數據中心的部署電源入模塊形態,可分為UPS、HVDC入模塊兩類。
UPS入模塊的典型架構如圖8~9所示。

圖8 UPS入模塊的供電架構

圖9 HVDC入模塊的供電架構
圖8所示架構特點如下。
(1)中小數據中心、風冷空調場景適用。
(2)電源與微模塊一道建設,無需獨立電源間,規劃簡單、按需建設。
(3)兩路市電(圖中AC輸入1、AC輸入2)經ATS轉換后為微模塊供電,正常工作時僅一路市電帶負荷。
(4)微模塊內設置一體化UPS柜為自身提供電源保護,備用電池通常也內置在微模塊內。
(5)一體化UPS柜由ATS、市電配電、模塊化UPS、UPS輸出配電組合而成,微模塊供電等級通常為T3。
(6)如需提升微模塊供電等級至T4,應采用2套一體化UPS柜。
HVDC入模塊的典型架構如圖9所示。
圖9所示架構特點如下。
(1)大型數據中心、冷凍水空調場景適用,騰訊微模塊供電架構。
(2)電源與微模塊一同建設,無需獨立電源間,規劃簡單、按需建設。
(3)兩路市電(圖中A路AC、B路AC),A路直接為機柜、空調提供1路供電,主路A、主路B經ATS轉換后再經HVDC為機柜、空調提供另一路供電。
(4)機柜、空調的兩路電源通常均分負荷工作。
(5)微模塊供電等級通常為T3。
(6)騰訊微模塊內置2組鉛酸電池。
分布式電源形態,Facebook首創,將48V高頻開關電源引入數據中心,取消集中電源保護,多個機柜共享1個電池柜(如Facebook)或每個機柜內置1套電源。
架構特點包括:(1)定制電源,巨型互聯網公司獨享方案。(2)定制服務器,市電主用、48V電池備用。(3)48V電源僅為后備電池充電。(4)電池后備時間通常在10min內,遇停電需將業務遷移、關閉服務器。
