朱 傲 宋海峰 郭志成 高 景 劉 彬
(1.華信咨詢設計研究院有限公司,杭州;2.中國銀行股份有限公司,北京)
近年來,隨著我國數(shù)字化經(jīng)濟的高速發(fā)展,金融數(shù)據(jù)中心作為其信息體系的重要載體也得到快速發(fā)展,單機柜功耗和整體建設規(guī)模均大幅增加。對于金融數(shù)據(jù)中心而言,保障其業(yè)務系統(tǒng)的連續(xù)運行至關(guān)重要,這對數(shù)據(jù)中心的基礎設施安全要求更加嚴苛。此外,我國自2020年首次提出“雙碳”政策以來,各行業(yè)先后出臺了節(jié)能減排指導性文件。2022年1月,中國人民銀行印發(fā)的《金融科技發(fā)展規(guī)劃(2022—2025年)》中指出,要“建設綠色高可用數(shù)據(jù)中心”[1]。由此可見,建設安全、綠色、低碳的數(shù)據(jù)中心,已經(jīng)成為金融行業(yè)發(fā)展的必然趨勢。
美國Uptime Institute(全球公認的數(shù)據(jù)中心標準組織和第三方認證機構(gòu))發(fā)布的《Data center site infrastructure tier standard: topology》和《Data center site infrastructure tier standard: operational sustainability》中根據(jù)數(shù)據(jù)中心基礎設施可用性、可靠性及運維管理服務能力把數(shù)據(jù)中心分為TierⅠ、TierⅡ、TierⅢ、TierⅣ 4個級別,這也是目前國際認可度比較高的分級標準。目前國內(nèi)金融數(shù)據(jù)中心大多以GB 50174—2017《數(shù)據(jù)中心設計規(guī)范》中的A級數(shù)據(jù)中心標準為設計依據(jù),也有部分項目為了保障其基礎設施的可靠性和安全性,按Tier Ⅳ標準設計建造。Tier Ⅳ作為Tier等級中的最高等級,要求設備和線路均按可容錯原則配置。對于空調(diào)系統(tǒng)而言,系統(tǒng)冷源和空調(diào)末端均為2N(N為系統(tǒng)正常運行的基本需求配置,2N為2套系統(tǒng))架構(gòu),且2個系統(tǒng)的線路需錯開布置,滿足物理隔離要求[2]。
數(shù)據(jù)中心需要全年供冷,且冷負荷相對穩(wěn)定,降低空調(diào)系統(tǒng)能耗是提高數(shù)據(jù)中心能效、降低PUE(電能利用效率)的關(guān)鍵,充分利用自然冷源是降低空調(diào)系統(tǒng)能耗的重要舉措[3]。目前,風冷冷水系統(tǒng)(自然冷卻型)廣泛應用于中大型數(shù)據(jù)中心,該系統(tǒng)冬季利用空氣冷卻盤管實現(xiàn)自然冷卻,其技術(shù)成熟,耗水量低,主要應用于我國嚴寒、寒冷及水資源匱乏的地區(qū)。近年來,空氣側(cè)間接蒸發(fā)冷卻技術(shù)也逐步應用于中大型數(shù)據(jù)中心,該技術(shù)利用室外干濕球溫度差實現(xiàn)自然冷卻,節(jié)能效果明顯,主要應用于具有較低濕球溫度和較大干濕球溫度差的干燥地區(qū)[4-5]。本文以內(nèi)蒙古某金融數(shù)據(jù)中心空調(diào)系統(tǒng)為例,介紹了間接蒸發(fā)冷卻空調(diào)系統(tǒng)和風冷冷水系統(tǒng)的組合應用,通過設計2N架構(gòu)的空調(diào)系統(tǒng),為數(shù)據(jù)中心高效運行提供有效保障,供金融數(shù)據(jù)中心的空調(diào)系統(tǒng)設計參考。
該項目為內(nèi)蒙古某金融數(shù)據(jù)中心工程,位于內(nèi)蒙古自治區(qū)呼和浩特市和林格爾新區(qū)云谷片區(qū)(見圖1)。整個項目建設分為3期,1期包括7棟辦公樓、4棟數(shù)據(jù)中心、2棟動力中心、1棟輔助用房,1期總建筑面積為133 760 m2,其中B1數(shù)據(jù)中心建筑面積為14 885 m2。地上3層,建筑高度20.10 m。1層為水泵房、配電室、電池室、外網(wǎng)核心機房及輔助用房;2、3層主要為數(shù)據(jù)機房、配電室和電池室。B1數(shù)據(jù)中心遠期共規(guī)劃部署1 142個IT機柜,單機柜功耗以8 kW/機柜為主,滿載容量為6 646 kW,參照Tier Ⅳ等級進行規(guī)劃建設。

圖1 園區(qū)鳥瞰圖
2.1.1室外設計參數(shù)
和林格爾縣屬于中溫帶半干旱大陸性季風氣候,其主要特征是干旱、多風、寒冷、晝夜溫差大。年平均氣溫為6.2 ℃,年降水量為392 mm。根據(jù)《中國建筑熱環(huán)境分析專用氣象數(shù)據(jù)集》提供的氣象參數(shù),呼和浩特市全年干球溫度時長分布如圖2所示,全年濕球溫度時長分布如圖3所示,室外設計計算參數(shù)見表1。根據(jù)《2021 ASHRAE handbook: fundamentals (SI edition)》統(tǒng)計的氣象資料,呼和浩特市20 a內(nèi)夏季極端干球溫度為37.2 ℃,極端濕球溫度為24.6 ℃。

圖2 全年干球溫度時長分布

圖3 全年濕球溫度時長分布

表1 室外設計參數(shù)
2.1.2室內(nèi)設計參數(shù)
室內(nèi)設計參數(shù)見表2。GB 50174—2017《數(shù)據(jù)中心設計規(guī)范》中要求冷通道和機柜進風區(qū)域的溫度為18.0~27.0 ℃,露點溫度宜為5.5~15.0 ℃,同時相對濕度不宜大于60%。相對于傳統(tǒng)的數(shù)據(jù)機房,采用間接蒸發(fā)冷卻空調(diào)機組制冷時,為了進一步延長自然冷卻時間,機房送風溫度有所提升。

表2 室內(nèi)設計參數(shù)
2.2.1冷負荷計算
根據(jù)工藝規(guī)劃,B1數(shù)據(jù)中心數(shù)據(jù)機房終期可安裝數(shù)據(jù)設備機柜功耗為6 736 kW(含運營商接入室內(nèi)的IT設備功耗),變配電室及電池室發(fā)熱量為836 kW,數(shù)據(jù)中心夏季最大冷負荷為8 029 kW(含建筑負荷),計算結(jié)果見表3。考慮1.10的冷量冗余系數(shù),風冷冷水系統(tǒng)配置總冷量為8 832 kW。
2.2.2冷源設計

表3 B1數(shù)據(jù)中心冷負荷計算
根據(jù)呼和浩特的氣候特點,結(jié)合該數(shù)據(jù)中心的設計冷負荷,該項目數(shù)據(jù)機房采用風冷冷水系統(tǒng)+間接蒸發(fā)冷卻空調(diào)機組,組成2套獨立冷源,風冷冷水系統(tǒng)空調(diào)末端采用冷水型下送風房間級機房專用空調(diào)機組,間接蒸發(fā)冷卻空調(diào)機組作為數(shù)據(jù)機房的主用冷源。
配電室和電池室采用風冷冷水系統(tǒng)+單元式風冷變頻機房專用空調(diào),組成2套獨立冷源,風冷冷水系統(tǒng)空調(diào)末端采用冷水型上送風房間級機房專用空調(diào)機組,風冷冷水系統(tǒng)作為配電室和電池室的主用冷源。空調(diào)冷源按2N架構(gòu)設計,滿足Tier Ⅳ等級標準。空調(diào)冷源主要配置見表4。

表4 B1數(shù)據(jù)中心冷源配置
2.2.2.1風冷冷水系統(tǒng)
集中式風冷冷水系統(tǒng)共配置了7臺單臺制冷量為1 500 kW的自然冷卻型風冷螺桿式冷水機組,六用一備,安裝于屋頂架構(gòu)層。此外,系統(tǒng)還配置了7臺變頻冷水泵、2臺自動定壓補水排氣裝置、2臺微晶旁流水處理器、2臺全自動軟化水裝置、3臺閉式蓄冷罐等,分別安裝于1層水泵房和1層蓄冷罐房,主要設備參數(shù)見表5。

表5 風冷冷水系統(tǒng)主要設備參數(shù)
系統(tǒng)冷水供/回水溫度為15 ℃/21 ℃,采用一級泵變流量環(huán)網(wǎng)系統(tǒng),各機房管路設計考慮互用互通,提高安全性,同時在每個分支點兩端設置隔離閥,保證單點維護時不影響整體系統(tǒng)的運行,風冷冷水系統(tǒng)流程圖見圖4。
蓄冷罐儲水容量按保障空調(diào)持續(xù)運行15 min設計,以解決市電中斷、柴油發(fā)電機啟動至冷水機組恢復運行這段時間的空調(diào)系統(tǒng)供冷,保證空調(diào)系統(tǒng)與通信設備不間斷運行。系統(tǒng)補水采用獨立水源+補水池的方式,按12 h的系統(tǒng)補水量配置補水池。
數(shù)據(jù)機房室內(nèi)空調(diào)末端采用冷水型下送風房間級機房專用空調(diào)機組,按單個機房總冷負荷配置,不設冗余。配電室、電池室采用冷水型上送風房間級機房專用空調(diào)機組,按N+X(X為備用的空調(diào)數(shù)量)冗余布置(當N≤5時,X=1;當N>5時,X=2)。
2.2.2.2間接蒸發(fā)冷卻空調(diào)機組
間接蒸發(fā)冷卻空調(diào)機組是可作為獨立冷源的空氣處理機組,利用空氣-空氣換熱器將數(shù)據(jù)中心內(nèi)機柜產(chǎn)生的熱量轉(zhuǎn)移至室外,實現(xiàn)機房內(nèi)外空氣的非接觸換熱[6]。機組主要由空氣-空氣換熱器、噴淋組件、風機組件、機械補冷組件及控制系統(tǒng)組成,結(jié)構(gòu)示意圖見圖5。

圖4 風冷冷水系統(tǒng)流程圖

圖5 間接蒸發(fā)冷卻空調(diào)機組結(jié)構(gòu)示意圖
根據(jù)室外氣象工況,機組共有3種運行模式,分別為干工況模式、濕工況模式、混合工況模式。
1) 干工況模式。
噴淋組件和機械補冷組件不運行,室內(nèi)空氣與室外空氣在空氣-空氣換熱器處進行顯熱交換,用低干球溫度的室外空氣直接冷卻機房內(nèi)空氣。被冷卻的數(shù)據(jù)機房室內(nèi)空氣由風道直接送入機房。
2) 濕工況模式。
噴淋組件運行,機械補冷組件不運行,室外空氣利用噴淋水實現(xiàn)等焓降溫,機組將室外空氣處理至接近濕球溫度后,與室內(nèi)空氣進行顯熱交換。
3) 混合工況模式。
噴淋組件正常運行,室外空氣經(jīng)過等焓降溫后與室內(nèi)空氣進行換熱,室內(nèi)側(cè)送風溫度仍無法滿足設計要求,此時機械補冷組件運行,對室內(nèi)側(cè)送風溫度進行降溫除濕,保證數(shù)據(jù)中心送風溫度滿足服務器設計要求。
運行模式的氣象工況切換點取決于室內(nèi)送回風溫度和空氣-空氣換熱器的換熱效率,機械補冷量Q2由機組制冷量Q和夏季設計工況下的間接蒸發(fā)制冷量Q1決定。計算公式見式(1)~(4)[7]。
(1)
(2)
(3)
Q2=Q-Q1
(4)
式(1)~(4)中tos為室外空氣干球溫度,℃;tir為室內(nèi)空調(diào)回風溫度,℃,取36 ℃;tis為室內(nèi)空調(diào)送風溫度,℃,取24 ℃;ηd為干工況下空氣-空氣換熱器的換熱效率,一般不大于0.6;t′os為室外空氣濕球溫度,℃;ηw為濕工況下空氣-空氣換熱器的換熱效率,一般不大于0.7;cp為空氣的比定壓熱容,kJ/(kg·K),取1.01 kJ/(kg·K);qv為室內(nèi)風機送風量,m3/h;ρ為空氣密度,kg/m3,取1.18 kg/m3;t′is為極端濕球溫度工況下間接蒸發(fā)段的送風溫度,℃。
由上述計算可得,tos≤16 ℃,t′os≤19 ℃。當極端濕球溫度為24.6 ℃時,t′is=28.02 ℃,Q1=126.8 kW,Q2=73.2 kW。即室外干球溫度≤16 ℃時,機組以干工況模式運行;室外干球溫度>16 ℃,濕球溫度≤19 ℃時,機組以濕工況模式運行;室外濕球溫度>19 ℃時,機組以混合工況模式運行,極端濕球工況下,機組所需機械補冷量為73.2 kW。
該項目數(shù)據(jù)機房共配置48臺間接蒸發(fā)冷卻空調(diào)機組,單個數(shù)據(jù)機房配置6臺機組,五用一備,機組性能參數(shù)見表6。間接蒸發(fā)冷卻空調(diào)機組均采用變頻壓縮機補冷,配置補冷容量為機組制冷量的50%。間接蒸發(fā)冷卻機空調(diào)組的室內(nèi)外風機、水泵、壓縮機均采用UPS保障供電,保障時間為15 min,滿足GB 50174—2017《數(shù)據(jù)中心設計規(guī)范》A級要求。單個機房空調(diào)設備布置平面圖見圖6,間接蒸發(fā)冷卻空調(diào)機組與冷水型下送風房間級機房專用空調(diào)機組分設2個空調(diào)區(qū),實現(xiàn)物理隔離。

表6 間接蒸發(fā)冷卻空調(diào)機組性能參數(shù)

注:AHU為間接蒸發(fā)冷卻空調(diào)機組;ACU為冷水型下送風房間級機房專用空調(diào)機組。圖6 主機房空調(diào)布置平面圖
2.3.1各系統(tǒng)運行模式與時長分布
該項目風冷冷水空調(diào)系統(tǒng)和間接蒸發(fā)冷卻空調(diào)機組運行模式及各模式時長占比分別如表7、8所示。采用風冷冷水系統(tǒng)時,完全自然冷卻時長占全年時長的45%;而采用間接蒸發(fā)冷卻空調(diào)機組運行時,“干工況”運行模式占全年時長的69%,節(jié)能效果顯著。正常運行時,IT機房全年采用間接蒸發(fā)冷卻空調(diào)機組制冷,配電用房全年采用風冷冷水系統(tǒng)制冷。當IT機房間接蒸發(fā)冷卻空調(diào)機組故障數(shù)量超過其冗余數(shù)量時,IT機房切換至風冷冷水系統(tǒng)制冷。

表8 間接蒸發(fā)冷卻空調(diào)機組運行模式及時長占比
2.3.2PUE和WUE測算
根據(jù)《內(nèi)蒙古自治區(qū)“十四五”節(jié)能規(guī)劃》的要求,新建數(shù)據(jù)中心須達到綠色數(shù)據(jù)中心建設標準,PUE值不超過1.3[8]。該項目主機房采用間接蒸發(fā)冷卻空調(diào)機組制冷時,全年年均PUE計算值見表9,計算得出年均PUE為1.18(<1.30),優(yōu)于內(nèi)蒙古政策要求。年均WUE計算值見表10,年均WUE為0.49 L/(kW·h)(<2.00 L/(kW·h))。相較于采用水冷冷水系統(tǒng),間接蒸發(fā)冷卻空調(diào)機組和風冷冷水系統(tǒng)的節(jié)水優(yōu)勢也十分明顯。

表9 年均PUE計算

表10 年均WUE計算
該項目主機房采用彌漫送風+封閉熱通道的氣流組織形式,相對于傳統(tǒng)地板下送風+封閉冷通道的氣流組織形式,封閉熱通道能有效提高空調(diào)回風溫度,進而提高送風溫度,延長自然冷卻時間。除此之外,除了封閉熱通道及吊頂內(nèi),室內(nèi)能維持一個相對適宜的溫度環(huán)境,提高運維人員熱舒適性。目前,封閉熱通道在全國各地應用相對廣泛,尤其是在采用間接蒸發(fā)冷卻空調(diào)機組制冷的主機房中,其節(jié)能優(yōu)勢已在諸多建設項目中得到驗證[9-10]。
機房氣流組織如圖7所示,間接蒸發(fā)冷卻空調(diào)機組布置于外側(cè)空調(diào)區(qū),利用外墻百葉進風,通過風管連接至屋面排風井排風,實現(xiàn)進排風隔離,防止氣流短路。空調(diào)區(qū)與主機房之間設置送風通道,冷水型機房專用空調(diào)布置于內(nèi)側(cè)空調(diào)區(qū)。左側(cè)空調(diào)區(qū)隔墻和右側(cè)送風通道隔墻上設置送風格柵,主機房內(nèi)機柜采用背對背布置,通過設置封閉熱通道與頂部回風吊頂相通。間接蒸發(fā)冷卻空調(diào)機組(或冷水型機房專用空調(diào))將低溫空氣送至送風通道內(nèi),送風通道整體連通,形成類似靜壓箱的均壓效果。低溫空氣經(jīng)送風格柵后進入主機房內(nèi),進入機柜內(nèi)帶走服務器熱量后經(jīng)回風吊頂返回至間接蒸發(fā)冷卻空調(diào)機組(或冷水型機房專用空調(diào))中,如此循環(huán)。

圖7 機房氣流組織示意圖
為了驗證氣流組織的合理性,對3層2號主機房進行氣流仿真模擬,對比機房在2種工況下的氣流分布情況。機房設備配置見表11。機房層高為6.30 m,吊頂高為3.65 m,送風格柵有效系數(shù)均為0.8,空調(diào)制冷量根據(jù)送風溫度控制,平均送風溫度為24 ℃。風機轉(zhuǎn)速根據(jù)送回風溫差控制,送回風溫差為12 ℃。

表11 機房設備配置
工況1:夏季設計工況下,間接蒸發(fā)冷卻空調(diào)機組全部開啟,冷水型機房專用空調(diào)全部關(guān)閉。
工況2:夏季設計工況下,間接蒸發(fā)冷卻空調(diào)機組全部關(guān)閉,冷水型機房專用空調(diào)全部開啟。
機房仿真三維模型如圖8所示,模擬結(jié)果見圖9~14。

圖8 機房三維仿真模型
模擬結(jié)果顯示,無論是哪種運行工況,房間氣流分布均勻,除熱通道內(nèi)之外,室內(nèi)溫度維持在24 ℃左右,封閉通道內(nèi)溫度維持在36 ℃左右,機柜無熱點,滿足設計要求。
目前,評價機房熱環(huán)境指標常用SHI(供熱指數(shù))、RHI(回熱指數(shù))。SHI是衡量熱空氣進入冷通道后對機柜進風溫度影響程度的指標,SHI值越小,表示冷熱混合程度越低,氣流組織越好。RHI是衡量冷空氣進入熱通道后對空調(diào)回風溫度影響程度的指標,RHI值越大,說明冷熱混合程度越低,空調(diào)送風效率越高。理想情況下,SHI與RHI之和等于1[11-12]。


圖9 溫度分布云圖(工況1)

圖10 x=12.9 m處速度場(工況1熱通道)

圖11 x=15.5 m處速度場(工況1冷通道)


圖12 溫度分布云圖(工況2)

圖13 x=12.9 m處速度場(工況2熱通道)
(5)
(6)
式(5)、(6)中S為供熱指數(shù);δq為空調(diào)送風在進入機柜之前吸收的熱量,kW;q為數(shù)據(jù)中心全部機柜總發(fā)熱量,kW;mi,j為流經(jīng)第i行第j列機架空氣質(zhì)量流量,kg/s;tini,j、touti,j為第i行第j列機柜進、排風平均溫度,℃;R為回熱指數(shù)。
2種運行工況下機柜SHI和RHI指標見表12。結(jié)果表明,機房氣流組織良好,空調(diào)送風效率很高。

表12 機房氣流組織評價指標
該項目針對金融數(shù)據(jù)中心的高保障等級要求,參照Tier Ⅳ標準設計了2N架構(gòu)的空調(diào)系統(tǒng)。采用間接蒸發(fā)冷卻空調(diào)機組作為數(shù)據(jù)中心的主要冷源,集中式風冷冷水空調(diào)系統(tǒng)作為其備用冷源,這是大型金融數(shù)據(jù)中心空調(diào)設計的一次探索和實踐,也是多層間接蒸發(fā)冷卻空調(diào)機組在大型國有商業(yè)銀行金融數(shù)據(jù)中心的首次大規(guī)模應用,可供同類型項目建設時參考。該系統(tǒng)架構(gòu)合理,采用間接蒸發(fā)冷卻空調(diào)機組制冷時,年均PUE為1.18,年均WUE為0.49 L/(kW·h),在內(nèi)蒙古地區(qū)系統(tǒng)節(jié)能、節(jié)水優(yōu)勢明顯。通過模擬仿真分析,該項目采用彌漫送風+封閉熱通道的氣流組織形式,無論在哪種運行工況下,房間溫度都分布均勻,機房氣流組織良好,空調(diào)送風效率高,機柜無熱點。