數(shù)據(jù)挖掘在數(shù)據(jù)中心運維中的應用

陳 崢

（深圳市共濟科技股份有限公司，廣東 深圳 518000）

1 概述

1.1 數(shù)據(jù)中心的重要性

數(shù)據(jù)中心是計算設施和網(wǎng)絡設備的放置和集中位置。它們的任務是收集、存儲、處理和分發(fā)大量數(shù)據(jù)，幾乎每個現(xiàn)代企業(yè)和政府機構(gòu)都需要自己的數(shù)據(jù)中心。數(shù)據(jù)中心在各個行業(yè)的信息化建設及數(shù)字化改造中扮演重要的角色，全社會的數(shù)據(jù)和信息資源都被儲存在數(shù)據(jù)中心中（后文簡稱IDC）。同時，IDC 設備種類相對較少，例如服務器、供電設備、制冷設備、防護設備。所以，數(shù)據(jù)中心的數(shù)字化改造具有技術基礎、先發(fā)優(yōu)勢、經(jīng)濟價值和重要的示范作用。

1.2 數(shù)據(jù)挖掘?qū)DC 運維的價值

國內(nèi)數(shù)據(jù)中心保有量巨大。根據(jù)“IDC 圈”2021年對國內(nèi)已建數(shù)據(jù)中心（規(guī)模以上運營商機房）的調(diào)查統(tǒng)計結(jié)果，已建數(shù)據(jù)中心613 個[1]。根據(jù)國家工信部發(fā)布數(shù)據(jù)，我國在用數(shù)據(jù)中心機架規(guī)模達到了166萬架，數(shù)據(jù)中心數(shù)量（含企事業(yè)單位的自用機房）達到1844個，在建規(guī)模為107 萬架，數(shù)量463 個[2]。當前IDC運維管理存在四個問題和新的挑戰(zhàn)。第一，數(shù)據(jù)龐雜，管理混亂；第二，運維碎片化，加大運維成本；第三，容量管理缺失，無法規(guī)劃擴容；第四，被動式運維，用戶體驗差。人工智能技術和數(shù)據(jù)挖掘解決方案對解決IDC 運維面臨的問題具有不可或缺的價值[3]。

1.3 IDC 運維的自動化智能化改造

IDC 自動化智能化改造由三部分組成——數(shù)據(jù)的采集存儲、數(shù)據(jù)挖掘任務、根據(jù)挖掘的知識指導實踐。最終，實現(xiàn)IDC 運維的降低能耗、提升運維管理效率、提升資源利用率。IDC 數(shù)據(jù)挖掘任務由五個步驟組成——數(shù)據(jù)存儲、數(shù)據(jù)準備、算法模型、評估尋優(yōu)、數(shù)據(jù)可視化。

2 IDC 數(shù)據(jù)挖掘的數(shù)據(jù)基礎

在進行IDC 自動化智能化改造時，需要以五大類數(shù)據(jù)為基礎——物狀態(tài)、空間、人位置、物描述、人的活動數(shù)據(jù)。

2.1 物狀態(tài)數(shù)據(jù)

“物狀態(tài)”主要體現(xiàn)在時序數(shù)據(jù)，包含了設備各個參數(shù)在各個時刻的值，主要存儲于時序數(shù)據(jù)庫，例如SSDB 中。時序數(shù)據(jù)最顯著的特點是數(shù)據(jù)量巨大。首先，IDC 采集監(jiān)控的對象和設備多、要監(jiān)控的參數(shù)多。以某省電網(wǎng)IDC 為例，設備的參數(shù)（后文簡稱測點）數(shù)量達到300 萬個；其次，IDC 監(jiān)控采集頻率高，要求達到毫秒級，每秒鐘采集10 次以上。

2.2 三維空間數(shù)據(jù)

三維空間數(shù)據(jù)是可視化和自動化的基礎數(shù)據(jù)之一，主要包含建筑信息數(shù)據(jù)與設備空間位置數(shù)據(jù)，主要存儲BIM 模型和三維組態(tài)文件中。

2.3 人位置數(shù)據(jù)

人的位置主要體現(xiàn)在，基于超寬帶技術UWB（Ultra Wideband）的人員室內(nèi)定位數(shù)據(jù)，主要存儲于消息隊列中，根據(jù)人員佩戴的工牌或手環(huán)反饋的定位數(shù)據(jù)，實時更新。

2.4 物描述數(shù)據(jù)

物描述數(shù)據(jù)是對物的描述，其序列化包含設備與空間、人和設備、設備和設備之間的關系，例如所屬關系、供電關系、制冷關系，從屬關系等，符合W3C成立的WoT 工作組制定WoT 標準。WoT 數(shù)據(jù)主要存儲于配置管理數(shù)據(jù)庫CMDB 中，為故障分析、影響溯源、自動化控制和群控提供了必不可少的數(shù)據(jù)基礎。

2.5 人員管理活動數(shù)據(jù)

人的活動數(shù)據(jù)主要體現(xiàn)在基于ITIL 規(guī)范的各類管理表單上，存儲于關系數(shù)據(jù)庫，例如MySQL 中。

3 IDC 監(jiān)控管理的數(shù)據(jù)挖掘

3.1 IoT 數(shù)據(jù)倉庫

與典型的數(shù)據(jù)倉庫不同，首先，用于IDC 數(shù)據(jù)挖掘的數(shù)據(jù)倉庫必須是包含五大類基礎數(shù)的多源異構(gòu)數(shù)據(jù)庫；其次，用于IDC 數(shù)據(jù)挖掘的數(shù)據(jù)倉庫，必須具有時序數(shù)據(jù)存儲和處理的功能。在本文中，稱用于IDC數(shù)據(jù)挖掘的數(shù)據(jù)倉庫為“IoT 數(shù)據(jù)倉庫”。IoT 數(shù)據(jù)倉庫是在線分析型多元異構(gòu)數(shù)據(jù)庫，需要同時滿足五大類異構(gòu)數(shù)據(jù)的鏈接、查詢、存儲能力——非關系型數(shù)據(jù)庫如SSDB、3D 空間配置文件、告警及人員定位消息隊列、關系型數(shù)據(jù)庫如MySQL。

目前，以ClickHouse 為代表的列式數(shù)據(jù)庫管理系統(tǒng)（DBMS），通過數(shù)據(jù)按列存儲的方式，進行矢量（向量或列塊）執(zhí)行，滿足IoT 數(shù)據(jù)倉庫多元異構(gòu)數(shù)據(jù)庫的要求，同時可以對AI 智能算法進行定制化集成，為智能分析提供了技術基礎。

3.2 IoT 數(shù)據(jù)準備

IoT 數(shù)據(jù)準備最大的特征就是在時間維度對數(shù)據(jù)進行聚合，例如，首先，對測點時序數(shù)據(jù)、表單流程數(shù)據(jù)、告警數(shù)據(jù)按照日期進行聚合；其次，將多元數(shù)據(jù)進行并表，得到以時間為統(tǒng)一尺度的多元數(shù)據(jù)特征；最后，使用數(shù)據(jù)挖掘算法提取分析模型。下面，以分析每天UPS 電流峰值與故障產(chǎn)生頻次關聯(lián)為例，介紹數(shù)據(jù)準備的步驟：第一，在時間維度，對UPS 的電流數(shù)據(jù)進行聚合操作，例如，按照天維度將UPS 的電流進行聚合，得到每天UPS 電流的最大值；第二，在時間維度，對運維管理表單進行聚合操作，例如，按照天對告警數(shù)據(jù)量和維護保養(yǎng)活動給進行聚合；第三，使用神經(jīng)網(wǎng)絡模型，分析UPS 的最大電流與告警數(shù)量和維護保養(yǎng)活動是否有關聯(lián)，定量分析UPS 電流與保養(yǎng)活動，或告警數(shù)量之間的關系。

3.3 IoT 算法模型

IoT 數(shù)據(jù)挖掘算法模型主要體現(xiàn)在兩個方面：時序預測模和關聯(lián)分析。時序預測，主要應用于溫度、網(wǎng)速、電流、功率等時序數(shù)據(jù)，通過歷史數(shù)據(jù)，預測未來一段時間內(nèi)的變化趨勢，或預測未來某一時刻的值，從而實現(xiàn)故障預警。關聯(lián)分析，主要用于分析時序數(shù)據(jù)之間或時序數(shù)據(jù)與運維活動間的關系，例如，運維保養(yǎng)，參數(shù)配置等與設備的關鍵指標之間的關聯(lián)關系，提升運維能力。

3.3.1 最小二乘法

最小二乘法是一種在誤差估計、不確定度、系統(tǒng)辨識及預測、預報等數(shù)據(jù)處理諸多學科領域得到廣泛應用的數(shù)學工具。

3.3.2 神經(jīng)網(wǎng)絡回歸QRNN

回歸是確定兩種或兩種以上的變量間相互依賴的定量關系的方法。QRNN 結(jié)合了神經(jīng)網(wǎng)絡和回歸的兩大優(yōu)勢，能夠揭示數(shù)據(jù)分布規(guī)律。首先，加載使用歷史數(shù)據(jù)，例如正常與故障蓄電池各時間段的歷史數(shù)據(jù)為訓練集。其次，數(shù)據(jù)歸一化同時構(gòu)建神經(jīng)網(wǎng)絡并進行訓練，訓練模型對正常和故障蓄電池進行分類，并保存模型。再次，將訓練好的模型下發(fā)至現(xiàn)場的采集器或監(jiān)控主機，對一天的歷史數(shù)據(jù)進行反歸一化和預警。最后，將故障的蓄電池數(shù)據(jù)重新放入訓練集更新預警模型。

3.3.3 時序預測prophet

prophet 算法基于時間序列分解和機器學習，進行時序數(shù)據(jù)的預測，能夠在較快的時間內(nèi)得到需要預測的結(jié)果。算法可以通過輸入時間序列的時間戳和相應的值，預測未來的時間序列走勢，同時提供必要的統(tǒng)計指標，包括擬合曲線，上界和下界等。時序數(shù)據(jù)的預測使數(shù)據(jù)中心的預警和群控成為可能，例如，提前預測線纜的溫度從而實現(xiàn)主動防御，通過預測熱點，空調(diào)的提前增加或減少冷量，實現(xiàn)節(jié)能減排。

3.4 評估尋優(yōu)

1.均方差。均方誤差MSE 通過計算預測值和實際值之間距離（即誤差）的平方來衡量模型優(yōu)劣。即預測值和真實值越接近，兩者的均方差就越小。MSE 的值越小，說明預測模型描述實驗數(shù)據(jù)具有更好的精確度。如下是均方誤差的計算方法：

2.Softmax。Softmax 的含義就在于不再唯一的確定某一個最大值，而是為每個輸出分類的結(jié)果都賦予一個概率值，表示屬于每個類別的可能性：

其中zi為第i 個節(jié)點的輸出值，C 為輸出節(jié)點的個數(shù)，即分類的類別個數(shù)。通過Softmax 函數(shù)將多分類的輸出值轉(zhuǎn)換為范圍在[0,1]間，且和為1 的概率分布。

3.5 基于三維位置的數(shù)據(jù)可視化

1.預測結(jié)果的三維可視化。在進行測點預測之后，需要結(jié)合置信度，將預測結(jié)果以圖表的形式展示出來，從而指導運維實踐。使用3D 可視化的手段可以彌補傳統(tǒng)2D 手段的不足——只有唯一的、預置的視角展示。3D 可視化可應對復雜的預測結(jié)果和展示需求，以多種形式呈現(xiàn)給運維人員。

2.設備拓撲關系的三維可視化。通過傳統(tǒng)組態(tài)方式展示設備拓撲關系有明顯的缺陷——無法篩選指定的鏈路或部分設備，同時，無法將拓撲關系與空間信息結(jié)合，讀圖分析的難度極大，必須有專家指導。使用3D 的手段展示拓撲關系，可以有效地彌補篩選和拓撲與空間結(jié)合的缺點。降低現(xiàn)場運維的難度，提升故障分析與處置的難度。

3.人員位置的三維可視化。當前應急演練與應急指揮處于“眼看手摸”的階段，指揮中心無法看到處置人員的跑位情況，在協(xié)同多個房間和多個部門時，需要通過對講機確定位置和現(xiàn)場情況。例如，機房UPS故障定位需要協(xié)調(diào)配電間的開關操作。故障分析團隊通過三維可視化和單兵作戰(zhàn)系統(tǒng)，在ECC 上看到現(xiàn)場的攝像頭畫面、故障設備的實施參數(shù)、故障拓撲關系、人員跑位的信息指揮故障處置。

4 使用獲取的知識改造運維活動

數(shù)據(jù)挖掘獲得的知識需要回到真實的世界，對真實世界進行改造。改造體現(xiàn)在兩個方面：一是基于一體化監(jiān)控的自動化控制、群控；二是改造運維流程，包括應急輔助、應急演練、標準操作流程SOP。

4.1 自動控制與群控

結(jié)合測點間關系信息、測點計算器、閾值配置、聯(lián)動策略、PLC硬件實現(xiàn)自動控制。例如，在煙感報警時，觸發(fā)自動控制策略，自動計算附近PDU 負載、空調(diào)制冷的冷量，同時通過三維可視化的形式將相關設備展示到ECC 指揮大屏上，提供為該PDU 供電的UPS 以及上游配電柜功率信息，在有人員監(jiān)督的情況下進行開關控制。在負載系統(tǒng)（例如精密空調(diào)）內(nèi)部包含多個子模塊，子模塊的配置需要預設多種運行模式，例如低溫模式、高溫模式、局部過熱模式，通過測點預測實現(xiàn)提前增加或減少冷量從而達到節(jié)能的目的。

4.2 運維流程改造

通過分析運維表單數(shù)據(jù)與故障發(fā)生次數(shù)、設備關鍵參數(shù)之間的關系，優(yōu)化運維活動的頻次，重點覆蓋的區(qū)域和設備種類，從而提升運維效率，降低運維成本。另一方面，通過總結(jié)故障與設備測點之間的關聯(lián)關系，改造標準操流程SOP，從而達到提升故障處理效率的目的。

4.3 故障分析與溯源

通過分析告警類型與處置方法之間的關聯(lián)，優(yōu)化故障處置流程。在告警發(fā)生時，DCIM 根據(jù)告警信息類型和相關參數(shù)特征，自動匹配輔助決策處置方案，根據(jù)關系信息分析故障設備的拓撲，分析故障對整個系統(tǒng)的影響、可能的原因，實現(xiàn)故障處理智能化、簡單化、可追溯化[4]。

4.4 應急指揮

通過三維可視化系統(tǒng)與室內(nèi)定位數(shù)據(jù)結(jié)合，實時在ECC 大屏上查看故障處理人員的位置，在指揮中心對于現(xiàn)場疑難故障處置。還可以借助單兵系統(tǒng)、可穿戴視頻電話等設備，實現(xiàn)指揮中心與現(xiàn)場的音視頻連線，由專家進行遠程指導，并可將處置方案等信息推送到現(xiàn)場終端進行顯示，有效縮短故障處置時間。

5 智能化運維效果

5.1 節(jié)能減排

粵東數(shù)據(jù)中心未使用數(shù)據(jù)挖掘技術簽，投產(chǎn)共計N 個機架，整體PUE 約為1.8。通過使用人工智能算法降低能耗，PUE 達到1.76，平均減少約7.42% 用電量。

5.2 提高資源利用率

通過U 位精細化管控和機架推薦，在散熱允許的情況下，降低了 U 位的碎片化情況，釋放將近 200 個機架資源，在客戶業(yè)務增加的情況下，提升了機架利用率約20.12%。

5.3 降低人力成本

2018 年，粵東某IDC 駐點運維人員為53 人，月度運維人力成本約為60 萬元。通過虛擬定位演練、減少抄表、對照等繁雜操作、加大高風險點運維力度。2019 年，運維人員縮減到35 人，月度運維人力成本約38 萬元，縮減成本22.26 萬[5]。

6 結(jié)語

本文介紹的“數(shù)據(jù)挖掘技術對IDC 運維進行自動化智能化改造”是結(jié)合數(shù)據(jù)挖掘技術和數(shù)據(jù)中心運維需求進行的探索，通過對五大數(shù)據(jù)的采集監(jiān)控，進行數(shù)據(jù)挖掘，將挖掘的知識通過DCIM 系統(tǒng)和運維流程，及一體化監(jiān)控系統(tǒng)對運維流程進行改造，對運維流程進行自動化、智能化改造，實現(xiàn)數(shù)據(jù)中心的節(jié)能減排、降本增效。解決目前IDC 運維管理上存在“煙囪式運維”的困局，后續(xù)將通過整體解決方案的復制遷移，驗證在其它物聯(lián)網(wǎng)行業(yè)，例如能源或智能制造行業(yè)實現(xiàn)信息化、自動化、智能化改造，推動整個物聯(lián)網(wǎng)行業(yè)的發(fā)展。