吳均勻 張艷菲 馮波波
(國網晉城供電公司,山西 晉城 048000)
在學術界,近年來信息通信數據智能分析方面已有很多相關研究成果。本文主要對電力信息通信網絡風險、預警技術進行研究,結合先進的大數據相關技術,設計了一套大數據信息通信預警平臺、風險預警和數據處理架構,并利用電力行業各單位之間的通信流量數據進行危險預警架構合理性及算法有效性驗證。在應用界,國外對信息通信數據智能分析的研究起步較早,包括很多行業規范和技術都是起源于各廠商。國內雖然對信息通信技術的研究起步較晚,但是由于國內軟件技術水平的飛速發展和技術資源的開放性越來越高,為國內的信息通信數據管理技術發展帶來了生機和活力。基于現代大數據分析技術、自動測量技術、自動控制技術、計算機應用技術及相關的專用分析軟件形成的信息管理技術已經廣泛應用于各行各業。目前國內比較成熟的產品包括北塔、東華、神州泰岳、摩卡、泰豪等公司的IT運維監控管理系統,其對數據中心涉及的應用服務器等設備進行數據采集和監控,結合一些安全閾值實現故障的告警。不足之處是均為被動的告警運維,缺乏主動預警效果,不滿足智能電網的發展需求。
預警系統的工作過程中主要涉及對電網數據的采集和分析以及結論驗證等具體的環節和步驟,這樣能夠有效的保障電力系統的管理人員對各種設備的運行情況和線路情況進行及時的了解和掌握,并使預警信息的準確性得到了有效的保證,預警信息發布具有了可靠的數據。Hadoop和Spark是大數據處理的重要開源平臺,并隨著電力系統的發展也得到了較快的發展,并呈現出了多樣的相關應用和解決的具體方案,Hadoop主要支持的是電力系統中重要的集群操作,并可以在集群上增加千個節點并進行詳細和準確的計算,并且計算的速度會隨著集群數量的變化也隨之變化,這樣能夠有效的解決在電力系統中海量日志信息無法進行處理的問題。但是Hadoop并不能對電力系統中的實時應用進行處理。
Spark與Hadoop具有相似的計算框架,并且作為其重要的補充,能夠實現系統中實時應用系統的處理。
在數據處理框架中完成對各類日志的匯聚、處理和集中管理,其中日志收集模塊采集各自不同系統的日志、網絡日志、防火墻日志等,采用Hive建立業務分析模型,實現日志的智能多維度查詢,完成對數據的初步清洗。在數據存儲層完成對數據的進一步清洗和轉換,將數據分類存儲于HDFS中,利用Sqoop工具將數據從HDFS中導出到Oracle中。最后按照業務技術完成相關數據的關聯分析和模式挖掘,采用數據清洗和壓縮歸并等手段對系統指標、安全狀況以及運行狀態的實時動態預警信息進行判定,最終在對預警信息進行深入分析的基礎上實現電網信息通信系統的主動預警。
另外,為了實現對客服工單數據的統計分析、文本挖掘、聚類分析,進一步輔助用戶決策,采用了大數據可視化工具Tableau進行數據分析,并對信息通信系統設計相應的數據分析頁面,實現數據分析結果的可視化展示,對項目數據進行全方位的科學分析來評估信息通信運維效果,為領導決策提供科學、嚴謹的依據,降低決策失敗的風險。
當前,大數據技術背景下,使得人們對于大量的數據可實行深入分析,能及早明確安全防護中的隱患問題,并通過相關的防范措施進行處理。大數據技術,主要經對所有數據的整理、挖掘和分析,找到數據間的聯系,進而構建相類似的數據模型,對日后可能會出現的數據進行預測,可在較短的時間內明確電力系統信息安全防護工作中可能會遇到的惡意攻擊情況。受到APT類攻擊時,經以往的安全防護方法防護,難以在第一時間進行反應。在大數據技術下,可在發生安全隱患前/中,明確APT類攻擊情況。如:經大數據進行分析,能及時了解到職工登錄企業業務系統的狀況,其中職工瀏覽與業務無關的文件時,受到APT類攻擊的幾率較大。為此,企業應結合實際情況,找到受攻擊的設備、受攻擊的原因、受攻擊渠道,以此降低對企業的不良影響。惡意攻擊的出現,主要經不同系統、應用漏洞發起。大量的移動應用,使得漏洞量較大,通過大數據預警系統,客觀的對用戶上網情況、移動惡意攻擊趨勢數據加以有效分析,幫助用戶及時明確是否受到惡意攻擊。如:用戶在下載資料時,易于產生不知名的網站下載應用,這時用戶就處于惡意攻擊的風險中。若用戶涉及到相關金錢方面的操作,就會立即出現提出窗口,給予用戶相關的提示,降低用戶的損失。所有的應用,均存在不同程度的安全漏洞問題,其相互間的差異在于哪個應用能更早的發現漏洞。大數據技術下,可有效規避上述不可控制問題,并降低用戶的損失。
在電網未來的發展的過程中應該運用大數據分析技術對電網運行中的數據進行科學合理的分析,這樣才能夠有效的提高電網運行的安全性以及應急問題處理的能力。在電網預警系統中充分的利用大數據的技術,能夠有效的分析電網運行中對安全性的影響因素,提高電網運行的預警能力,提高電力系統管理人員的工作效率。