趙磊 李云 方紅旺
摘 要 本文主要針對數據中臺的數據治理系統設計進行了深入的分析和詳細的探討,對現階段我國在數據中臺的數據治理系統設計中存在的一些具體問題給出了具有指導性的意見和建議,并提出了具有針對性的解決策略,希望能夠進一步促進數據中臺的數據治理系統的不斷完善。
關鍵詞 數據中臺;數據治理;治理系統;系統設計
引言
隨著大數據時代的到來,新興技術正以驚人的速度發展著,本文主要針對數據中臺的數據治理系統設計進行了深入的探討和詳細的研究,對在新形勢下數據中臺的數據治理系統設計相關問題給出了具體的意見或者建議。
1數據治理的相關技術研究
(1)數據治理基本概念。一說到數據治理的工作,人們一般情況下都第一個想到的是數據。從概念上來說,數據總體指的是對真實世界的對象、事件被選擇屬性的抽象表示,是通過具體定義的約定對其含義、與存儲進行表達和理解,治理從概念上來說指的是公立單位或私人單位經營管理相同事物方式的共同形式,是通過采取聯合行動的持續過程,來調和各種相互沖突以及利益的一種過程。
(2)元數據相關理論。在現如今社會中,大數據時代已經悄然地來到了我們身邊,數據已經成為人們的一種重要的無形資產,對于數據的管理框架而言,元數據管理無疑在其中占有絕對性的重要地位,元數據管理隨著它不斷地廣泛應用受到了越來越多的人的關注。原數據的基礎性概念指的是數據對數據的描述,它的主要作用是針對具體的信息和資源進行精確性的描述[1]。
2數據中臺相關理論
(1)數據中臺基本概念。數據中臺與大數據平臺對于大多數人而言是非常容易混淆的,然而這兩個概念之間并沒有本質性的聯系,數據中臺主要指的是通過數據技術對大量的數據進行整體型的采集、計算、存儲和加工,并且統一標準的和口徑。數據中臺在針對具體性的數據完成數據統一之后,會逐漸形成標準型的數據,接下來再對這些數據進行有效的存儲,從而進一步的形成大數據資產層,為客戶提供更好的優質服務。
數據中臺可以通過自身強大的功能影響開發團隊的開發速度,解決具體的效率問題、 協作問題、和能力問題,通過影響開發團隊的開發速度能夠讓前臺的開發團隊在具體工作執行過程中當中的開發速度不受后臺數據開發的影響。這在很大程度上解決了開發團隊在開發過程當中的主要干擾因素,加速了開發的速度 。簡單來說,數據中臺主要是通過聚合和治理兩方面功能來影響具體的數據,把各種類型的不同數據抽象封裝成為一種具體的服務,從而進一步以業務價值的邏輯概念發送給前臺。
(2)數據中臺的建設原則。數據中臺的建設是一項漫長而又冗雜的工程,相關單位根據自身實際情況,建設具有自身特色的中臺能力,在具體的建設過程當中需要遵循以下建設原則:第一,相關企事業單位具體組織架構以及企業機制應該順應時代的潮流而進行改革;第二,企業內部工作人員的工作方式需要進一步做出變革,具體的數據工作人員應該深入研究業務、數據和模型,在日常工作中頻繁的進行端到端的實踐工作;第三,數據中臺的具體團隊人員要順應需求的變化,轉變傳統支撐角色向運營靠攏,在工作中不斷推陳出新,為企業的進一步發展尋找多個不同的突破口;第四,中臺建設的結果一定要適合企業自身的特色,在建設過程當中一定要注重對企業自身的針對性。
3數據治理系統分析與設計
(1)功能性需求。①元數據管理功能的建設。在企業內部針對原數據管理功能進行具體的建設工作,從而對原數據實行統一化的管理,這在很大程度上為數據標準化的工作奠定了結實的基礎。原數據整體包括了兩部分,一部分是技術元數據,另一部分是業務元數據,元數據管理部分主要職責是關于數據源的配置以及數據模型的管理等工作。②數據質量管理功能。數據質量管理的主要功能是實現對數據的自主查找、開發、數據共享和數據交換,從而確保數據的高質高量 。通過對數據的完整性與準確性進行進一步的效驗工作,并與數據業務的實際需要相結合,從而實現對數據質量情況的有效監測。由于通過數據質量監控平臺具體作用,從而建立和支撐起基于數據指標、質量檢測 、問題發現和監控的完善的數據治理體系,通過采用事前、事中和事后等三個不同環節預測、發現和解決相關的數據問題。從而進一步的保證數據在應用的過程當中不會出現任何干擾因素。③數據安全管理。在保證數據能夠在共享的前提下,相關的工作人員還需要進一步的考慮數據共享的安全性,保證數據共享的安全性能夠在較大程度上規避因各種原因而導致的數據丟失以及數據泄露等安全隱患問題,所以平臺必須確保對共享數據的脫敏需求,既要確保滿足使用方對數據的特殊需求,還要對敏感信息進行進一步的加密與仿真等工作。④數據監測查詢管理。數據監測查詢管理的主要作用是針對數據中心的各種海量數據提供各種便捷化的管理與服務。其主要內容包括:各類的數據庫查詢工具,例如Web端的數據庫查詢器,以及能夠支持在線數據庫SQL查詢,對SQL查詢腳本采取復雜的多需求的以及多表關聯的自定義查詢; 對于日常工作常用查詢支持 “常用收藏 ”,把復雜化的操作進一步簡化,在相當大的程度上提升了工作效率。
(2)系統總體架構。數據中臺的數據治理系統按其不同功能分類大致可以劃分為以下三類主要的功能模塊兒:一類是數據的管理 ,另一類是數據質量的管理,第三類是數據監測的查詢。系統按其功能可分為元數據管理、主數據管理、數據質量管理和數據監測與查詢這四個主要的功能模塊,以上這些內容中元數據管理主要職責是負責數據源的配置,數據模型的管理以及元數據屬性模型的管理工作,主數據模塊兒的主要工作內容是以服務的形式把統一、完整、 準確且具有權威性的主組數據傳送給企業內需要使用這些數據的應用系統,數據質量管理模塊的主要職責是對數據質量的效驗和管理,數據監測模塊對電腦系統內的全部數據進行異常監控,并可以針對全局數據進行檢索。
4結束語
基于數據中臺的高校數據治理系統,在很大程度上滿足了數據在治理方面的迫切需求,顯示出了較為良好的應用效果,但是由于系統也存在一些多方面因素干擾的問題,在實際的應用過程當中還是需要不斷的改進與發展,由于數據治理系統仍然處于較為新生的狀態,因此在后期的發展過程當中還是需要不斷的探索與健全。
參考文獻
[1] 劉俊良.新時代數據中臺研究與設計[J].電子世界,2020(5):119.