電信大數據解決方案及實踐

摘要：結合全球多個實際案例，提出了一個電信大數據的精簡方案架構。方案結合運營商的實際應用場景，挑選合適的組件進行組合，摒棄了通用化的大平臺。大數據的發展，一要通過大數據應用提升運營效率，二要通過數據即服務（DAAS）拓展新的服務內容，提供對外服務。在業務實施設過程中，抓取、管理和挖掘電信運營商的核心數據是基礎，運營商大數據的快速部署和應用是最終目標，兩者需要在效率、成本和時間上取得平衡。

關鍵詞： 大數據；電信網絡；精簡架構；數據即服務

Abstract： In this paper， we discuss a number of domestic and international big-data telecommunications architectures and propose our own lean big-data architecture. This new architecture combines the practical application scenarios of operators， and the universal large platform is abandoned. There are two directions in big-data development： improving business efficiency and providing data as a service （DaaS）. Capturing， managing， and mining core data of a telecom operator is the basis for service implementation. Rapid deployment and application of big data is the final target. A balance also needs to be struck between in efficiency， cost and time when deploying a big-data architecture.

Key words： big data； telecommunications network； lean architecture； data as a service

中圖分類號：TN915.03； TP393.03 文獻標志碼：A 文章編號：1009-6868 （2013） 04-0039-003

1 電信運營商建設大數據

思路及關鍵技術

運營商的網絡和用戶是運營商的核心資產，而其中流動的數據（包括用戶配置基礎數據、網絡信令數據、網管/日志數據、用戶位置數據、終端信息）是運營商的核心數據資產。對于運營商來說，最有價值的數據來自基礎電信網絡本身，對于基礎管道數據的挖掘和分析是運營商大數據挖掘的最重要方向。抓取、管理和挖掘這些數據是運營商的當務之急[1-2]。運營商基于核心數據的大數據應用可從兩個方面入手：

（1）通過大數據應用提升自身運營效率。比較典型的應用包括：信令多維分析、網絡綜合管理及分析、業務和運營支撐系統（BOSS）經營綜合分析、精準營銷等。

（2）通過數據即服務（DAAS）拓展新的服務內容，提供對外服務。包括個體及群體的位置信息以及用戶行為分析等，對于第三方公司（比如零售業或者咨詢公司、政府等）都是非常有價值的信息。運營商可以基于這些數據提供對外DAAS服務，拓展市場空間。

為了構建電信運營的大數據應用，從技術能力的角度可以分為數據收集與存儲、信息檢索匯聚、知識發現以及智慧4個層面。電信大數據技術層面如圖1所示。自下而上數據挖掘深度增加，難度加大，對于系統的智能需求提升。其中關鍵的技術包括抽取轉換裝載（ETL）、并行計算框架、分布式數據庫、分布式文件系統和數據挖掘、機器學習等。

面對海量的大數據，如何有效進行數據處理是需要解決的迫切問題，分布式并行處理是有效手段。傳統關系型數據庫多采用共享磁盤（Sharing-disk）架構，當數據量達到一定程度，將面臨處理的“瓶頸”以及擴展的困難，同時成本也偏高。當前有效的做法是采用分布式文件系統/分布式數據庫結合做分布并行處理。目前基于開源的Hadoop平臺是業界采用較廣泛的一個實現方案。Hadoop[3]的核心思想是基于Hadoop分布式文件系統（HDFS）存儲文件或者基于HBase數據庫（也是基于HDFS），使用分布式并行計算框架MapReduce來并行執行分發Map操作以及Reduce歸約操作。在Hadoop的計算模型中，計算節點與存儲節點合一。存儲數據的普通PC服務器可以執行MapReduce的任務。而在Sharing-disk模型中，存儲節點與計算節點是分離的，存儲的數據需要傳送到計算節點做計算。Hadoop計算模型適合離線批處理的場景，比如Log日志分析、文檔統計分析等。它是關系型數據庫管理系統（RDBMS）的有益補充。

在私有技術上實現分布式存儲和并行處理，在調用接口上與Hadoop兼容，這是一個可行的技術方案。這種方案可以避免上述Hadoop的缺點，同時在性能上做更多的優化。有效的手段包括增加數據本地性（Data Locality）特性，在多次迭代的計算過程減少數據在不同節點之間的傳送；使用索引和緩存加快數據的處理速度。結合存儲和計算硬件進行調優也是有效的手段，可以使用數據的分層存儲，將數據分布在內存、固態硬盤（SSD）、硬盤等不同介質上[4]，使得與計算資源達到很好的平衡。

面對海量數據實時性的要求，比較有效的方式是采用復雜事件處理（CEP）[5]。實時流處理采用事件觸發機制，對于輸入的事件在內存中及時處理。同時對于多個事件能合成一個事件[6]。實時流處理需要支持規則以滿足靈活的事件處理要求。實時流處理可以使用分布式內存數據庫、消息總線等機制來實現快速實時響應。目前商用的CEP產品有不少，但是在功能、性能以及適用范圍上有較大差異，選擇成熟度高以及合適的產品是關鍵。

針對大數據中大量的半結構化或者非結構數據，NoSQL數據庫應運而生。NoSQL數據庫放棄關系模型，弱化事務，支持海量存儲、高可擴展性、高可用及高并發需求。NoSQL數據庫在特定應用場景下有很高的優勢，是傳統數據庫的有效補充。按照數據模型，NoSQL主要有四大類：鍵-值（Key-Value）型、列存儲型、文檔型、圖型，它們對應不同的應用場景。比如Key-Value型適合簡單鍵-值對的高效查詢，而圖型適合社交關系的存儲和高效查詢。

針對大數據挖掘分析、搜索以及機器自適應學習等技術在企業系統中逐步應用。相關的算法種類很多，當前需求較多的是分布式挖掘和分布式搜索。

由于數據類型以及數據處理方式的改變，傳統ETL已經不適用。運營商需要根據應用場景做不同的規劃。目前來說，由于運營商應用系統差別較大，尚未有一種統一的處理模式。比較可行的一種方法是依據數據的功用以及特性做分層處理，比如大量的數據源首先做初篩，初篩完之后有部分數據進入數據倉庫或者RDBMS或者其他應用。初篩可以使用Hadoop或者CEP或者定制的方式來完成。

針對運營商的不同應用場景，需要采用不同的技術或者技術組合。比如用戶實時詳單查詢，數據量巨大，但是它的數據類型簡單，數據以讀為主，不需要復雜的Join操作，數據的分布性好。相比傳統的RDBMS，使用Hadoop可以大大提升查詢性能，降低處理成本。更多的應用可能需要多種技術的組合。比如信令采集及多維分析，信令數據特別是分組域（PS）信令數據量大且實時性要求高，有效解決海量數據處理與實時性要求是它的關鍵，需要CEP與Hadoop的組合。在當前階段，不同的技術成熟度不一，由于業界大數據應用進展較快，我們認為當前針對不同應用的精簡方案是最合適的，也就是依據應用場景，挑選最合適的組件做組合，摒棄通用化的大平臺。

2 中興通訊大數據實踐

中興通訊依托在云計算等領域的長期積累，針對大數據形成了一套完整的技術體系架構。ZTE大數據技術體系架構如圖2所示。架構依據運營商的不同的應用需求，注重采用組件搭建的方式，形成端到端的精簡方案。下面以兩個具體的案例進行說明。

（1）用戶實時位置信息服務系統

該系統實時采集蜂窩網絡用戶的動態位置信息，并通過規范接口提供DAAS服務。實際工程中，當期接入的用戶數達兩千多萬，每天用戶位置更新數據可達40多億條，高峰期更新達到每秒幾十萬次。除了采集的位置，還可以結合其他數據源比如用戶年齡等屬性做分析，以應用編程接口（API）開放給上層應用。此外該系統需要有良好的可擴展性，后續可以接入其他區域的數據源。另外這套系統需要有良好的性價比，成本可控，時間可控。依據這些需求，我們在成熟的組件K-V NoSQL 數據庫的基礎上搭建了系統。用戶實時位置信息服務系統如圖3所示。

用戶實時位置信息服務系統是一個典型的精簡方案，它基于分布式Key-Value NoSQL數據庫的分布式緩存（DCache），組裝了對位置流事件實時處理的系統。DCache既是消息總線，也是內存數據庫，能很好地滿足實時性的要求。同時DCache基于x86刀片服務器，采用分布式架構，系統的擴展性很好，成本較低。該系統性能優越，穩定可靠，取得良好的效果。

（2）信令監測多維分析系統

隨著運營商數據業務快速增長，運營商對于網絡質量提升、網絡運營效率有著更大的壓力。通過采集網絡Gn接口、Mc接口信令并加以處理分析，可以獲得網絡運行的完整視圖，基于信令的相關專題分析，比如網絡質量分析、流量效率分析、多網協同分析、客戶投訴及服務分析等對于運營商網絡運營有極大的價值。

信令監測多維分析的難點在于信令流量大且數據量大，比如某運營商省公司Gn接口峰值流量可以達到4 Gb/s，每天信令數據可達1 TB。需要采集信令并做多種分析以服務于不同的部門。

信令監測多維分析系統采用分層的架構，便于數據共享及和應用的擴展。信令監測多維分析系統如圖4所示。使用實時流處理滿足實時性高的數據分析要求，對于會話或事務詳單（XDR）初步處理完的數據采用傳統RDBMS存儲供后續分析查詢使用。對于數據量龐大的XDR采用Hadoop HBase存儲并查詢，原始信令采用分布式文件系統存放在本地。

在這個方案中，數據根據它的使用特性采用不同的方式存儲和處理，突破RDBMS處理“瓶頸”和擴展性的“瓶頸”，達到了很好的效果。在測試中，4節點PC服務器可以全部承擔某運營商省公司PS域XDR的存儲，入庫性能可達50 Mb/s，針對上百億條記錄查詢，可以在10 s內返回。取得了很好的實踐效果。

3 結束語

電信運營商面臨大數據發展的機遇，都在積極推動大數據的試點和商用。在當前大數據技術快速發展的形勢下，根據需求和應用場景搭建精簡方案，可以幫助運營商在當前激烈競爭環境中快速獲得競爭優勢，在效率、成本和時間上取得最佳平衡。

參考文獻

[1] Cisco Systems. Cisco visual networking index global mobile data traffic forecast update， 2011 - 2016 [EB/OL]. [2013-03-25]. http：//www.cisco.com.

[2] MANYIKA J， CHUI M， BROWN B， et al. Big data： The next frontier for innovation， competition， and productivity [R]. McKinsey Global Institute， 2011.

[3] WHITE T. Hadoop權威指南 [M]. 2版. 周敏奇， 王曉玲， 金澈清， 譯. 北京：清華大學出版社， 2011.

[4] SNIA. 2012 SNIA Sprint Tutorials-NextGen Infrastructure for Big Data [EB/OL]. [2013-02-15]. http：//www.snia.org

[5] NEUMEYER L， ROBBINS B， NAIR A， et al. S4： Distributed stream computing platform [C]//Proceedings of the IEEE International Conference on Data Mining Workshops （ICDMW’10）， Dec 14-17，2010， Sydney， Australia .Los Alamitos， CA， USA： IEEE Computer Society， 2010：170-177.

[6] SHARON G， ETZION O. Event-processing network model and implementation [J]. IBM Systems Journal， 2008，47（2）：321-334.

作者簡介

李秋靜，中科院計算所工學博士畢業；現工作于中興通訊股份有限公司運營商部；主要研究領域為大數據、物聯網、云計算等；已發表學術論文8篇。

葉云，中興通訊股份有限公司運營商部方案總工、高級工程師；長期從事業務軟件產品的技術預研、產品方案規劃及標準化工作，先后主持和參加了中興通訊IMS、云計算、物聯網、智能管道、大數據等多個重點綜合方案的設計；已發表學術論文50余篇。