大數據與IT基礎架構

有研究表明：人類70%的活動都是有規律可循的。大數據，可以讓我們看到這種規律并預知未來，例如通過整理近期的氣象情況和衛星云圖，我們能夠判斷未來幾天的天氣狀況。去年，央視兩次攜手百度分別打造“據說春運”與“據說春節”特別節目——“據說春運”攜手百度地圖，用大數據展現春節前后人口大遷徙的軌跡與特征；“據說春節”運用百度大數據來述說回娘家、恐婚族等春節長假期間的熱門話題。可見，通過解讀數據可以發現有趣的現象、挖掘以往被忽視的規律，還可以對人類的行為進行預測。

事實上，數據分析的案例自古有之，在前幾年也有很多數據挖掘技術和應用的出現。但這些數據挖掘技術對數據的使用，都是先抽樣、萃取人們或系統認為有價值的數據，再分析、挖掘，而并不是使用全部數據。原因很簡單——信息的收集、存儲和信息分析的系統構建、維護成本過于巨大，所以人們總是習慣在信息收集的過程中，把有關聯的少部分精確數據留下。

以人們的日常購買行為為例，傳統超市會通過對“時間、產品銷售量/銷售額”這幾個指標的分析，判斷近期哪些貨品是熱銷產品，在短期更受用戶的歡迎，進而對熱銷貨品提供充足的貨源保障，把熱銷貨品放在超市最容易接觸的位置，提供某些促銷優惠等等。

再看另一個來自美國的零售商塔吉特的案例，它使用大數據進行“懷孕趨勢分析”。通過對大量消費記錄的分析，塔吉特公司注意到，準媽媽很可能在懷孕第三個月的時候購買某種乳液，并陸續購買營養品（如鈣、鎂、鋅等）。塔吉特公司找到了幾十種關聯物，通過這些關聯關系，預判客戶是否懷孕以及預產期的大概日期。在客戶懷孕的不同階段，該公司會向客戶推銷相應的產品或優惠券。

前兩個案例，分別是典型的“小數據”分析和“大數據”分析。大數據不僅是數據量大，同時數據種類多；不是數據的抽樣，而是數據的全集；不是與目標有因果關系的數據，而是所有有關聯的數據。與傳統的數據分析相比，大數據可以被用來開發新產品和新型服務，其價值越來越受到關注。

為什么在幾年前，沒有人收集和利用全部的數據，再進行大數據分析呢？除了成本上的考慮，還存在另一個問題：傳統上，人們是基于單一“業務”去構建系統，而不是基于“數據”去構建系統。例如，某超市要建設一個CRM系統，IT部門會基于“客戶管理”這個業務采購軟硬件，所有建設都圍繞“客戶管理”，很少考慮開放、兼容等特性；如果想再上一套“行為分析”系統，則圍繞“行為分析”這個業務去采購軟、硬件。當需要把兩個系統的數據進行統一分析時，由于兩套系統不兼容，需要中間件來轉接、編譯，因此兩套系統各自要進行二次開發以實現兼容，使得操作難度變高，造成有價值的“數據”被困在了“系統”這個孤島里。因此在規劃初期，就應充分考慮到數據的流動性、系統的兼容性，考慮到數據將會被各種系統多次使用的情況。

也許有人會說：這樣的系統規劃會非常復雜，構建成本太高，很難把系統的模型和方案想清楚。我們再來看看互聯網公司。大型互聯網公司這幾年在構建IT系統時，都會采用標準架構：如X86服務器、標準化的網絡協議、開源的數據庫、分布式存儲等等。因為只有這樣，才能夠通過統一的硬件和軟件平臺來承載各種各樣的業務。比如微信、QQ、游戲、視頻等業務都是承載在同一個平臺上，所有數據的流動在基礎設施這個維度里都是自由的。所以我們看到如騰訊、阿里巴巴等互聯網公司上線新業務的速度非常快，而且能夠根據用戶各種網絡行為，判斷互聯網用戶感興趣的“熱點”，在某項業務上再疊加新服務。這就是大數據的典型應用。

在構建了標準的硬件、軟件基礎設施之后，業務可以被逐步規劃，分階段上線，但是所有的業務架構、程序接口，都應按照標準基礎設施的統一要求進行設計開發。大數據本身是“業務”，需要建設者用更多的時間去摸索業務模型，在實踐中完善新技術，把現有的封閉的系統逐步改良為開放的標準化架構。

從IT的發展趨勢看，大數據時代是在云計算建設成熟之后到來的，大多數互聯網公司的建設歷程也遵循了這種規律。云計算將帶來標準、統一的IT架構，消除割裂和信息孤島，并且簡化大規模IT部署和運維的復雜程度，而這些都是大數據分析系統建設的前提。

杭州華三通信技術有限公司（以下簡稱華三通信）的云計算方案，就是要實現IT基礎設施的標準化、智能化，為大數據分析提供更加智能靈活的基礎設施平臺。例如統一的云管理平臺CSM，將所有IT資源拉通管理，并且把溝通過程流程化；X86服務器+虛擬化軟件CAS，屏蔽底層硬件服務器間的差異，使虛擬機應用可以在不同的物理服務器間飄移；SDN網絡虛擬化技術，使網絡真正成為資源池，由上層應用調用；VSAN分布式存儲，屏蔽了底層硬件存儲間的壁壘，存儲數據可以分布在不同的物理服務器的硬盤上。

身處大數據時代的前夕，伴隨著云計算建設的浪潮，我們已經清晰地看到云計算和大數據的價值，也在期待它們為我們帶來更多的改變，更多的驚喜。