大數據分析平臺建設與應用綜述

張孟華

摘要：本文針對大數據在戰略思維層面、技術創新發展層面、社會創新發展層面的核心價值展開分析，結合大數據分析平臺建設思路，包括平臺建設目標、建設內容分析、關鍵技術分析等，通過研究大數據分析平臺在制造領域、零售領域、電力運輸領域、運輸領域、銀行服務領域中、公共衛生領域等具體應用，其目的在于加快大數據分析平臺建設速度，提升大數據分析平臺應用效果。

關鍵詞：戰略思維層面;平臺建設目標;制造領域;平臺層;功能層

人類社會信息化進程正在邁向網絡化信息技術普及階段。整個社會信息采集渠道日益豐富，信息應用廣度不斷拓展，信息總量呈指數級增長，以信息為核心創新驅動力持續增強，從而帶來全社會信息在類型多樣性、關系復雜性、應用時效性等方面呈現出嶄新趨勢和特征。

1 大數據的核心應用價值

1.1 戰略思維層面

從目前發展情況來看，數據已經成為推動社會經濟穩定發展重要影響因素，大數據發展可以追溯到2011年，麥肯錫公司發布了《大數據：下一個競爭、創新和生產力的前沿領域》的研究報告，這也意味著“大數據”正式進入到了戰略發展階段。許多國家開始著手進行大數據發展戰略研究，我國于2012年加入到了推動大數據發展行列當中，大數據重要性也在得到人們認可。尤其是在2015年，國務院出臺了《促進大數據發展行動綱要》，明確了大數據在國家發展中地位，同時還在《綱要》中提出了一些有關大數據發展重要策略，這也進一步凸顯出我國對于發展大數據重視，也使得大數據發展進入到了戰略推進階段。

1.2 技術創新發展層面

大數據相比其他類型數據信息，在發展應用過程中，具備了發展類型多元化、總體量巨大、相互間關系復雜程度高等應用特點。為了更好完成價值數據信息提取，需要匹配相應科學技術，這也加快了技術創新速度，進而促進了社會經濟快速發展。在技術創新過程中，其前提條件便是需要有足夠數據信息進行支持，而大數據所能夠提供信息基數數量非常大，這也便于后續將與大數據相關理論、已有技術成果與創新框架結構進行融合，同時還可以依托于互聯網技術，開始推動智能化體系發展，這也會進一步加快問題處理速度，為技術創新發展創造良好應用環境。

1.3 社會創新發展層面

社會經濟飛速發展，社會也開始沿著智慧城市建設方向推進，所謂智慧城市是指可以對城市各方面發展情況進行統籌性規劃，并且將城市管轄區域信息網并聯在一起，采用以點及面方式來推進城市經濟穩定發展。建立該網絡平臺基礎便是海量數據支持，即大數據便是實現智慧城市戰略目標基礎內容。現階段，我國很多城市已經著手進行智慧城市建設，而大數據在該環節中，充分發揮著業務協同與信息整合作用，并且所搭建數據平臺還可以為社會發展提供可靠基礎設施支持，同時還降低了技術應用門檻，加快了一站式服務普及速度。這也意味著社會創新發展進入到了多元化推進階段，提高了社會經濟結構穩固性。

2 大數據分析平臺建設思路分析

2.1 平臺建設目標

進行大數據分析平臺建設，需要滿足以下幾點要求：（1）綜合性，搭建平臺主要應用目標便是構建統一數據資源庫，同時還可以對數據進行準確篩選，提高數據內容的精準度。（2）可靠性強，在平臺服務內容增多、服務范圍擴大的背景下，為了確保服務質量，還需要對數據安全管理能力進行提升，在確保數據信息應用價值的基礎上，提高結構運行過程的可靠性。（3）開放性，在實際應用中，一般都會對數據信息的共享模式進行調整，將虛擬數據沿著實體數據信息存儲的方式進行調整，以此為基礎來搭建完善的數據管理框架，對于采集到的數據信息進行預處理、數據清洗或數據分析等，此時的數據已經開始沿著“資產”的方向進行發展，這也提升了數據信息提供的針對性，為行業經濟發展提供了可靠的數據信息支持。

2.2 建設內容分析

2.2.1 數據采集系統

這也是大數據平臺的基礎內容，在實際應用中，可以借助可視化分析工具，來完成數據分析工作，而且還可以將二維數據信息進行三維處理，使其更加具備直觀性，在提高數據分析效果的基礎上，幫助用戶對數據進行更好的理解。同時還可以建立基礎算子，對于平臺中數據之間的關系進行梳理，而且還會對數據信息潛在價值進行研究，同時對于數據信息潛在價值進行匯總整理，以此為依據對原有數據庫進行重建，為一站式管理奠定基礎。另外，在實際應用中，數據采集系統還需要具備較強的兼容性，可以對許多數據格式進行兼容，以此來提高系統運行本身的可靠性。

2.2.2 數據處理系統

在大數據時代，數據每天都處于不斷更新的狀態，部分數據信息在經過一段時間后，會喪失原有的時效性，需要對其進行更新，從而確保數據供給的可靠性。在數據處理系統建立過程中，可以將預處理技術融入到其中，對于已經采集到的數據進行處理，其內容包括以下兩部分內容：第一，對于采集到的數據進行抽取，考慮到所采集數據格式多樣性，抽取的工作便是對數據進行統一，便于后續處理。第二，對數據進行清洗，即對無價值數據進行剔除，對于具備潛在價值的數據信息進行深入挖掘，這也是提高系統應用價值的基礎環節，以此為后續指令的下達奠定基礎。

2.2.3 數據安全管理系統

對于采集、處理后的數據信息進行加密處理，同時在數據傳輸過程中也需要做好數據的加密工作，確保所有采集數據信息的可靠性。在此過程中，可以應用到大數據存儲和管理技術來輔助數據管理工作的推進，利用該技術來建立相應的數據庫，而且還需要做好相關的記錄審查工作，確保數據審查的可靠性。另外，對于一些敏感性數據信息，還需要對其進行脫敏處理，確保數據信息傳遞結果的完整性。

2.3 關鍵技術分析

2.3.1 平臺層

該結構在大數據平臺建設中，屬于非常核心的系統結構，在實際建設中，該系統主要由以下幾部分內容組成：第一，數據存儲系統，大數據的信息總量龐大，在實際應用中，需要構建PB級存儲能力的系統，以此來滿足數據存儲要求。第二，數據挖掘系統，大數據在傳輸一般都會以數據包的方式進行傳遞，其中蘊含了非常多的數據信息，對此，平臺層在傳遞數據信息時，也需要做好兼容性調整，并且在傳遞過程中，應打破傳統MapReduce技術的框架限制，對數據潛在價值進行挖掘，從而提高系統運行的可靠性。

2.3.2 功能層

在功能層結構的建設過程中，主要由以下幾部分內容構成：（1）挖掘算法的確定，與平臺中數據挖掘系統相對應，其主要的工作內容便是對數據信息進行深入挖掘，以此來提高TB建模的穩定性。（2）隱私保護技術，所有采集到的數據信息需要進行安全保護，同時還需要一些數據信息進行脫敏處理，使其能夠和其他普通信息內容一樣，可以順利地進行傳遞，減少了其他不確定因素帶來的干擾性，從而提高信息傳遞的可靠性。（3）可視化分析技術，該技術主要用于輔助挖掘系統工作的順利開展，從而提高了數據信息交互過程的穩定性[1]。

2.3.3 服務層

服務層作為和用戶進行直接對接的系統，在該系統建立過程中，需要注意以下幾點內容：第一，數據匹配技術，在用戶提出請求之后，可以快速將指令傳遞到指定區域，從中篩選出和請求相匹配的數據內容，數據的細化程度會根據用戶提供關鍵詞的細化程度不斷提高，以此來為用戶提供可靠的數據信息。第二，顯示技術，不同格式數據信息的顯示方式也存在著較大的不同，因此需要對數據格式進行兼容性轉化，從而提高數據顯示后的可利用性。

3 大數據分析平臺的具體應用

3.1 制造領域

在我國經濟產業組成結構中，制造業屬于非常重要的支柱產業，在該行業領域中搭建大數據分析平臺時，主要包括以下應用系統：（1）信息存儲系統，構建PB級存儲能力的存儲系統，對于制造參數信息進行存儲，為后續數據處理奠定基礎。（2）數據處理系統，對于產品的有關參數信息進行歸類，同時利用挖掘技術對數據潛在價值進行挖掘。（3）產品預警系統，對于產品生產質量進行監督，若出現不合格產品或者批次合格率較低的情況，會做出預警，起到經濟止損的作用。（4）可視化展示系統，大數據信息最終需要展示到用戶，面前，人機實現信息的順利交互，也是完善大數據平臺結構的基礎。

3.2 零售領域

大數據在零售領域中的應用，會根據零售領域中涉及到的商品種類進行子系統匹配。例如，某零售企業銷售的商品主要可以分為糧食和休閑食品兩種，這也是大數據分析平臺建設時的兩個大應用系統。同時糧食和休閑食品兩個類別還可以繼續進行細分，如休閑食品還可以細分為飲料、小食、蜜餞等，此時也會對大數據平臺進行進一步細分，同時對于零售情況進行客觀評價，建立各個子分類銷售情況的統計體系，以月為單位對于該體系中的相關性內容進行考量，以此來調整企業下一階段的銷售策略，確保企業經濟的穩定提升。

3.3 電力運輸領域

電能在現階段已經成為了社會經濟發展的重要動力來源，在對其進行大數據分析平臺建設時，主要包括以下應用系統：第一，數據融合系統，該系統中包含了多項數據信息，如服務用戶信息、電力設備基礎信息、用電情況等，將這些數據信息根據相互之間的關聯性，對其進行融合建模，方便后續分析工作的推進。第二，噪音數據處理系統，所謂噪音數據是指完整度不足、異常性數據，分析這些數據信息產生的主要原因，以此來提高系統運行的可靠性。

3.4 運輸領域

在城市人口數量不斷增加的背景下，城市交通擁堵的情況也在加劇，這也降低了居民出行的便捷性。大數據分析平臺在該領域進行使用時，第一，需要做好數據融合處理，對于城市居民分布情況、早晚高峰車流量、城市公交數據、城市線路分布等數據進行融合，組建城市融合系統，同時借助GPS為居民提供一些出行提示，減少交通擁堵的時間。第二，綜合分析系統，借助挖掘技術對于數據的潛在價值進行確定，隨后制定緩解交通壓力的措施，如修建地鐵線路、優化公交行駛路線等，以此來提高城市運輸環境的通暢度。

3.5 銀行服務領域

在銀行服務領域進行大數據平臺建設時，主要包括以下應用內容：（1）信息存儲系統，構建PB級存儲能力的存儲系統，對于用戶信息、信譽情況、存儲金額等內容進行存儲，為后續數據處理奠定基礎。（2）數據處理系統，以客戶為基礎，將客戶購買的產品進行歸類，同時利用挖掘技術對數據潛在價值進行挖掘，為用戶定向服務的制定奠定基礎。（3）信息安全保護系統，對于這些數據信息進行保護，防止用戶隱私泄露情況的出現。（4）可視化展示系統，大數據信息最終需要展示到用戶面前，用戶可以通過客戶端獲取到想要的數據信息，提高銀行基礎服務質量。

3.6 公共衛生領域

在公共衛生領域中，該技術的主要服務內容便是進行流行疾病管理，借助大數據技術對于人口流動性、移動模式等內容展開分析，同時結合病原學、人口統計學、地理、氣象和人群移動遷徙、地域之間等因素和信息，搭建流行病傳播模型，以此來明確流行病傳播路線和傳播規律性，及時制定可靠的防控措施，降低流行病所帶來的負面影響。

4 結語

開發和建設大數據分析與應用平臺將帶來三個方面的價值：第一，有助于不斷匯集大數據技術創新成果，并用最先進的技術為用戶提供一站式的應用服務;第二，有助于降低用戶技術門檻，為應用開發提供共性基礎設施與服務，從而加快應用創新;第三，有助于形成大數據技術產品和行業解決方案，促進我國大數據產業加快形成。

參考文獻：

[1]陳越，侯常敏.基于大數據分析的公立醫院運營信息化平臺建設及應用[J].中國衛生經濟，2020，39（03）：80-82.