李玉娥
摘要:近年來,大數據技術逐漸應用于各行領域,一直備受社會各界關注,大數據的持續發展將推動智慧城市的發展,該文主要簡述大數據時代下智慧城市的發展以及大數據技術在智慧城市中的應用領域,淺談智慧城市發展帶來的新的挑戰。
關鍵詞:大數據;云計算;智慧城市
中圖分類號:TP311? ? ? ?文獻標識碼:A? ? ? 文章編號:1009-3044(2018)36-0022-02
隨著計算機應用技術的不斷成熟,網站和軟件開發在近年來快速發展,并由原來傳統的單機應用架構演變為分布式集群應用架構,零散的數據經過分布式應用架構體系集中統一管理,網絡數據信息爆炸的時代帶來的效應就是大數據技術的產出,進而推動分布式計算和未來智慧城市的發展。
1 大數據體系下的技術概述
大數據是一個抽象概念,可以把理解為對億量級的網絡數據經行收集并能對進行實時計算與分析的技術。隨著互聯網的不斷發展,網絡上的信息在得以擴充后,時刻都在不斷變化著,傳統的數據分析技術并不能及時處理網絡信息。
如圖,該圖片通過大數據的技術架構,將大數據的技術體系進行展示。該圖的最底部是基礎設施,包括了計算資源、內存與存儲以及網絡之間的互聯,具體體現在計算節點、集群、機柜以及數據中心。其上面的內容是數據存儲和管理,該部分包括的內容有文件系統、數據庫以及和YARN相類似的資源管理系統。之后的內容是計算處理層,包括Hadoop、MapReduce和Spark,除此之外,還有在這些內容基礎上的各種各樣的計算范式,例如批處理、信息流處理和圖形計算等,還有由此衍生出的編程模型中的計算模型,如BSP、GAS 等等。數據分析和可視化基于計算處理層。分析包括簡單的查詢分析、流分析和相對復雜的分析(如機器學習、圖形計算等)。查詢分析更多地以表結構和關系函數為基礎,流分析以數據、事件流和相對簡單的統計分析為基礎,而復雜分析則是以相對復雜的數據結構、方法為基礎,如圖、矩陣、迭代計算和線性代數。
一般情況下,具有普通意義的可視化能夠展示分析結果。可是采取交互式可視化的方式,能夠對進行探究式的詢問,從而讓分析有新的線索,從而形成分析迭代以及可視化。當前,該領域研究的重點,包括以大規模數據為基礎的實時交互可視化分析,以及該過程引入的、自動化相關的要素。
上述各層需要兩個領域將其垂直打通,在打通以后,可以進行從整體上來把握。一方面是編程以及管理工具,其方向體現在通過學習的方式,機器實現自動最優化、盡可能地不需要編程、不需要相對復雜的配置。另一方面則是確保數據安全,該領域貫穿于整體的技術體系之中。
在大數據整個生命周期中,分為四個階段:
1.1 數據收集
在大數據技術的整個運行周期種,首要的環節就是數據采集,要依據Map Reduce產生的數據進行有效分類,先分布式局部計算得出結果再統一合并得到計算結果。
1.2 數據存儲
在大數據生命周期中如何將采集到的數據進行存儲和管理,并在實際應用過程中對數據經行及時快速的調度,是實現大數據分析技術的第二大技術。由于網絡信息具有數量多,多元性,重復性,復雜性等特征,將網絡數據按照類型級別劃分,實時分析,分類存儲。在存儲技術得到充分發展的情況下,所帶來的情況是數據得以快速增長,甚至于存儲成本降低的速度遠遠低于數據的增長速度。當前,在依照標準進行存儲,以及大數據的保存方面,有著成本障礙。
1.3 數據分析
因為MapReduce主要應用于推進大數據進行線下批處理,在面對一些問題時會存在較強的不適應,諸如在面向低延遲以及具有相對復雜數據關系、相對復雜運算的大數據問題時就會存在這樣的狀況。所以,近年來對大數據的計算模式進行深入的研究,推出了很多該領域新的研究成果。
大數據的計算模式,主要指的是依據大數據不同側面的特征,例如數據方面的特征、運算方面的特征等等,從這些計算問題以及相關的需求中加以提煉,從而構建各種各樣的高層抽象(abstraction)或者模型(model)。比如,MapReduce中涉及的并行計算抽象,著名的Spark系統中的“分布內存抽象RDD”,CMU著名的圖計算系統GraphLab中存在的“圖并行抽象”等。
并行計算方法在傳統階段,重要運用的方式就是在體系結構以及編程語言方面對一些抽象以及模型進行定義。可是因為在處理這些大數據的問題時要考慮到一些數據方面的特征以及運算方面的特征,以至于在處理大數據的時候,要將這些不同層面的特征有機結合起來,從而建立起相對層面較多的計算模式。
按照處理大數據時出現的多樣化的需求,以及存在的不同特征,大數據中較為典型的各種各樣的計算模式已經出現了。和計算模式相類似或者相適應的,涌現出非常多的關于大數據計算的系統以及工具。因為單一描繪計算模式是非常抽象的,所以在描繪的時候,要把相關的計算系統以及工具同步給出,就像圖1那樣。這會使得對計算模式有著更深的把握和理解,對大數據發展的現狀也有著清晰的認識,同時有助于選擇更加合適的技術、系統與工具。
2 智慧城市概述
大數據技術結合物聯網等技術,將原來的傳統業務與網絡進一步關聯,更方便快捷的提高運作效率,改善人們的生活質量。將大數據技術運用于城市道路交通,社會醫療,城鎮化管理等方面,可以更細粒度全面的管理。致力于智慧城市的發展,這是不斷提升城市發展信息化水平的重要措施。
以大數據技術的應用為基礎,要構建工作平臺,該平臺涉及基礎設施、大數據等內容,加大對各種大數據的管理力度,同時依據工作需要對大數據進行有效的處理和管理等等,在管理中注重將管理與服務緊密結合起來,提升服務的品質,使得城市在交通、物流等方面的管理得到有效的提升,進行城市各個行業的智慧綜合利用。
生活備受廣大人民關注的是往往是圍繞生活的一些服務行業,不管未來如何發展,衣食住行都是必不可少的,未來的智慧城市的發展也離不開這個核心。未來智慧城市將為繞智慧物流體系、能源體系、公共服務體系、交通管理體系、健康管理體系,以及智慧安居體系、文化服務體系等方面。
3 目前的發展現狀
目前國家大力推進智慧城市的發展,2013年1月29日,第一批智慧城市的試點出現了,共計90個試點。這里包括37個市、50個區、3個城鎮。中國已有311個地級市開展數字城市建設,智慧城市建設讓人們可以更快捷的享受到數字帶給生活的便利。智慧城市試點需要有3至5年的創建時期,國家相關部門將會組織對此的評估,對試點著手評定,評定的等級共分為三類,即一星級、二星級、三星級。從相關信息能夠了解,相關部門在推進智慧城市建設方面已經加強制度建設,將試點工作推向深入。很多運營商和更多的城市就智慧城市的建設簽訂協議,加大資金投入。
智慧城市得到充分發展,這是推進城市化進程,提高城市信息化建設的重要舉措。以設備廠商的層面來看,光通信設備廠商、無線通信設備廠商將自身具備的優勢得到最大的發揮,把無線和有線有機結合起來,從而將網絡資源的配置得以最優化,從而推進智慧城市得到更大幅度的發展,同時相關的通信設備廠商、芯片廠商會得到最大的發展,收獲較大的經濟效益。
4 智慧城市發展面臨挑戰
如何保證數據的安全性。大數據將社會的運行狀態用數據描述,現代生活和虛擬數據緊密聯系,帶來的首要問題就是數據的安全性和可控性。安全是未來智慧城市發展面臨的首要問題,信息泄露對于個人,帶來的是個人信息的泄露,對于公司帶來的是公司運營敏感信息的泄露,需要加強防范網絡病毒,黑客技術,防止威脅數據安全。
保證數據的可控性,數億量級的數據需要實時處理,對于現在的計算機硬件來說是一個極大的挑戰,如何搭建一個高性能,高并發的實時數據分析系統,并在突發情況,自然災害發生的情況下保證數據不會丟失,是智慧城市發展的第二個需要面臨的問題。
保證數據的真實有效性,網絡數據每時每刻都在發生變化,隨著時間的推移,網絡數據不斷增加,數億量級的網絡數據,如何保證此時的數據真實有效是大數據智慧城市建設需要解決的問題之一。
未來階段繼續發展大數據,所面臨的挑戰遠遠不止這些,隨著社會需求的不斷增加與變化,未來需要解決的問題將會更多。更好地將大數據技術應用與智慧城市的建設并緩解或解決現有社會中的問題是智慧城市建設的最終目標。
5 智慧城市發展的建議
上文已述,大數據背景下的智慧城市的發展會極大加重網絡數據被竊取的風險,給不少黑客留下了竊取他人信息的機會,在建設智慧城市的道路上和未來發展的過程中,網絡安全是必須要引起重視,一旦智慧城市走進人們的生活,就意味著所有人生活的數據信息都會在網絡的某個的地方存儲,這就極大的加劇了個人信息泄漏問題的嚴重性。同時數據量巨大,能夠實現實時處理并且即使分析的前提是搭建高可用,穩定性強,且容錯率高的服務架構體系。
針對網絡安全的建議,個人用戶賬戶信息使用不同的加密算法,如MD5.電話功能使用虛擬電話。將數據經行加密處理。雖然這不能100%的保證數據的安全,但是可以一定程度上降低安全信息泄露的可能性。
針對大數據處理的服務架構搭建,要保證架構的穩定性,和容錯率較高,在大數據分析技術中使用集群搭建,在不同的服務之間分布式搭建,合理的應用現有的資源,將資源利用率最大化。
6 結束語
我國的經濟在不斷發展,互聯網技術的發展是國家和社會關注的重大問題,在大數據背景下,智慧城市時代會逐漸走向人們的生活。智慧城市的發展是大數據技術發展成熟的標志,智慧城市的建設將給社會的各個方面帶來便利,在迎接新的技術帶來的便利的同時,也要解決新的問題,需要有針對地更快更好的發展關于大數據方面的研究,加強創新與運用,破解技術方面存在的問題,不斷推進智慧城市發展的新進程,從而解決智慧城市中的現有問題,讓技術改變生活。
參考文獻:
[1] 蔡志珍. 計算機大數據現狀與發展[J]. 赤峰學院學報, 2016(3).
[2] 王正青. 大數據時代美國學生數據隱私保護立法與治理體系[J]. 比較教育研究, 2016(11):28-33.
[3] 李德仁, 姚遠, 邵振峰. 智慧城市中的大數據[J]. 武漢大學學報, 2014, 39(6).
[通聯編輯:謝媛媛]