面向混合存儲的時空大數據存儲策略研究

王 意

（1.山東省國土測繪院，山東 濟南 250013）

時空大數據是基于統一時空基準，活動于時空中與位置直接或間接關聯的大數據[1]，是支撐宏觀經濟決策的戰略級資源[2]。時空大數據存儲性能的優劣直接影響其計算效率和服務性能[3]。目前混合存儲是時空大數據管理中一種較好的選擇[4-5]。本文在分析當前主流存儲管理系統和硬件的基礎上，按照數據類型和結構對存儲對象進行了劃分；結合時空混合索引方法，建立了時空大數據存儲模型；分析了時空大數據存儲影響因素，并進行定量化表達；提出了基于混合存儲技術的時空大數據存儲策略，建立了高效可靠的時空大數據放置與遷移方法，以期更好地服務于時空大數據存儲和業務化應用。

1 現狀綜述

20 世紀90 年代關系型數據庫成為空間數據存儲管理系統的主流應用模式。由于時空大數據非結構化的數據讀寫場景，分布式文件系統和分布式非關系型數據庫技術應運而生（表1）。

表1 混合存儲中常見的存儲管理模式

傳統的機械硬盤（HDD）面對大數據時代的挑戰已顯得力不從心，新型存儲介質具有體積小、能耗低、帶寬高、時延低、抗震性強、可靠性高等特點。其中，閃存的發展最迅速，已達到了實用化水平，固態盤（SSD）是閃存最主要的形式。

2 混合存儲策略

2.1 問題描述

1）不同管理系統間的數據關聯問題。時空大數據在訪問特性和時效要求上差異較大[6-8]?；旌洗鎯π铦M足不同管理模式下數據的動態關聯需求，將通用的混合存儲技術與空間信息技術（空間大數據組織方法、空間分布式索引等）深度融合，形成集中統一的數據訪問接口。

2）數據存儲策略缺少對時空大數據的動態感知和彈性調度能力。時空大數據的存儲策略應具備動態感知和彈性調度數據的能力，可根據應用的歷史訪問記錄、存儲設備特征等因素實時調整數據存儲路徑；通過一個有效的遷移算法為不同數據動態選擇存放介質，使整個存儲系統達到存儲效率和經濟性的最佳平衡，從而最大程度地提升整個存儲系統的性能。

2.2 總體設計

在混合存儲架構中的數據層構建面向時空大數據的關系型數據庫集群、NoSQL 數據庫集群、分布式文件系統集群的存儲框架，實現不同管理模式下的數據動態關聯；以SSD、HDD作為二級存儲，根據I/O特性和數據價值，將不同類別的數據分配到SSD或HDD上；設計數據遷移算法，實現數據在不同介質間的移動。

2.3 數據存儲模型構建

構建結構化數據、半結構化數據和非結構化數據3 種存儲模型，并建立元數據及其索引，將具有相同編碼的數據進行關聯。

1）將一個結構化的數據庫或子數據庫切分為若干具有固定大小的組塊，并對數據塊建立兩層索引。存儲模型包括數據塊集合、第一層索引和第二層索引3 個部分，其中數據塊中包含空間幾何信息、空間數據信息和其他屬性信息（圖1）。通過統一的空間編碼方法和哈希編碼方法使每條數據具有唯一編碼。

圖1 結構化數據存儲模型

2）半結構化數據通過面向數據片的方式管理和查詢數據，建立空間編碼（索引）。半結構化數據存儲模型包括數據分片集合和空間編碼兩大部分，其中數據分片中包含數據、編碼深度和編碼（圖2）。數據分片無需進行二次檢索，通過統一的空間編碼和解碼即可快速查詢和獲取瓦片。

圖2 半結構化數據存儲模型

3）非結構化數據不能直接存儲矢量數據，需轉換為能保存的空間信息和屬性信息。非結構化數據存儲模型包括文件集合和關聯編碼兩大部分，其中文件集合記錄文件信息，并通過統一的關聯編碼方法使其具有唯一編碼（圖3）。關聯編碼屬于第一級索引，對于常規索引檢索的n個結果，可采用分布式并行的方法進行并行讀取，并可通過aci 對文件進行命名，與其他具有相同編碼的數據進行關聯。

圖3 非結構化數據存儲模型

2.4 數據放置與遷移策略

影響因素主要包括：①空間分辨率，反映數據的空間詳細程度，值越高，識別物體的能力越強；②時間分辨率，表示重復探測同一目標時，相鄰兩次探測的時間間隔；③光譜分辨率，反映成像的波段范圍，劃分越細、波段越多，值越高；④存儲時間，數據存放較長時間后，其被訪問頻率將降低，數據價值也將降低；⑤數據熱度是反映數據價值的直觀指標，利用價值高的數據會被反復讀取加以利用；⑥隨機度，使SSD 服務絕大多數的隨機I/O 訪問，HDD 服務剩余的I/O訪問，匹配度越高的數據，越能體現或挖掘其數據價值；⑦數據大小，數據量越小，越有利于存儲資源的利用，數據大小與價值成反比。

2.4.1 數據靜態放置策略

本文選擇時空大數據的空間分辨率、時間分辨率、光譜分辨率作為評價指標，不隨數據應用而改變。根據主觀經驗設置權重Q，滿足條件的數據優先使用性能更高的SSD作為存儲介質。假設某應用可調用n個數據，單個數據價值的計算公式為：

式中，Qs、Qt、Qf分別為空間分辨率、時間分辨率、光譜分辨率的權重，由人為確定；Jsi、Jti、Jfi分別表示數據i的3 個指標是否滿足應用需求，若滿足，值為1，不滿足，值為0。

選擇該應用價值最大的數據優先放置在SSD 上，計算公式為：

2.4.2 數據遷移函數

數據每次被訪問的時間集為{t1,t2,…,tn}，距離當前時刻t的時長為t-t1,t-t2,…,t-tn，用C1,C2,…,Cn表示。設數據訪問熱度為q，隨機度為r，初始值均為0，訪問一次數據，q加1，判斷該訪問的起始位置是否對應該數據上次訪問的結束位置，若相同且與上次訪問類型相同、時間間隔也在給定的閾值內，則r不變；否則r加1。在存儲時間C1,C2,…,Cn內的訪問熱度為q1,q2,…,qn，隨機度為r1,r2,…,rn，計算公式為：。由此可知，數據價值與q、r成正比，與C、數據大小成反比。

單個數據價值和所有數據總價值的計算公式為：

所有數據的總價值應盡可能的大，根據數據價值變化，系統I/O 動態地在SSD、HDD 之間進行數據遷移，以保證價值較高的數據優先使用SSD存儲。設數據大小為si，應保證集合中SSD上所有數據大小的總和不能超過SSD的總空間大?。–APACITYSSD），即

設置模型的起止時間和SSD的空間總量，計算得到使數據總價值最大的存儲方案，進而調整數據存儲位置。

3 實驗與性能分析

為驗證本文提出的時空大數據存儲策略，以山東省地理信息時空大數據中心為依托，分別測試數據存儲和加載效率。實驗設備配置見表2。

表2 實驗設備配置

3.1 實驗數據

本文選取兩組數據：①山東省省級基礎測繪“十二五”地形要素數據，共5 977 個MDB、51.7 GB，“十三五”數字正射影像6 578幅、2.73 TB；②1.6億條矢量要素數據、120 TB 影像數據和500 GB 地形數據（DEM數據），數據具有明顯的時空大數據特征。

3.2 存儲時間

兩組數據采用相同配置的終端，分別存入部署混合存儲策略的數據庫（實驗庫）和原始庫，初始存放位置均為HDD。數據入庫時間對比見表3，可以看出，第一組實驗庫的數據入庫時間比原始庫約減少10%，入庫效率小幅提升，這是由于數據量較少時，存在較固定的數據傳輸和備份時間消耗，因此優勢不明顯；第二組實驗庫的數據入庫時間縮短近一半，而矢量要素數據和地形數據入庫時間縮短為原時長的1/8，說明本文設計的混合存儲策略綜合考慮了數據特征、混合存儲管理系統、混合存儲設備3 個要素，提高了數據放置的合理性，減少了系統開銷，大幅提高了入庫效率。

表3 數據入庫時間對比

3.3 加載時間

本文對實驗數據進行加載瀏覽，分別測試了不同數據存儲策略下10 萬、100 萬、500 萬條數據的初始加載時間和多次打開數據庫后的加載時間，結果見表4，可以看出，混合存儲管理端初次加載時長有所減少，并隨數量的增加，加載時長減少越多（30%），說明混合存儲策略數據加載時效率顯著提升；普通終端多次打開數據庫后的加載時間沒有明顯變化，而混合存儲管理端在多次打開數據庫后，加載時間約為初次加載時間的50%，說明通過數據遷移，將隨機訪問和熱點訪問的數據遷移到SSD上，有效減少了整個系統的訪問延遲。

表4 數據加載時間對比

4 結語

本文分析了混合存儲技術在時空大數據存儲中的應用現狀，提出了面向混合存儲的時空大數據存儲組織模型和數據存儲策略；并基于山東省地理信息時空大數據中心開展性能實驗，對比了普通終端和混合存儲策略終端的時空大數據存儲和加載效率。結果表明，在存儲數據量較少的傳統測繪數據成果時，混合存儲策略效率提升不明顯；但隨著數據量和數據種類的增加，混合存儲策略的效率顯著提升；在多次數據讀取后，數據的動態遷移可有效提升數據訪問性能。