基于內存的數據存儲技術研究＊

許春聰，劉 釗，文海雄，黃忠主，鄭 強

（解放軍75837部隊，廣東 廣州 510630）

基于內存的數據存儲技術研究＊

許春聰，劉 釗，文海雄，黃忠主，鄭 強

（解放軍75837部隊，廣東 廣州 510630）

基于內存的數據存儲已經成為緩解磁盤I/O性能瓶頸的重要方式之一。簡要介紹了緩解系統I/O性能瓶頸的4種方式，闡述了分布式內存文件系統的優勢，并提出了未來的研究重點。

內存；數據存儲；緩存；文件系統

鑒于機械運動特性，磁盤性能的提高在很大程度上受到磁盤I/O性能的限制。雖然磁盤的容量逐年增大，但訪問延遲和帶寬的性能改善卻收效甚微。隨著多核處理器技術和新型網絡的迅猛發展，磁盤I/O與處理器和網絡的性能差距越來越大。為了彌補磁盤I/O性能的不足，大多數的數據中心采用RAID、并行文件系統和I/O庫等技術來提高系統的數據吞吐量。對于大塊數據的連續訪問，這一方法能夠提供較高的訪問帶寬。但是，對于隨機I/O的訪問，由于磁盤的尋道時間、準備時間相對比較長，系統的訪問延遲和數據吞吐量的性能卻改善很小。

從計算機技術發展的現狀和趨勢看，使用DRAM構建大規模存儲系統的條件已經成熟。一方面，高密度的內存封裝技術使單片DRAM的容量快速增加，使用DRAM已經可以構建數十太字節的海量數據存儲；另一方面，DRAM的價格快速下降，構建大規模內存存儲系統的成本可以被接受。

以內存為數據的基本存儲介質是提高系統性能的有效方法之一。當前，以內存方式來緩解系統I/O性能瓶頸的主要有主存數據庫、基于內存的key-value數據存儲、磁盤緩存和內存文件系統4種方式。

1 主存數據庫

主存數據庫將整個關系型數據庫永久地放進內存中，重新設計查詢處理、并發控制與恢復的算法和數據結構，以更有效地使用CPU周期和內存，其數據訪問結構、操作算法和恢復機制等均有一些根本性的變化，性能有較大的改善。DeWitt D J于1984年第一次提出了主存數據庫的概念，指出了平衡二叉樹訪問方法、Hash操作算法更適用于主存數據庫，并提出了主存數據庫的恢復機制[1]。之后研究者們又陸續提出了使用檢查點技術實現主存數據庫的恢復機制[2]，按區雙向鎖定模式解決主存數據庫中的并發控制問題[3]，以堆文件作為主存數據庫的數據存儲結構等技術[4]，使主存數據庫的理論和技術更加完善。目前，常用的主存數據庫有eXtremeDB、Oracle TimesTen、SolidDB和Altibase等。相對于I/O庫技術，主存數據庫基于內存進行體系結構設計，從根本上拋棄了磁盤數據管理的傳統方式，并且在數據緩存、快速算法、并行操作方面也進行了相應的改進，以提高數據處理速度。但它有3個重要的不足：①不適用于非結構化數據的存儲；②當數據庫的記錄數超過一定數量時，性能會急劇下降；③動態擴展性不足。

2 基于內存的key-value數據存儲

基于內存的key-value的數據存儲結構簡單，并具有高可擴展性和高效率訪問的特性。基于內存的key-value的數據存儲主要應用于對事務一致性、寫實時性、讀實時性要求不高，并且不會執行多表關聯查詢的場合。它一般用來作為大型網站動態數據的緩存，以提升高并發訪問的性能。典型的基于內存key-value的數據存儲系統有Memcached[5]和Redis。分布式的內存對象緩存系統Memcached是在內存里維護一張巨大的key-value數據表，用來存儲經常被訪問的數組和文件，它主要支持數據庫記錄，單個value不能超過1 MB。它一般用于減少數據庫負載，加速動態Web應用，提升訪問速度。Redis將整個數據庫加載在內存中進行操作，定期將數據備份到硬盤上。它支持List鏈表和Set集合的數據結構，單個value不能超過1 GB。

但是，key-value的數據存儲不能直接支持傳統應用的計算和數據存儲，這主要體現在以下3個方面：①傳統應用基于POSIX語義的數據訪問接口，key-value數據存儲系統一般采用put和get這2種典型的接口，在接口語義和接口實現上都不能與傳統應用相兼容；②key-value的數據存儲系統沒有充分考慮到數據一致性對傳統應用數據訪問性能的影響；③key-value存儲結構不支持存儲對象的區間查詢，這限制了數據對象的操作。

3 磁盤緩存

磁盤緩存是解決系統磁盤I/O瓶頸的傳統方法，其基本思想是充分利用局部性原理，將最頻繁訪問的文件數據存儲在內存中，盡量減少文件系統訪問磁盤的次數。采用緩存機制的目的是提高系統訪問內存數據的命中率，它一般輔以替換算法[6]和I/O聚合[7]2項技術。采用高效的替換算法，系統可以保證緩存空間中存儲的都是最頻繁或最近被訪問的文件數據；采用I/O聚合技術，系統可以盡量減少讀寫磁盤的次數。然而，磁盤緩存具有以下幾方面的不足：①需要頻繁地在內存與磁盤間移動數據，操作復雜。這是因為磁盤才是文件的最終存儲介質，將磁盤文件數據讀入內存，需要訪問元數據和數據，其管理的開銷比較大。②需要維護內存與磁盤間的數據一致性。采用緩存機制使得內存中的數據僅是一個備份，所以，必須采用可靠的機制保證內存與磁盤間的數據一致性。考慮性能和機器故障2個因素，數據一致性的維護就比較復雜。③無法解決網絡傳輸速度慢的問題。在傳統的基于磁盤的存儲系統中，磁盤I/O是整個系統的性能瓶頸。假設緩存容量增大至磁盤的容量，訪問操作的命中率可達100%.由于網絡傳輸延遲比DRAM的訪問延遲大得多，網絡數據傳輸將成為制約系統性能的重要因素。因此，不能簡單地采用增大內存的方法來解決磁盤I/O性能瓶頸。④無法高效地利用大量可用內存。當磁盤文件緩存的容量增大到一定程度后，由緩存增加所帶來的邊際效益將會減少[8]。當內存容量達到一定容量后，增大內存容量不僅無法明顯提高系統的性能，反而會使系統的能耗和一致性維護的開銷明顯增大。

4 內存文件系統

內存文件系統，是指直接在內存中建立文件系統，將內存作為元數據和數據存儲的基本介質。內存文件系統與磁盤緩存的最大區別是，內存是基本的存儲介質。內存的帶寬大，訪問延遲小，使用內存來替代磁盤能夠更加高效地緩解磁盤I/O瓶頸。

4.1 內存文件系統的優勢

內存文件系統主要有以下2個優勢：①內存文件系統的文件組織方式可以采用更加緊湊、更加高效的數據組織結構。鑒于DRAM在隨機訪問方面的優勢，內存中的數據存儲完全不需要采用固定數據塊大小的組織方式。更加緊湊的組織方式能夠更加高效地利用內存的空間。②與主存數據庫和key-value數據存儲相比，內存文件系統的內存存儲空間具有文件語義，系統可以使用文件訪問接口管理內存存儲空間。這一特性使內存文件系統能夠滿足傳統應用的需求。

4.2 分布式內存文件系統的優勢

分布式內存文件系統將內存作為基本的存儲介質，以磁盤作為數據備份設備，其邏輯視圖如圖1所示。

與傳統分布式文件系統相同，分布式內存文件系統具有高可擴展性、高容錯性、高可用性等特點。此外，分布式內存文件系統能夠充分發揮DRAM的性能優勢，具有高數據吞吐量和低訪問延遲的優勢。相對于主存數據庫和基于內存的key-value數據存儲，分布式內存文件系統具有兼容傳統應用的特性。

圖1 分布式內存文件系統的邏輯視圖

5 結論

基于內存存儲數據是緩解磁盤I/O性能瓶頸的可行方式之一，由于非易失性內存的特性，基于內存構建數據存儲系統還需要深入研究系統的可靠性技術。要想增強系統的可靠性，可以從供電系統、備份策略、數據冗余等方面入手研究，以確保系統不掉電、數據不丟失。

［1］DeWitt D J，Katz R H，Olken F，et al.Implementation Techniques for Main Memory Database Systems［C］//Proceedings of the ACM SIGMOD international conference on Management of Data.Boston：ACM，1984：1-8.

［2］HagmannRB.A crashrecoveryschemefora memory-resident database system［J］.IEEE Trans.Comput.，1986，35（9）：839-843.

［3］Lehman T J，Carey M J.Concurrency Control in Memory-Resident Database Systems［R］.University of Wisconsin-Madison Computer Sciences Department Technical Report，1987.

［4］Gray J，Putzolu F.The 5 minute rule for trading memory for disc accesses and the 10 byte rule for trading memory for CPU time［J］.Acm Sigmod Record，1987，16（3）：395-398.

［5］Masahiro Nagano.Memcached全面剖析［M］.&charlee，譯.［出版地不詳］：［出版社不詳］，2008.

［6］黃敏，蔡志剛.緩存替換算法研究綜述［J］.計算機科學，2010，33（12）：191-193.

［7］Dongarra J，Kennedy K，White A，et al.Sourcebook of Parallel Computing［M］.San Francisco：Morgan Kaufmann，2005.

［8］Roselli D，Lorch J R，Anderson T E.A Comparison of File System Workloads［C］//Proceedings of 2000 USENIX Annual Technical Conference.Monterey，San Diego，California，USA，2000：18-23.

TP301

A

10.15913/j.cnki.kjycx.2018.02.019

2095－6835（2018）02－0019－03

本文受軍隊某重大科研項目支持

許春聰（1980—），男，主要從事云計算、分布式文件系統方面的研究。劉釗（1983—），男，主要從事分布式系統、網絡安全方面的研究。文海雄（1976—），男，主要從事數據管理、信息服務方面的研究。黃忠主（1987—），男，主要從事數據挖掘、自動化系統方面的研究。鄭強（1986—），男，主要從事并行分布式處理、模式識別方面的研究。

白潔〕