999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

固態硬盤混合存儲數據庫的數據分布優化算法

2015-01-02 02:00:52周世民柴云鵬
計算機工程 2015年4期
關鍵詞:數據庫優化策略

周世民,柴云鵬,王 良,王 鑫

(1.中國人民大學a.數據工程與知識工程教育部重點實驗室;b.信息學院,北京100872;2.天津大學計算機科學與技術學院,天津300072)

1 概述

聯機事務處理(On-line Transaction Processing,OLTP)數據庫在IT系統中占有非常重要的地位,很多應用系統大多離不開數據庫,系統整體性能往往也由數據庫的性能所制約。因此,提升數據庫的性能具有非常重要的意義。傳統數據庫一般基于磁盤,磁盤具有穩定、非易失、大容量、成本低等優點,但主要的問題是訪問速度比較慢,因此不利于構造高性能的數據庫。

近年來,閃存存儲得到長足發展,不僅容量迅速增大,而且制造成本也逐漸降低,目前已經以固態硬盤(Solid State Drive,SSD)的形式進入了很多實際的存儲系統中,獲得實際的應用。但SSD的成本目前仍然比磁盤高很多,因此目前多和磁盤構成混合存儲,這樣既能提升系統性能,又能用較低的成本得到很大的存儲容量。基于SSD-磁盤混合存儲來構造OLTP數據庫系統是一種提升數據庫性能的有效方法。

OLTP數據庫要處理大量的交易請求,既需要大量的查詢等讀操作,同時也需要更新表和索引,有大量的隨機寫操作。在存儲層引入SSD,尤其是用來存儲一些訪問頻繁的數據,能夠充分利用SSD的訪問性能明顯高于磁盤的優點,尤其是對于隨機讀寫操作,從而提升OLTP數據整體的性能和服務能力。

但各種應用情況下數據庫中數據特征、訪問特征都有很大差別,數據庫不可能出廠時就確定一種普適的、面向混合存儲的數據分布優化策略,最理想的情況就是在運行時能夠自適應,根據應用特征自動調節數據分布。

本文提出一種面向混合存儲的OLTP數據庫數據分布自適應優化算法,可自動適應應用的特征,并通過觀測判斷各個數據元素的性能,從而在SSD和磁盤之間自動形成理想的數據分布。

2 相關工作

2.1 閃存和固態硬盤

隨著閃存在容量上的迅速增長和成本的降低,以閃存作為存儲介質的新型固態硬盤已經在企業得到實際的應用。SSD最大的優點就是隨機讀寫性能高,較普通磁盤的讀寫性能要高出1個~3個數量級[1],其中隨機讀性能比隨機寫性能更好。對于連續讀寫操作,SSD較普通磁盤高出2倍~4倍[2]。

SSD的隨機和連續的讀性能都比相應的寫性能要高,這個特性稱為讀寫不平衡[3],這不同于磁盤的讀寫性能平衡的特性,在一些情況下可能帶來不利的影響。比如數據從一塊SSD讀出并寫入另一塊SSD,那么由于讀性能高于寫性能,讀操作就必須等待寫操作。

SSD的另一個缺點是不支持寫覆蓋[3],和磁盤不同,SSD無法直接重用已經寫入數據的存儲單元,只有先進行擦除操作后才能執行下次的寫操作。而且,對于每塊存儲單元,允許擦除的總次數是存在上限的,即SSD的使用壽命有限。在SSD內部,如果部分存儲單元頻繁的執行擦除寫入操作,相應的存儲芯片就很容易出現擦寫壽命耗盡,從而變為壞塊的問題,從而導致SSD無法使用。目前主流SSD中閃存芯片的每個單元只能擦除5 000次~10 000次[4-5]。

2.2 OLTP數據庫和性能測試

數據庫產品一般可以簡單分為聯機事務處理(OLTP)和聯機分析處理(On-line Analytical Processing,OLAP)兩大類。OLTP是傳統關系型數據庫的主要應用形式,例如銀行交易等。OLTP數據庫對性能要求非常高,因此引入基于SSD的混合存儲能夠有效緩解I/O瓶頸,提升OLTP數據庫的性能。

針對OLTP數據的性能測試,一般都采用數據庫性能委員會發布的TPC-C測試[10]。TPC-C模擬了一個比較復雜并具有代表意義的OLTP應用環境:一個大型的商品批發銷售公司,它擁有若干個分布在不同區域的商品倉庫。當業務擴展時,公司將添加新的倉庫。每個倉庫負責為10個銷售點供貨,其中每個銷售點為3 00個客戶提供服務,每個客戶提交的訂單中,平均每個訂單有10項產品,所有訂單中約1%的產品在其直接所屬的倉庫中沒有存貨,必須由其他區域的倉庫來供貨。同時,每個倉庫都要維護公司銷售的100 000種商品的庫存記錄。

2.3 基于SSD的混合存儲

盡管SSD在性能等方面有明顯的優勢,但由于其價格相對較高,而且具有擦除壽命的限制,因此一般企業還是多以混合存儲的形式使用SSD,即由SSD和HDD來構成混合存儲。具體混合的方式分為兩大類:(1)SSD作為內存之下的二級緩存;(2)SSD代替部分磁盤,負責存儲一部分數據。

由于SSD緩存接入系統就可以直接使用,不需要對原有系統進行修改,因此現在基于這種結構的技術比較多,包括:EMC 的 FAST Cache[6],Intel的Turbo Memory[7],Solaris ZFS 文件系統中 L2ARC 算法管理的閃存緩存[8],以及Oracle數據庫中的智能閃存緩存[9]等。但是SSD緩存的主要挑戰是SSD的寫入量太大,容易導致SSD較短時間就報廢。SSD代替部分磁盤構成混合存儲的方案如果設計合理,可以避免寫入量過大的問題,也能夠得到更好的性能加速,也是本文所關注的方案。

3 自適應優化算法

3.1 數據分布自適應優化算法

圖1給出了數據分布自適應優化算法的流程,算法周期性執行,每個周期中分為觀測、決策、數據遷移幾個主要步驟。

圖1 數據分布自適應優化分布算法流程

首先經過較長時間的觀測期,算法會記錄每個表和索引的訪問特征,以便進行后續的決策。在決策步驟中,會根據SSD的空間,以及各個表和索引的訪問特征對其進行排序,排序方法由具體的決策策略決定。在決策之后,算法會判斷是否需要執行數據遷移方案:如果是第一次決策,SSD還是空白狀態,或者此次決策方案和目前SSD中存儲的數據差異較大,則執行數據遷移;否則不執行,此周期結束。如果需要執行數據遷移,則目標是將決策中排序最前面的若干個表和索引存入SSD中,直至SSD空間基本被占滿。

3.2 混合存儲優化策略

自適應數據分布優化算法框架中,數據分布決策部分是整個算法的核心。但實際上算法框架可以支持多種決策策略,每種策略有自己的特點,可以在不同環境下選擇不同的策略。

(1)I/O吞吐量優先策略

SSD的數據訪問性能全面高于磁盤。當把SSD和磁盤組成混合存儲時,SSD應該承擔更多的I/O訪問,這樣才能充分發揮SSD的性能優勢;但是SSD的空間有限,因此SSD中單位容量的數據應該承擔更多的I/O數據訪問。具體來說,數據庫中表和索引的按照rw/space因子進行排序,rw/space因子的含義是某個數據元素(表或索引)單位存儲空間數據的讀寫總量的貢獻值。

(2)I/O次數優先策略

由于SSD相對于磁盤在隨機讀、寫方面的性能優勢更為明顯,因此應該將小塊數據的隨機讀寫請求更多的數據元素存儲的SSD上。如果將盡可能多的I/O次數放到SSD上,那么很多小塊數據的隨機訪問都將由SSD承擔,而磁盤則承擔自己比較擅長的連續讀寫,即使訪問的數據量較大,性能相對也會比較高。因此,本文提出的I/O次數優先策略按照io/space因子對所有表和索引進行排序。io指每秒鐘完成的I/O請求次數,它反映的是數據I/O訪問的頻繁程度。io/space因子的含義是某個數據元素單位空間的數據對訪問次數的貢獻值。

4 實驗結果與分析

4.1 實驗環境

OLTP數據庫的性能測試一般采用國際標準的TPC-C測試(見2.3節的介紹),因此本文采用TPCC測試來進行數據分布自適應優化算法的實驗。實驗中生成的TPC-C測試數據總量約為13 GB,其中所涉及的9個表和11個索引,它們各自所占空間如表1所示。

表1 TPC-C測試中表元素和索引元素所占空間

為進行準確的測試,在服務器上搭建了完整的實驗環境。服務器為HP Proliant DL380,其中包括Intel Xeon E5-2609 CPU 2.40 GHz、16 GB 內存、4 塊SAS 1 TB 7200RPM構成的RAID5磁盤陣列,以及1塊三星的128 GB SSD。

數據庫軟件采用開源的PostgreSQL,PostgreSQL是當前最流行的對象關系型數據庫之一,主要用于OLTP應用。其主要特點是開源、功能完備、高可擴展性、可編程性強等[11]。而TPC-C測試工具采用開源的 BenchmarkSQL[12]。

4.2 性能測試

本部分在上述實驗環境中應用本文提出的數據分布自適應優化算法,分別測量了以下2種優化策略的性能。性能指標采用了TPC-C測試中常用的tpmC指標,即平均每分鐘可以完成多少次事務處理。

(1)I/O吞吐量優先策略

I/O吞吐量優先策略在觀測階段會按照數據元素單位存儲空間的讀寫訪問總量對所有數據元素進行排序,并優先選擇排名靠前的數據元素進入SSD存儲,TPC-C測試實驗中排名前10位的數據元素如表2所示。

表2 I/O吞吐量優先策略對數據元素的排序

基于表2的結果,圖2給出了不同SSD大小的情況下,整個數據庫系統的tpmC值,即性能情況。由圖2可知,隨著混合存儲中SSD空間占總空間比重的增大,數據庫系統的性能提升非常明顯,基本上是線性增加。其中當SSD空間占混合存儲總空間的比例約為40%左右時,性能提升更為迅速。

圖2 OLTP數據庫性能隨SSD空間增長的變化曲線1

值得注意的是SSD空間比例在40%附近經歷一個性能快速上升的階段后,有一個性能短暫下降的過程。其原因主要是增大SSD空間存儲更多內容時,按照本文方案,SSD中新增內容的熱度比之前有所下降;但新增數據卻要搶占有限的SSD訪問帶寬。由于新增數據熱度和之前SSD中數據相差較大,因此導致性能有短暫的下降。

(2)I/O次數優先策略

相對于前一種策略,I/O次數優先策略更傾向于把小塊數據的隨機訪問定向到混合存儲中的SSD,獲得更好的性能提升。在算法的觀測階段,I/O次數優先策略會以數據元素單位存儲空間的讀寫I/O總次數來作為排序標準。觀測結果如表3所示,其中,IO/space為單位存儲空間每小時的 IO次數。

表3 I/O次數優先策略對數據元素的排序

基于表3的決策結果,圖3給出了不同SSD大小的情況下,整個數據庫系統的tpmC值。由圖3可知,I/O次數優先策略的規律與I/O吞吐量優先策略非常相似,區別并不大。這也說明不論是以吞吐量為標準,還是以I/O次數為標準,只要將I/O更集中的數據元素存儲于SSD,混合存儲方案對OLTP數據的性能提升效果就非常明顯,基本可以達到線性提升。投入越多的SSD,就可以得到近乎同比例的更高性能。

圖3 OLTP數據庫性能隨SSD空間增長的變化曲線2

對于I/O吞吐量優先策略,SSD空間占比從5.5%提升到65.9%時,tpmC 可以提高到 5.44倍(1 220/224.3);而I/O次數優先策略,當SSD空間占比從5.5%提升到66.3%時,tpmC可以提高到5.53 倍(1 227.4/222.1)。

5 結束語

本文提出了一種基于混合存儲的OLTP數據庫的數據分布自適應優化算法,可通過自動觀測決定數據庫在SSD和磁盤之間的優化數據分布。基于實際數據系統的TPC-C實驗結果證明,本文提出的優化算法和2種優化策略,可以實現OLTP數據庫性能的線性提升。

[1] 陳明達.固態硬盤(SSD)產品現狀與展望[J].移動通信,2009,(11):29-31.

[2] Bausch D,Petrov I,Buchmann A.On The Performance of Database Query Processing Algorithms on Flash Solid State Disks[C]//Proceedings of the 22nd International Workshop on DatabaseandExpertSystemsApplications.Toulouse,French:IEEE Press,2011:139-144.

[3] Solid-state Revolution:In-depth on How SSDs Really Work[EB/OL].(2013-10-21).http://arstechnica.com/information-technology/2012/06/inside-the-ssd-re volution-how-solid-state-disks-really-work.

[4] Andersen D,Swanson S.Rethinking Flash in the Data Center[J].IEEE Micro,2010,30(4):52-54.

[5] Gal E,Toledo S.Algorithms and Data Structures for Flash Memories[J].ACM Computing Surveys,2005,37(2):138-163.

[6] EMC.EMC FAST Cache:A Detailed Review[EB/OL].(2011-12-12).http://www.emc.com/collateral/soft ware/white-papers/h8046-clariion-celerra-unified-fast-ca che-wp.pdf.

[7] Matthews J,Trika S,Hensgen D,et al.Intel? Turbo Memory:Nonvolatile Disk Cachesin the Storage Hierarchy of Mainstream Computer Systems[J].ACM Transactions on Storage,2008,4(2).

[8] Bitar R.Deploying Hybrid Storage Pools with Sun Flash Technology and the Solaris ZFS file System[EB/OL].(2011-02-13).http://wikis.sun.com/download/attach ments/190326221/820-5881.pdf.

[9] Oracle.Exadata Smart Flash Cache and the Sun Oracle Database Machine[EB/OL].(2009-03-06).http://www.oracle.com/technetwork/middleware/bifoundation/exadata-smart-flash-cache-twp-v5-1-128560.pdf.

[10] TPC-C標準文檔[EB/OL].(2010-05-06).http://www.tpc.org/tpcc/spec/tpcc_current.pdf.

[11] PostgreSQL Introduction[EB/OL].(2013-08-09).http://www.postgresql.org/about.

[12] BenchmarkSQL[EB/OL].(2014-09-10).http://sourceforge.net/projects/benchmarksql.

猜你喜歡
數據庫優化策略
超限高層建筑結構設計與優化思考
房地產導刊(2022年5期)2022-06-01 06:20:14
民用建筑防煙排煙設計優化探討
關于優化消防安全告知承諾的一些思考
一道優化題的幾何解法
例談未知角三角函數值的求解策略
我說你做講策略
高中數學復習的具體策略
數學大世界(2018年1期)2018-04-12 05:39:14
數據庫
財經(2017年2期)2017-03-10 14:35:35
數據庫
財經(2016年15期)2016-06-03 07:38:02
數據庫
財經(2016年3期)2016-03-07 07:44:46
主站蜘蛛池模板: a国产精品| 5388国产亚洲欧美在线观看| 国产综合亚洲欧洲区精品无码| 欧美有码在线| 婷婷午夜天| 四虎永久免费地址| 毛片在线播放a| 欧洲av毛片| 久久精品人妻中文系列| 久久精品人人做人人爽97| 日本爱爱精品一区二区| 成色7777精品在线| 夜精品a一区二区三区| 亚洲天堂网视频| 日本欧美视频在线观看| 四虎永久在线精品影院| 国产欧美在线观看视频| 欧美亚洲国产视频| a级毛片免费网站| 国产亚洲视频免费播放| 中文字幕在线免费看| 亚洲成aⅴ人片在线影院八| 免费aa毛片| 丝袜无码一区二区三区| 国产成人精品视频一区二区电影| 5555国产在线观看| 深爱婷婷激情网| 国产美女在线观看| 亚洲福利视频网址| 91九色最新地址| 久久黄色影院| 91最新精品视频发布页| 91欧美亚洲国产五月天| 欧美黄网站免费观看| 狠狠色成人综合首页| 国产精品三级专区| 国产美女精品在线| 日韩中文无码av超清| 日韩 欧美 国产 精品 综合| 日韩av无码精品专区| 国产中文一区二区苍井空| 91精品人妻互换| 久久免费视频播放| 97视频免费看| 国产网站免费观看| 国产午夜精品一区二区三区软件| 三区在线视频| 亚洲一级毛片在线观播放| 亚洲AⅤ无码国产精品| 欧美一区日韩一区中文字幕页| 制服无码网站| 熟女日韩精品2区| 99视频精品在线观看| 自拍偷拍欧美日韩| 亚洲永久色| 高清不卡毛片| 制服丝袜国产精品| 亚洲乱码在线视频| 99在线小视频| 成AV人片一区二区三区久久| 国产精品极品美女自在线| 国产真实乱了在线播放| 免费AV在线播放观看18禁强制| 亚洲欧美精品日韩欧美| 日韩在线永久免费播放| 国产一区二区在线视频观看| 久久天天躁狠狠躁夜夜2020一| 国产成人综合亚洲网址| 97免费在线观看视频| 内射人妻无套中出无码| 免费av一区二区三区在线| 亚洲国产欧洲精品路线久久| 欧洲日本亚洲中文字幕| 亚洲精品无码日韩国产不卡| 精品偷拍一区二区| 日韩成人免费网站| 亚洲欧美在线看片AI| 91精品国产福利| 久久精品丝袜高跟鞋| 久久不卡国产精品无码| www亚洲精品| 亚洲AV无码乱码在线观看裸奔|