GeoEast數據庫調優技術研究與應用

張潔 趙玉梅 史哲 張紅杰 張衛華 尹龍

摘? 要： 隨著地震勘探精度不斷提高，野外勘探數據量逐年增大，GeoEast系統中運行的項目數據量呈PB級增長。Oracle服務器負載過重導致假死和死機、監聽服務異常給GeoEast項目的正常運行帶來了重重困難。針對上述問題，從GeoEast數據庫調優技術的研究入手，分析造成Oracle負載重的各項因素，以及對不同場景下監聽狀態的判斷等，歸納出一些數據庫調優技術和方法，以作參考。

關鍵詞： GeoEast; Oracle數據庫; Oracle監聽; 作業調度

中圖分類號：TP311.5? ? ? ? ? 文獻標志碼：A? ? ?文章編號：1006-8228（2019）05-12-04

Abstract： With the increasing accuracy of seismic exploration， the amount of field exploration data has increased year by year， and the amount of project data running in the GeoEast system has increased by PB level. Excessive load on the Oracle server leads to suspended animation and crash， and the abnormality of the listening service brings difficulties to the normal operation of the GeoEast project. In order to solve above problems， this paper starts with the research of GeoEast database tuning technology， analyzes the factors that cause the heavy load of Oracle and the judgment of the monitoring state in different scenarios， and summarizes some database tuning techniques and methods for future reference.

Key words： GeoEast; Oracle database; Oracle listener; job scheduling

0 引言

近年來，隨著油氣勘探的不斷深入，油田開發對地震數據的精度要求越來越高，地震勘探逐步朝著高密度、寬頻帶、全波場方向發展，地震勘探數據量呈幾何級數增長。GeoEast系統作為國內首款由中國石油集團東方地球物理公司自主研發的大型地震資料處理解釋一體化軟件[1]，在廣泛應用于海量地震數據處理的同時，也面臨著一些挑戰。在GeoEast系統中，Oracle數據庫起著至關重要的作用。其數據庫保存了所有項目、工區的信息，以及需要進行大量計算的近地表信息。在GeoEast軟件中，幾乎所有的操作都要通過數據庫來進行。一旦數據庫中有大量運算產生，就會使數據庫節點發生堵塞甚至假死，造成整套GeoEast系統停滯或者無法使用。如果數據庫因異常中斷或服務器死機等原因而發生損壞，將會對項目造成致命的后果。為了提高GeoEast系統運行效率，需要結合生產現狀對數據庫調優技術進行分析與研究，以滿足GeoEast海量數據處理的需求。

1 GeoEast數據庫負載的自動控制

目前一套數據庫服務器上往往有多個GeoEast項目同時運行，生產項目所使用的集群計算節點數量多達上百臺，項目總數據量呈PB級，同時運行的作業數量成百上千[2]，這些都給數據庫服務器的運行帶來了巨大的壓力。針對這些問題做了大量的研究與測試，并提出了一定的優化技術解決方案。

1.1 存在的問題

在GeoEast使用中，數據庫服務器往往出現CPU負載大、內存消耗大、數據庫連接進程多等現象，產生這種現象的根本原因是由于系統中同時有大量的作業在運行，服務器負載過重，造成系統反應慢甚至服務器死機[3]。情況嚴重的話會導致整套集群所有計算節點全部空轉、GeoEast軟件無法進行交互操作、所有作業全部停滯無法運行等后果。

1.2 負載控制解決方案

1.2.1 GeoEast數據庫負載影響因素分析及閾值設置

通過對影響GeoEast數據庫負載的因素進行大量的測試與分析，歸納總結出四種與數據庫服務器負載緊密相關的主要因素：數據庫進程數、系統負載、CPU利用率以及內存利用率。對各項因素設置高低閾值范圍。

⑴ Oracle進程數：數據庫相關進程總數。GeoEast系統在作業多、數據量大的情況下會與數據庫之間頻繁地進行通訊，產生多個訪問oracle數據庫的進程。如果數據庫進程數過多，則會對軟件、oracle服務器產生巨大的壓力。結合GeoEast大數據的處理現狀，經過反復的測試和運用，在滿足生產和機器性能的條件下建議將該因素低閾值設置為13500，高閾值設置為14000。

⑵ 系統負載：系統CPU繁忙程度的度量，即一段時間內CPU正在處理以及等待CPU處理的進程數之和的統計信息。若服務器核心數為N，則建議將負載指標低閾值設置為N，高閾值設置為N+2。該指標可根據設備實際配置和作業運行情況進行調整[4]。

⑶ CPU利用率：程序在運行期間實時占用的CPU百分比。建議將GeoEast數據庫服務器CPU利用率低閾值設定為70%，高閾值設定為80%，超過高閾值后系統響應變慢，整體性能有明顯下降。

⑷ 內存利用率：進程實際所開銷的內存百分比。當軟件與數據庫之間的通訊進程較多時，會出現內存被耗盡而去調用swap交互區的情況，從而直接影響到軟件系統的整體性能，無論是作業的速度還是軟件的交互效率，都會受到嚴重的影響。建議設置內存利用率低閾值80%，高閾值90%。

1.2.2 GeoEast作業調度機制

GeoEast系統中作業的調度與分發是通過GJSF（GeoEast Job Scheduling Facility）系統實現的。作業調度主控程序jsfserver負責監聽各個計算節點的資源連接請求，同時負責與各節點控制程序和各控制臺程序進行通信，完成作業/節點的管控、管理命令的執行，以及各種事件的派發等。計算節點控制程序nodectrl負責收集本節點以及本節點上所有活躍作業的資源使用狀況，監控各作業的運行狀態，收集各作業的標準輸出，并以報告的形式發送給調度服務器;負責執行調度服務器發送的各種系統管理命令和作業管理命令;負責與協同式作業進行通信，完成相關消息的接收、轉發和處理[5]。如果可以根據數據庫服務器實時的運行狀況動態地控制系統中的作業調度，在數據庫負載高的時候將調度中新分配的作業狀態轉為queue排隊等待狀態，在數據庫負載降低的時候將排隊的作業恢復成active正常運行狀態，可有效降低因作業數量過多而可能造成的服務器死機的風險。

1.2.3 通過作業調度控制數據庫負載

根據上面總結的四種與數據庫負載相關的主要因素，通過程序的編寫，對各項指標設置高低閾值，從而動態控制服務器上的作業調度，實現數據庫負載的自動調節（圖1）。

每個因素指標都有高、低兩個閾值，當任意一項指標達到高閾值時，服務器會掛起GJSF作業調度;當所有指標回落到低閾值以下時，服務器自動恢復GJSF作業調度。通過控制作業數量避免數據庫服務器超負荷運行，從而保證整套GeoEast系統正常運行。

1.2.4 過期進程清理

GeoEast一些過期卻沒有正常退出的進程往往占用了大量的數據庫進程，如圖2中，一個打開超過半個月的交互界面沒有正常退出占用了312個數據庫連接數。這一類型的過期進程如果在系統中大量存在也會造成數據庫進程過多導致數據庫服務器性能下降。

針對這一類情況，通過編程實現每天固定時間自動查殺超過7天的sjob、thjob等作業和GeoSeismicView、jobeditor、GeoJobConsole等進程，釋放一些不需要的數據庫進程。

1.3 應用效果

通過負載自動調節技術，數據庫服務器假死或死機的頻率大幅降低，對數據庫服務器進行監控可以看到，調優前數據庫服務器CPU的系統開銷極大，而用戶實際開銷很小，內存損耗大，swap分區占用率高，整個系統響應速度緩慢。而調優后各項數值都明顯下降，數據庫服務器死機風險大大降低，系統的運行效率提高，達到了滿意的效果（圖3）。

2 GeoEast數據庫監聽進程的自動控制

2.1 研究背景

2.1.1 數據庫監聽的作用

數據庫監聽進程用于監聽所有來自客戶端的連接請求，并提供處理數據庫服務方面的請求。該進程負責監聽用戶的連接請求，每當收到一個用戶請求，監聽器進程就會創建一個影子進程，然后把用戶請求轉交給這個影子進程，由影子進程繼續完成用戶提交的各種命令。一旦監聽進程把用戶轉交給影子進程，監聽進程的任務就算完成了，會繼續去監聽下一個用戶請求。

2.1.2 數據庫監聽故障的影響

在GeoEast系統中，數據庫監聽一旦出現故障，會導致作業與數據庫連接異常、用戶打不開文件及應用模塊、GeoEast作業出錯、已打開的geoeast主控無響應等情況，導致整套軟件無法正常運行[6]。

2.2 監聽自動控制的實現

2.2.1 監聽狀態四種場景

根據監聽服務的運行狀態、監聽進程個數的判斷可以將數據庫的監聽狀況大致分為以下四種場景：

⑴ 監聽服務運行正常，監聽進程個數異常;

⑵ 監聽服務運行異常，監聽進程個數正常;

⑶ 監聽服務運行異常，監聽進程個數異常;

⑷ 沒有檢測到監聽服務。

四種場景下監聽的狀態各不相同，需要針對實際情況進行監聽的動態控制。

2.2.2 監聽服務狀態判定

通過程序的編寫，對數據庫監聽服務狀態是否正常進行檢查，再對監聽數量進行檢查（見圖4），根據不同場景選擇是否啟動、停止、重啟監聽服務，并生成監聽檢查日志。

2.3 應用效果

通過對監聽服務自動控制，可以實現不同狀態下監聽服務的保護。

應用1：監聽狀態正常，但監聽進程個數異常，自動殺掉多余的監聽進程。

應用2：監聽狀態異常，但監聽進程個數正常，自動重啟監聽進程。

應用3：監聽狀態異常，且監聽進程個數也異常，自動重啟監聽進程，并殺掉多余的監聽進程。

應用4：當沒有檢測到監聽進程時，自動啟動監聽進程。

3 結束語

隨著地震資料兩寬一高處理技術的不斷進步和野外原始數據量的不斷增大，隨之而來的海量數據給數據庫服務器帶來的各種挑戰和影響一直是GeoEast系統運維工作的一個難點。本文經過不斷的摸索與研究，通過閾值檢測控制作業調度的方法實現了GeoEast數據庫負載的自動控制，通過不同場景下監聽狀態與個數的掃描，實現了數據庫監聽進程的自動控制，大大降低了GeoEast數據庫故障率，提高了數據庫的運行效率。該技術適用于所有的GeoEast數據庫服務器，具有良好的推廣應用前景。此外，在GeoEast數據庫參數調優方面還存在提升空間，有待于我們結合實際生產進一步探索與研究。

參考文獻（References）：

[1] 徐少波，白雪蓮，曾強，林茂春，黃燕，潘煥革.GeoEast地震數據處理解釋一體化軟件系統[J].石油工業計算機應用，2016.3（24）：6-P11

[2] 尹龍，張衛華，程實，郭冶，梁妍，牛犇.大規模計算機集群在地震勘探資料處理中的應用探討[J].計算機時代，2016.8：1-P3

[3] 龔莉，趙玉梅，張紅杰，鄭玉霞，劉宗祥.GeoEast海量數據處理資源優化配置技術研究與應用[J].計算機光盤軟件與應用，2014.6：101-103

[4] 陳繼紅，趙書華，祝寬海，王仕檢.優化系統配置提高GeoEast系統運行效率[J].物探裝備，2010.4（20）：219-222

[5] 羅剛，陳繼紅，孫孝萍，周坤，杜吉國.大規模異構集群地震作業調度與資源管理系統的設計與實現[J].石油地球物理勘探，2017.52：200-206

[6] 劉峰.Linux下Oracle集群常見問題及解決策略[J].計算機光盤軟件與應用，2012.6：38-39