改進的神經

宋建國 李賦真 徐維秀 李 哲

(①中國石油大學(華東)地球科學與技術學院，山東青島 266580； ②中國石油集團東方地球物理公司大港物探處，天津 300280； ③中國石化石油工程地球物理公司勝利分公司，山東東營 257600)

1 引言

地震資料初至拾取技術是靜校正[1]、層析成像[2]及VSP等技術的關鍵，初至拾取的正確與否，在很大程度上影響后續處理精度。截至目前，盡管初至拾取技術經歷了幾十年的發展，但在地表復雜及信噪比較低的情況下，要想取得好的拾取效果依然存在困難。隨著初至波層析技術向三維方向[3]發展，初至拾取變得更為繁重，探尋穩定可靠的自動拾取技術顯得勢在必行。

在地震數據處理過程中，通常都是根據地震信號的振幅、能量、頻率或相位等的變化確定地震波的初至時間，此外還可根據相鄰道之間的相關特征判斷初至時間。迄今為止，人們已提出多種初至波拾取方法，如能量比值法[4]、瞬時強度比法[5]、神經網絡法、圖像處理法[6]、分形法[7]等。其中能量比值法、瞬時強度比法、分形法等都是基于單一地震道時窗特征判斷初至時間，未考慮多個地震道之間的相互關系。此外，這類方法通常僅考慮單一特征，沒有綜合考慮其他特征，造成這類算法穩定性欠佳，在資料信噪比較低時拾取效果不理想。因此，要想提高初至拾取算法的穩定性和精確度，需綜合考慮多種地震屬性及相鄰道之間的相互關系，而神經網絡初至拾取方法就做到了這些。

由于BP神經網絡結構簡單，算法易于實現，因此早已被應用于初至拾取領域[8-10]。但該算法存在收斂慢、易陷于局部極值、網絡結構難以確定等問題； 且因BP網絡是靜態網絡，不能學習額外樣本集以擴展網絡知識，難以滿足復雜地形區初至拾取要求，因此未被推廣應用[11]。而采用級聯相關(Cascade-Correlation，簡稱CC)算法[12，13]就能很好地解決BP算法存在的問題，具有更強的應用潛力。

神經網絡初至拾取是通過神經網絡對樣本的學習來建立一個分類規則，以此對初至波進行模式識別并拾取。該分類規則是否合適取決于兩個方面： ①神經網絡訓練的好壞； ②地震屬性選取是否恰當。由于CC算法起始于一個最小網絡(無隱含神經元)，這意味著在訓練初始階段將經歷繁雜過程和花費大量時間，也必定增加計算量且降低網絡收斂速度[14，15]。本文力圖改進CC算法，即從適合的初始網絡結構開始學習，使其具有計算更高效和收斂更快速的特性。同時為了保證級聯神經網絡的泛化能力，本文在CC算法訓練候選隱含神經元的目標函數中加入正則化項，這樣就可有效防止候選神經元權值的病態增長，提高網絡的泛化能力，并加快神經網絡的收斂速度。

地震屬性中不僅含有地下地質體[16]信息，也含有反映地震波類型的信息，這是利用地震屬性識別初至波的基礎。地震屬性種類眾多，初至拾取的效果取決于地震屬性的選取，所選地震屬性必須具有一定的穩定性[17]，通常還可選取多種地震屬性進行組合以更利于正確區分初至波和非初至波。

2 級聯相關算法

級聯相關算法是一種神經網絡自底向上構造算法[12，13]，是Fahlman等[12]為了解決傳統BP算法收斂速度慢的缺點而提出的。該算法的命名即反映了其主要特征：新的隱含神經元與以前的網絡拓撲結構呈級聯相關關系。通過相關性學習算法，調整輸入權值，使新增神經元輸出與原網絡輸出殘差的相關性最大。

與BP算法相比，CC算法具有以下優點： ①能自行決定算法網絡結構； ②學習速度較快； ③當樣本集改變時，依然能保留已建立的網絡結構和知識體系； ④若需訓練一個額外的樣本集，CC算法能擴展網絡大小，并把新樣本合并到原有知識體系中。

CC算法的實現包含下列步驟。

(1)初始化網絡。構建兩層網絡結構：輸入層、輸出層，并對其權值進行隨機初始化設置。

(2)訓練輸出層。選取適用算法迭代調整輸出層權值，以誤差無明顯改進(變小)為迭代停止條件；當停止迭代后，根據對誤差的標準，選擇停止訓練，或轉入下一步。

(3)訓練候選隱含神經元。根據級聯、相關的特征，迭代訓練候選隱含神經元的權值，直到原網絡與新網絡輸出殘差關聯度最大。

(4)凍結和連接新隱含神經元。固定新隱含神經元的權值并連接它的輸出到網絡輸出層。重新調整輸出層，轉到步驟(2)。

將CC算法應用于初至拾取還需解決以下問題： ①由于CC算法從僅有輸入層和輸出層的最小網絡開始學習，逐一自動地增加隱含神經元，直到目標網絡收斂，這就意味著需大量的過程步驟和時間來學習，從而增加了計算量并使收斂速度減慢[14，15]； ②CC算法構建的是一個多層神經網絡，每增加一個隱含神經元，在效果上相當于增加了一個新的隱含層，新增隱含神經元越多，即新構建的神經網絡就越復雜，這樣常易導致神經網絡對訓練樣本產生過擬合[13]； ③最大化候選隱含神經元的輸出與原網絡輸出殘差的關聯度(即協方差)往往會使候選隱含神經元的權值對誤差進行過度補償，這被稱為“權值病態增長”[18]，該現象會嚴重影響網絡泛化能力。

2.1 級聯相關算法的改進

常規CC算法起始于一個最小網絡(無隱含神經元)，這樣必定增加計算量，同時也降低了網絡收斂速度。若從某個適當網絡開始訓練，則能顯著提高網絡收斂速度[14]。改進后的CC算法包括初始網絡訓練、候選隱含神經元訓練、輸出層訓練三個階段。

(1)

圖1 初始網絡(a)與增加1個(b)、2個(c)隱含神經元網絡示意圖

為了防止最大化相關性C時候選節點權值病態增長，在式(1)中引入正則化項

(2)

式中λ為正則化系數。在候選隱含神經元訓練的目標函數中加入正則化項，可有效地對權值進行衰減，防止權值的病態增長，降低網絡復雜程度，提高了網絡的泛化性能。

當所有候選隱含神經元與原網絡的相關性不再變化時,停止訓練； 再從多個(通常為4～8個)候選隱含神經元中選取關聯度最大的候選隱含神經元作為新隱含神經元，使其輸出端與網絡輸出神經元的輸入端相連接，并凍結新隱含神經元的輸入端權值，刪除其他候選隱含神經元，進而對新網絡進行輸出層訓練。

在輸出層訓練階段，通過調整連接輸出層權值，使全局均方誤差最小化。全局均方誤差可表示為

(3)

式中：tp,o為輸出層神經元o中樣本p的期望值；yp,o為輸出層神經元o中樣本p的網絡輸出值。

訓練算法可采用梯度下降法或Quickprop算法，但Quickprop算法在收斂速度方面更具優勢。訓練過程中設定原隱含神經元仍然對目標函數有效，因此保持所有原隱含神經元輸入端權值不變，僅允許輸出神經元輸入端權值改變。當全局均方誤差不再明顯減小時，終止訓練。同時，新一輪候選隱含神經元訓練階段開始。在整個學習過程中，候選隱含神經元訓練、輸出層訓練階段交替出現，直到全局均方誤差小于目標值為止。

2.2 Quickprop算法

Quickprop算法由Fahlman[19]提出，這是一種利用誤差平面彎曲部分的信息來加快學習的一種算法，因此需計算誤差的二階導數。該算法有兩個基本假設： ①誤差函數對每個權值的曲線都是二次曲線； ②每個權值的誤差曲線的斜率變化不受其他權值的影響。Quickprop算法計算每個權的方向導數。基于這兩個假設，根據當前時刻和前一時刻的斜率和權值，通過計算拋物線的最小值，求出當前時刻的最優調節量

(4)

式中： Δwij是神經元i和j的連接權值(wij)的調節量；S(t+1)和S(t)是當前時刻與前一時刻的誤差函數對wij的偏導數。

另外，當S(t+1)與S(t)方向相同，但S(t+1)與S(t)的值接近，或S(t)大于S(t+1)時，式(4)會有很大的調節量，或反向調節到拋物線的最大值點。若單純采用式(4)調整權值，算法出現不穩定甚至難以收斂。本文采用的權值調整公式為

Δwij(t+1)=μβΔwij(t)-(1-μ)ηS(t)

(5)式中：η為學習速度；μ為0～1之間的一個調節量，取為0時，式(5)退化為梯度下降法公式，由下式得出

(6)

選取合適參數可使算法穩定且快速收斂。在算法開始時， Δwij為零值，不能用式(5)進行調整，而是用梯度下降法計算下一時刻的權值調節量

(7)

2.3 仿真試驗

為了驗證CC神經網絡改進前后的收斂性能及其泛化能力，進行了仿真試驗。神經網絡訓練的目標函數為

(8)

訓練樣本從0到1之間等間隔取樣，即輸入xi如下式所示

(9)

由此可獲得50個樣本對{(x1,y1),…,(xi,yi),…,(x50,y50)}作為神經網絡的訓練樣本，測試樣本為500個，其輸入xi為區間[0，1]之內的隨機值，將其輸入到訓練過的神經網絡可得函數的逼近值，實際函數值由式(8)計算得出。

初始網絡結構為1—2—1(即一個輸入節點，兩個隱含節點，一個輸出節點)的三層BP網絡，激勵函數采用Sigmoidal函數，初始權值取(-1.0，1.0)范圍內隨機值，候選隱含神經元訓練過程中同時訓練8個候選節點。圖2是改進前、后CC算法的均方誤差對比圖，可見改進CC算法僅需添加7個隱含神經元就可完全收斂，均方誤差為0.0001，而常規CC算法需添加17個隱含神經元才收斂到目標誤差。

在[0，1]之間隨機取500個測試樣本，輸入到已訓練好的神經網絡，用于驗證神經網絡的函數逼近效果。圖3為兩種神經網絡輸出結果： 常規CC算法函數逼近出現“鋸齒”形狀，權值病態增長影響了網絡的泛化能力(紅色曲線)； 綠色曲線是改進后CC算法函數逼近效果，“鋸齒”現象消失，與實際曲線吻合很好。

仿真過程中，對訓練和測試重復了30次。表1為算法改進前、后的對照效果，可見改進后的CC算法不僅提高了收斂速度，而且在一定程度上提高了神經網絡的泛化能力。

圖2 均方根誤差對照圖

算法平均新隱節點數平均訓練誤差平均訓練時間/s平均測試誤差常規CC16.57.82×10-443.61.63×10-3改進CC7.04.15×10-45.75.19×10-4

3 地震屬性提取及交會分析

地震屬性的選取是神經網絡初至拾取過程中重要一環，地震屬性的穩定性影響初至拾取精度。不同的地震屬性在不同地區以及針對不同的震源會有不同的拾取效果，因此穩定的地震屬性以及能正確區分初至波的地震屬性是神經網絡識別初至波的前提。

通過算法編程從地震資料中提取多種地震屬性，然后進行分析對比，最后選取瞬時強度比、振幅、頻率、曲線長度比、相鄰道相關性這五種地震屬性來綜合識別初至波。瞬時強度比是通過先對地震道做希爾伯特變換，通過復地震道分析技術可求得瞬時振幅，然后再計算前后兩時窗內瞬時振幅的平方和之均方根之比便可求得瞬時強度比。頻率是為了考察地震道局部波形的主頻，一般在一個高斯時窗內對地震數據做短時傅氏變換可求得主頻。圖4為振幅和頻率與瞬時強度比的三維交會圖，可看出初至波與非初至波有明顯的分類邊界。

相鄰道相關性是在選定時窗內考察當前道與前后相鄰n道局部波形的相似性而提出的一個地震屬性，可用于檢測初至波同相軸。即通過傾角掃描相關法[20]求得當前道與前后n道互相關函數平均值的極大值，其值介于0～1之間。在初至波處，當前道與前后n道一般有很強相似性，即屬性值為一較大值。如圖5所示：在初至波之前為隨機噪聲，其屬性值為一個較小值；初至波之后的有效波若存在同相軸，其屬性值仍為一較大值，故該屬性是半穩定的，需結合其他地震屬性共同識別初至波。

圖5 相鄰道相關性隨道號的分布

曲線長度比是將時窗內的地震波包絡線長度的變化作為一種地震屬性，用以識別初至波。曲線長度比即為前后相鄰兩時窗內線積分比值，它體現了地震波的振幅和頻率特征[21]，其變化情況能反映波形的變化情況。圖6是曲線長度比與相鄰道相關性的交會圖，圖7是曲線長度比與振幅、頻率的三維交會圖，從兩圖可看出初至波與非初至波同樣分類邊界依然非常明顯。

圖6 相鄰道相關性與曲線長度比的交會圖

圖7 振幅和頻率及曲線長度比的交會圖

瞬時強度比、振幅、頻率、曲線長度比、相鄰道相關性這五種地震屬性的組合適應于不同地形的神經網絡初至波拾取的要求，其組合有較強的穩定性，對低信噪比數據的初至也有較強的識別能力。

4 神經網絡在初至拾取中的應用

4.1 輸入及輸出數據的處理

神經網絡訓練需要可靠的訓練樣本，本文采用手工拾取的初至波作為訓練樣本。為了方便進行手工拾取并保證神經網絡的拾取精度，僅考查初至波波峰，手工拾取初至波的波峰時間。考慮到地層的吸收衰減及波前擴散效應，地震數據的近炮檢距振幅值與遠炮檢距的振幅值差異較大，在提取地震屬性前先對地震數據進行歸一化，消除近炮檢距和遠炮檢距地震數據的振幅差異，這樣有利于提高初至拾取的精度。提取地震屬性時，根據人工拾取的初至波峰時間提取初至波的屬性值，然后再求取初至波前后四個非初至波波峰的地震屬性值作為神經網絡的訓練樣本數據。

采用Sigmoidal函數作為神經網絡激勵函數，根據其“倒鐘”分布特性，當數據在遠離0的區域里進行學習時，處于飽和區段，學習收斂速度很慢，甚至出現麻痹現象，因此需要對樣本輸入進行規范化。規范化公式如下

(10)

式中：x′為規劃化后的特征樣本；xmax為特征樣本極大值；xmin為特征樣本的極小值。

圖8為噶爾盆地M工區測線的地震數據初至拾取效果，從中可看出，初至波到達前存在一定的噪聲干擾，但初訓練樣本進行規范化后，輸入數據都在區間[0，1]內，確保在不減少數據間聯系的前提下，提高了網絡訓練和學習的速度。

將訓練成功之后的神經網絡用于初至拾取時，考慮到其工作效率，不可能逐個考察每個采樣點，因此，為了提高拾取效率，對初至波搜索范圍進行了限制。其方法是對手工拾取的初至波峰時間(必須包含近炮檢距與遠炮檢距的初至數據)與其炮檢距進行最小二乘法曲線擬合，得到初至波峰時間與炮檢距的近似關系式。在隨后的拾取過程中再調用這個關系式，根據炮檢距信息估算初至波時間，然后以此估算的初至波時間為中點開了一個搜索時窗，神經網絡在此時窗內搜索初至波波峰即可。考慮到折射波的傳播特征[22]，可以設定一個最小折射波速度和一個最大折射波速度，根據這兩個速度以及炮檢距信息來確定初至波的搜索范圍。

神經網絡拾取的是初至波的波峰時間。對可控震源，其初至時間即為波峰時間； 對炸藥震源，其初至時間則為初至波起跳時間[23]。炸藥震源初至波起跳點與初至波峰點之間的時間差與初至波周期有關，一般為3/4個周期。因此，要想得到炸藥震源初至波起跳點時間，則需對拾取初至的位置做時移。可直接利用地震屬性提取過程中得到的初至波頻率信息，若初至波頻率為f，則時移量可由Δτ=3/(4f)求得。

4.2 實際地震資料處理

為了檢驗本算法的拾取效果，對中國西部三個不同地區的地震數據進行了初至拾取測試。上述圖8為取自準噶爾盆地的地表起伏不大、初至波清晰的地震數據，可見拾取效果非常理想。

圖9為寧夏銀川盆地L工區的地震資料。該測線貫穿沙漠和山前礫石帶的交界，圖9中炮集左側為沙漠中采集的地震數據，右側為山前帶采集的地震數據。圖中地震折射波非常明顯，能量較強，甚至超過直達波，運用本算法拾取的初至波峰依然能取得了好的效果。圖10為圖9的局部放大，圖中紅色水平小線段對應本文方法拾取的每一道的初至波，這些紅色的小線段密集地排在一起，形成了圖9中的紅色曲線。可看到圖10中直達波與折射波交界處拾取效果也非常理想。

圖11、圖12為延安黃土塬地區的原始地震資料及其拾取結果，圖中的紅色線段意義與圖9一樣。

圖8 準噶爾盆地M工區地震數據拾取結果

圖9 寧夏銀川盆地L工區地震數據拾取結果

圖10 圖9放大效果

圖11 延安黃土塬地區地震數據的拾取結果

圖12 圖11放大效果

該地區地表起伏大，未做高程校正之前，初至波高低起伏不定，常規初至拾取方法難以取得較好效果，采用本算法初至拾取正確率達到95%以上，圖12為圖11局部的放大，圖中極個別點存在誤差。

5 結束語

CC算法較之BP算法在初至拾取方面有較大優勢，不僅收斂速度快，而且能自行確定網絡的拓撲結構，更重要的是這種算法能擴展網絡大小以學習新樣本(BP算法不具備的)。改進的CC算法進一步提高了收斂速度和泛化能力。地震屬性的選取是影響初至拾取精度的一個重要方面，本文所選的五種地震屬性能夠較好地用于識別初至波； 五種地震屬性的組合對初至波的區分能力較強，效果相對穩定性； 實際地震資料的拾取取得了良好的效果。

當然神經網絡不是萬能的，對于品質較差的地震資料，其拾取結果也存在一定誤差，如何從拾取結果中剔除不可靠的初至波是進一步研究的重點。

[1] 曾慶才，曾同生，歐陽永林等.復雜山地層析反演靜校正新方法及應用.石油地球物理勘探，2017，52(3)：418-425，441. Zeng Qingcai，Zeng Tongsheng，Ouyang Yonglin et al.A new tomographic inversion for static corrections in complex mountain areas.OGP，2017，52(3)：418-425，441.

[2] 謝春，劉玉柱，董良國等.基于聲波方程的有限頻伴隨狀態法初至波旅行時層析.石油地球物理勘探，2015，50(2)：274-282. Xie Chun，Liu Yuzhu，Dong Liangguo et al.First arrival tomography with finite frequency adjoint state method based on acoustic wave equation.OGP，2015，50(2)：274-282.

[3] 楊國權，丁鵬程，李振春等.應用線性程函方程和整形正則化的三維初至波旅行時層析.石油地球物理勘探，2017，52(2)：264-272. Yang Guoquan，Ding Pengcheng，Li Zhenchun et al.3D first arrival traveltime tomography with linearized eikonal equation and shaping regularization.OGP，2017，52(2)：264-272.

[4] 左國平，王彥春，隋榮亮.利用能量比法拾取地震初至的一種改進方法.石油物探，2004，43(4)：345-347. Zuo Guoping，Wang Yanchun，Sui Rongliang.An improved method for first arrival pickup using energy ratio.GPP，2004， 43(4)：345-347.

[5] 張偉，王彥春，李洪臣等.地震道瞬時強度比法拾取初至波.地球物理學進展，2009，24(1)：201-204. Zhang Wei，Wang Yanchun，Li Hongchen et al.Seismic first arrival pickup using instantaneous intensity ratio.Progress in Geophysics，2009，24(1)：201-204.

[6] 牛沛琛，張建中.基于數字圖像處理的地震波初至時間檢測.計算機與現代化，2007，(4)：27-30. Niu Peichen，Zhang Jianzhong.First arrival picking based on image processing methods.Computer and Modernization，2007，(4)：27-30.

[7] 曹茂森，任青文，萬林梅等.Length分形維算法拾取地震波初至.石油地球物理勘探，2004，39(5)：509-514. Cao Maosen，Ren Qingwen，Wang Linmei et al.Length fractal dimension method for picking siemic first break.OGP，2004，39(5)：509-514.

[8] 裴正林，余欽范.基于小波變換和BP神經網絡的地震波初至拾取方法.勘察科學技術，1999，(4)：61-64. Pei Zhenglin，Yu Qinfan.A wavelet transform and BP neural network-based algorithm for detecting first arrivals on seismic waves.Site Investigation Science and Technology，1999，(4)：61-64.

[9] Murat M E and Rudman A J.Automated first arrival picking：A neural network approach.Geophysical Prospecting，1992，40(6)：587-604.

[10] 王金峰，羅省賢.BP神經網絡的改進及其在初至波拾取中的應用.物探化探計算技術，2006，28(1)：14-17. Wang Jinfeng，Luo Shengxian.The improved BP neural network and its application in seismic first breaks picking.Computing Techniques for Geophysical and Geochemical Exploration，2006，28(1)：14-17.

[11] Kusuma T and Brown M M.Cascade-correlation learning architecture for first-break picking and automated trace editing.SEG Technical Program Expanded Abstractsx，1992，11：1136-1139.

[12] Fahlman S E，Lebiere C.The cascade-correlation learning architecture.Advances in Neural Information Processing Systems，1990，524-532.

[13] Baluja S，Fahlman S E.Reducing Network Depth in the Cascade-Correlation Learning Architecture.School of Computer Science，Carnegie Mellon University，1994，1-11.

[14] 楊鐘瑾，史忠科.快速自底向上構造神經網絡的方法.數學實踐與認識，2004，34(9)：114-118. Yang Zhongjin，Shi Zhongke.Fast approach for cascade-correlation learning.Mathematics in Practice and Theory，2004，34(9)：114-118.

[15] 楊慧中，王偉娜，丁鋒.神經網絡的兩種結構優化算法研究.信息與控制，2006，35(6)：700-705. Yang Huizhong，Wang Weina，Ding Feng.Two structure optimization algorithms for neural networks.Information and Control，2006，35(6)：700-705.

[16] 王治國，尹成，唐何兵等.沉積模式約束的地震多屬性水下扇巖相劃分.石油地球物理勘探，2015，50(2)：357-362. Wang Zhiguo，Yin Cheng，Tang Hebing et al.Submarine fan lithofacies identification with depositional model and seismic attributes.OGP，2015，50(2)：357-362.

[17] Hart D I.Improving the reliability of first-break picking with neural networks.SEG Technical Program Expanded Abstracts，1996，15:1662-1665.

[18] Wu Q，Nakayama K.Avoiding weight-ill growth：cascade correlation algorithm with local regularization.Neural Networks，1997，3，1954-1959.

[19] Fahlman S E.Fast learning variations on back-propa-gation：An empirical study.In Proceedings of the 1988 Connectionist Models Summer School，1989，38-51.

[20] 顧漢明，周鴻秋，張學強.初至時間的自動拾取.物探與化探.1992，16(2):120-129. Gu Hanming，Zhou Hongqiu，Zhang Xueqiang.Automatic pick of first arrival time.Geophysical and Geochemical Exploration，1992，16(2)：120-129.

[21] 印興耀，韓文功，李振春等.地震技術新進展(第一版).山東東營：中國石油大學出版社，2006，58-75. Yin Xingyao，Han Wengong，Li Zhenchun et al.New Progress in Seismic Technology (First Version).The Publishing House of China University of Petroleum，Dongying，Shandong，2006，58-75.

[22] McCormack M D，Zaucha D E and Dushek D W.First-break refraction event picking and seismic data trace editing using neural networks.Geophysics，1993，58(1)：67-78.

[23] 劉志成.初至智能拾取技術.石油物探，2007，46(5)：521-530. Liu Zhicheng.First break intelligent picking technique.GPP，2007，46(4)：521-530.