基于改進小波神經網絡的GPS高程擬合研究

錢建國 樊意廣

1 遼寧工程技術大學測繪與地理科學學院，遼寧省阜新市玉龍路88號，123000

將GPS測得的大地高轉換為我國工程實踐中所需正常高的關鍵在于求取兩者之間的差值，即高程異常值[1]。由于難以獲得精確的重力數據，目前多采用擬合的方法來求取高程異常值，常用的擬合方法有數學模型法和神經網絡法等[2]。其中，數學模型擬合法主要有平面擬合模型和曲面擬合模型2種。平面擬合模型的應用具有一定的局限性，主要適用于小范圍的平坦地區；而曲面擬合模型則適用于覆蓋面積較大、似大地水準面變化規律明顯的區域。但這兩種模型均存在一定的模型誤差，且擬合的精度受地形因素的影響較大[3-4]。神經網絡作為一種新興的智能算法，能夠極大地降低模型誤差，現已在GPS高程異常擬合中得到廣泛應用。普通的神經網絡模型如BP神經網絡等存在結構設計盲目性大、收斂速度慢等缺點[5]。小波神經網絡(wavelet neural network, WNN)將小波理論和神經網絡理論進行有機結合，不僅能避免網絡結構設計的盲目性，還能有效提高神經網絡的非線性擬合能力，在國內外學者中引起廣泛關注[6-7]。但WNN也存在易陷入局部極小值和收斂速度慢等問題。為避免上述問題，本文提出一種改進的粒子群優化算法(improved particle swarm optimization, IPSO)對WNN模型進行優化。該算法采用非線性改變慣性權重和自適應學習因子相結合的方法對標準的粒子群優化算法(particle swarm optimization, PSO)進行改進，以避免PSO算法陷入局部極小值和發生振蕩現象。同時以某礦區的實測GPS數據為例，對改進后WNN模型的實用性及有效性進行檢驗。

1 小波神經網絡模型

WNN是一種以小波基函數為隱含層節點、激勵函數誤差反向傳播的神經網絡[8]，其結構如圖1所示。圖中X為WNN的輸入樣本，Y為WNN的預測輸出，ωij和ωjk分別為連接輸入層與隱含層、隱含層與輸出層的權值，ψ(x)為小波基函數。本文所采用的小波基函數為Morlet小波函數，其表達式為：

ψ(x)=cos(1.75x)e-x2/2

(1)

輸入序列xi(i=1, 2, 3,…,n)經過小波基函數處理后，可得到其在隱含層的輸出值，即

(2)

式中，u為隱含層節點的輸出值，a和b分別為小波基函數的伸縮因子和平移因子，n為輸入層節點數，l為隱含層神經元個數。

輸入信號經過隱含層處理后繼續向前傳播至輸出層，由此得到WNN的輸出，即

(3)

式中，yk為網絡的實際輸出，m為輸出層節點數。

WNN的誤差函數一般采用實際輸出值與期望輸出值的均方誤差表示，即

(4)

2 改進的粒子群算法

2.1 標準粒子群算法

PSO算法是一種群體智能算法，在該算法中，每個粒子的特征均可用速度、位置和適應度值來表示[9]。在一個D維空間內，每個粒子均以一定的速度飛行，根據自身所積累的信息和群體中個體間信息的共享對速度進行更新，從而動態調整粒子在搜索空間中的位置。搜索過程持續進行，直到每個粒子均找到最佳位置或者達到迭代最大次數。

粒子群的速度和位置更新可表示為：

vi+1(t+1)=wvi(t)+c1r1(pi-xi)+

c2r2(gi-xi)

(5)

xi(t+1)=xi(t)+vi(t+1)

(6)

式中，v為粒子速度；x為粒子位置；w為慣性權重，決定著粒子當前速度對下一位置速度的影響程度；c1和c2為學習因子；r1和r2為[0, 1]之間的隨機數；p和g分別為粒子的個體極值和全局極值。

本文采用式(4)，即小波神經網絡的均方誤差函數作為IPSO算法的適應度值函數。高程異常的擬合值與實際值越接近，網絡的訓練誤差(粒子的適應度值)越小，粒子的適應度越高，當訓練誤差達到預期目標時，可認為當前粒子處于最優位置[10]。

2.2 改進的粒子群算法

標準的PSO算法存在易陷入局部極小值、收斂速度慢等問題，且算法的收斂性能受慣性權重w的影響很大。當w值較大時，粒子的全局搜索能力較強，但容易跳過全局最優解，陷入局部極小值；當w值較小時，粒子的局部尋優能力較強，但搜索速度較慢。為了使PSO算法的全局搜索能力與局部搜索能力達到平衡，Shi等[11]提出一種慣性權重線性遞減的粒子群優化策略(line particle swarm optimization, LPSO)，即

(7)

式中，wmax和wmin分別為慣性權重的最大值和最小值，Imax為預設的最大迭代次數。

式(7)中，w僅與迭代次數i線性相關，但忽略了粒子群的進化速度和粒子的聚集程度，因此并不能滿足PSO算法中復雜的非線性變換特性[12]。在此基礎上，本文提出一種慣性權重的非線性遞減策略，即

(8)

式中，f為粒子當前的適應度值，favg為當前所有粒子的平均適應度值。

該方法的主要思想是根據當前粒子的適應度值與粒子群的平均適應度值的關系，對粒子的慣性權重進行動態調整。當粒子的適應度值大于或等于平均適應度值時，采用最大的慣性權重，以增大粒子群的搜索空間，加快算法的收斂速度；反之，則使慣性權重逐漸減小，以增強粒子尋找全局最優解的能力[13]。

學習因子c1和c2分別控制著粒子的自我尋優能力和粒子間的信息交互能力，在算法的迭代初期，c1值較大，c2值較小，有利于粒子快速找到大致的最優位置[14]。隨著迭代過程的不斷進行，粒子群中各粒子間的信息交互對尋找全局最優解的重要性不斷增強，因此需要較小的c1值和較大的c2值，以增強粒子的局部尋優能力。而在標準的PSO算法中，c1和c2均為定值且相等，不利于算法的快速收斂和尋找全局最優解。本文在上述慣性權重非線性遞減策略的基礎上，對c1和c2進行如下優化：

(9)

c2(t)=2-c1(t)

(10)

式中，N為粒子群中粒子總數，c1(t)和c2(t)分別為第t次迭代時c1和c2的取值，gt為當前粒子群的全局最優解，pi為第i個粒子的個體最優解。

從式(9)和式(10)可以看出，隨著迭代的進行，c1值非線性遞減，c2值非線性遞增，這有利于算法的快速收斂，從而增強算法尋找全局最優解的能力。

3 IPSO算法優化WNN參數

為避免WNN算法出現振蕩和陷入局部極小值等問題，本文采用上述改進后的PSO算法對WNN參數進行優化，基本步驟如下：

1)確定WNN結構，本文中WNN結構是根據GPS高程異常擬合特點決定的。

2)根據WNN結構確定改進粒子群算法的維度，即粒子長度。以WNN輸入層與隱含層之間的權重wij、隱含層與輸出層之間的權重wjk、伸縮因子a和平移因子b為元素，構建粒子的位置向量。

3)初始化粒子群參數并確定適應度值函數。

4)計算粒子的適應度值，并判斷該值是否滿足迭代終止的條件，若滿足，則終止迭代并進入步驟8)；若不滿足，則進入步驟5)。

5)根據式(5)、(6)、(8)、(9)、(10)，更新粒子的速度和位置。

6)根據粒子的適應度值對當前個體的極值和全局極值進行更新。

7)返回步驟4)，重新計算粒子的適應度值。

8)輸出迭代停止時相應的WNN參數。

IPSO-WNN算法的實現流程如圖2所示。

圖2 IPSO算法優化WNN流程Fig.2 Optimized WNN process by IPSO algorithm

4 實驗結果與分析

4.1 模型構造

本文在上述IPSO-WNN算法的基礎上，建立GPS高程擬合模型。在該模型中，WNN結構為2-4-1，其中輸入層、輸出層的節點個數由GPS高程擬合的特點決定，隱含層節點的個數由對比分析確定。由確定的WNN結構可求得IPSO算法的維度為20，算法中其他參數的設置如表1所示。

表1 IPSO算法參數

4.2 實驗數據

本文選取某礦區的實測GPS控制網數據，對提出的GPS高程擬合模型的擬合性能進行檢驗。測區內共有同精度的GPS水準點19個，覆蓋面積為120 km2，各GPS點之間均已進行三等水準聯測。測區位于我國北部高原地區，測區內地形起伏較大。為充分驗證模型的有效性，在擬合過程中選取9個分布較為均勻的GPS點作為模型的訓練集，其余10個GPS點作為模型的測試集。兩組數據的分布情況如圖3所示。

圖3 GPS水準點分布Fig.3 Distribution of GPS leveling points

由于本文所采用的實驗測區范圍較大，GPS水準點平面坐標間差值較大，為減小模型誤差，對數據進行歸一化處理[15]：

(11)

式中，x′為歸一化后的輸入序列，xi為原始輸入序列，xmin和xmax分別為樣本的最小值和最大值。

4.3 評價指標

為驗證IPOS-WNN模型進行GPS高程擬合的精度與穩定性，在上述數據的基礎上，分別建立二次曲面模型、傳統小波神經網絡(WNN)、標準粒子群優化小波神經網絡(PSO-WNN)、慣性權重線性遞減的粒子群算法優化小波神經網絡(LPSO-WNN)以及改進的粒子群算法優化小波神經網絡(IPSO-WNN) 5種GPS高程擬合模型，并從以下兩個方面進行對比：

1) 分別記錄WNN、PSO-WNN、LPSO-WNN、IPSO-WNN 4種模型在迭代過程中的適應度值，比較4種模型的收斂速度與精度。

2) 為提高實驗的可信度，分別將上述5種模型在測試集上進行10次獨立實驗，通過對比測試集中各點擬合殘差的平均值以及數據均方誤差的平均值，對模型的穩定性和外符合精度進行評價。其中，外符合精度的表達式為：

(12)

式中，n為測試集中點的個數，即i=1，2，3,…,n；vi為測試集中第i個點高程異常值的擬合值與實際值之差。

4.4 實驗結果與分析

圖4(a)為傳統小波神經網絡模型進行GPS高程擬合時網絡訓練誤差隨迭代次數的變化情況。分別采用標準PSO算法、LPSO算法、IPSO算法對WNN模型進行優化，優化后模型的訓練誤差隨迭代次數的變化情況如圖4(b)所示。

圖4 模型訓練誤差Fig.4 Training error of models

從圖4(a)可以看出，傳統的WNN模型進行GPS高程擬合時算法收斂速度慢，當達到最大迭代次數時算法仍未收斂。從圖4(b)可以看出，PSO-WNN、LPSO-WNN、IPSO-WNN三種算法收斂時的迭代次數分別為114、23、14。由此可知，3種算法的收斂速度和精度均明顯優于傳統的WNN模型，其中IPSO-WNN模型的收斂精度最高、速度最快。表2(單位cm)為各方案的平均擬合殘差和外符合精度。由各模型的平均擬合殘差繪制各檢核點的殘差變化圖如圖5所示。

表2 各模型擬合結果

圖5 各模型擬合殘差Fig.5 Fitting residual of each model

從表2可以看出，傳統的WNN模型進行GPS高程擬合時擬合效果最差，最大擬合殘差為-6.87 cm，外符合精度為3.91 cm，模型的擬合精度和穩定性均低于二次曲面模型。PSO-WNN、LPSO-WNN、IPSO-WNN模型的最大擬合殘差分別為4.61 cm、-3.46 cm和1.85 cm，最小擬合殘差分別為0.94 cm、0.19 cm和0.37 cm，外符合精度分別為2.66 cm、1.99 cm和1.29 cm，上述的擬合精度和穩定性均高于二次曲面模型。其中，IPSO-WNN模型的擬合精度最高、穩定性最好。從圖5可以看出，IPSO-WNN模型的殘差曲線波動最小，與實際的高程異常值最為吻合，擬合效果最好。

5 結 語

本文采用IPSO-WNN模型進行GPS高程擬合，并通過實測數據與二次曲面模型、WNN、PSO-WNN、LPSO-WNN模型的擬合性能進行對比。結果表明，當測區內地形起伏較大時，傳統的二次曲面模型和WNN模型的擬合精度較低，穩定性較差。采用粒子群優化后的小波神經網絡模型的擬合性能較二次曲面模型和WNN模型均有所提高，其中，IPSO-WNN模型的擬合精度和穩定性明顯高于PSO-WNN和LPSO-WNN模型，可有效避免傳統小波神經網絡易陷入局部極小值和收斂速度慢等問題。