基于MVO優(yōu)化神經(jīng)網(wǎng)絡(luò)的GNSS高程異常擬合方法

蒙金龍 唐詩華 張 炎 何廣煥 劉銀濤

1 桂林理工大學(xué)測繪地理信息學(xué)院，桂林市雁山街319號，541006 2 廣西空間信息與測繪重點(diǎn)實(shí)驗(yàn)室，桂林市雁山街319號，541006

隨著科技發(fā)展，運(yùn)用全球?qū)Ш叫l(wèi)星系統(tǒng)(global navigation satellite system, GNSS)采集地理數(shù)據(jù)已成為空間大地測量領(lǐng)域的一種重要手段[1]。但通過GNSS技術(shù)所獲取的高程是以WGS84參考橢球面為基準(zhǔn)的大地高，如何將大地高轉(zhuǎn)換為實(shí)際工程中常用的正常高已成為國內(nèi)外學(xué)者的重要研究課題[2]。為獲取高精度GNSS高程異常值以進(jìn)行大地高與正常高之間的轉(zhuǎn)換，建立符合實(shí)際值的高程異常擬合模型尤為重要。重力模型法是國內(nèi)外常用的方法，但由于國內(nèi)高精度的重力模型還未完善，難以在實(shí)際工程中應(yīng)用。常用的高程異常擬合法還有加權(quán)最小二乘法、多面函數(shù)法、移動曲面法等[3-4]，但這些方法的數(shù)值模型是基于假定的似大地水準(zhǔn)面，因此存在模型誤差。

近年來，許多學(xué)者利用BP神經(jīng)網(wǎng)絡(luò)法的非線性自適應(yīng)、分布式運(yùn)算容錯(cuò)性高、具備自學(xué)習(xí)能力且無模型誤差等特性，將其運(yùn)用在各個(gè)領(lǐng)域，并取得了一定成果。研究表明，BP神經(jīng)網(wǎng)絡(luò)用于GNSS高程擬合時(shí)具備良好的精度[5]，當(dāng)測區(qū)內(nèi)已知的GNSS水準(zhǔn)點(diǎn)分布較均勻且數(shù)量較少時(shí)，BP神經(jīng)網(wǎng)絡(luò)擬合法可作為首選擬合方法[6]。然而由于BP神經(jīng)網(wǎng)絡(luò)自身的梯度下降機(jī)制，在網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜、隱含層數(shù)較多等條件下存在梯度消失的問題，且其網(wǎng)絡(luò)權(quán)值是通過沿局部改善的方向進(jìn)行調(diào)整的，算法本身也易陷入局部極值。若能解決上述問題， GNSS高程擬合精度在理論上將得到進(jìn)一步提高[7]。MVO算法作為一種元啟發(fā)式優(yōu)化算法，可在全局空間多個(gè)區(qū)域內(nèi)尋求最優(yōu)解，且具備收斂速度快的特性[8]。本文采用MVO算法求取BP神經(jīng)網(wǎng)絡(luò)各層之間較優(yōu)的神經(jīng)元閾值與連接權(quán)，對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，并建立基于MVO算法的BP神經(jīng)網(wǎng)絡(luò)高程異常擬合模型，從而提高GNSS高程異常擬合精度，為GNSS高程異常擬合提供一種新方法。

1 MVO-BP神經(jīng)網(wǎng)絡(luò)擬合預(yù)測模型

1.1 多元宇宙優(yōu)化算法

多元宇宙優(yōu)化算法(MVO)全局尋優(yōu)能力強(qiáng)且收斂速度快，適用于多個(gè)領(lǐng)域[9]。MVO可模擬多元宇宙中物體由高膨脹率宇宙?zhèn)鬟f到低膨脹率宇宙的過程，通過多元宇宙中白洞、黑洞、蟲洞的交互作用找出具備最佳膨脹率的宇宙，多元宇宙中每個(gè)宇宙均可視為優(yōu)化問題的候選解，宇宙中的物體即為候選解的變量，求解最優(yōu)宇宙的過程即為算法迭代尋優(yōu)過程，多元宇宙在初始化后經(jīng)歷多個(gè)周期的演化，最終可得到最優(yōu)解。實(shí)現(xiàn)步驟如下：

1)初始化多元宇宙種群數(shù)n，當(dāng)前演化周期T，最大演化周期Tmax，用于啟動迭代尋優(yōu)，則多元宇宙矩陣可表示為：

(1)

2)初始化旅程距離速率TDR，可定義對當(dāng)前最佳宇宙進(jìn)行局部搜索的精確度，表達(dá)式為：

(2)

式中，p為TDR的限制參數(shù)，p值越大TDR遞增速度越快，p值一般取為常數(shù)6。TDR隨演化周期T的遞增而線性遞減，從而可進(jìn)行精度更高的局部搜索。

3)初始化蟲洞存在概率WEP的表達(dá)式為：

(3)

式中，WEPmin為WEP最小值，WEPmax為WEP最大值，WEPmin和WEPmax分別取值0.2和1，表示蟲洞的最小存在概率和最大存在概率分別為20%和100%，以保證各個(gè)宇宙均有可能存在蟲洞。由式(3)可知，演化周期T越長，蟲洞存在概率越大，蟲洞的存在使各個(gè)宇宙在不考慮膨脹率的情況下也能進(jìn)行物體傳遞，可為多元宇宙提供更復(fù)雜的演化方向。

4) 計(jì)算每個(gè)宇宙膨脹率并歸一化，表達(dá)式為：

(4)

5) 由WEP與TDR參數(shù)構(gòu)建蟲洞機(jī)制，該機(jī)制可保證各個(gè)宇宙均有機(jī)會與當(dāng)前最優(yōu)宇宙進(jìn)行物體傳遞，從而豐富宇宙演化的多樣性，避免算法陷入局部最優(yōu)，表達(dá)式為：

Rj=(ubj-lbj)×roulette()+lbj

(5)

(6)

式中，xj為當(dāng)前最優(yōu)宇宙的變量，ubj與lbj為變量xj的上界與下界。

6)在一個(gè)演化周期T內(nèi)，由i=1開始執(zhí)行蟲洞影響下的個(gè)體行為，單個(gè)個(gè)體行為完成時(shí)i+1，直到i=n時(shí)完成一個(gè)演化周期，計(jì)算并更新當(dāng)前最佳宇宙位置，此時(shí)T+1。若T

1.2 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種基于輸出誤差逆向傳播的多層前饋神經(jīng)網(wǎng)絡(luò)，由輸入層、隱含層、輸出層構(gòu)成基本的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，不同層的神經(jīng)元互相連接形成映射通道，各層間的連接權(quán)與神經(jīng)元閾值決定映射效果，在此基礎(chǔ)上輸出值的誤差在神經(jīng)網(wǎng)絡(luò)中逆向傳播，從而逐漸修正神經(jīng)網(wǎng)絡(luò)的各項(xiàng)參數(shù)。典型的BP神經(jīng)網(wǎng)絡(luò)模型如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡(luò)模型Fig.1 BP neural network model

圖1中x、y、z分別為輸入值、中間值及輸出值，其中輸入層神經(jīng)元數(shù)為n，隱含層神經(jīng)元數(shù)為m，輸出層神經(jīng)元數(shù)為l，輸出值的目標(biāo)值為tar(tar維度為l)。設(shè)輸入層到隱含層的神經(jīng)元正向映射函數(shù)為f1，隱含層到輸出層的神經(jīng)元正向映射函數(shù)為f2，則：

(7)

式中，輸入值xi在神經(jīng)網(wǎng)絡(luò)中經(jīng)歷2次正向映射，最終求得輸出值zk，wij為輸入層與隱含層的連接權(quán)，wjk為隱含層與輸出層的連接權(quán)，α為隱含層神經(jīng)元閾值，β為輸出層神經(jīng)元閾值。此時(shí)神經(jīng)網(wǎng)絡(luò)輸出誤差為：

(8)

式中，tark為目標(biāo)值。若δ不滿足精度要求，則誤差以梯度下降的方式在神經(jīng)網(wǎng)絡(luò)中逆向傳播，從而逐漸更新神經(jīng)網(wǎng)絡(luò)的各項(xiàng)參數(shù)；若在經(jīng)歷多次迭代后δ滿足精度要求，則視為神經(jīng)網(wǎng)絡(luò)訓(xùn)練完成。

1.3 MVO優(yōu)化BP神經(jīng)網(wǎng)絡(luò)原理

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練會以誤差梯度下降的方式更新網(wǎng)絡(luò)參數(shù)，當(dāng)模型復(fù)雜時(shí)可能會造成梯度消失，從而使模型無法收斂。另外，由于網(wǎng)絡(luò)的權(quán)值是通過沿局部改善的方向逐漸進(jìn)行調(diào)整的，會使算法陷入局部極值，權(quán)值收斂到局部極小點(diǎn)，從而導(dǎo)致網(wǎng)絡(luò)訓(xùn)練失敗。此外，BP神經(jīng)網(wǎng)絡(luò)對初始網(wǎng)絡(luò)權(quán)重非常敏感，以不同權(quán)重初始化網(wǎng)絡(luò)，往往會收斂于不同的局部極小值。為此，本文利用MVO算法可在全局空間多個(gè)區(qū)域內(nèi)尋求最優(yōu)解的特性，優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的連接權(quán)和神經(jīng)元閾值，進(jìn)而采用優(yōu)化后的連接權(quán)和神經(jīng)元閾值進(jìn)行BP神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練，從而提高算法收斂速度和擬合預(yù)測精度。圖2為MVO-BP算法流程。

圖2 MVO-BP算法流程Fig.2 Flow chart of MVO-BP algorithm

1.4 基于MVO-BP算法的高程異常擬合模型

以GNSS高程異常擬合為例構(gòu)建MVO-BP擬合預(yù)測模型，模型建立步驟如下：

1)確定網(wǎng)絡(luò)結(jié)構(gòu)。假設(shè)有n個(gè)GNSS高程異常樣本點(diǎn)，則訓(xùn)練樣本數(shù)據(jù)組為P={P1,P2,…,Pn}，其中Pi={xi,yi,hi}，將訓(xùn)練樣本點(diǎn)的平面坐標(biāo)(xi,yi)作為訓(xùn)練輸入值，將對應(yīng)點(diǎn)的高程異常hi作為訓(xùn)練輸出的目標(biāo)值，則可確定輸入層神經(jīng)元節(jié)點(diǎn)數(shù)為2，輸出層神經(jīng)元節(jié)點(diǎn)數(shù)為1。隱含層節(jié)點(diǎn)一般為1～15范圍內(nèi)的自然數(shù)，本文通過枚舉法選擇具有最小均方根誤差的隱含層節(jié)點(diǎn)數(shù)，確定隱含層節(jié)點(diǎn)數(shù)為5。

2)數(shù)據(jù)預(yù)處理。將訓(xùn)練樣本數(shù)據(jù)組P歸一化到[0,1]區(qū)間，得到初始化的BP神經(jīng)網(wǎng)絡(luò)連接權(quán)與神經(jīng)元閾值數(shù)組U。

3)多元宇宙初始化。基于數(shù)組U初始化多元宇宙種群數(shù)n、當(dāng)前演化周期T、最大演化周期Tmax，由式(2)和式(3)初始化旅程距離速率TDR與蟲洞存在概率WEP。

4)構(gòu)建多元宇宙演化機(jī)制。由式(4)構(gòu)建多元宇宙物體通過黑洞/白洞軌道傳遞機(jī)制，由式(6)構(gòu)建多元宇宙物體通過蟲洞傳遞機(jī)制。

5)多元宇宙演化。在MVO迭代周期內(nèi)，以BP神經(jīng)網(wǎng)絡(luò)的連接權(quán)與神經(jīng)元閾值作為多元宇宙待優(yōu)化數(shù)組U，以BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練集與測試集整體均方誤差的平均值作為MVO適應(yīng)度函數(shù)，計(jì)算每個(gè)宇宙的膨脹率(適應(yīng)度)，并根據(jù)白洞/黑洞軌道及蟲洞機(jī)制持續(xù)更新當(dāng)前最佳宇宙位置，若達(dá)到最大迭代數(shù)Tmax，則輸出當(dāng)前最優(yōu)宇宙，即優(yōu)化后的數(shù)組U。

6)BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練。采用包含最優(yōu)連接權(quán)與閾值的數(shù)組U及歸一化后的樣本數(shù)據(jù)P進(jìn)行訓(xùn)練，若訓(xùn)練結(jié)果小于訓(xùn)練目標(biāo)最小誤差，或達(dá)到設(shè)定的最大訓(xùn)練次數(shù)，則視為神經(jīng)網(wǎng)絡(luò)訓(xùn)練完成。

7)插值預(yù)測。步驟1)～6)已完成MVO-BP神經(jīng)網(wǎng)絡(luò)的擬合預(yù)測模型構(gòu)建，在訓(xùn)練好的模型中輸入測區(qū)內(nèi)任意待預(yù)測點(diǎn)的平面坐標(biāo)(x,y)，即可求得其高程異常值。

2 工程實(shí)例分析

為驗(yàn)證MVO-BP算法在GNSS高程擬合中的有效性及其在不同地形的適用性，分別選取兩個(gè)地貌特征不同的測區(qū)進(jìn)行算例分析，其中算例1為地貌相對平坦的沿海帶狀區(qū)域，算例2為地勢復(fù)雜且包含喀斯特地貌的內(nèi)陸面狀區(qū)域。

2.1 沿海帶狀區(qū)域

2.1.1 數(shù)據(jù)來源

采用2006年杭州跨海大橋工程實(shí)例中39個(gè)GNSS水準(zhǔn)重合點(diǎn)進(jìn)行算例分析(三等及以上水準(zhǔn)測量精度要求)[10]。點(diǎn)位整體呈帶狀分布，長度約為36 km，寬度約為30 m。選取其中28個(gè)點(diǎn)進(jìn)行擬合建模處理，選取11個(gè)GNSS水準(zhǔn)重合點(diǎn)作為高程異常擬合的外部檢查點(diǎn)，點(diǎn)位分布情況見圖3。由于參與建模的點(diǎn)較少，將多元宇宙種群數(shù)n設(shè)置為10，為保證計(jì)算結(jié)果收斂前尚未達(dá)到最大演化周期，最大演化周期Tmax設(shè)置為30。圖4為MVO收斂曲線，由圖可知，在演化周期為25之前算法已初步收斂。

圖3 帶狀區(qū)域點(diǎn)位分布Fig.3 Point distribution of the banded area

圖4 MVO收斂曲線Fig.4 MVO convergence curve

2.1.2 建模結(jié)果及精度分析

為比較MVO-BP神經(jīng)網(wǎng)絡(luò)算法與其他常規(guī)算法的優(yōu)劣，驗(yàn)證MVO-BP高程異常擬合模型的擬合精度及有效性，使用相同數(shù)據(jù)，將其與常規(guī)的BP神經(jīng)網(wǎng)絡(luò)及常用的多面函數(shù)法進(jìn)行對比分析，并分別統(tǒng)計(jì)采用3種方法得到的高程異常值與殘差，結(jié)果見表1。

由表1可知，多面函數(shù)法殘差變化區(qū)間為-3.0～3.3 cm，常規(guī)BP神經(jīng)網(wǎng)絡(luò)殘差變化區(qū)間為-2.4～3.1 cm，MVO-BP神經(jīng)網(wǎng)絡(luò)殘差變化區(qū)間為-1.8～2.3 cm。相比之下，MVO-BP神經(jīng)網(wǎng)絡(luò)法擬合殘差變化區(qū)間較小，外符合精度較高。圖5為3種方法的高程異常值柱狀圖，可直觀分析其變化趨勢。

結(jié)合表1與圖5可知，3種方法對于5號點(diǎn)與11號點(diǎn)預(yù)測值與真實(shí)值的誤差均相對較大，其中5號 點(diǎn)與最近2個(gè)建模點(diǎn)的總間距為3 219.5 m，11號點(diǎn)與最近2個(gè)建模點(diǎn)的總間距為4 473.0 m，二者均大于其他檢查點(diǎn)，可能是這兩個(gè)點(diǎn)與建模點(diǎn)間距較遠(yuǎn)導(dǎo)致預(yù)測精度偏低。而相比于傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)與多面函數(shù)法，在11個(gè)檢核點(diǎn)中MVO-BP法有9個(gè)點(diǎn)的高程異常預(yù)測值與真實(shí)值最為接近，表明BP神經(jīng)網(wǎng)絡(luò)在經(jīng)過MVO優(yōu)化后精度有所提高，整體上MVO-BP法高程異常擬合結(jié)果的可靠性更高。

表1 不同擬合模型檢核點(diǎn)的預(yù)測結(jié)果

圖5 不同方法的高程異常預(yù)測值對比Fig.5 Comparison of elevation anomaly prediction values of different methods

2.2 內(nèi)陸面狀地區(qū)

2.2.1 數(shù)據(jù)來源

為進(jìn)一步驗(yàn)證本文算法在地貌復(fù)雜的面狀區(qū)域的有效性，采用廣西桂林市某區(qū)域(喀斯特地貌)74個(gè)GNSS水準(zhǔn)點(diǎn)重合點(diǎn)進(jìn)行算例分析(四等及以上水準(zhǔn)測量精度要求)，重合點(diǎn)點(diǎn)位分布較均勻(圖6)，間隔2～2.5 km，覆蓋面積約300 km2。均勻選取54個(gè)重合點(diǎn)進(jìn)行擬合建模處理，另外選取20個(gè)符合水準(zhǔn)測量精度要求的點(diǎn)位作為高程異常擬合的外部檢查點(diǎn)。

圖6 面狀區(qū)域的點(diǎn)位分布Fig.6 Point distributionof the planar region

2.2.2 建模結(jié)果及精度分析

由于建模點(diǎn)數(shù)較多，為保證算法收斂，將多元宇宙種群數(shù)n設(shè)置為20，最大演化周期為30，構(gòu)建內(nèi)陸面狀地區(qū)的MVO-BP神經(jīng)網(wǎng)絡(luò)高程異常擬合模型，并求得外部檢核點(diǎn)的高程異常預(yù)測值，同時(shí)分別統(tǒng)計(jì)MVO-BP神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)及多面函數(shù)法預(yù)測值與真實(shí)值的殘差，結(jié)果見表2。為直觀了解3種不同方法應(yīng)用于內(nèi)陸面狀區(qū)域的高程異常擬合結(jié)果，繪制殘差折線圖(圖7)。

表2 不同擬合模型檢核點(diǎn)的預(yù)測結(jié)果

結(jié)合圖7與表2可知，在本算例中多面函數(shù)法殘差變化區(qū)間為-0.037～0.028 m，精度略高于常規(guī)BP神經(jīng)網(wǎng)絡(luò)法；而MVO-BP神經(jīng)網(wǎng)絡(luò)法殘差變化區(qū)間為-0.027～0.030 m，波動范圍最小。在3種方法中MVO-BP神經(jīng)網(wǎng)絡(luò)法的外符合精度最高，達(dá)到±1.76 cm，這主要是因?yàn)镸VO算法優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)的連接權(quán)和神經(jīng)元閾值，可避免神經(jīng)網(wǎng)絡(luò)誤差反向傳播時(shí)梯度消失和陷入局部最小值的情況，從而提高M(jìn)VO-BP的高程異常擬合精度。

圖7 不同方法的檢核點(diǎn)殘差Fig.7 Check point residuals of different methods

結(jié)合表1可以看出，BP神經(jīng)網(wǎng)絡(luò)法與MVO-BP神經(jīng)網(wǎng)絡(luò)法在地貌復(fù)雜的內(nèi)陸面狀區(qū)域的高程異常擬合精度低于沿海帶狀區(qū)域；而多面函數(shù)法與MVO-BP法在算例2中均取得了良好的高程異常擬合精度，其中MVO-BP法在算例2中的精度比常規(guī)BP神經(jīng)網(wǎng)絡(luò)法提高33.6%，表明在MVO算法的優(yōu)化下，BP神經(jīng)網(wǎng)絡(luò)應(yīng)對復(fù)雜情況的適用性與精度得到了提高。

3 結(jié) 語

本文提出一種基于MVO的BP神經(jīng)網(wǎng)絡(luò)優(yōu)化方法(MVO-BP)，利用具備全局快速尋優(yōu)特性的MVO算法求取BP神經(jīng)網(wǎng)絡(luò)各層之間可靠的神經(jīng)元閾值與連接權(quán)，從而使神經(jīng)網(wǎng)絡(luò)預(yù)測模型具備更高的精度。利用實(shí)際數(shù)據(jù)，將本文算法與常規(guī)BP神經(jīng)網(wǎng)絡(luò)法及常用的多面函數(shù)法進(jìn)行對比，經(jīng)統(tǒng)計(jì)分析發(fā)現(xiàn)，MVO-BP神經(jīng)網(wǎng)絡(luò)法的精度優(yōu)于其他兩種方法，但本文方法所需設(shè)置的初始參數(shù)較多，應(yīng)合理選擇初始參數(shù)以避免對結(jié)果產(chǎn)生較大影響。本文驗(yàn)證了MVO-BP神經(jīng)網(wǎng)絡(luò)算法在GNSS高程擬合中的有效性及其在不同地形中的適用性，可提供一種高程異常擬合新方法。