改進小波序貫極限學習機的光電經緯儀空間配準算法研究

楊宏韜高慧斌劉 鑫

（1.中國科學院長春光學精密機械與物理研究所，吉林 長春 130033；2.中國科學院大學，北京 100049；3.長春工業大學電氣與電子工程學院，吉林 長春 130012）

改進小波序貫極限學習機的光電經緯儀空間配準算法研究

楊宏韜1，2，3，高慧斌1，劉 鑫1

（1.中國科學院長春光學精密機械與物理研究所，吉林 長春 130033；2.中國科學院大學，北京 100049；3.長春工業大學電氣與電子工程學院，吉林 長春 130012）

針對光電經緯儀數據融合系統中的空間配準問題，提出復合函數小波神經網絡序貫極限學習機光電經緯儀空間配準算法。該算法將小波理論引入到極限學習機中，利用小波函數和任意分段連續非線性函數構造極限學習機隱層節點激勵函數，小波函數的伸縮因子和平移因子根據輸入數據范圍進行初始化，并結合極限學習機在線學習方法進行訓練。實驗結果表明：改進小波序貫極限學習機的光電經緯儀空間配準算法可以使光電經緯儀的測量精度提高到3″以內，與標準極限學習機空間配準算法相比，該算法能夠實現在線增量式快速學習，具有更好的泛化性能。

光電經緯儀；空間配準；小波神經網絡；序貫極限學習機

0 引 言

光電經緯儀多傳感器數據融合系統中，采用融合技術綜合處理長波紅外、中波紅外、可見光等傳感器的量測數據，可以增大量測范圍、提高目標跟蹤能力、增強系統可靠性及跟蹤準確度。由于系統中各傳感器存在系統誤差,量測軌跡并不重合，直接進行融合將導致跟蹤準確度降低，難以發揮多傳感器融合的優勢。所以量測數據融合前需要進行空間配準以消除各傳感器的系統偏差[1]。國內外學者為了解決多傳感器的空間配準進行了大量的研究，文獻[2]結合目標的運動狀態和傳感器系統誤差構建擴維系統動態方程,提出了迭代擴展卡爾曼濾波（IEKF)的配準算法,能取得和UKF相近估計精度。文獻[3]對機動平臺的傳感器系統誤差、目標狀態進行期望最大化迭代，并對目標的狀態進行融合估計，提出離線機動極大似然配準（MLRM)算法，有效估計出量測、姿態角系統誤差和目標狀態。文獻[4]采用擴展卡爾曼濾波通過非線性轉換坐標機動模型，分別對每個傳感器的位置誤差和方位誤差進行估計，準確計算出公共參考坐標系下的三坐標雷達的位置與方位誤差。上述方法都是在假設系統偏差為固定偏差集合的基礎上取得了不錯的配準效果，而忽略了影響系統偏差的許多不確定因素[5]。

單隱層前饋神經網絡（single-hidden layer feedforward neural networks，SLFNs)具有的非線性辨識能力，使其在多傳感器空間配準領域得到了廣泛應用。文獻[6]在各類傳感器系統偏差來源未知的前提下運用神經網絡進行偏差配準。與傳統SLFNs不同，極限學習機（extreme learning machine，ELM)使用求解線性方程組方法對神經網絡進行訓練，訓練時輸入層與隱含層的網絡權值以及隱含層閾值隨機生成，僅求解矩陣廣義逆得到隱含層與輸出層網絡權值，訓練時間大幅縮短。文獻[7]采用極限學習機算法建立光電經緯儀空間配準模型。雖然上述兩種方法解決了系統偏差假設問題，但是存在泛化能力低、網絡訓練時間較長、難以得到全局最優解、難以實現在線學習等問題。

文獻[8]在ELM[9]基礎上提出在線序貫極限學習機 (online sequential extreme learning machine，OS-ELM)，該算法訓練時只對新數據進行學習，而不必連同之前歷史數據重新訓練，新數據一旦學習結束即可丟棄，其本質為ELM的在線增量式快速學習算法。文獻[10]指出由于輸入數據的變化OS-ELM算法的穩定性隨之變化較大，隱層節點激活函數的問題依賴性導致該算法泛化性下降。

本文將小波的時頻局部特性、聚焦特性[11]，神經網絡的自學習、自適應、魯棒性以及序貫極限學習機的在線學習能力相結合，提出復合函數小波神經網絡序貫極限學習機（composite function wavelet neural networks with online sequential extreme learning machine，CFWNN-OSELM)空間配準算法，網絡的隱層節點激活函數由小波函數和任意分段連續的非線性函數構成，小波函數的伸縮、平移因子根據輸入數據的范圍進行初始化，并結合極限學習機序貫學習方法對小波神經網絡進行訓練。通過光電經緯儀的星體測量數據進行模型驗證，并與ELM空間配準算法進行對比。結果表明，該算法具有更快的學習速度和更強的泛化能力，達到了提高光電經緯儀測量精度的目的。

1 CFWNN-OSELM概述

1.1 CFWNN結構

復合函數小波神經網絡結構與傳統的小波神經網絡相比，除了在輸入層增加了非零偏置x0，更主要的是隱層節點使用經過平移與尺寸伸縮的母小波函數與任意分段連續非線性函數構成的復合函數作為激活函數。復合激活函數比單一使用小波函數更加緊湊，適當選取小波函數的伸縮因子和平移因子，能保證小波函數覆蓋輸入數據范圍，這時CFWNN將具有良好的逼近能力[12]。CFWNN的結構如圖1所示。

圖1 CFWNN的結構

對于N個任意訓練樣本（xi，ti)，其中xi=[x0，xi1，xi2，…，xin]T∈Rn，ti∈Rm，對于具有L個隱層神經元的CFWNN，可記為

式中：Vi=[νi1，νi2，…，νin]T∈Rn——連接輸入層神經元與隱層第i個神經元的權值；

βi——連接隱層第i個神經元和輸出層神經元的權值；

ψai，bi（·)——隱層第i個神經元的小波函數；

ai，bi——伸縮因子和平移因子；

g（·)——任意分段連續非線性函數。

式（1)可以改寫為Hβ=T，其中，H稱為CFWNN的隱層輸出矩陣。

1.2 小波參數的初始化

隱層小波函數的伸縮因子和平移因子初始化是CFWNN-OSELM空間配準算法的關鍵，本文根據輸入數據的范圍對參數進行初始化。首先，隨機選擇輸入權值矩陣V，設[xi，min，xi，max]表示第i個輸入數據的范圍（不考慮x0)，則隱層節點復合函數輸入值范圍表示為L。t*、ψ*分別表示小波函數的時窗中心和時窗半徑，則第h個隱層神經元的小波函數ψah，bh的時窗為[bh+ah（t*-ψ*)，bh+ah（t*+ψ*)]。為了保證小波函數能覆蓋輸入數據范圍，得到如下等式：

由式（4)、式（5)得出伸縮因子和平移因子初始化公式：

小波函數的時窗中心和時窗半徑由下式得出：

1.3 CFWNN-OSELM學習算法

CFWNN-OSELM學習算法分為初始化階段和序貫學習階段，計算步驟為：

1)初始化階段：從給定訓練集N={（xi，ti)|xi∈Rn，ti∈Rm，i=1，2，3，…，n}中選取少量的初始訓練集N0=其中N0≥L，進行初始化學習。a)隨機分配輸入權值Vi，按照式（6)、式（7)初始化伸縮因子ai和平移因子bi，i=1，…，L。

b)計算初始隱層輸出矩陣H0

d)令k=0。

a)計算隱層節點輸出矩陣Hk+1

d)令k=k+1。轉到步驟2)繼續執行。

上述推導過程可知，該算法只對新來的數據集進行學習，并且數據集長度可變，從而提高了算法的運行速度。在對網絡參數初始化時，除了對小波參數進行初始化外，只需確定隱層神經元個數，降低了網絡參數之間的依賴性。

2 實驗結果與分析

為了分析ELM和CFWNN-OSELM算法的訓練時間和配準效果，采用某型號光電經緯儀測量的36顆恒星數據進行仿真實驗，將其中3190組測量數據作為訓練數據，其余的350組作為測試數據，部分測量數據如表1所示。

CFWNN-OSELM算法的輸入為非零偏置、方位和俯仰實測值，輸出為方位、俯仰測量誤差。CFWNNOSELM算法的隱層神經元個數為30，隱層節點激活函數由經過平移和伸縮的Morlet小波函數ψ（t)=cos（1.75t)e-0.5t2和“Sigmoid”函數g（x)=1/（1+e-x)構成。ELM算法的隱層神經元個數為30，隱層節點激活函數選擇“Sigmoid”函數。設定ELM與CFWNNOSELM算法初始化學習階段樣本數為200，序貫學習階段的每次學習的樣本數為1。在仿真實驗時，輸入數據標準化至[-1，1]之間，輸出數據標準化至[0，1]之間。仿真實驗均在2.5GHz的Intel CPU、4GB RAM和Matlab 7.10.0環境下進行。兩種配準算法測試時輸出的誤差曲線及性能對比如圖2、表2所示。

表1 部分恒星測量數據

圖2 測試誤差比較圖

表2 配準性能對比

可以看出CFWNN-OSELM與ELM相比，在配準準確度上有一定程度的提高，但是CFWNN-OSELM的訓練時間明顯小于ELM，這是由于標準ELM算法采用批量學習方式，當新數據輸入時，需要對所有數據重新訓練，訓練時間主要消耗在計算矩陣H∈RN0×L的Moore-Penrose廣義逆；而CFWNN-OSELM算法在初始化學習階段只計算一次L×L矩陣的逆運算，由式（12)可知在序貫學習階段訓練時間的消耗與每次學習的樣本數量有關，樣本數量越少學習時間越短。

由此可知，CFWNN-OSELM算法的快速學習特性與在線學習階段每次學習的新數據的樣本數量有關，在對實時性要求較高的情況下，應該選擇較少的新數據樣本數量。

圖3 原始測量誤差

圖4 CFWNN-OSELM算法配準后的測量誤差

為驗證CFWNN-OSELM算法的效果，用光電經緯儀對能夠提供精確軌道數據的激光衛星（LASER Satellite)進行跟蹤測量。圖3是光電經緯儀對某激光衛星的原始測量誤差，圖4是CFWNN-OSELM算法配準后的測量誤差。

可以計算出原始測量中的方位、俯仰平均絕對誤差分別為-11.0504″、-4.1582″，配準后的方位、俯仰平均絕對誤差分別為0.2017″、0.6947″，配準后測量準確度大幅提高。對兩顆激光衛星進行一段時間的連續跟蹤測量，結果見表3，進一步驗證了CFWNNOSELM空間配準算法提高光電經緯儀測量精度的可行性。

表3 CFWNN-OSELM配準后測量準確度

本文提出的空間配準算法適用各類偏差來源未知傳感器系統，且實時性要求較高的光電經緯儀多傳感器數據融合系統中，使用該算法直接對測量結果進行修正，再進行數據融合可以進一步提高光電經緯儀的跟蹤準確度。

3 結束語

本文針對如何有效解決光電經緯儀數據融合系統中的空間配準問題，提出了一種新的空間配準算法CFWNN-OSELM，該算法具有序貫極限學習機在線快速學習的特點，引入小波函數和任意分段連續非線性函數構成隱層節點激活函數，以增加配準算法的局部分辨能力，根據輸入數據的范圍對小波函數的伸縮、平移因子進行初始化，從而得到更好的泛化性能。最后通過星體測量數據進行模型驗證，結果表明該算法可以使光電經緯儀的測量準確度提高到3″以內，達到了修正光電經緯儀測量誤差的目的，并且具有更快的學習速度和更強的泛化能力，為提高光電經緯儀的測量準確度提供了新的方法和思路。

[1]劉瑜，何友，王海鵬，等.基于平方根容積卡爾曼濾波的目標狀態與傳感器偏差擴維聯合估計算法[J].吉林大學學報：工學版，2015，45（1)：314-321.

[2]李軍輝，楊峰，程詠梅，等.一種多傳感器實時誤差配準算法研究[J].傳感技術學報，2010，23（5)：713-716.

[3]崔亞奇，熊偉，何友.基于MLR的機動平臺傳感器誤差配準算法[J].航空學報，2012，33（1)：118-128.

[4]Nassib N，Robort H.Bishop solution to a multisensor tracking problem with sensor registration error[J].IEEE T-AES，1999，35（1)：354-363.

[5]余建國，劉梅，包玖紅.基于星光測量天基傳感器實時定標在彈道目標跟蹤應用[J].電子與信息學報，2013，35（4)：915-920.

[6]Karmiely H，Hava T S.Sensor registration using neural network[J].IEEE Transactions on Aerospace and Electronic Systems，2000，36（1)：85-100.

[7]楊宏韜，高慧斌，張淑梅.極限學習機方法在經緯儀空間配準中的應用[J].紅外與激光工程，2013，42（12)：3517-3521.

[8]Liang N Y，Huang G B，Saratchandran P，et al.A fast and accurate online sequential learningalgorithm for feedforward networks[J].IEEE Transactions on Neural Networks，2006，17（6)：1411-1423.

[9]Huang G B，Zhu Q Y，Siew C K.Extreme learning machine：theory and applications[J].Neurocomputing，2006，70（1)：489-501.

[10]Lan Y，Yeng C S，Huang G B.Ensemble of online sequential extreme learning machine[J].Neurocomputing，2009，72（1)：3391-3395.

[11]全麗萍，李曉理，王巧智.多分辨率小波極限學習機[J].北京科技大學學報，2014，36（12)：1712-1719.

[12]Cao J W，Lin Z P，Huang G B.Composite function wavelet neural networks with extreme learning machine[J]. Neurocomputing，2010（73)：1405-1416.

Research on modified wavelet online sequential extreme learning machine in space registration for photoelectric theodolite

YANG Hongtao1，2，3，GAO Huibin1，LIU Xin1
（1.Changchun Institute of Optics，Fine Mechanics and Physics，Chinese Academy of Sciences，Changchun 130033，China；2.University of Chinese Academy of Sciences，Beijing 100049，China；3.College of Electronic and Electrical Engineering，Changchun University of Technology，Changchun 130012，China）

An algorithm using composite functions and wavelet neural networks（WNN）in online sequential extreme learning machines（OS-ELM）was proposed to solve the problem in the space registration of photoelectric theodolite data fusion system.The wavelet theory was introduced to extreme learning machines and the wavelet function and bounded non-constant piecewise continuous function were used to build an hidden-node excitation function for extreme learning machine.The contraction-expansion and shift factors of the wavelet function were initiated with the input data range and it was trained in combination with the online learning methods of extreme learning machine.Experimental results show that this algorithm can improve the measurement accuracy of photoelectric theodolite to within 3″and has fast online learning speed and good generalization compared with standard space registration algorithms.

photoelectric theodolite；space registration；WNN；OS-ELM

A

：1674-5124（2015）10-0001-05

10.11857/j.issn.1674-5124.2015.10.001

2015-02-26；

：2015-04-13

國家863計劃項目（2008AA0047)

楊宏韜（1982-)，男，吉林長春市人，博士，研究方向為光電測量與信息融合。