模型預測前向神經網絡算法及其在組合導航中的應用

楊 一，高社生，吳佳鵬，趙 巖

（1.西北工業大學 自動化學院，西安 710072；2.航天恒星科技有限公司，北京 100086）

模型預測前向神經網絡算法及其在組合導航中的應用

楊 一1，高社生1，吳佳鵬2，趙 巖1

（1.西北工業大學 自動化學院，西安 710072；2.航天恒星科技有限公司，北京 100086）

針對系統誤差的不確定性可能會引起濾波精度降低或發散的問題，提出一種新的基于模型預測濾波的前向神經網絡算法。首先，采用模型預測濾波估計網絡在正向傳遞過程中的模型誤差，并對其進行修正，以彌補模型誤差對隱含層權值更新的影響；然后，利用模型預測濾波為神經網絡提供精確的訓練樣本，學習待估計系統的非線性關系。將提出的算法應用于SINS/CNS/BDS組合導航系統，并與擴展卡爾曼濾波進行比較，仿真結果表明，提出的算法得到的姿態誤差、速度誤差和位置誤差分別在[-0.25′,+0.25′]、[-0.05 m/s,+0.05 m/s]和[-5 m,+5 m]以內，濾波性能明顯優于擴展卡爾曼濾波算法，表明該算法能提高組合導航定位的解算精度。

前向神經網絡；模型預測濾波；權值修正；SINS/CNS/BDS組合導航

捷聯慣導(SINS)/天文導航(CNS)/北斗衛星導航(BDS)組合導航系統兼備了SINS、CNS和BDS三者的優點，取長補短，不僅能夠克服各導航子系統的缺陷，增強系統的完整性；而且可靠性好，定位精度高，是當前組合導航領域研究的熱點之一。

在組合導航系統中，高精度濾波算法對導航定位的解算精度有重要影響。擴展卡爾曼濾波（Extended Kalman Filtering，EKF）是目前使用較廣泛的非線性濾波算法之一，EKF算法通過Taylor展開來近似非線性系統模型，較好地解決了弱非線性系統的濾波問題，但由于忽略二階以上誤差項，在系統模型非線性較強時，EKF的濾波精度嚴重降低。要得到較精確的導航信息，需要高階的卡爾曼濾波器，但這樣會影響算法的實時性[1-2]。

近年來，神經網絡技術已成功應用于系統狀態的估計，神經網絡算法無需對所求解的問題建模，通過學習所求解問題的樣本關系可以很好地逼近其非線性特征[3-4]。由于神經網絡的計算過程穩定，不涉及矩陣求逆，所以其計算耗時較少，有利于對導航數據處理的實時性。神經網絡方法也存在一些缺點，對于組合導航這樣復雜的時變系統，傳統的前向神經網絡算法無法直接得到輸入與輸出之間的映射關系[5]。針對這一問題，文獻[6]提出基于卡爾曼濾波（Kalman Filtering,KF）的神經網絡權值更新算法，并將提出的算法應用于慣導系統初始對準；仿真結果顯示，在濾波精度相同的情況下，神經網絡的實時性優于KF算法。但提出的算法只適用于線性系統，需要對神經網絡模型進行線性化。文獻[7]將輸入狀態穩定（ISS）理論與神經網絡算法相結合，應用于含有未知死區的非線性系統識別，并證明該算法的有效性。但是該算法僅適用于離散系統且計算量大。文獻[8]利用H∞濾波在線調整神經網絡的權值，并將改進的神經網絡算法用于SINS初始對準，仿真結果顯示該算法具有較好的魯棒性和實時性，但濾波精度有待提高。

模型預測濾波（Model Predictive Filtering，MPF）是一種基于非線性系統模型的實時濾波方法，其工作原理是利用預測輸出跟蹤測量輸出，從而估計出系統的模型誤差[9-10]。相比其他非線性濾波方法，預測濾波能夠在線估計出任何形式的模型誤差并對其進行有效修正。

本文在研究模型預測濾波和前向神經網絡算法的基礎上，提出一種新的基于模型預測濾波的前向神經網絡權值修正算法。該算法利用模型預測濾波實時估計網絡的模型誤差，并對其進行修正，以彌補模型誤差對權值更新的影響；利用學習后的神經網絡算法控制系統噪聲對導航解的影響，提高了導航系統的定位精度。將該算法應用于SINS/CNS/BDS組合導航系統進行仿真驗證。結果表明，提出的算法濾波性能明顯優于EKF算法。

1 模型預測濾波前向神經網絡算法

1.1 模型預測濾波

模型預測濾波是一種適用于非線性系統模型的濾波算法，其原理是用濾波器的預測輸出實時跟蹤實際觀測輸出，從而估計出系統的模型誤差。

設非線性系統方程為[10]：

式中，R是正定協方差陣。

系統狀態估計和輸出估計的關系如下：

觀測估計的泰勒展開式為：

式中，

定義預測濾波性能指標函數如下[10]：

在[tk,tk+1]時間內滿足式(8)性能指標的模型誤差估計為：

1.2 預測濾波-神經網絡權值修正算法

前向神經網絡由輸入層、若干隱含層和輸出層組成，各層由若干神經元組成。由Hecht-Nielsen定理[3]可知，任意一個三層前向神經網絡，只要隱含層節點個數足夠，就可以無限逼近任意非線性函數。三層前向神經網絡結構如圖1所示。

圖1 前向神經網絡結構圖Fig.1 Structure of feed-forward neural networks

由圖1可以看出，三層前向網絡的傳遞關系為[3]：

式中，wji為輸入層的第i個神經元到隱含層第j個神經元的連接權；jθ為隱含層第j個神經元的閾值；wkj為隱含層的第j個神經元到輸出層的第k個神經元的連接權；kθ是輸出層第k個神經元的閾值；p(·)為S型激活函數，滿足：

設第k個輸出神經元的期望輸出為yd，實際輸出為yk，則系統均方誤差為：

權值的更新是神經網絡根據給定的學習樣本進行訓練的過程。在前向神經網絡學習中，非線性特性的學習主要由隱含層完成，因此本文提出的權值更新算法針對隱含層，輸出層權值仍由BP算法進行更新。

對于任意前向神經網絡，假設隱含層每個神經元的輸出為狀態變量，輸出層每個神經元的凈輸入為量測量。則前向網絡的時變特性可用如下的狀態方程和量測方程表示：

式中，w(t)是輸出層的權值矩陣，為：

式中，n和m分別為輸出層和隱含層的神經元個數。

在式(14)的狀態方程中，ξ(t)為神經網絡模型誤差，由式(9)模型誤差估計求得。神經網絡中模型誤差估計為：

由式(14)(19)可得到基于MPF的神經網絡隱含層輸出量的估計表達式，再由式(10)逆向推出隱含層權值矩陣。隱含層權值修正算法的步驟可歸納如下

① 初始化

置各層權值和閾值的初值為小的隨機數；賦值誤差函數e；設置循環次數R。

② 提供訓練用的學習樣本

輸入矩陣x和經過模型預測濾波計算得到的目標輸出yd；經過神經網絡計算可得到真實輸出yk。

⑦ 重復③～⑥進行隱含層權值更新，直至網絡輸出的均方誤差滿足給定的精度或者達到訓練次數R，網絡訓練結束。

2 SINS/CNS/BDS組合導航系統模型

2.1 組合導航系統的狀態方程

選東北天地理坐標系(E-N-U)為導航坐標系，在考慮系統模型誤差和系統噪聲的條件下，組合導航系統狀態方程為：

式中，組合導航系統的狀態向量選為

系統模型誤差向量D(t)為：

式中，q為方程強度矩陣。

2.2 系統量測方程

1） SINS/CNS子系統量測方程

SINS誤差方程解算出來的是實際建立的導航坐標系n與理想導航坐標系n′之間的平臺誤差角，建立平臺誤差角與姿態角誤差的關系為：

則SINS/CNS組合導航系統量測方程為[1]：

由式(25)(26)可得系統量測矩陣H1為：

2） SINS/BDS子系統量測方程

將SINS輸出的速度、位置信息和BDS輸出的速度、位置信息的差作為量測值，可得導航系統的量測方程為：

式中，LI、Iλ和hI分別為SINS的緯度、經度和高度信息，hB、LB和Bλ分別為BDS的高度、緯度和經度信息，δ·表示各項對應的誤差，H2(t)為系統量測矩陣，V2(t)為系統量測噪聲。

由式(21)(28)可得系統量測矩陣H2為：

根據系統狀態方程(20)和量測方程(26)(28)利用MPF算法估計系統狀態，為神經網絡模型提供精確的學習樣本。

2.3 基于MPF的神經網絡算法在組合導航中的應用

神經網絡模型類似于“黑匣子”，只有輸入和輸出與外界發生聯系。利用MPF為網絡提供學習樣本，并采用基于MPF的權值更新算法訓練網絡模型，當網絡輸出與樣本值間的誤差在允許范圍內時，訓練結束。網絡的權值也隨之確定，此時輸入一組新的變量，可用此神經網絡對系統進行精確估計。原理如圖2所示。

由圖2確定神經網絡模型的非線性函數形式為：

圖2 基于預測濾波的神經網絡算法應用于組合導航原理圖Fig.2 Schematic diagram of neural networks based on MPF for integrated navigation system

隱含層神經元個數根據系統復雜程度，網絡訓練目標的精度以及訓練速度等因素綜合確定。如果節點太少，神經網絡的收斂速度會變慢，甚至不易收斂；反之，節點選擇過多，會引起神經網絡的拓撲結構復雜，迭代計算量過大等問題。根據組合導航模型的復雜度，神經網絡隱含層節點數可確定為：

式中，i為輸入層節點數，k為輸出層節點數，β是0～10之間的隨機數。

3 仿真實驗及分析

設飛行器的初始位置為東經109°，北緯34°，高度1200 m。陀螺的隨機漂移為0.01(°)/h，隨機游走為。加速度常值誤差為 10-4g，隨機游走為。SINS初始速度誤差0.5 m/s，初始位置誤差15 m；星敏感器的量測精度為20′，安裝誤差為20′；BD位置誤差均方根為10 m，速度誤差均方根為0.3 m/s；仿真時間為1000 s。誤差統計結果如表1所示。仿真結果如圖3～5所示。

表1 組合導航系統誤差統計Tab.1 Integrated navigation systems error statistics

圖3 位置誤差估計Fig.3 Position error estimation

圖3中虛線表示采用擴展卡爾曼濾波（EKF）計算得到的位置誤差曲線，實線表示采用模型預測神經網絡（MPNN）計算得到的位置誤差曲線。通過對圖3中誤差曲線的分析和比較可以看出，EKF算法得到的東向、北向以及天向位置誤差均在[-10 m,+10 m]之內；模型預測神經網絡濾波算法計算得到的東向位置誤差在[-5 m,+5 m]之內，北向位置誤差和天向位置誤差在[-4 m,+4 m]之內。

對圖5中誤差曲線的分析和比較可以看到，EKF算法計算得到的航向角、俯仰角和橫滾角誤差均為[-0 .5′,+0 .5′]；MPNN計算得到的航向角誤差為[-0 .2′,+0 .2′]，俯仰角和航向角誤差為。

圖4 速度誤差估計Fig.4 Velocity error estimation

圖4中虛線表示采用擴展卡爾曼濾波（EKF）計算得到的速度誤差曲線，實線表示采用模型預測神經網絡（MPNN）計算得到的速度誤差曲線。由圖4可以看出，EKF算法計算得到的東向、北向和天向的速度誤差均為[-0.1m/s,+0.1m/s]；MPNN計算得到的東向速度誤差為[-0.05 m/s,+0.05 m/s]，北向速度誤差和天向速度誤差為[-0.06 m/s,+0.06 m/s]。

圖5中虛線表示采用擴展卡爾曼濾波（EKF）得到的姿態誤差曲線，實線表示采用模型預測神經網絡（MPNN）計算得到的姿態誤差曲線。

圖5 姿態誤差估計Fig.5 Attitude error estimation

4 結 論

針對系統誤差的不確定性引起的非線性濾波精度降低或發散的問題，提出一種基于模型預測濾波的前向神經網絡算法。將該算法應用于SINS/CNS/BDS組合導航系統進行仿真驗證，并與擴展卡爾曼濾波進行比較。結果表明，提出的模型預測前向神經網絡算法，濾波性能明顯優于擴展卡爾曼濾波算法，不但算法的實時性好，而且能提高組合導航系統的解算精度。

（References）：

[1]趙巖，高社生，馮鵬程.臨近空間偽衛星抗風場干擾自主導航[J].中國慣性技術學報，2013，21(3)：359-364.ZHAO Yan,GAO She-sheng,FENG Peng-cheng.Autonomous navigation of near space pseudolite under wind field disturbance[J].Journal of Chinese Inertial Technology,2013,21(3): 359-364.

[2]Wu Xiaojuan,Wang Xinlong.A SINS/CNS deep integrated navigation method based on mathematical horizon reference[J].Aircraft Engineering and Aerospace Technology,2011,83(1): 26-34.

[3]Yang Yi,Gao Shesheng,Zhao Yan.A novel stock decision model based on BP neural network[C]//2012 3rd International Conference on Intelligent Control and Information Processing: 317-321.

[4]Aboelmagd N,Ahmed E,Mohamed B.GPS/INS integration utilizing dynamic neural networks for vehicular navigation[J].Information Fusion,2011,12(1):48-57.

[5]Hamid M,Nitin K.T.Cascading artificial neural networks optimized by genetic algorithm and integrated with global navigation satellite system to offer accurate ubiquitous in urban environment[J].Computers,Environment and Urban Systems,2013,37(1): 35-44.

[6]王新龍，申功勛，唐德麟.基于最優估計神經網絡的慣導系統初始對準研究[J].宇航學報，2002，23(3)：34-38.WANG Xin-long,SHEN Gong-xun,TANG De-lin.Initial alignment of the inertial navigation system based on a neural network suitable for the best estimation[J].Journal of Astronautics,2002,23(3): 34-38.

[7]Wen Yu.Nonlinear system identification using discretetime recurrent neural networks with stable learning algorithms[J].Information Sciences,2004,158: 131-147.

[8]劉國燕，徐曉蘇，白宇駿.基于H∞濾波算法的前向神經網絡在SINS初始對準中的應用[J].東南大學學報（自然科學版），2003，33(3)：331-334.LIU Guo-yan,XU Xiao-su,BAI Yu-jun.Application of feedforward neural networks based onH∞filter in SINS[J].Journal of Southeast University (Natural Science Edition),2003,33(3): 331-334.

[9]Sanaz M,Javad P,Mohammad R J,et al.Nonlinear model predictive control of a pH neutralization process based on Wiener-Laguerre model[J].Chemical Engineering Journal,2009,146(3): 328-337.

[10]高社生，宋飛彪，姜微微.抗差自適應模型預測濾波及其在組合導航中的應用[J].中國慣性技術學報，2011，19(6)：701-705.GAO She-sheng,SONG Fei-biao,JIANG Wei-wei.Robust adaptive model predictive filtering algorithm and application to integrated navigation[J].Journal of Chinese Inertial Technology,2011,19(6): 701-705.

Feed-forward neural network algorithm based on model predictive filtering and its application in integrated navigation

YANG Yi1,GAO She-sheng1,WU Jia-peng2,ZHAO Yan1
(1.School of Automation,Northwestern Polytechnical University,Xi’an 710072,China;2.Space Star Technology Co.,LTD.,Beijing 100086,China)

In view that the uncertainty of system errors may reduce the filtering precision or cause the problem of filter divergence,this paper proposes a novel feed-forward neural network algorithm based on model predictive filtering.First,a model predictive filtering(MPF) is used to estimate the neural network model errors in the forward transfer process and revise it to resist the impact on weights updating.Then,the MPF is used to provide accurate learning samples to neural network for approximating the nonlinear relationship.Finally,the proposed algorithm is applied to the SINS/CNS/BDS(SINS/celestial navigation system/BeiDou navigation satellite system) integrated navigation system and compared with extended Kalman filter (EKF).Simulation results demonstrate that the attitude angle error,velocity error and position error obtained by the improved neural network algorithm are within[-0.25′,+0.25′],[-0.05 m/s,+0.05 m/s]and [-5 m,+5 m],respectively,and the filtering performance is significantly superior to that of the EKF.The results show that the proposed algorithms effectively improve the positioning precision of the navigation system.

feed-forward neural network; model predictive filter; weights updating; SINS/CNS/BDS integrated navigation;

V249.32

：A

1005-6734(2014)02-0221-06

10.13695/j.cnki.12-1222/o3.2014.02.015

2013-11-20 ；

：2014-03-26

國家自然科學基金（61174193）；中國航天科技集團公司衛星應用研究院開放基金資助

楊一（1985—），男，博士研究生，研究方向為導航、制導與控制。E-mail：yangyi19850315@163.com

聯 系 人：高社生（1956—），男，教授，博士生導師。E-mail：gshshnpu@163.com