摘 要:為了提高航空器的安全性能,需量化飛參預測過程中的不確定性,因此本文提出了基于預測模型的置信度評價流程。針對航空器導航系統中的飛參數據,采用卷積神經網絡開發預測算法,對選定的飛參數據進行預處理和訓練,實現高精度的目標飛參預測。綜合考慮了模型搭建中的認知不確定性和數據層面的偶然不確定性,采用模型集成的方法來捕獲認知不確定性,通過雙頭網絡捕獲數據中的偶然不確定性。在此基礎上,構建多源不確定性模型,實現了飛參預測模型的置信度評價。經過試驗測試,在正常飛參數據中植入噪聲模擬實際工況的不確定性,結果顯示所提置信度評價方法能有效地表示飛參預測結果的準確性,提高了航空器飛行決策過程中的安全性與可靠性。
關鍵詞:航空器; 飛行參數; 神經網絡; 不確定性分析; 置信度
中圖分類號:V241 文獻標識碼:A DOI:10.19452/j.issn1007-5453.2024.02.014
基金項目: 航空科學基金(201905019001)
導航系統是保證航空器安全穩定運行的重要系統之一[1],導航系統中含有豐富的飛行監測數據,這些監測數據可以作為反映航空器飛行狀態的指標。針對導航系統中的飛行參數(簡稱飛參)進行預測,并進一步根據預測結果實現導航系統的異常檢測與異常定位,以提高航空器的安全性能[2]。因此,開展導航系統中的飛參預測具有重要的研究意義與應用價值。
航空器飛參數據具有大數據量、高維度以及強耦合的特點[3]。基于模型的方法,通過空氣動力學方程和數學模型建立航空器導航系統仿真模型[4],從而實現飛參預測。然而,導航系統的結構復雜度高,難以建立精確的數學模型。因此,采用基于模型的飛參預測方法對導航系統而言并不具優勢,在自適應性和魯棒性上無法滿足需求。基于數據驅動的預測方法從數據層面出發,可以有效地針對大數據進行信息或特征挖掘。其中,數據處理能力更強的神經網絡能在數據預測層面達到更好的效果。
在實際工程應用中,導航系統的異常檢測十分注重結果的物理意義,也更強調方法的可解釋性。然而,傳統算法模型僅能輸出單一預測和異常定位結果,基于深度學習的神經網絡運算過程具有不可解釋性,無法對預測結果的置信度進行描述。因此,對預測過程存在的不確定性進行量化評估,繼而對預測模型進行置信度評價十分有必要。
在深度學習研究領域,普遍存在兩種不確定性,即認知不確定性和偶然不確定性[5]。認知不確定性指的是模型中的不確定性,一方面是由系統異常空間未知導致的,另一方面是由歷史數據集不充足造成的,在數據集充足的條件下,認知不確定性可以被有效降低。在數據采集中,由于環境或傳感器固有特性導致采集數據中存在噪聲,從而使得預測結果中存在隨機性,因此此類不確定性為偶然不確定性。因而,偶然不確定性在實際工程應用中是無法避免的。
對于認知不確定性的量化方法,可以分為基于貝葉斯網絡的方法和基于非貝葉斯網絡的方法兩類。麥吉爾大學的Zhang Yingyue等[6]利用貝葉斯定理構建貝葉斯圖卷積神經網絡,并利用混合隸屬度隨機塊模型重構網絡結構,以解決同質信息網絡中網絡結構的不確定性問題。A.Graves等[7]提出用高斯變分后驗證近似擬合神經網絡上的權值,在完成不確定性建模的同時,通過剪枝方法成功縮小模型的參數。但是,使用貝葉斯網絡的方法時,不準確的先驗會導致不合理的預測不確定性。
基于非貝葉斯網絡量化認知不確定性的方法,具有代表性的是基于模型集成的方法,通過集成多個基礎網絡模型,合成預測結果以減少方差,同時生成模型不確定性的分布估計,但此方法需要更高的內存和計算成本,在許多場景下難以進行模型部署。B. Lakshminarayanan等[8]提出了一種簡單且可擴展的方法來估計神經網絡模型中的預測不確定性,通過訓練多個獨立的神經網絡模型,并對各模型的預測結果進行聚合,可以獲得更可靠的不確定性估計結果。Y. Ovadia等[9]根據受分布偏移影響的測試集評估不同的不確定性量化方法,研究考慮了多種數據模式和架構,最終指出相對較小的集成模型對于不確定性量化的任務已足夠。相較其他對比方法,基于模型集成的方法在面對數據集遷移時顯示出更強的魯棒性。
對于偶然不確定性的量化方法,目前的研究相對較少。然而,真實工況數據的噪聲、不一致性和多模態性使得數據層面的不確定性變得不容忽視。M. Ott等[10]針對機器翻譯中存在多個合理的翻譯版本以及訓練數據中的噪聲,提出了外在不確定性評價工具和指標,然而最終量化的是模型輸出中的不確定性。Chang Jie等[11]針對人臉識別任務建模數據的不確定性,將數據的均值和方差表示為特征和不確定性,并同步進行訓練。李艷等[12]針對元學習中的不確定性進行建模,建立了6種不確定性表示方法。然而,這些方法是基于某些領域或特定條件提出的,且都是基于分類模型的不確定性量化方法,沒有提出一種通用方法來處理一般數據中的不確定性。在實際應用中,由于不同領域數據的差異性,不同領域間不確定性量化方法和模型的遷移性和可擴展性較差。因此,構建一種通用且簡單的不確定性量化方法十分必要。
綜上所述,已有不少研究在基于深度學習的神經網絡中開展不確定性量化,實現對網絡模型的置信度評價。然而,現有研究僅單獨分析了認知不確定性和偶然不確定性,缺乏綜合考慮兩種不確定性對預測模型的影響。因此,本文在飛參預測模型的基礎上,充分考慮多源不確定性的影響,構建多源不確定性分析模型,實現飛參預測模型的置信度評價。
1 不確定性理論
航空器導航系統飛參預測中存在認知不確定性和偶然不確定性。認知不確定性是由于導航系統異常空間未知和歷史數據集不充足而產生的。偶然不確定性是由于采集到的數據所包含的噪聲導致了預測結果的隨機性。飛參預測任務中不確定性可以表示為認知不確定性和偶然不確定性的總和。綜合考慮多源不確定性,可以有效地評價飛參預測模型的置信度,從而提高預測結果的可靠性和魯棒性。
1.1 認知不確定性

為了捕獲認知不確定性,常用的方法有蒙特卡羅隨機失活(MC Dropout)和模型集成。MC Dropout通過在網絡中的Dropout層進行推理,并進行多次采樣來近似后驗分布,適用于大型復雜模型。模型集成則通過訓練多個同構模型,并對它們的輸出進行均值和方差計算來獲得預測結果和認知不確定性。考慮到單個預測模型的規模較小,并且為了提高計算效率,本文采用基于模型集成的認知不確定性捕獲方法。集成式認知不確定性捕獲方法的流程如圖1所示。


預測模型的置信度u在0~100范圍內,u越接近于0表示置信度越低,即預測結果越不可信;u越接近于100表示置信度越高,即預測結果越可信。若u小于0,則被強制置為0。在本文中,每一個飛行參數都對應一個表示其預測結果的置信度。
2 基于飛參預測的不確定性模型
2.1 算法整體框架
本文提出了一種用于飛參預測置信度評價的不確定性模型分析框架,該網絡模型的主體架構為卷積神經網絡(CNN)。算法整體流程如圖2所示。
首先,對飛參數據集中的數據進行預處理,采用線性函數歸一化將所有數據映射到同一尺度,并通過滑動窗口將數據集劃分為多個樣本;其次,將劃分好的訓練集樣本輸入飛參預測不確定性模型進行訓練;最后,得到預測結果和不確定性量化值,完成飛參預測的置信度評價。
2.2 飛行數據預處理

為了使飛行參數數據適用于神經網絡模型的訓練和分析,在一開始進行數據預處理的工作。本文中數據預處理主要包括數據歸一化與滑動窗口處理。

2.3 飛參預測模型構建
由于航空器飛參數據為多維時間序列信號,具有大數據量、高維度以及強耦合的特點,傳統機器學習的預測方法在自適應性和魯棒性上無法滿足需求,數據處理能力更強的神經網絡得到關注,其中卷積神經網絡能夠有效地提取局部特征,并實現參數共享。因此,本文采用CNN建立單飛參預測模型,根據其他已知相關飛參數據對航空器目標飛參數據進行準確的預測。
CNN由卷積層、池化層和全連接層交叉堆疊而成。本文采用二維卷積神經網絡建立預測模型,通過卷積層和池化層對輸入的相關飛參數據的特征進行提取,最終得到目標飛參數據預測結果。
航空器的姿態數據采樣頻率為60Hz,實時描述了航空的飛行狀態,本文選取了33個航空器姿態相關數據(包含速度類、角速度類、指令類、過載類、舵面位置類、高度類等),采用其中32個參數的已知數據預測一個目標參數的數據,滑窗寬度為18,因此輸入數據的大小為32×18,輸出數據的大小為1×1。
2.4 不確定性模型構建與訓練
本文所設計捕獲預測過程中多源不確定性的網絡架構如圖3所示,其中n表示捕獲集成式認知不確定性時所需的模型個數。為了同時捕獲認知不確定性和偶然不確定性,在異方差偶然不確定性模型中放入權重分布,使得模型轉化為貝葉斯神經網絡。在設計過程中,貝葉斯神經網絡模型輸出需要包含兩部分:一部分是由輸入數據經過預測模型得到的預測結果及認知不確定性;另一部分是根據偶然不確定性模型得到的偶然不確定性。因此,建立基于雙頭網絡的多源不確定性模型,包含綜合特征提取網絡、預測結果輸出網絡和偶然不確定性輸出網絡。

在多源不確定性模型中,綜合特征提取網絡用于提取輸入數據的綜合高級抽象特征與特征降維,綜合特征提取網絡的結構如圖4所示。
預測結果輸出網絡接收綜合特征提取網絡的低維特征輸入,用于計算最終預測結果和認知不確定性;偶然不確定性輸出網絡接收綜合特征提取網絡的低維特征輸入,用于計算預測結果的偶然不確定性。預測結果輸出網絡和偶然不確定性輸出網絡的結構一致,如圖5所示。

3 測試驗證
3.1 數據描述
本文所使用的試驗數據均來自無人機的實際飛行數據,該無人機為“Clouds”固定翼無人機,如圖6所示。
試驗數據利用Pixhawk 4采集得到,包含速度類、角速度類、指令類、過載類、舵面位置類、高度類等共33個傳感器參數。無人機共進行18次飛行任務,部分任務全程平穩飛行,部分任務增加了大機動飛行。將其中12次飛行任務的飛參數據作為訓練集,另外6次飛行任務的飛參數據作為測試集,訓練集與測試集中均包含平穩飛行和大機動飛行的任務,旨在使模型具備不同工況下的預測能力并予以測試。

3.2 預測結果對比
為了對比不同神經網絡應用在試驗數據集上的表現性能,將飛參預測模型的網絡結構由CNN改為長短期記憶(LSTM)網絡和全連接神經網絡(FCNN),分別進行學習率為0.001的40輪網絡訓練,并將測試集輸入訓練完成的模型得到飛參預測結果。本文選擇均方誤差(MSE)和決定系數(R2)作為評價指標,對33個飛參依次進行預測,將得到的33個MSE和R2取均值得到最終該網絡的預測指標結果,見表1。

根據對比試驗的結果,本文所選取的CNN在飛參預測任務中的表現效果最好,其MSE是三個網絡中最小的,而R2是三個網絡中最高的。由此可見,基于CNN的飛參預測模型對試驗數據的擬合程度和預測能力都是最好的,這證明了本文預測模型所選網絡的優越性和有效性。
3.3 噪聲植入

3.4 結果測試
本文將測試數據植入不同信噪比的噪聲,對預測模型開展置信度測試。以飛參中的俯仰角為例,在除俯仰角外的飛行參數中依次植入不同功率的噪聲,使得數據的信噪比依次為50dB、20dB和10dB,然后將注入噪聲的數據輸入訓練好的模型,觀察并記錄俯仰角預測值與真實值之間的差值以及置信度指標在不同噪聲程度下的表現,結果如圖7~圖9所示。

對比圖7~圖9可以發現,隨著信噪比的逐步降低,俯仰角預測值逐漸偏離真實數據。當信噪比為50dB時,預測值跟隨真實值的效果最好,在各個數據點的置信度也接近于100。同時,置信度指標的值也隨著信噪比降低而下降,說明數據中含有的噪聲越大,最終得到的預測值的置信度越低,也表示預測模型得到的結果越不可信。當飛參數據中信噪比為10dB時,各個數據點對應的預測結果置信度甚至全為0。這表明本文所提的置信度評價方法能有效地表示基于神經網絡的飛參預測模型預測結果的準確度。

4 結論
本文針對高維度的導航系統飛參數據,進行飛參預測研究,采用卷積神經網絡開發預測算法,對選定的飛參數據進行訓練,實現了高精度的目標飛參預測。由于飛參預測模型基于神經網絡,運算過程具有不可解釋性,本文綜合考慮了模型搭建中的認知不確定性和數據層面的偶然不確定性,采用模型集成的方法捕獲認知不確定性,通過設計雙頭網絡捕獲數據中的偶然不確定性。在此基礎上,構建多源不確定性模型,最終實現了飛參預測模型的置信度評價。經過試驗測試,在正常飛參數據中植入噪聲模擬實際工況下出現的不確定性,測試結果顯示本文所提置信度評價方法能有效地表示飛參預測結果的準確性。
參考文獻
[1]楊立釩.北斗衛星導航系統在民航導航中的應用分析[J].電子技術與軟件工程,2020,193(23): 26-27. Yang Lifan. Application analysis of Beidou navigation satellite system in civil aviation navigation[J]. Electronic Technology and Software Engineering, 2020, 193(23):26-27. (in Chinese)
[2]Zhong Jie, Zhang Yujie, Wang Jianyu, et al. Unmanned aerial vehicle flight data anomaly detection and recovery prediction based on spatio-temporal correlation[J]. IEEE Transactions on Reliability, 2022, 71(1):457-468.
[3]葉子豪,張曉敏,劉亞飛,等.用于飛機模型參數辨識的飛行數據處理方法研究[J]. 航空科學技術,2022,33(8):78-87. Ye Zihao, Zhang Xiaomin, Liu Yafei, et al. Research on flight data processing method for aircraft model parameter identification[J]. Aeronautical Science Technology, 2022, 33(8):78-87. (in Chinese)
[4]鐘倫瓏,劉永玉,李雪艷.基于KL散度的緊組合導航欺騙式干擾檢測方法[J].航空科學技術, 2022,33(11):76-83. Zhong Lunlong, Liu Yongyu, Li Xueyan. Deception interference detection method for compact integrated navigation based on KL divergence[J]. Aeronautical Science Technology, 2022, 33(11):76-83. (in Chinese)
[5]Kendall A, Gal Y. What uncertainties do we need in bayesian deep learning for computer vision[C].31st Annual Conference on Neural Information Processing Systems (NIPS). Long Beach, 2017.
[6]Zhang Yingyue, Pal S, Coates M, et al. Bayesian graph convo‐lutional neural networks for semi-supervised classification[C]// Proceedings of the AAAI Conference on Artificial Intelligence, 2019.
[7]Graves A. Practical variational inference for neural networks[C].25st Annual Conference on Neural Information Processing Systems (NIPS). Granada Spain, 2011.
[8]Lakshminarayanan B, Pritzel A, Blundell C. Simple and scalable predictive uncertainty estimation using deep ensembles[C].31st Annual Conference on Neural Information Processing Systems (NIPS). Long Beach, 2017.
[9]Ovadia Y, Fertig E, Ren Jie, et al. Can you trust your model’s uncertainty? Evaluating predictive uncertainty under dataset shift [C].33st Annual Conference on Neural Information Pro‐cessing Systems (NIPS). Vancouver, 2019.
[10]Ott M, Auli M, Grangier D, et al. Analyzing uncertainty in neural machine translation [C]. 35th International Conference on Machine Learning (ICML). Stockholm, 2018: 3956-3965.
[11]Chang Jie, Lan Zhonghao,Cheng Changmao, et al. Data uncer‐tainty learning in face recognition[C]. IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle, 2020: 5710-5719.
[12]李艷,郭劼,范斌. 元學習的不確定性特征構建及初步分析[J]. 計算機應用,2022,42(2):343-348. Li Yan, Guo Jie, Fan Bin. Uncertainty feature construction and preliminary analysis of meta-learning[J]. Computer Applica‐tions, 2022, 42(2):343-348.(in Chinese)
Research on Confidence Evaluation Method of Flight Parameter Prediction in Aircraft Navigation System
Huang Mengchan, Zhong Jie, Miao Qiang Sichuan University, Chengdu 610065, China
Abstract: To enhance the safety performance of aircraft, a confidence assessment process based on predictive modeling is proposed to quantify the uncertainty in flight parameter prediction. A convolutional neural network was employed to develop a prediction algorithm for flight parameter data in aircraft navigation systems. The selected flight parameter data was preprocessed and trained to achieve high-precision target parameter prediction. The modeling process incorporated both epistemic uncertainty in model construction and aleatoric uncertainty in the data by using ensemble methods to capture epistemic uncertainty and employing a dual-head network to capture aleatoric uncertainty. Based on this, a multi-source uncertainty model was constructed to evaluate the confidence of the flight parameter prediction model. Experimental testing, including the introduction of noise into normal flight parameter data to simulate real-world conditions, demonstrates that the proposed confidence assessment method effectively represents the accuracy of the flight parameter prediction results, and improves the safety and reliability of aircraft flight decision-making process.
Key Words: aircraft; flight parameter; neural networks; uncertainty analysis; confidence