基于動(dòng)態(tài)加權(quán)集成學(xué)習(xí)的遙測(cè)數(shù)據(jù)預(yù)測(cè)方法

梅玉航,賈海艷

(中國(guó)人民解放軍92941部隊(duì)，遼寧 葫蘆島 125000)

0 引言

遙測(cè)數(shù)據(jù)主要用于獲取飛行器上各子系統(tǒng)的運(yùn)行狀態(tài)監(jiān)測(cè)數(shù)據(jù)，通過(guò)分析遙測(cè)數(shù)據(jù)以監(jiān)測(cè)各子系統(tǒng)功能正常與否并對(duì)其進(jìn)行安全控制[1]。遙測(cè)數(shù)據(jù)本質(zhì)是多維時(shí)間序列，同時(shí)遙測(cè)數(shù)據(jù)易受測(cè)量設(shè)備、空間環(huán)境和運(yùn)行狀態(tài)等影響產(chǎn)生不明顯的數(shù)據(jù)漂移變化，其表現(xiàn)可能是數(shù)據(jù)的突變形式，也有可能是緩慢的線性變化等，變化趨勢(shì)不易判斷，對(duì)其進(jìn)行數(shù)據(jù)分析的主要問(wèn)題之一是能進(jìn)行高精度的預(yù)測(cè)，從而判定其監(jiān)測(cè)的子系統(tǒng)狀態(tài)是否正常。

目前用于時(shí)間序列預(yù)測(cè)的方法有兩類:一類為數(shù)學(xué)和統(tǒng)計(jì)方法，如線性回歸，ARIMA方法和指數(shù)平滑等[2-3]；另一類基于機(jī)器學(xué)習(xí)方法，如支持向量機(jī)回歸[4]，隨機(jī)森林和神經(jīng)網(wǎng)絡(luò)等[5-6]。對(duì)某種模式時(shí)間序列的預(yù)測(cè)都存在特定對(duì)應(yīng)的方法，但在時(shí)間序列存在數(shù)據(jù)漂移的情況下，隨著時(shí)間的推移，這些方法預(yù)測(cè)的精度會(huì)不斷降低。集成學(xué)習(xí)的優(yōu)勢(shì)在于即使一些基學(xué)習(xí)模型不能準(zhǔn)確預(yù)測(cè)時(shí)間序列模式的變化，但另一些基學(xué)習(xí)模型能實(shí)現(xiàn)精確預(yù)測(cè)，通過(guò)對(duì)各基學(xué)習(xí)模型預(yù)測(cè)輸出的加權(quán)求和從而實(shí)現(xiàn)預(yù)測(cè)誤差相互抵消，使總體的預(yù)測(cè)精度得到補(bǔ)償。因此通過(guò)集成多樣性的基學(xué)習(xí)器能解決傳統(tǒng)預(yù)測(cè)方法隨時(shí)間性能下降的問(wèn)題[7]。

在遙測(cè)數(shù)據(jù)分析處理過(guò)程中不可避免伴隨著噪聲，而噪聲源通常不易確定，因此人工智能神經(jīng)網(wǎng)絡(luò)方法更適合對(duì)遙測(cè)數(shù)據(jù)的預(yù)測(cè)。神經(jīng)網(wǎng)絡(luò)借助有監(jiān)督學(xué)習(xí)方法能建立輸入變量與輸出變量間復(fù)雜的函數(shù)關(guān)系[8]，目前廣泛用于解決預(yù)測(cè)問(wèn)題，其預(yù)測(cè)精度和效率取決于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和訓(xùn)練方法[9]。另外，神經(jīng)網(wǎng)絡(luò)對(duì)于遙測(cè)數(shù)據(jù)預(yù)測(cè)還具有一些特殊的優(yōu)勢(shì)：神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)能力，有多個(gè)可供選擇的轉(zhuǎn)換函數(shù)和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)；通過(guò)多層神經(jīng)網(wǎng)絡(luò)的隱層神經(jīng)元的非線性特性可實(shí)現(xiàn)非線性映射功能；高度的并行機(jī)制可提高預(yù)測(cè)的實(shí)時(shí)性。憑借以上優(yōu)點(diǎn)，神經(jīng)網(wǎng)絡(luò)算法可實(shí)現(xiàn)具有復(fù)雜算法的數(shù)據(jù)預(yù)測(cè)。但是，傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)方法在確定復(fù)雜神經(jīng)網(wǎng)絡(luò)的參數(shù)時(shí)需要占用一定時(shí)間和資源，因此針對(duì)多變量時(shí)間序列預(yù)測(cè)問(wèn)題需要開(kāi)發(fā)能自動(dòng)確定網(wǎng)絡(luò)參數(shù)和結(jié)構(gòu)的工具，以找到參數(shù)最優(yōu)解。

考慮到如前述使用單一預(yù)測(cè)模型存在不穩(wěn)定性，而集成算法模型能有效解決模型的泛化性和可信度[10-11]，因此提出一種基于動(dòng)態(tài)加權(quán)神經(jīng)網(wǎng)絡(luò)(NNRW)集成學(xué)習(xí)方法[12]，通過(guò)集成多個(gè)較簡(jiǎn)單神經(jīng)網(wǎng)絡(luò)來(lái)替換單一復(fù)雜的神經(jīng)網(wǎng)絡(luò)，從而減少預(yù)測(cè)模型建立的時(shí)間和復(fù)雜性，保證遙測(cè)數(shù)據(jù)預(yù)測(cè)的實(shí)時(shí)性。選擇神經(jīng)網(wǎng)絡(luò)作為基學(xué)習(xí)器，根據(jù)各基學(xué)習(xí)器目前和過(guò)去的性能，動(dòng)態(tài)調(diào)整輸出權(quán)值，實(shí)現(xiàn)對(duì)遙測(cè)數(shù)據(jù)的預(yù)測(cè)，并提高預(yù)測(cè)的總體精度。

1 集成預(yù)測(cè)原理

集成預(yù)測(cè)通過(guò)集成學(xué)習(xí)方法獲取數(shù)據(jù)預(yù)測(cè)模型，該方法的主要原則是利用基模型的多樣性，通過(guò)對(duì)不同基模型輸出的適當(dāng)聯(lián)合進(jìn)而獲取到相比于其中最優(yōu)的單個(gè)基模型更精確的結(jié)果。集成學(xué)習(xí)過(guò)程具體分為3個(gè)階段：集成產(chǎn)生，集成修剪和集成整合。在集成產(chǎn)生階段，訓(xùn)練完成一組具有多樣性的預(yù)測(cè)基模型。在集成修剪階段，實(shí)現(xiàn)消除基模型集合的冗余，剔除高誤差模型，從而提高最終預(yù)測(cè)的總體精度。最后在整合階段，利用各基模型計(jì)算結(jié)果的線性聯(lián)合實(shí)現(xiàn)對(duì)各基模型預(yù)測(cè)結(jié)果的整合，以獲取最優(yōu)的預(yù)測(cè)結(jié)果。

為解決飛行器上多個(gè)子系統(tǒng)遙測(cè)數(shù)據(jù)預(yù)測(cè)問(wèn)題，針對(duì)各子系統(tǒng)配置相應(yīng)的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器，遙測(cè)數(shù)據(jù)經(jīng)預(yù)處理后，各子系統(tǒng)相關(guān)的遙測(cè)數(shù)據(jù)集分別輸入對(duì)應(yīng)訓(xùn)練完成的集成學(xué)習(xí)器，并輸出下一時(shí)刻的狀態(tài)參數(shù)預(yù)測(cè)值。其工作原理如圖1所示。

圖1 神經(jīng)網(wǎng)絡(luò)集成預(yù)測(cè)工作原理圖

子系統(tǒng)識(shí)別ID通過(guò)通信模塊傳遞到控制器，控制器可控制不同子系統(tǒng)對(duì)應(yīng)的遙測(cè)數(shù)據(jù)預(yù)處理數(shù)據(jù)集依次輸入相應(yīng)的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器，并將集成學(xué)習(xí)器預(yù)測(cè)結(jié)果傳回控制器進(jìn)行輸出，當(dāng)控制器發(fā)現(xiàn)某個(gè)集成學(xué)習(xí)器預(yù)測(cè)性能下降時(shí)，向遞增學(xué)習(xí)模塊發(fā)出學(xué)習(xí)信號(hào)，該遞增學(xué)習(xí)模塊進(jìn)行訓(xùn)練初始化，完成訓(xùn)練數(shù)據(jù)集準(zhǔn)備和新的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，訓(xùn)練完成后對(duì)集成學(xué)習(xí)器中性能變差的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行替換。

2 神經(jīng)網(wǎng)絡(luò)(NNRW)集成學(xué)習(xí)器

飛行器遙測(cè)數(shù)據(jù)本質(zhì)是一個(gè)多維時(shí)間序列，該時(shí)間序列為按照嚴(yán)格的采樣間隔獲取的數(shù)據(jù)集，而時(shí)間序列預(yù)測(cè)是利用已知數(shù)據(jù)Yt-n…Yt-3,Yt-2,Yt-1,Yt, 預(yù)測(cè)得到Y(jié)t+1[10]。其中：Yt+1為集成神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)得到的目標(biāo)值；Yt為已知的觀測(cè)值；t為時(shí)間軸上的序列號(hào)。

2.1 集成學(xué)習(xí)器原理

基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)，要求具有較高的預(yù)測(cè)精度以及計(jì)算效率，可以滿足遙測(cè)數(shù)據(jù)處理的要求。考慮到單一神經(jīng)網(wǎng)絡(luò)存在不穩(wěn)定性，而集成學(xué)習(xí)方通過(guò)聯(lián)合多個(gè)同質(zhì)或異質(zhì)神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)，不僅可實(shí)現(xiàn)預(yù)測(cè)模型的泛化性能，而且預(yù)測(cè)精度可高于單一最優(yōu)神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器由多個(gè)同質(zhì)神經(jīng)網(wǎng)絡(luò)構(gòu)成，這樣可獲得穩(wěn)定的預(yù)測(cè)輸出，極大減少神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)參數(shù)數(shù)量，簡(jiǎn)化了參數(shù)選擇和優(yōu)化過(guò)程，提高了集成學(xué)習(xí)器的效率。

集成學(xué)習(xí)器原理如圖2所示。

圖2 神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器

一個(gè)神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器包含一組神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器，其中的每個(gè)神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器都獨(dú)立對(duì)輸入的遙測(cè)數(shù)據(jù)進(jìn)行預(yù)測(cè)，神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的結(jié)構(gòu)為單隱藏層的前向反饋多層感知機(jī)，為簡(jiǎn)化集成學(xué)習(xí)器結(jié)構(gòu)和提高預(yù)測(cè)性能，將各神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器輸出的加權(quán)和作為集成學(xué)習(xí)器的輸出預(yù)測(cè)值。該種方法可保證預(yù)測(cè)的精度優(yōu)于其中最優(yōu)神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)精度并能在數(shù)據(jù)存在漂移及擾動(dòng)時(shí)對(duì)預(yù)測(cè)結(jié)果進(jìn)行平滑處理。

2.2 多層感知機(jī)神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器為多層感知機(jī)神經(jīng)網(wǎng)絡(luò)(multilayer perceptron)結(jié)構(gòu)，該結(jié)構(gòu)設(shè)計(jì)具有一個(gè)輸入層，一個(gè)隱藏層和一個(gè)輸出層結(jié)構(gòu)。

其功能函數(shù)如式(1)所示：

(1)

其中:I表示神經(jīng)網(wǎng)絡(luò)輸入pi的數(shù)量；H為神經(jīng)網(wǎng)絡(luò)隱藏層節(jié)點(diǎn)數(shù)量；g(·)為非線性激活函數(shù)，這里為雙曲正切函數(shù)。

β=[β1,...βH]為輸出層權(quán)值；γ=[γ11,...γHI]為隱藏層權(quán)值；β0、γ0i為單個(gè)神經(jīng)元的偏置。

由于基學(xué)習(xí)器中隱層神經(jīng)元的數(shù)量對(duì)預(yù)測(cè)性能起關(guān)鍵作用，為獲得隱層節(jié)點(diǎn)數(shù)量的最優(yōu)值，以最小均方誤差(MSE)為判定標(biāo)準(zhǔn)，采用搜索方法獲取。定義隱藏層神經(jīng)元數(shù)量的搜索間隔[3，31]。訓(xùn)練位于間隔內(nèi)的10個(gè)具有該隱藏層數(shù)量的神經(jīng)網(wǎng)絡(luò)，評(píng)估集成神經(jīng)網(wǎng)絡(luò)的精度，之后轉(zhuǎn)換到該間隔內(nèi)其他值，直至數(shù)量間隔搜索完成。選擇具有最小MSE的集成神經(jīng)網(wǎng)絡(luò)，其隱藏層數(shù)量為最優(yōu)。

2.3 神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法

由于反向傳播訓(xùn)練算法通常收斂速度較慢，選擇Levenberg-Marquard算法，該算法適合于性能指標(biāo)為均方誤差(MSE)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練。由于該方法不需要計(jì)算正定矩陣，其正定矩陣可近似為：

H=JTJ

(2)

梯度為：

g=JTe

(3)

其中：J為Jacobian矩陣，包含網(wǎng)絡(luò)誤差對(duì)權(quán)值的一階導(dǎo)，e為網(wǎng)絡(luò)誤差向量。Jacobian矩陣可通過(guò)標(biāo)準(zhǔn)化的反向傳播算法求取的，降低了計(jì)算正定矩陣的復(fù)雜性。

如果權(quán)值和偏差更新等于δ:

δ=ΔWm(k)+Δbm(k)

(4)

因此Levenberg-Marquard算法近似如下函數(shù):

(JTJ+μI)δ=Jte

(5)

其中:J為神經(jīng)網(wǎng)絡(luò)的Jacobian矩陣；μ為阻尼因子；δ為權(quán)值更新向量；e為誤差向量。

每次成功的迭代都會(huì)減小μ值，當(dāng)?shù)行阅芎瘮?shù)增大時(shí)，μ值增加，這樣性能函數(shù)在每次迭代循環(huán)中總是遞減，當(dāng)性能指標(biāo)達(dá)到時(shí)算法收斂。

2.4 動(dòng)態(tài)加權(quán)算法

以往集成學(xué)習(xí)的加權(quán)算法是一種各基學(xué)習(xí)器輸出權(quán)值為靜態(tài)和固定值的方法，其權(quán)值確定方法如式(6)所示:

(6)

其中：msei為第i個(gè)神經(jīng)網(wǎng)絡(luò)在驗(yàn)證數(shù)據(jù)集上的測(cè)量均方差。

動(dòng)態(tài)加權(quán)方法中每個(gè)神經(jīng)網(wǎng)絡(luò)基模型的權(quán)值根據(jù)其過(guò)去和現(xiàn)在的預(yù)測(cè)性能改變，該方法具有優(yōu)于靜態(tài)加權(quán)集成方法的性能。神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器輸出為：

(7)

?k=1,2,…,N

wk,i為第i個(gè)模型的在數(shù)據(jù)k上的權(quán)值，取決于第i個(gè)模型和時(shí)間索引k。設(shè)權(quán)值為非負(fù)且無(wú)偏。

每個(gè)基模型的過(guò)去性能由樣本內(nèi)驗(yàn)證數(shù)據(jù)集評(píng)估，目前性能由樣本外預(yù)測(cè)評(píng)估，通過(guò)利用預(yù)測(cè)誤差作為評(píng)估標(biāo)準(zhǔn)，對(duì)基模型輸出權(quán)值進(jìn)行增減。具體算法如下：

β：縮減因子，

θ：神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器移除時(shí)權(quán)值對(duì)應(yīng)的門限值

p:神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器替換周期

Λ,λ{(lán)1,..,c}：總體和局部預(yù)測(cè)；

m：集成學(xué)習(xí)器中神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量

ε1,...m：預(yù)測(cè)誤差

步驟：

(1)訓(xùn)練獲得神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器

(2)w1,...m←1/m

(3)fori=1,…,m do

(4)Λ=0

(5)for j←1,…,m do

(6)λ←predict(ej,xi)

(7)εj←MAPE(λ,yi)

(8)Λ←Λ+λ*wj

(9)w←lowerweights(w,ε)

(10) ifI mod p=0 then

(11) for j←1,..,m do

(12) ifwj<θ then

(13)e,w←replacewithnewNN()

(14)歸一化w

(15)輸出Λ

該算法初始訓(xùn)練并創(chuàng)建一組m個(gè)多層感知機(jī)神經(jīng)網(wǎng)絡(luò)作為基學(xué)習(xí)器，各基學(xué)習(xí)器具有相等的權(quán)值。迭代開(kāi)始獲取訓(xùn)練樣本的預(yù)測(cè)值，這些局部預(yù)測(cè)值與權(quán)值之積與全局預(yù)測(cè)值Λ進(jìn)行累加，計(jì)算每個(gè)基學(xué)習(xí)器的預(yù)測(cè)誤差，如式(8)所示，以向量形式保存：

(8)

其中:n為樣本數(shù)量，At為實(shí)際值，F(xiàn)t為預(yù)測(cè)值。

算法中通過(guò)轉(zhuǎn)換函數(shù)實(shí)現(xiàn)權(quán)值動(dòng)態(tài)權(quán)值更新，如式(9)所示，對(duì)預(yù)測(cè)性能最差的基學(xué)習(xí)器權(quán)值分配縮減因子β，而對(duì)其它基學(xué)習(xí)器逐漸增加乘子，直到理論最大值1。

(9)

3 實(shí)驗(yàn)驗(yàn)證及分析

遙測(cè)數(shù)據(jù)集是由飛行器上各子系統(tǒng)功能傳感器產(chǎn)生輸出的一組連續(xù)監(jiān)測(cè)數(shù)據(jù)，表征了各子系統(tǒng)的特定功能和狀態(tài)。各子系統(tǒng)的監(jiān)測(cè)參數(shù)依賴于飛行器的運(yùn)行狀態(tài)，同時(shí)各監(jiān)測(cè)參數(shù)間具有一定的相關(guān)性。針對(duì)遙測(cè)數(shù)據(jù)預(yù)測(cè)問(wèn)題，利用多層感知機(jī)神經(jīng)網(wǎng)絡(luò)具有的數(shù)據(jù)預(yù)測(cè)特性，采用動(dòng)態(tài)加權(quán)算法集成多個(gè)感知機(jī)神經(jīng)網(wǎng)絡(luò)做為基學(xué)習(xí)器，通過(guò)對(duì)各基學(xué)習(xí)器預(yù)測(cè)結(jié)果的加權(quán)計(jì)算，實(shí)現(xiàn)對(duì)各基學(xué)習(xí)器的預(yù)測(cè)結(jié)果進(jìn)行一種優(yōu)化平均運(yùn)算，以減小計(jì)算結(jié)果的分散性，滿足遙測(cè)數(shù)據(jù)預(yù)測(cè)精度要求。飛行器遙測(cè)數(shù)據(jù)有距離、速度、俯仰角以及內(nèi)部各傳感器采集的數(shù)據(jù)，為驗(yàn)證集成學(xué)習(xí)預(yù)測(cè)的性能，選用飛行器某氣體單元子系統(tǒng)內(nèi)壓力參數(shù)的遙測(cè)數(shù)據(jù)作為實(shí)驗(yàn)樣本集進(jìn)行集成學(xué)習(xí)算法的驗(yàn)證，并對(duì)集成學(xué)習(xí)模型的性能進(jìn)行評(píng)估。

3.1 數(shù)據(jù)處理

由于多層感知機(jī)神經(jīng)網(wǎng)絡(luò)為有監(jiān)督學(xué)習(xí)，為了保證訓(xùn)練的神經(jīng)網(wǎng)路預(yù)測(cè)性能最優(yōu)，需要保證一定規(guī)模的數(shù)據(jù)進(jìn)行訓(xùn)練，首先需要產(chǎn)生具有輸入向量，輸出向量的訓(xùn)練數(shù)據(jù)集。為此采用滑動(dòng)窗口技術(shù)獲取訓(xùn)練數(shù)據(jù)集，具體過(guò)程為從遙測(cè)數(shù)據(jù)的時(shí)間序列中抽取對(duì)應(yīng)窗口的片段作為輸入向量，輸出值的期望值為對(duì)應(yīng)該窗口的下一順序觀測(cè)值。通過(guò)在遙測(cè)數(shù)據(jù)上逐個(gè)數(shù)據(jù)滑動(dòng)窗口，隨著時(shí)間從一個(gè)位置變換到下一位置，串行連接每個(gè)片段構(gòu)成訓(xùn)練數(shù)據(jù)集。

將獲取的數(shù)據(jù)樣本集劃分70%為訓(xùn)練集，15%為驗(yàn)證集，15%為測(cè)試集三部分，訓(xùn)練集和驗(yàn)證集用于訓(xùn)練，估計(jì)和搜索最優(yōu)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，最后，使用測(cè)試集評(píng)估所獲得神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)性能。

多層感知機(jī)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為包含兩個(gè)輸入的一個(gè)輸入層，具有15個(gè)神經(jīng)元節(jié)點(diǎn)的隱藏層和一個(gè)輸出層。

3.2 動(dòng)態(tài)加權(quán)算法評(píng)估

遙測(cè)數(shù)據(jù)集首先需要進(jìn)行一定的預(yù)處理，包括去除噪聲，對(duì)數(shù)據(jù)進(jìn)行歸一化處理。在集成學(xué)習(xí)預(yù)測(cè)方法中，神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的性能對(duì)最終的預(yù)測(cè)性能起著決定性作用，因此要求對(duì)神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行最優(yōu)化，最優(yōu)化參數(shù)包括隱層節(jié)點(diǎn)數(shù)量、隱層輸出權(quán)值。動(dòng)態(tài)加權(quán)集成學(xué)習(xí)預(yù)測(cè)算法實(shí)際的預(yù)測(cè)效果如圖3所示。

圖3 實(shí)際數(shù)據(jù)和預(yù)測(cè)

為實(shí)現(xiàn)動(dòng)態(tài)加權(quán)集成算法的性能評(píng)估，將其與靜態(tài)加權(quán)算法進(jìn)行比較，兩種算法具有完全相同的網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)和基學(xué)習(xí)器數(shù)量，靜態(tài)加權(quán)算法只對(duì)各基學(xué)習(xí)器預(yù)測(cè)結(jié)果進(jìn)行簡(jiǎn)單的平均運(yùn)算，將兩種算法輸出結(jié)果的MAPE指標(biāo)作為算法性能的判斷標(biāo)準(zhǔn)。其性能比較結(jié)果如圖4所示。

圖4 動(dòng)態(tài)和靜態(tài)加權(quán)算法性能比較

結(jié)果表明集成學(xué)習(xí)器中合理的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量為5～9個(gè)，包含更多數(shù)量的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器對(duì)集成學(xué)習(xí)器預(yù)測(cè)精度提升效果有限，而且增加了計(jì)算復(fù)雜性。同時(shí)MAPE指標(biāo)也表明推薦的動(dòng)態(tài)加權(quán)方法同靜態(tài)加權(quán)方法相比具有更小的預(yù)測(cè)誤差。

4 結(jié)束語(yǔ)

針對(duì)飛行器遙測(cè)數(shù)據(jù)預(yù)測(cè)中要求具有實(shí)時(shí)性和高精度的需求，提出基于多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)加權(quán)集成學(xué)習(xí)方法，該方法通過(guò)集成多個(gè)多層感知機(jī)神經(jīng)網(wǎng)絡(luò)作為預(yù)測(cè)基學(xué)習(xí)模型降低了預(yù)測(cè)模型的復(fù)雜度，提高了預(yù)測(cè)模型的實(shí)時(shí)性，實(shí)現(xiàn)了更加精確的預(yù)測(cè)，給出了多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)、優(yōu)化方法和動(dòng)態(tài)加權(quán)算法的過(guò)程。對(duì)于遙測(cè)數(shù)據(jù)存在異常漂移情況，通過(guò)給出的動(dòng)態(tài)加權(quán)算法，能識(shí)別優(yōu)秀的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器，增加其輸出權(quán)值，對(duì)性能差的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器減弱其對(duì)預(yù)測(cè)輸出的影響，甚至對(duì)其進(jìn)行更換，從而提升預(yù)測(cè)結(jié)果的精度。

采用飛行器某子系統(tǒng)內(nèi)的遙測(cè)數(shù)據(jù)對(duì)集成學(xué)習(xí)方法性能進(jìn)行了驗(yàn)證，確定了感知機(jī)網(wǎng)絡(luò)隱藏層的最優(yōu)節(jié)點(diǎn)數(shù)和神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量的最優(yōu)值，通過(guò)與靜態(tài)加權(quán)集成學(xué)習(xí)方法的比較，結(jié)果表明提出的動(dòng)態(tài)加權(quán)集成方法預(yù)測(cè)精度更高。該集成學(xué)習(xí)預(yù)測(cè)方法也取決于神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的參數(shù)選取，通過(guò)對(duì)隱藏層節(jié)點(diǎn)數(shù)量和學(xué)習(xí)速度進(jìn)行最優(yōu)化設(shè)計(jì)，可以保證最終的集成結(jié)果也是預(yù)測(cè)最優(yōu)值。