一種基于STL-Prophet-Informer模型的太陽(yáng)電池陣多變量趨勢(shì)預(yù)測(cè)方法

張舒晗, 程月華, 姜 斌

南京航空航天大學(xué)自動(dòng)化學(xué)院,南京 211100

0 引 言

隨著空間技術(shù)的不斷發(fā)展,衛(wèi)星目前在軍事、民用、資源勘查等領(lǐng)域有著不可替代的作用.然而,衛(wèi)星所處的太空環(huán)境極為惡劣,太空垃圾、粒子輻射等會(huì)不斷影響部件磨損老化,并且由于衛(wèi)星自身的構(gòu)造也愈發(fā)復(fù)雜,因此衛(wèi)星在軌運(yùn)行期間有很大概率會(huì)出現(xiàn)各種異?；蚬收蟍1].根據(jù)數(shù)據(jù)統(tǒng)計(jì),在衛(wèi)星故障占比最大的電源分系統(tǒng)中,大約42%的故障源于太陽(yáng)電池陣,因此太陽(yáng)電池陣是研究人員主要關(guān)注的對(duì)象之一.遙測(cè)數(shù)據(jù)是反映衛(wèi)星運(yùn)行狀態(tài)和部件性能的重要參數(shù)之一.針對(duì)太陽(yáng)電池陣遙測(cè)數(shù)據(jù)開展趨勢(shì)預(yù)測(cè)研究,能為衛(wèi)星的動(dòng)態(tài)健康監(jiān)測(cè)提供有力的幫助,從而提高衛(wèi)星的自主運(yùn)行性能,一定程度上延長(zhǎng)衛(wèi)星的使用壽命[2].

傳統(tǒng)的趨勢(shì)預(yù)測(cè)方法主要包括基于模型的趨勢(shì)預(yù)測(cè)技術(shù)、基于概率統(tǒng)計(jì)的趨勢(shì)預(yù)測(cè)技術(shù)和基于數(shù)據(jù)驅(qū)動(dòng)的趨勢(shì)預(yù)測(cè)技術(shù).基于模型的趨勢(shì)預(yù)測(cè),其必要條件是可以通過對(duì)系統(tǒng)機(jī)理的分析得到系統(tǒng)精確的數(shù)學(xué)或物理模型.通常應(yīng)用于所研究的對(duì)象系統(tǒng)精確的物理或者數(shù)學(xué)模型的建立較為簡(jiǎn)單的情況.通過分析系統(tǒng)的概率統(tǒng)計(jì)特性,得到研究對(duì)象的趨勢(shì)預(yù)測(cè)信息的技術(shù),就稱為基于概率統(tǒng)計(jì)的趨勢(shì)預(yù)測(cè)技術(shù),常用的方法包括時(shí)間序列預(yù)測(cè)法、模糊邏輯法和回歸預(yù)測(cè)法等.對(duì)于平穩(wěn)時(shí)間序列的預(yù)測(cè)問題,文獻(xiàn)[3]將隨機(jī)性這一概念加入到時(shí)間序列模型中,并成功提出自回歸(autoregressive, AR)模型.在AR模型之后,研究人員又提出了著名的滑動(dòng)平均(moving average, MA)模型,文獻(xiàn)[4]提出的沃爾德分解定理成為了后續(xù)研究時(shí)間序列預(yù)測(cè)問題的基礎(chǔ).直到上世紀(jì)70年代,自提出回歸滑動(dòng)平均(autoregressive moving average, ARMA)模型[5],平穩(wěn)時(shí)間序列建模問題開始有了成熟的解決方案,它成為時(shí)間序列分析方法最基本的工具,也是應(yīng)用最為經(jīng)典且成熟的模型之一.例如文獻(xiàn)[6]研究了基于自回歸模型(AR)的航天器故障狀態(tài)預(yù)測(cè)方法,證明在航天故障領(lǐng)域,應(yīng)用時(shí)序數(shù)據(jù)模型是可行的.文獻(xiàn)[7]針對(duì)原始數(shù)據(jù)中存在的周期性、季節(jié)性和假日性等因素,選用了一種基于Prophet的電力系統(tǒng)預(yù)測(cè)模型,并在真實(shí)數(shù)據(jù)集上得到了優(yōu)秀的效果.對(duì)于難以建模的系統(tǒng)對(duì)象,可以考慮使用系統(tǒng)自身的傳感器的數(shù)據(jù)或者遙測(cè)到的時(shí)間序列數(shù)據(jù),尋找數(shù)據(jù)中的內(nèi)在信息,即基于數(shù)據(jù)驅(qū)動(dòng)的趨勢(shì)預(yù)測(cè)技術(shù).典型的基于數(shù)據(jù)驅(qū)動(dòng)的預(yù)測(cè)方法所使用的核心技術(shù)是人工智能技術(shù).近年來,深度學(xué)習(xí)大行其道,神經(jīng)網(wǎng)絡(luò)在諸多領(lǐng)域取得成功,其成果開始向其他領(lǐng)域擴(kuò)展.文獻(xiàn)[8]提出了一套以模糊c-means聚類和SVM為核心框架的建模方法,通過對(duì)不同的時(shí)間序列數(shù)據(jù)集的研究,結(jié)果表明該模型在預(yù)測(cè)精度上勝過了其他方法.在文獻(xiàn)[9]中,研究者采用LSTM模型來預(yù)測(cè)帶有長(zhǎng)期和短期相關(guān)性的石灰序列.實(shí)驗(yàn)證明,LSTM模型的預(yù)測(cè)結(jié)果較傳統(tǒng)的自回歸模型更為優(yōu)越.文獻(xiàn)[10]利用雙向長(zhǎng)短期記憶網(wǎng)絡(luò)進(jìn)行衛(wèi)星任務(wù)的在線預(yù)測(cè),取得了良好效果.文獻(xiàn)[11]將Seq2seq和Attention引入模型,利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)臺(tái)風(fēng)圖像進(jìn)行臺(tái)風(fēng)等級(jí)預(yù)測(cè),在不同分辨率圖像下提高了準(zhǔn)確度.文獻(xiàn)[12]將TCN于LSTM網(wǎng)絡(luò)結(jié)合,對(duì)電力系統(tǒng)負(fù)荷進(jìn)行短期預(yù)測(cè),相較于傳統(tǒng)算法預(yù)測(cè)誤差均有減小.文獻(xiàn)[13]利用改進(jìn)的Faster R-CNN模型應(yīng)用于衛(wèi)星部件的失效檢測(cè),在小部件檢測(cè)的準(zhǔn)確率與召回率上有所提高.目前,Transformer無(wú)疑是深度學(xué)習(xí)領(lǐng)域最火熱的模型之一,最早用于機(jī)器翻譯任務(wù),由于其在文本、語(yǔ)音和圖像等領(lǐng)域均取得了現(xiàn)象級(jí)的效果,因此也被逐漸應(yīng)用到時(shí)間序列預(yù)測(cè)領(lǐng)域.它使用了自注意力機(jī)制對(duì)序列信息整體處理,能夠避免信息的遞歸傳遞,同時(shí)能重點(diǎn)關(guān)注具有強(qiáng)相關(guān)性的局部信息.文獻(xiàn)[14]提出了一種新方法,使用基于Transformer的預(yù)測(cè)模型來預(yù)測(cè)未來數(shù)據(jù),并利用模型的自注意力機(jī)制從輸入數(shù)據(jù)中學(xué)習(xí)數(shù)據(jù)的變化模式.

總的來說,目前廣泛應(yīng)用于太陽(yáng)電池陣等衛(wèi)星電源系統(tǒng)零部件參數(shù)趨勢(shì)預(yù)測(cè)的方法大多基于循環(huán)結(jié)構(gòu)網(wǎng)絡(luò),如RNN和LSTM.該類模型雖然相比其他確定性和傳統(tǒng)統(tǒng)計(jì)學(xué)模型能夠更好地解決序列預(yù)測(cè)問題,但由于其對(duì)時(shí)序信息進(jìn)行順序提取并不斷向后傳遞,在從預(yù)測(cè)單變量到預(yù)測(cè)多變量時(shí),則會(huì)包括更多歷史信息而導(dǎo)致輸入序列較長(zhǎng),就容易出現(xiàn)梯度消失和梯度爆炸問題[15],致使模型難以訓(xùn)練或無(wú)法訓(xùn)練,這將導(dǎo)致模型在處理線性的預(yù)測(cè)問題時(shí),預(yù)測(cè)的效果將不如普通的時(shí)間序列模型[16],極易出現(xiàn)過擬合.與此同時(shí),雖然神經(jīng)網(wǎng)絡(luò)模型從精度上可以很好地解決非線性的預(yù)測(cè)問題,但是由于缺乏可解釋性,無(wú)法量化地描述待分析參量與其他參量之間的關(guān)系和其他參量對(duì)于預(yù)測(cè)參量的貢獻(xiàn)值.

針對(duì)長(zhǎng)序列的遙測(cè)數(shù)據(jù)預(yù)測(cè)問題,本文將采用Informer[14]模型解決.它是基于Transformer模型針對(duì)時(shí)間序列預(yù)測(cè)問題的有效改進(jìn).它使用了自注意力機(jī)制對(duì)序列信息整體處理,能夠避免信息的遞歸傳遞,同時(shí)能重點(diǎn)關(guān)注具有強(qiáng)相關(guān)性的局部信息.Informer專門設(shè)計(jì)用于解決長(zhǎng)時(shí)序預(yù)測(cè)問題,對(duì)Transformer 原有的自注意力機(jī)制進(jìn)行了概率稀疏化,減少了計(jì)算復(fù)雜度以達(dá)到更輕量級(jí)的模型部署,并有效提高了序列預(yù)測(cè)的準(zhǔn)確度.由于稀疏自注意力機(jī)制,相比于LSTM模型,在長(zhǎng)序列的建模下有著更高的精確性和可擴(kuò)展性.

為了進(jìn)一步提高預(yù)測(cè)精度,考慮到以上Informer模型對(duì)于多變量時(shí)間序列建模的優(yōu)勢(shì),本文選擇將經(jīng)過STL分解后得到的周期性和殘差分量(非線性)采用Informer模型進(jìn)行預(yù)測(cè).對(duì)于經(jīng)過STL分解后得到的趨勢(shì)分量,則可以選用經(jīng)典的時(shí)間序列算法.而Prophet模型的建立恰恰是基于數(shù)據(jù)中存在的周期性、季節(jié)性等不同模式,因此選用Prophet模型處理分解后的趨勢(shì)分量.

本文創(chuàng)新性地將Informer模型與Prophet模型結(jié)合應(yīng)用于太陽(yáng)電池陣參數(shù)趨勢(shì)預(yù)測(cè)問題,以過去48 h的某太陽(yáng)電池陣的6個(gè)維度數(shù)據(jù)進(jìn)行分析,實(shí)現(xiàn)同時(shí)輸出多變量的趨勢(shì)預(yù)測(cè).為了進(jìn)一步提高預(yù)測(cè)精度,并考慮到神經(jīng)網(wǎng)絡(luò)對(duì)于非線性特征能夠很好擬合而對(duì)于趨勢(shì)性特征擬合效果較差的問題,首先對(duì)各個(gè)參量進(jìn)行STL分解,對(duì)分解得到的趨勢(shì)分量(體現(xiàn)參量趨勢(shì)性)采用Prophet模型預(yù)測(cè),周期性和殘差分量(非線性)采用Informer模型預(yù)測(cè),最終相加得到預(yù)測(cè)結(jié)果.所構(gòu)建的STL-Prophet-Informer模型針對(duì)數(shù)據(jù)中的趨勢(shì)性項(xiàng)、非線性項(xiàng)都有很好的預(yù)測(cè)效果,能夠捕獲太陽(yáng)電池陣多個(gè)參數(shù)之間的長(zhǎng)期依賴信息、建模非線性關(guān)系,最終提高太陽(yáng)電池陣參數(shù)的預(yù)測(cè)精度.

綜上所述,由于實(shí)際衛(wèi)星遙測(cè)數(shù)據(jù)存在參數(shù)眾多、數(shù)據(jù)變化緩慢和趨勢(shì)特征不明顯等問題,在使用傳統(tǒng)算法時(shí)容易過擬合,導(dǎo)致模型泛化性能不好[13],當(dāng)實(shí)際遙測(cè)數(shù)據(jù)變化緩慢近似于線性變化時(shí),LSTM網(wǎng)絡(luò)更是無(wú)法預(yù)測(cè).針對(duì)以上問題,本文提出了基于STL-Prophet-Informer組合模型的太陽(yáng)電池陣多變量預(yù)測(cè)預(yù)測(cè)算法,對(duì)進(jìn)行數(shù)據(jù)相關(guān)性分析之后的參量進(jìn)行STL分解,分別針對(duì)趨勢(shì)分量、非線性的周期分量和殘差分量選用對(duì)應(yīng)的模型進(jìn)行預(yù)測(cè),實(shí)現(xiàn)了對(duì)太陽(yáng)電池陣多個(gè)參數(shù)的趨勢(shì)預(yù)測(cè).通過某實(shí)際衛(wèi)星的數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)驗(yàn)證,證明了所提方法的有效性.

1 方法概述

如圖1所示,基于STL-Prophet-Informer模型的多變量趨勢(shì)預(yù)測(cè)方案可以分為數(shù)據(jù)預(yù)處理、STL分解和模型預(yù)測(cè)3部分.由于衛(wèi)星原始遙測(cè)數(shù)據(jù)存在大量的野值,在進(jìn)行STL分解之前,需要進(jìn)行重采樣、異常值處理和歸一化等操作.然后按照數(shù)據(jù)的周期參數(shù)進(jìn)行STL分解,將太陽(yáng)電池陣的各個(gè)參數(shù)分解為趨勢(shì)分量、周期分量和殘差分量.最后使用Prophet模型預(yù)測(cè)近似呈線性的趨勢(shì)分量,Informer模型預(yù)測(cè)非線性較強(qiáng)的周期分量和殘差分量,將結(jié)果相加得到最終的輸出結(jié)果.

圖1 預(yù)測(cè)方案流程圖Fig.1 Forecast scheme flow chart

2 數(shù)據(jù)預(yù)處理

2.1 野值剔除

遙測(cè)數(shù)據(jù)在采集、傳輸和存儲(chǔ)時(shí)可能由于空間環(huán)境、傳輸鏈路等原因?qū)е麓嬖诋惓Ｐ盘?hào),并且由于采樣時(shí)間不匹配,會(huì)產(chǎn)生數(shù)據(jù)在一段時(shí)間內(nèi)缺失或重復(fù)采樣的情況.這些問題會(huì)干擾數(shù)據(jù)原有的特征,影響模型預(yù)測(cè),因此需要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理.

本文采用LOF(local outlier factor)方法[17]進(jìn)行離群點(diǎn)的檢測(cè).LOF核心思想即通過確定每一個(gè)數(shù)據(jù)點(diǎn)的局部密度值,然后對(duì)比其周圍點(diǎn)的局部密度值,如果與其周圍點(diǎn)的局部密度值相差較大,則判定為離群點(diǎn).圖2為經(jīng)過野值剔除前后的對(duì)比圖,從圖中可以看出該算法將數(shù)據(jù)中的野值點(diǎn)剔除,并很好地保留了變化趨勢(shì),為后續(xù)建模提供了支持.

圖2 異常值處理前后數(shù)據(jù)對(duì)比圖Fig.2 Data comparison graph before and after outlier processing

2.2 數(shù)據(jù)選取

對(duì)本文所用數(shù)據(jù)集包括太陽(yáng)電池陣的8個(gè)參數(shù),分別為南北對(duì)稱的兩組電流、溫度和轉(zhuǎn)角等,對(duì)參數(shù)兩兩之間進(jìn)行相關(guān)性分析驗(yàn)證,計(jì)算皮爾遜系數(shù),繪制各參量的皮爾遜系數(shù)熱力圖,如圖3所示.由于各個(gè)參量名稱過長(zhǎng),這里用字母代替,由相關(guān)性熱力圖可知:A、B、C、D、E和F之間絕大部分的相關(guān)系數(shù)接近于±1,存在高度正、負(fù)相關(guān)性;而G、H參量的相關(guān)系數(shù)約為0,僅與自身相關(guān).因此在模型預(yù)測(cè)時(shí),僅選擇前6個(gè)變量作為輸入.

圖3 各參量皮爾遜系數(shù)熱力圖Fig.3 Pearson coefficient heat map of each parameter

3 多變量趨勢(shì)預(yù)測(cè)算法設(shè)計(jì)

本章提出的太陽(yáng)電池陣多變量趨勢(shì)預(yù)測(cè)的總體框架如第一節(jié)所述,即將Informer模型與Prophet模型結(jié)合應(yīng)用于太陽(yáng)電池陣參數(shù)趨勢(shì)預(yù)測(cè)問題。為了進(jìn)一步提高預(yù)測(cè)精度,并考慮到神經(jīng)網(wǎng)絡(luò)對(duì)于非線性特征能夠很好擬合但對(duì)于單一增長(zhǎng)性較強(qiáng)的特征擬合效果較差的問題,首先對(duì)各個(gè)參量進(jìn)行STL分解,對(duì)分解得到的趨勢(shì)分量采用Prophet模型預(yù)測(cè),周期性和殘差分量采用Informer模型預(yù)測(cè),最終疊加得到預(yù)測(cè)結(jié)果。

3.1 STL分解和Prophet算法

本文選取STL(seasonal and trend decomposition procedure based on loess)[18]是因?yàn)橄啾扔谧兎帜B(tài)分解、經(jīng)驗(yàn)?zāi)B(tài)分解等算法,STL分解可以將原始時(shí)間序列按加法或乘法模式分解為趨勢(shì)分量、周期分量和殘差分量.顧名思義,趨勢(shì)分量表征序列的增長(zhǎng)性,周期分量體現(xiàn)波動(dòng)性,殘差分量則是去除以上二者的余量.通過對(duì)某衛(wèi)星遙測(cè)數(shù)據(jù)的可視化分析,太陽(yáng)電池陣的各個(gè)參數(shù)以年為周期不斷變化,因此這里使用STL分解更貼近實(shí)際.

其計(jì)算流程包括內(nèi)外兩個(gè)循環(huán),內(nèi)循環(huán)通過移動(dòng)平均和Loess平滑等操作提取出原始序列中的趨勢(shì)分量和周期分量,外循環(huán)通過權(quán)重調(diào)節(jié)離群值的影響,最終將時(shí)間序列分解為3個(gè)分量

y=ytrend+yseasonal+yresidual

(1)

Prophet模型的核心是對(duì)時(shí)間序列數(shù)據(jù)進(jìn)行曲線擬合,其本身是一種自加性模型[11-12],模型可以由以下3個(gè)主要部分組成:

P(t)=g(t)+s(t)+εt

(2)

其中,g(t)為趨勢(shì)函數(shù),作用是對(duì)模型中的分段線性增長(zhǎng)和非周期性變化建模,這里采用如下的邏輯回歸模型:

(3)

式中,k表示增長(zhǎng)系數(shù),b(t)為偏置量,隨著t的增加,模型容量C(t)逐漸趨于g(t).

s(t)為周期項(xiàng),這里采用近似傅里葉級(jí)數(shù)的形式對(duì)周期項(xiàng)進(jìn)行近似擬合

(4)

式中,N代表總周期數(shù),P為某一確定的周期,a1,a2,…,aN以及b1,b2,…,bN為模型中需要估計(jì)的值.εt代表誤差,這里假定其為均值為0的高斯分布.

原始Prophet模型中還含有針對(duì)節(jié)假日建模的一項(xiàng),由于衛(wèi)星實(shí)際運(yùn)行狀態(tài)受節(jié)假日情況影響極少,因此在本文的應(yīng)用中不使用Prophet模型的節(jié)假日因子.

3.2 Informer模型

自從2017年Transformer 模型被提出,其在自然語(yǔ)言處理領(lǐng)域的強(qiáng)大建模能力使得時(shí)序數(shù)據(jù)預(yù)測(cè)問題有了更多解決方案,并且取得了不錯(cuò)的預(yù)測(cè)效果.盡管如此,Transformer 在長(zhǎng)時(shí)間序列預(yù)測(cè)問題上也存在一些不足,如二次時(shí)間復(fù)雜度、編碼器-解碼器架構(gòu)的固有限制和高內(nèi)存使用率.針對(duì)這些問題,Informer[19]模型對(duì)這些不足采取了如下的改進(jìn):1)提出一種稀疏注意力機(jī)制,篩選出重要的 query,降低時(shí)間復(fù)雜度和空間的內(nèi)存開銷;2)提出了自注意力蒸餾機(jī)制,通過將層級(jí)輸入減半來突出主導(dǎo)注意力,減少了維度和網(wǎng)絡(luò)參數(shù)量,并高效處理極端長(zhǎng)的輸入序列;3)提出了生成式解碼器,不需要分步操作的方式預(yù)測(cè)長(zhǎng)時(shí)序序列,只需一步得到所有預(yù)測(cè)結(jié)果,大大提高了預(yù)測(cè)速度.

Informer模型的結(jié)構(gòu)如圖4所示,左側(cè)為編碼器,右側(cè)為解碼器.編碼器負(fù)責(zé)提取長(zhǎng)序列數(shù)據(jù)的特征提取,將傳統(tǒng)的自注意力機(jī)制替換為稀疏自注意力機(jī)制[20-21].解碼器接收長(zhǎng)序列數(shù)據(jù)的輸入,將目標(biāo)元素使用零填充,將需要預(yù)測(cè)的全零序列也作為特征圖加權(quán)注意力的一部分,接著使用生成式的方式對(duì)預(yù)測(cè)序列進(jìn)行預(yù)測(cè).

圖4 Informer模型結(jié)構(gòu)圖Fig.4 Informer model structure diagram

將傳統(tǒng)的自注意力機(jī)制機(jī)制[17]按比例進(jìn)行縮放點(diǎn)積,即

(5)

其中,d是輸入維度,Q∈RLQ×d代表query向量,K∈RLK×d代表key向量,V∈RLV×d代表value向量.其中key向量和value向量配對(duì),query向量根據(jù)與key向量的運(yùn)算結(jié)果查詢到value向量.因此對(duì)于每一個(gè)query向量的注意力可以表示為

(6)

傳統(tǒng)的自注意力機(jī)制在計(jì)算概率p(qi,ki)時(shí)采用的常規(guī)點(diǎn)積運(yùn)算會(huì)達(dá)到二次時(shí)間復(fù)雜度,空間復(fù)雜度為O(LQ,LX),這在長(zhǎng)序列的預(yù)測(cè)中會(huì)加大模型訓(xùn)練難度.通過對(duì)自注意力概率分布的研究發(fā)現(xiàn),其注意力分?jǐn)?shù)具有稀疏特性且呈現(xiàn)長(zhǎng)尾分布,即注意力分?jǐn)?shù)較高的點(diǎn)積占少數(shù),恰是這一部分對(duì)整個(gè)注意力的影響最大,因此可以考慮忽略其余權(quán)重較小的部分,不需計(jì)算其中部分來自query向量對(duì)value向量的貢獻(xiàn).結(jié)合以上論述,query向量的稀疏性評(píng)價(jià)公式[22]為

(7)

其中等式右邊前一項(xiàng)是qi在所有key向量上的LSE(log-sum-exp),第二項(xiàng)是算術(shù)平均.如果M(qi,K)較大,則說明該注意力分布更多變,在上面提到的長(zhǎng)尾分布中包含注意力分?jǐn)?shù)大的點(diǎn)積對(duì)的概率就大,基于以上分析,就可以得到稀疏自注意力公式,即只使用u個(gè)占主導(dǎo)地位的query向量與key向量計(jì)算點(diǎn)積對(duì),公式如下:

(8)

為了降低模型的時(shí)間復(fù)雜度,提出一種有效獲取query向量稀疏度測(cè)量的方法,即Informer模型的 max-mean 度量

(9)

編碼器部分用于在長(zhǎng)序列輸入數(shù)據(jù)中提取特征,并盡可能保持魯棒性[23].因?yàn)橄∈枳宰⒁饬C(jī)制的存在,編碼器的特征映射中將不包含關(guān)于value的冗余部分,均為注意力分?jǐn)?shù)較大的key-value對(duì)對(duì)應(yīng)的value向量.編碼器部分還利用蒸餾對(duì)具有主導(dǎo)地位的特征進(jìn)行強(qiáng)化,可以在下一層稀疏自注意力中更加聚焦.在這個(gè)過程中,對(duì)于模型的輸入不斷減少,具體的蒸餾操作見如下公式:

(10)

解碼器部分用生成式得到長(zhǎng)序列的預(yù)測(cè)結(jié)果,解決了數(shù)據(jù)時(shí)間復(fù)雜度較高的問題.其輸入向量表示為

(11)

4 實(shí)驗(yàn)驗(yàn)證

4.1 實(shí)驗(yàn)設(shè)置

(1)STL-Prophet-Informer模型結(jié)構(gòu)設(shè)置

利用STL-Prophet-Informer模型可以實(shí)現(xiàn)對(duì)太陽(yáng)電池陣6個(gè)參數(shù)趨勢(shì)變化的同時(shí)預(yù)測(cè),為提高模型泛化性能,減少過擬合,設(shè)置Dropout為0.05,均方差為模型的損失函數(shù).將輸入數(shù)據(jù)按照7∶2∶1的比例劃分為訓(xùn)練集、測(cè)試集和驗(yàn)證集.將模型的網(wǎng)絡(luò)參數(shù)如表1所示.

表1 模型網(wǎng)絡(luò)參數(shù)表Tab.1 Model network parameter table

(2)評(píng)價(jià)指標(biāo)

為了評(píng)價(jià)模型預(yù)測(cè)精度[24],分別使用均方差(MSE)、均方根誤差(RMSE)和平均絕對(duì)誤差(MAE)作為評(píng)價(jià)指標(biāo),計(jì)算公式如下:

(12)

(13)

(14)

4.2 STL分解結(jié)果

某衛(wèi)星的遙測(cè)數(shù)據(jù)包含太陽(yáng)電池陣的6個(gè)遙測(cè)參數(shù),數(shù)據(jù)跨度在6年左右.

考慮到衛(wèi)星的軌道周期,將STL分解的周期參數(shù)設(shè)置為365天.由于太陽(yáng)電池陣南北兩翼呈對(duì)稱結(jié)構(gòu),因此這里選用電池陣電流和溫度參量進(jìn)行展示,以采樣間隔為1 h的某衛(wèi)星遙測(cè)數(shù)據(jù)進(jìn)行STL分解,結(jié)果如圖5所示.

圖5 太陽(yáng)電池陣參數(shù)STL分解結(jié)果Fig.5 Results of STL of solar cell array parameters

4.3 實(shí)驗(yàn)仿真結(jié)果與分析

(1)STL-Prophet-Informer模型預(yù)測(cè)結(jié)果

通過相關(guān)性分析得到的太陽(yáng)電池陣6個(gè)遙測(cè)參數(shù)中,太陽(yáng)電池陣電流和溫度是能夠直接表征太陽(yáng)帆板性能的關(guān)鍵參數(shù),由于衛(wèi)星的對(duì)稱式結(jié)構(gòu)設(shè)計(jì),因此存在南北兩組相同的參數(shù).在這里以其中一組太陽(yáng)電池陣的電流和溫度為例,根據(jù)4.2的分解結(jié)果,對(duì)其中的趨勢(shì)分量使用Prophet模型預(yù)測(cè)趨勢(shì),周期分量和殘差分量用Informer模型預(yù)測(cè),預(yù)測(cè)結(jié)果如圖6所示.

圖6 太陽(yáng)電池陣電流和溫度各分量預(yù)測(cè)結(jié)果Fig.6 Prediction results of current and temperature components of solar cell array

通過Informer模型最后一個(gè)全連接層得到模型輸出,可以同時(shí)進(jìn)行多變量預(yù)測(cè).實(shí)驗(yàn)以太陽(yáng)電池陣的6個(gè)遙測(cè)參數(shù)的過去48 h的歷史值作為輸出,為了驗(yàn)證本文所提方法的有效性,與單一的Informer模型、LSTM模型進(jìn)行對(duì)比,設(shè)置同樣的輸入數(shù)據(jù)長(zhǎng)度、最大迭代次數(shù).學(xué)習(xí)率等參數(shù),這里依舊以其中一組太陽(yáng)電池陣的電流和溫度為例,各方法預(yù)測(cè)結(jié)果如圖7所示.

圖7 太陽(yáng)電池陣遙測(cè)電流和溫度參數(shù)預(yù)測(cè)結(jié)果Fig.7 Prediction results of current and temperature parameters of solar array telemetry

由圖7可知,相比其他方法,本文所提方法在全局內(nèi)有著更高的預(yù)測(cè)精度,可以較好地跟隨曲線真實(shí)波動(dòng)情況,尤其在數(shù)據(jù)的趨勢(shì)變化點(diǎn),預(yù)測(cè)結(jié)果與實(shí)際值更為接近.分析得知,經(jīng)過STL分解后的周期分量和殘差分量均為非線性較強(qiáng)的數(shù)據(jù),得益于Informer模型的注意力機(jī)制,可以實(shí)現(xiàn)較高精度的預(yù)測(cè).部分注意力分?jǐn)?shù)可視化如圖8所示.

圖8 多頭注意力分?jǐn)?shù)熱力圖Fig.8 Multi-head attention fraction heat map

(2)橫向?qū)嶒?yàn)結(jié)果統(tǒng)計(jì)與分析

為了逐步體現(xiàn)本文所提方法對(duì)于多步多變量預(yù)測(cè)的有效性,首先對(duì)遙測(cè)數(shù)據(jù)A進(jìn)行單步預(yù)測(cè),即對(duì)未來一個(gè)時(shí)間步的狀態(tài)進(jìn)行預(yù)測(cè).從表2可以看出,STL-Prophet-Informer模型在各項(xiàng)指標(biāo)上表現(xiàn)最優(yōu),表明本文所提方法對(duì)于預(yù)測(cè)值與真實(shí)值的誤差更小,預(yù)測(cè)精度更高,同時(shí)表明Informer模型相比于其他預(yù)測(cè)模型的有效性.

表2 橫向?qū)嶒?yàn)結(jié)果統(tǒng)計(jì)表Tab.2 Statistical table of transverse experimental results

為進(jìn)一步說明Informer模型在預(yù)測(cè)如周期分量和殘差分量這類非線性、不平穩(wěn)數(shù)據(jù)的優(yōu)越性以及他相比于傳統(tǒng)的ISTM網(wǎng)絡(luò)更適合作為本文周期分量和殘差分量的預(yù)測(cè)模型,進(jìn)行多步預(yù)測(cè)實(shí)驗(yàn),結(jié)果如表3所示.

表3 多步預(yù)測(cè)實(shí)驗(yàn)結(jié)果統(tǒng)計(jì)表Tab.3 Statistical table of results of multi-step prediction experiment

(3)縱向?qū)嶒?yàn)結(jié)果統(tǒng)計(jì)與分析

為證明本文所提出的STL分解方法與Prophet-Informer模型結(jié)合的合理性和有效性,進(jìn)行縱向?qū)嶒?yàn)結(jié)果對(duì)比.從表4試驗(yàn)結(jié)果可以看出:在同時(shí)使用STL分解的情況下,本文提出的方法相比于STL分解和其他模型聯(lián)合應(yīng)用于預(yù)測(cè)時(shí)的精度更高,提升了在趨勢(shì)分量、周期分量和殘差分量上的預(yù)測(cè)精度,增強(qiáng)了模型對(duì)于不同特征數(shù)據(jù)的泛化性能,證明了方法的有效性.

表4 縱向?qū)嶒?yàn)結(jié)果統(tǒng)計(jì)表Tab.4 Statistical table of longitudinal experimental results

5 結(jié) 論

本文提出一個(gè)基于STL-Prophet-Informer模型的太陽(yáng)電池陣多變量預(yù)測(cè)預(yù)測(cè)框架,實(shí)現(xiàn)了對(duì)太陽(yáng)電池陣多參量的趨勢(shì)預(yù)測(cè).首先對(duì)衛(wèi)星遙測(cè)數(shù)據(jù)進(jìn)行處理,然后利用STL分解將數(shù)據(jù)分解為趨勢(shì)分量、周期分量和殘差分量,最后將各分量預(yù)測(cè)結(jié)果相加后得到總的太陽(yáng)電池陣參數(shù)預(yù)測(cè)值.實(shí)驗(yàn)結(jié)果表明,本文所提方法的MSE、RMSE和MAE優(yōu)于基準(zhǔn)模型,經(jīng)過橫向縱向?qū)嶒?yàn)對(duì)比,證明了所提方法的有效性.后續(xù)研究將考慮對(duì)更長(zhǎng)期的參數(shù)狀態(tài)進(jìn)行預(yù)測(cè),同時(shí)提高模型泛化性能,探索更高效的預(yù)測(cè)方法.