基于多尺度卷積和改進LSTM的航跡數(shù)據(jù)關(guān)聯(lián)方法

賈燎原,曹 偉

(中國船舶重工集團有限公司第724研究所,江蘇 南京 210000)

0 引言

多傳感器信息融合技術(shù)是一種綜合處理信息的方法,它在多個層次上整合數(shù)據(jù),以獲取比單一傳感器數(shù)據(jù)更有價值的綜合信息。航跡關(guān)聯(lián)作為多傳感器信息融合系統(tǒng)中的關(guān)鍵組成部分,具有顯著的實際應(yīng)用價值和廣闊的應(yīng)用前景[1]。目前,傳統(tǒng)航跡關(guān)聯(lián)算法主要分為以下2類:基于統(tǒng)計理論和基于模糊數(shù)學(xué)的方法。傳統(tǒng)方法通常具有樣本依賴性,對數(shù)據(jù)的分布情況具有較高的敏感性,在數(shù)據(jù)不充分或噪聲較大的情況下關(guān)聯(lián)準確性會面臨嚴峻挑戰(zhàn)。

近年來,隨著深度學(xué)習(xí)技術(shù)的發(fā)展,為解決航跡關(guān)聯(lián)問題拓展了新的方法。蓋世昌等[2]利用BP神經(jīng)網(wǎng)絡(luò)得到加權(quán)統(tǒng)計算法下誤差分量加權(quán)因子的最優(yōu)解,但無法準確擬合出非線性誤差,航跡關(guān)聯(lián)精度較低。崔亞奇等[3]利用卷積神經(jīng)網(wǎng)絡(luò)提取航跡特征,但由于航跡數(shù)據(jù)在時間上存在長期依賴特征,而卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Networks, CNN)提取的特征只能局限在窗口內(nèi),無法把握全局依賴關(guān)系。黃虹瑋等[4]研究了基于CNN-LSTM模型的端到端航跡關(guān)聯(lián)方法,但航跡關(guān)聯(lián)的精度提升幅度有限。為了提高航跡數(shù)據(jù)關(guān)聯(lián)的準確性,充分利用航跡數(shù)據(jù)的特征信息,本文提出了基于多尺度卷積神經(jīng)網(wǎng)絡(luò)和改進LSTM網(wǎng)絡(luò)組合的航跡數(shù)據(jù)關(guān)聯(lián)方法(Multiscale CNN with Improved LSTM,MCIL)模型。MCIL模型首先通過多尺度卷積并行處理航跡數(shù)據(jù),利用不同大小的卷積核提取航跡數(shù)據(jù)的空間特征,再利用最大池化與平均池化操作對特征進行采樣,在降低特征空間維度的同時保持特征的穩(wěn)定性。然后將特征送入改進的LSTM網(wǎng)絡(luò)中捕獲數(shù)據(jù)的長期依賴關(guān)系,LSTM網(wǎng)絡(luò)通過調(diào)整相鄰時刻航跡數(shù)據(jù)的偏差來抑制噪聲和誤差的影響,使其能夠更有效地處理航跡數(shù)據(jù)時間跨度信息,實現(xiàn)對長時間序列數(shù)據(jù)的更精確建模。實驗結(jié)果表明,本文提出的MCIL模型具有更優(yōu)的航跡關(guān)聯(lián)準確性。

1 多尺度卷積和改進LSTM網(wǎng)絡(luò)模型

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)[5]是一種前饋型神經(jīng)網(wǎng)絡(luò),因其具有高效的特征提取能力,在航跡關(guān)聯(lián)研究領(lǐng)域已有應(yīng)用。CNN主要由卷積層、池化層、全連接層組成。其中,卷積層是卷積神經(jīng)網(wǎng)絡(luò)的核心,該層通過卷積運算對輸入數(shù)據(jù)提取局部特征,根據(jù)卷積核的大小和數(shù)量決定感受野的大小以及輸出的特征通道數(shù),在卷積過程中,通過局部連接和權(quán)值共享減少參數(shù)數(shù)量,加快模型學(xué)習(xí)速率。卷積操作的計算公式下:

yi=fc(xi?Wi+bc)

(1)

其中,xi為第i個卷積層的輸入;Wi為卷積核權(quán)重;bc為卷積核偏置;fc為激活函數(shù);yi為第i個卷積層的輸出。

1.2 改進的長短期記憶網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)[6]是一種利用反饋機制處理時間序列數(shù)據(jù)的模型,通過引入循環(huán)結(jié)構(gòu)與“時間”概念,允許信息在網(wǎng)絡(luò)中傳遞,并在不同時間步共享權(quán)重。長短期記憶(Long Short-Term Memory,LSTM)網(wǎng)絡(luò)旨在解決RNN中梯度爆炸或梯度消失問題[7],通過引入門限的概念,克服了RNN遇到的數(shù)值不穩(wěn)定問題。LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。LSTM網(wǎng)絡(luò)通過輸入門控制當前時刻更新細胞狀態(tài)的程度,遺忘門決定上一時刻信息的遺忘程度,輸出門選擇性輸出細胞的隱藏狀態(tài)。這些門和狀態(tài)的組合使得LSTM網(wǎng)絡(luò)能夠在序列中選擇性地存儲、遺忘和讀取信息,從而更好地捕獲長序列中的依賴關(guān)系。

圖1 LSTM網(wǎng)絡(luò)結(jié)構(gòu)

LSTM網(wǎng)絡(luò)中的信息傳播由公式(2)—公式(7)所示。

ft=σ(Wf[ht-1,xt]+bf)

(2)

it=σ(Wi[ht-1,xt]+bi)

(3)

(4)

(5)

ot=σ(Wo[ht-1,xt]+bo)

(6)

ht=ottanh(Ct)

(7)

在LSTM單元結(jié)構(gòu)中,遺忘門在決定當前時刻預(yù)測結(jié)果時,受上一時刻信息影響。在進行航跡數(shù)據(jù)關(guān)聯(lián)時,若已知t-1時刻航跡數(shù)據(jù)的實際值,可以通過利用該時刻航跡數(shù)據(jù)的偏差來優(yōu)化調(diào)整上一時刻信息對當前時刻航跡數(shù)據(jù)關(guān)聯(lián)的影響大小。當偏差較大時,表明上一時刻航跡數(shù)據(jù)可能受誤差等因素影響而產(chǎn)生不準確的信息,需要減少上一時刻航跡數(shù)據(jù)對當前時刻的影響;相反,當偏差較小時,則需要增加前一時刻航跡數(shù)據(jù)的影響。

基于以上分析,本文在LSTM模型基礎(chǔ)上,為避免σ函數(shù)導(dǎo)數(shù)小于1的情況下導(dǎo)致的梯度消失現(xiàn)象,將LSTM單元的σ函數(shù)改為ReLU函數(shù)。改進后遺忘門信息傳播描述如下:

ft=ReLU(Wf[ht-1,xt]+bf)

(8)

1.3 MCIL模型

MCIL模型主要由多尺度卷積神經(jīng)網(wǎng)絡(luò)和改進LSTM神經(jīng)網(wǎng)絡(luò)2部分組成,多尺度CNN負責從航跡數(shù)據(jù)中提取特征,改進的LSTM神經(jīng)網(wǎng)絡(luò)負責捕獲特征中存在的長期依賴性,利用全連接網(wǎng)絡(luò)實現(xiàn)航跡關(guān)聯(lián),模型結(jié)構(gòu)如圖2所示。由于航跡數(shù)據(jù)具有經(jīng)典的時間序列結(jié)構(gòu),引入多尺度卷積能夠有效地利用不同范圍的感受野,以解決在提取序列特征時采用固定卷積核所導(dǎo)致的關(guān)聯(lián)準確率降低問題。本文在多尺度卷積層中利用3種不同路徑的并行網(wǎng)絡(luò)提取航跡數(shù)據(jù)的時序特征,每個路徑中設(shè)置卷積核大小分別為1*1、3*1、5*1,而在卷積核大小以外的部分則保持相同的參數(shù)設(shè)置。在每個卷積路徑中,卷積層提取的特征經(jīng)過ReLU激活函數(shù)后分別進行最大池化和平均池化操作,最后送入改進的LSTM網(wǎng)絡(luò)。

圖2 MCIL模型結(jié)構(gòu)

在改進的LSTM網(wǎng)絡(luò)中,為降低網(wǎng)絡(luò)計算復(fù)雜度,本文采用1層LSTM網(wǎng)絡(luò),網(wǎng)絡(luò)節(jié)點為32。上層多尺度卷積提取的航跡關(guān)鍵特征通過改進的LSTM網(wǎng)絡(luò),對航跡數(shù)據(jù)的空間特征與時序信息融合,提高航跡關(guān)聯(lián)準確率。

2 實驗分析

2.1 數(shù)據(jù)集與預(yù)處理

為驗證MCIL模型的有效性,本文仿照Yu等[7]的研究生成了航跡數(shù)據(jù)集,進行了仿真實驗。在實驗中,每個目標在量測區(qū)域內(nèi)的運動方位和運動速度均服從均勻分布,分別為0～360°以及50～100 m/s。每個目標航行50 s,每秒隨機變化航行方向以及航行速度,且目標狀態(tài)改變的幅度符合運動學(xué)規(guī)律。同時,設(shè)定2部雷達在量測距離上分別存在0～100 m、0～150 m誤差,在量測角度上均存在1°的測角誤差,量測周期分別為2 s和4 s。部分目標真實運動軌跡如圖3所示。

圖3 目標真實運動軌跡

實驗隨機生成3 000個目標,將2部雷達對同一目標的量測結(jié)果作為正樣本,隨機匹配以及挑選距離相近的量測組合作為負樣本。經(jīng)過篩選和整理,得到6 347條樣本數(shù)據(jù),將其中的70%作為訓(xùn)練樣本,30%作為測試樣本。

為降低數(shù)據(jù)中噪聲的影響,加快訓(xùn)練收斂速度,本文對數(shù)據(jù)進行歸一化處理,將原始數(shù)據(jù)進行等比例縮放至[-1,1],計算公式為:

(9)

其中,Xmin與Xmax分別為序列中的最小值與最大值;X與Xnormalization為歸一化前與歸一化之后的數(shù)據(jù)。

2.2 結(jié)果分析

為了驗證MCIL模型的航跡關(guān)聯(lián)性能,將該模型算法與傳統(tǒng)的CNN、LSTM、CNN-LSTM模型在同等實驗環(huán)境下進行對比,實驗結(jié)果采用準確率(ACC)、F1值來評估模型的性能,繪制出航跡關(guān)聯(lián)正確率的對比圖,對比結(jié)果如圖4所示。

從圖4中可以看出,LSTM模型收斂速度較慢,CNN模型與CNN-LSTM模型曲線相對平滑,但最終的準確率較低,提出的MCIL模型不僅具有在收斂速度上表現(xiàn)出更快的優(yōu)勢,而且具有穩(wěn)定且高準確率的特點。

本文在不同模型上的實驗結(jié)果如表1所示。從表1中可以看出,MCIL模型相比CNN模型準確率提高了9.69%,相比LSTM模型準確率提高了3.96%,相比LSTM模型準確率提高了3.85%。綜上分析,MCIL模型對于航跡關(guān)聯(lián)問題有較好的關(guān)聯(lián)效果。

表1 實驗結(jié)果對比 單位:%

3 結(jié)語

本文提出了一種基于多尺度卷積和改進LSTM網(wǎng)絡(luò)的航跡關(guān)聯(lián)方法,通過多尺度CNN與改進LSTM網(wǎng)絡(luò)捕獲航跡數(shù)據(jù)中的時空特征,使網(wǎng)絡(luò)能充分利用航跡隱含特征,提升航跡關(guān)聯(lián)準確性。實驗結(jié)果表明,本文提出的MCIL模型在準確率、F1指標方面優(yōu)于其他模型,同時該模型的收斂速度也優(yōu)于其他模型,對利用深度學(xué)習(xí)方法解決航跡關(guān)聯(lián)問題具有一定的參考價值。后續(xù),將收集不同型號、不同精度的雷達數(shù)據(jù)進行實驗,進一步加強算法在航跡關(guān)聯(lián)問題上的實用性。