基于殘差時序卷積網絡的水聲通信信號模式識別

陳雙雙，顧師嘉，李娜娜，吳玉泉*

(1.中國海洋大學 電子工程學院，山東 青島 266100；2.中國科學院軟件研究所，北京 100190)

0 引言

非合作通信下的信號調制模式識別作為水聲對抗領域的重要組成部分,逐漸成為研究熱點。水聲信道具有多途、頻散、環境噪聲高、信道帶寬窄和多普勒頻移大[1]等特點。特別是海洋中存在各種時間和空間尺度的海洋動力過程,引起了水體的非均勻性,加之海面的隨機波動性和海底的不平整性等因素,均會對水中的聲波傳播造成影響,因此水聲信道存在顯著的空間差異和時間起伏,這些特性均對水聲通信信號識別帶來巨大挑戰。

水聲信號調制識別分類引起了人們的廣泛關注和研究,一般調制識別分類方法分為2種:基于似然(LB)的方法和基于特征(FB)的方法。LB通過比較不同調制信號的似然函數來獲得最佳結果,但是存在更多的調制信號類型時,LB方法的計算復雜度會很高。相比之下,FB可以在較低的計算復雜度下,分類更多類型的調制信號模式。FB分類系統包括2個主要部分:特征提取和識別子系統。在特征提取方面,傳統方法需要提取大量特征,例如吳姚振等[2]結合了伽馬通倒譜系數(GT)與DEMON的特征向量譜分析有效提高了目標分類的準確性和穩定性。陳蕙心等[3]基于高階累積量和熵值聯合特征的調制識別算法,提出了改進粒子群(PSO)算法,構造出改進粒子群優化支持向量機分類器(PSO-SVM)。楊柳等[4]利用雙譜計算(頻域)信號的雙譜矩陣的算法,將最大內積值對應的調制方式作為待識別信號的調制方式,在高信噪比(Signal to Noise Ratio,SNR)條件下能達到90%以上的識別率。羅昕煒等[5]針對非平穩調制特點,利用希爾伯特-黃變換(HHT)時頻特征數據自適應特性和高分辨率的時頻分析能力以及數學形態濾波器(MMF)對信號的降噪性能,提出了一種利用希爾伯特-黃變換提取寬帶幅度調制信號的調制特征方法(MH_ DEMON)方法。信號分類識別系統可使用如隱馬爾可夫模型的手動提取特征方法,或者深度學習這種自動提取特征的方法。深度學習是近幾年研究的熱點,例如陸揚等[6]從偵收信號的維格納-維爾分布(WVD)中提取特征向量,利用人工神經網絡對特征向量進行分類,但在SNR較低的情況下識別正確率較低,Jiang等[7]提出了一種卷積神經網絡雙向長短時記憶具有對稱結構依次提取信號的頻域特征和時序特征,與經典的機器學習方法相比該算法在低SNR下具有較高的識別精度,所提出的調制識別方法在非合作通信中是有效的系統,但該網絡的感受野較小會丟失信息,且模型復雜度高。姚曉輝等[8]采用卷積神經網絡進行水聲信號識別,仿真結果調制識別正確率可以達到85%,但該網絡在計算卷積時后來的時序,會導致信號特征泄露從而影響正確率。

針對上述提到的傳統方法需要特征較多和人工神經網絡等模型特征丟失、模型復雜度高的問題,本文提出采用殘差時序卷積網絡(Residual Temporal Convolutional Network,ResTCN)模型進行水聲信號識別分類。分別對雙頻移鍵控信號(2fsk)、雙相移鍵控信號(2psk)、四頻移鍵控信號(4fsk)、四相移鍵控信號(4psk)、連續波(cw)、直接序列擴頻譜(dsss)、跳頻擴頻譜(fhss)、線性調頻(lfm)和正交頻分復用(ofdm)九類信號預處理后輸入至ResTCN模型訓練,實現在不同功率SNR情況下的水聲通信信號分類識別。SNR在-10～10 dB的仿真測試集上,其識別準確率可達到95%,在海上試驗數據上可達到93.5%。

1 水聲信號調制模式識別

水聲信號調制模式識別主要分為三部分,分別為水聲信道以及通信模型的建立、特征參數的提取和信號調制模式分類識別,其流程如圖1所示。

圖1 調制模式識別流程Fig.1 Modulation mode identification flowchart

仿真信號采用Matlab仿真出不同的信號,并在BELHOP射線理論的基礎上[9]建立瑞利衰落多徑的水聲信道模型,將通信模型與水聲信道進行卷積加噪聲得到接收端仿真信號。實驗數據需要在發射端建立信號,然后進行試驗,最后將接收端的數據進行截取,篩選有用信號。得到仿真信號或試驗有用信號后,通過短時傅里葉變換(Short-Term Fourier Transform,STFT)對仿真信號進行預處理[10],最后將信號預處理的頻域特征作為輸入送至分類模型進行訓練。

1.1 水聲信號預處理

采用STFT進行信號的預處理,STFT是一個分析非平穩信號的工具,它表示信號的時率能量分布。

傅里葉變換一般用來分析分布參數不隨時間發生變化的平穩信號。由于非平穩信號在短時間內可以看作是平穩信號,STFT正是利用這種逐段分析的思想,對信號先加一個窗函數,然后再對窗里的部分進行傅里葉變換,窗口隨著時間進行移動,相當于把信號分段,最終把每個窗內的結果整體聯系起來進行觀察,從而得到非平穩信號的時頻特征。根據此理論可得到連續信號x(t)的STFT公式[11]:

式中:g(t)表示窗函數,不同的窗函數可以得出不同的結果。

STFT原理簡單、計算速度較快,非常適合分析信號頻譜分量隨時間變化比較慢的非平穩信號。由于窗函數的存在,不能同時滿足時域和頻域高精度要求。隨著選取滑窗時間的變長,時域分辨率會逐漸降低;隨著選取滑窗時間的變短,頻域分辨率會逐漸降低。因此,當信號頻譜隨時間變化非?？鞎r,應該選擇時間窗口較小的窗函數,從而可以獲得較高的時間分辨率;當信號頻譜隨時間變化相對平緩時,可以選擇時間窗口較大的窗函數,從而獲得較高的頻譜分辨率[12]。

1.2 ResTCN

ResTCN[13]由基于卷積神經網絡(CNN)[14]和全卷積網絡(FCN)衍生的新網絡模型TCN的基礎上添加殘差網絡(ResNET)得到,可以看作是幾個殘差塊的組合,模型結構如圖2所示。加減模型層數較為簡單,可以只改動參數,因此該模型是一個簡單且容易理解的結構,它具有并行性、感受野靈活、梯度穩定和內存占有率低等優點,具體表現在:①它可以并行執行卷積,減少水聲信號識別的時間;②可以通過層數、擴張因子和過濾器大小來調整感受野大小,感受野大抓取的特征信息更多;③TCN不像循環神經網絡(RNN)在不同時間段共享參數,梯度更穩定;④內存需求低于長短時記憶網絡(LSTM)和門控循環單元(GRU),其卷積內核在一個層中共享,內存使用低。ResTCN模型的殘差模塊中包含了TCN模型的主要結構,此結構分為一維全卷積、因果卷積和膨脹卷積。

圖2 殘差時序卷積網絡結構Fig.2 Structure ResTCN

(1)一維全卷積

TCN引用一維FCN的結構[15],每一個隱藏層的輸入輸出的時間長度都相同,且用零進行填充來保證輸入輸出的長度一致,維持相同的時間步,因此每個時間的輸入都有對應的輸出,其結構如圖3所示。

圖3 一維全卷積結構Fig.3 1-D fully convolutional structure

引用一維FCN來預測序列的元素量級。卷積運算的層數越高,其感受野就越大,對特征的變化就會更加敏感。使用一維卷積代替全連接有助于構建網絡的長期記憶。

(2) 因果卷積

為了保證未來的信息“泄露”至當前時刻,TCN采取因果卷積網絡[16]。給定一個時間序列x0,x1,…,xt,…,xn,預測對應時刻的輸出y0,y1,…,yt…,yn,在“t”時刻的輸出yt只和“t”時刻以及"t”時刻之前的輸入x0,x1,…,xt相關,與“未來”的xt+1,xt+2,…,xn無關。

因果卷積的操作如圖4所示,每一層的時間步長“t”的輸出只計算不晚于前一層時間步長“t”的區域。對于圖4而言,卷積核大小k=3,可以看出對于一個2層網絡而言,其感受野大小RF=5;對于圖5而言,卷積核大小k=2,其感受野大小RF=5。

圖4 普通卷積結構Fig.4 Common convolutional structure

圖5 因果卷積結構Fig.5 Causal convolutional structure

(3)膨脹卷積

膨脹卷積又稱為空洞卷積[17]。在不堆積更多層和更大卷積核的前提下,抓取更長的依賴關系。膨脹卷積是從距離t的d步處獲得輸入:xt-(k-1)d,xt-(k-2)d,…,xt-2d,xt-d,xt,其中k是卷積核大小。膨脹因子d會隨著網絡層數的增加,以2的指數增長,如圖6所示,d分別為1、2、4。這樣卷積網絡就可以在比較少的層,獲得很大的感受野。將因果卷積和膨脹卷積相結合,就可以得到如圖6所示的膨脹因果卷積網絡結構。

圖6 膨脹因果卷積結構Fig.6 Dilated causal convolutional structure

圖6為4層神經網絡,其卷積核k=3,第一層是輸入層,第二層的d為1,是常規的一維因果卷積,后面d隨著層數翻倍,即添加了“空洞”,最上層的最后一個神經元共15個輸入數據,可以觀測到輸入數據的全部特征。

TCN的穩定依賴于網絡層數g、卷積核大小k和膨脹因子d,所以越深越大的網絡感受野越大,TCN越穩定,膨脹卷積在網絡層數一定的情況上增大了感受野,當需要追溯久遠的信息時,網絡層數不得不增加,隨著網絡深度的增加,會導致訓練深層網絡出現的問題,例如梯度爆炸、梯度彌散和網絡退化。因此本模型加入了殘差網絡來杜絕此類問題的出現。

(4)殘差模塊

在輸入是高維的情況下,此模型采用殘差模塊來增加卷積網絡層數,避免網絡出現訓練深層的網絡退化問題。解決網絡退化實際上就是解決網絡冗余層產生恒等映射問題,一般情況下,讓網絡的某層去學習恒等映射函數Y(x)=x較為困難,如果網絡為Y(x)=F(x)+x,就可以用網絡學習殘差問題F(x)=Y(x)-x代替學習恒等映射問題,只要使F(x)=0,就可以構成Y(x)=x的恒等映射。一般在參數初始化時,權重參數較小,比較適合學習F(x)=0,所以擬合殘差問題較為容易[16],其數學表達式為Y(x)=F(x)+x。

為了避免模型成為表達力不夠的線性模型,在網絡中加入了ReLU激活函數來添加非線性因素。此模型通過在每一個卷積層加入權重參數初始化來規范隱含層的輸入解決梯度問題。通過在每個卷積層之后引入dropout正則化來防止模型出現過擬合問題。因此在每個殘差塊包含2層的膨脹因果卷積、權重歸一化、ReLU激活和dropout正則化,其結構如圖7所示。

圖7 殘差塊結構Fig.7 Residual block structure

2 仿真結果分析

根據水聲信道的特點采用BELLHOP模型進行水聲信道仿真。仿真參數:海水深度為50 m,聲源深度為10 m,接收器水平范圍為5 km,海底粗糙度為0,海綿粗糙度為2,用來計算聲速以及聲速沿聲線的導數的插值方法為C-線性插值,海表面以上為真空,水體之下介質類型為聲學半空間。結合多種應用場合情況,信道可以被看作是緩慢時變的相干多途信道,即信道的介質和邊界條件時不變,聲源和接收器位置固定。若觀察處理時間不是特別長,可以用時不變的濾波器來表示。它的信道沖激響應如圖8所示,根據上述參數產生14條本征聲線,且每條聲線的幅度都產生了不同程度的降低,到達時間產生了不同程度的延遲,體現了水聲信道的多途效應、時變效應和信號衰減等特點。

圖8 BELLHOP淺海信道的沖激響應Fig.8 Impulse response of BELLHOP shallow sea channel

將仿真的發射端信號通過建立的水聲信道模型,得到接收端信號,圖9、圖10以2psk、2fsk為例,2psk信號使用相位變化來體現碼元變化,振幅和頻率保持不變;2fsk信號有疏有密,其中疏的波形代表載波頻率較低的,密的波形代表載波頻率較高的。2種信號經過水聲信道后波形包絡無明顯特點,波形疏密及相位變化都不明顯,可以看出經過水聲信道會隱藏信號原本的特征。提取信號的STFT,如圖11、圖12所示為在SNR為0 dB情況下信號2fsk、2psk的STFT波形,2fsk信號有2種載波頻率可以明顯地體現,2psk信號只有一種頻率,可以將其2種信號區分,識別模型在此基礎上提取圖片特征進行識別,減輕了模型識別的困難。

(a)2psk信號時域波形

(a)2fsk信號時域波形

圖11 2fsk信號的STFT波形Fig.11 STFT waveform of 2fsk signal

圖12 2psk信號的STFT波形Fig.12 STFT waveform of 2psk signal

將9類信號數據集打好標簽,每類1 000條按照7∶3的比例劃分為訓練集和測試集,在基于STFT和殘差的情況下進行水聲信號的調制識別。訓練模型應用循環選取參數,最后畫出loss圖,選擇收斂較好且正確率較高的模型,減少調參用時。圖13～圖16所示為信號分別在SNR為0、2、-3、-10 dB時模型訓練的loss收斂和正確率的圖像。本模型的參數設置分別為:初始學習率lr=0.001,一次訓練所選取的樣本數batch_size=512,訓練次數100,隱藏層的層數17,卷積和的數量2 023,卷積核尺寸2。

圖13 SNR=0 dB時的loss和正確率Fig.13 Loss and accuracy at SNR=0 dB

圖15 SNR=-3 dB時的loss和正確率Fig.15 Loss and accuracy at SNR=-3 dB

圖16 SNR=-10 dB時的loss和正確率Fig.16 Loss and accuracy at SNR=-10 dB

以SNR為2 dB時為例,不同卷積和的數量情況下的正確率如圖17所示,可以看出在卷積和的數量為2 023時的識別效果最好。保持卷積和的數量一定,不同隱藏層層數情況下的正確率如圖18所示,將其對比可以看出在隱藏層層數為17時的信號識別分類正確率最高。

圖17 不同卷積和數量的正確率Fig.17 Accuracy for different convolutions and numbers

圖18 不同隱藏層層數的正確率Fig.18 Accuracy for different numbers of hidden layers

SNR在-10～10 dB下9種信號每類信號3 900條進行測試,得到信號的混淆矩陣如圖19所示,可以看出信號4psk被錯誤識別為2psk信號的情況較多,在低SNR的情況下,fhss信號會被識別為dsss信號,其他7種信號識別效果良好。

圖19 ResTCN模型仿真信號的混淆矩陣Fig.19 Confusion matrix of ResTCN model simulation signal

綜上所述,可以看出ResTCN模型選定適合的卷積和數量與隱藏層層數后,在仿真的測試集數據上識別正確率可以達到95%,在模型訓練完后識別正確率比較穩定。

CNN[18]是包含卷積層和降采樣層的深度神經網絡模型,基本組成部分為卷積層和池化層,池化層與卷積層交替設置。神經網絡的層與層之間利用局部空間相關性將相鄰的每一層的神經元點與它相近的上層神經元點連接,卷積層的每一個卷積濾波器重復作用于整個輸入層。為防止過擬合,采用的是池化層對數據進行降維。將水聲通信信號的時頻圖輸入至CNN,網絡一次訓練所取樣本數batch_size為512,初始學習率lr設置為0.000 1,卷積核尺寸為5,訓練次數epoch為1 000。以2 dB為例,可得到如圖20和圖21所示的收斂loss和正確率acc圖。

圖20 CNN模型在SNR=2 dB時的loss

圖21 CNN模型在SNR=2 dB時的acc

SNR在-10～10 dB下將9種信號每類信號3 900條輸入至CNN模型進行測試,得到信號的混淆矩陣如圖22所示,2psk信號和4psk信號互相識別錯誤較多,dsss信號被錯誤識別為4psk和2psk信號。總體信號識別正確率約為89.8%,因此在仿真數據上,識別效果不如TCN模型,并且CNN模型需要較多的訓練次數。

圖22 CNN模型仿真信號的混淆矩陣Fig.22 Confusion matrix of CNN model simulation signal

3 海上試驗結果分析

本模塊使用海上試驗數據進行訓練和測試,本次海上試驗數據來源于南海海域進行的海洋試驗,試驗當天海況較好。圖23為海上試驗示意。發射端與接收端船只處于動態漂浮,平均距離大約為2 n mile,海平面到換能器距離為15 m,水下接收陣列距離海平面5 m。

圖23 海上試驗示意Fig.23 Sea test

實驗過程:將各種信號按照一定的格式串聯,將其在發射端用換能器發送,在接收端采用水下接收陣列。將收集到的數據進行低通濾波、頻域變換等預處理得到其STFT,圖24～圖27為海上試驗數據的STFT,fhss信號跳變頻率有多個,在STFT圖上可以明顯看出。2psk信號只有一個頻率,二者的STFT從圖上看有差距。與上述仿真的2psk信號相比,海上試驗噪聲的影響明顯。信號2psk、4psk和cw頻率都只有一個,這更加體現了識別模型的識別能力。

圖24 2psk信號STFT

圖25 fhss信號STFT

圖26 cw信號STFT

圖27 4psk信號STFT

將試驗數據集每類各1 000條按照7∶3劃分訓練集和測試集,將測試集分別輸入至訓練好的ResTCN模型和CNN模型進行測試,得到其混淆矩陣如圖28和圖29所示。

圖28 ResTCN模型試驗信號的混淆矩陣Fig.28 Confusion matrix of ResTCN model test signal

圖29 CNN模型試驗信號的混淆矩陣Fig.29 Confusion matrix of CNN model test signal

綜上結果,ResTCN模型對未進行降噪處理的試驗數據的識別正確率為93.5%。在噪聲的干擾下,fhss與dsss信號相似度較高,信號fhss會被錯誤識別為dsss,其他7種信號識別正確率較好。如上圖CNN模型海上試驗信號的混淆矩陣所示,對未進行降噪處理的試驗數據的識別正確率為89.6%,信號4psk較多被錯誤識別為2psk,部分dsss信號和fhss信號被錯誤區分。相比較2種模型,本文所提的ResTCN在海上試驗信號分類效果明顯優于CNN模型。

4 結束語

提出的ResTCN模型,通過仿真實驗和海上試驗驗證,模型在水聲信號模式識別方面具有一定實用價值。由于海上試驗平臺噪聲不穩定,所以識別結果與仿真結果存在一些差異。尤其是仿真實驗低信噪比情況下信號2psk和4psk的分類,未進行降噪處理的海上試驗情況下信號fhss與dsss的分類。由于在水聲通信領域的數據集數量較小,需要對不同海域進行數據測試來訓練分類器進行學習。