改進DenseNet在電臺建鏈行為識別時的可視化研究

吳子龍, 陳 紅, 雷迎科

(國防科技大學電子對抗學院, 安徽 合肥 230037)

0 引 言

深度學習網絡模型的可視化分析有利于掌握網絡模型的分類識別依據,有利于掌握網絡模型分類識別的可靠性,也有利于改進網絡模型[1-2]。在通信協議標準未知的條件下,利用改進DenseNet[3-4]對短波電臺的建鏈行為信號進行識別,方法思路雖然較為新穎,但是網絡是否提取到同一類別行為信號的統一特征以及是否提取到不同類別行為信號之間的特征差異,這關系到網絡模型在識別建鏈行為時的可靠性。通過對改進DenseNet的可視化操作可以增大網絡模型識別性能的說服力,也有助于未知通信協議下的電臺建鏈行為信號本質區別的機理研究。

短波電臺的建鏈行為指一方電臺開始通信時需要進行的通聯行為。最新的第三代短波通信電臺的自動建鏈行為主要分為:呼叫行為,握手行為,通知行為,時間校準行為,組時間廣播行為,廣播行為以及掃描呼叫行為[5]。一般情況下,需要在通信協議已知的條件下,通過協議幀識別的方法來推測電臺信號所表達的具體的建鏈行為[6]。但是,改進DenseNet則是在通信協議未知的條件下,通過信號的特征學習來完成對短波電臺建鏈行為的識別,可以有效避免信號的解跳、解調、解密等困難的問題。利用DenseNet的特征重復利用的優勢,并且讓網絡模型適應一維信號作為輸入,以此使得網絡模型應用時較為有效和簡便。

當前在深度學習領域,網絡模型的可解釋性和可視化研究大多集中在卷積神經網絡的可解釋性分析領域[7-8]。文獻[9]利用反卷積可視化理解卷積神經網絡。文獻[10]中的導向反向傳播也是對網絡模型的輸入進行求導,將輸入和梯度均大于零對應的梯度傳遞回去。文獻[11]利用最后一層卷積層包含的豐富的空間和語義信息,將全連接層替換為全局池化層,求得每張特征圖對應的類別權重,然后通過特征加權的方法求出最后一層卷積層對應的熱力圖。另外,基于可解釋模塊的神經網絡學習方法中間層有明確的語義信息,但是只有少數關于這方面的研究,如文獻[12-13]所示。文獻[14]重點討論了卷積神經網絡及其表示的可視化,并對基于模型可解釋性的中端學習進行了分析。關于傳統的機器學習的可解釋性分析,文獻[15]通過干擾原始樣本的特征信息,繼而探究對分類識別結果影響較大的特征信息,以達到可解釋性分析的目的。文獻[16]引入了Deep k-Nearest Neighbors,根據樣本點之間的差距,將測試輸入與其鄰近的訓練點進行比較,并展示了這些相鄰點的標簽,提高了訓練集之外的數據輸入時的可信度。

本文工作的重點在于解釋改進DenseNet在識別電臺不同建鏈行為信號的可靠性。首先根據第三代短波通信協議標準MIL-STD-188-141B仿真電臺的7種不同自動建鏈行為信號,利用改進的DenseNet進行訓練學習,完成對電臺行為的識別。但是網絡模型是否學習到建鏈行為信號的深層次特征,網絡模型的分類識別依據是否可靠是值得探討的問題。基于卷積層的可解釋性分析方法在改進DenseNet網絡中難以應用,主要原因是卷積層的每個特征圖的維度較大,對于維度較大的一維線性特征圖難以通過直接可視化的圖像觀測出異同,而且一維的信號并不像圖像一樣可以通過視覺直接感受到原始特征,本文也通過實驗來說明基于卷積層的可解性分析的效果并不理想。因此本文主要通過可視化網絡模型的全連接層及其激活熱力圖來探究改進DenseNet是否對建鏈行為信號進行了有效可靠的學習訓練。網絡模型可視化的實驗結果表明,改進DenseNet可以提取建鏈行為信號的深層次特征的異同,進一步說明在通信協議未知的條件下,利用深度學習去探究電臺的建鏈行為的思路是可行有效的。

1 基于改進DenseNet的短波電臺建鏈行為識別方法

短波電臺的自動建鏈行為是電臺要開始通信時的一個通聯行為。通過仿真7種建鏈行為信號,利用深度學習的方法進行分類識別,避免了電臺通信協議未知的限制,這對電子對抗領域的通信電臺對抗提供了新思路。短波電臺的自動建鏈行為分為7種建鏈行為,其功能如表1所示。

表1 7種建鏈行為及其功能

深度學習在信號分類識別應用時,往往需要對信號進行特征域變換預處理,如頻域變換、時頻域變換、小波變換以及高階譜變換等等[17-21]。變換的目的是將信號的特征人為地進一步凸顯,但是短波電臺的不同建鏈行為信號屬于同一種突發波形,其編碼方式和調制方式幾乎相同,因此特征變換不會有良好的效果。所以,本文直接將物理層的一維建鏈行為信號作為DenseNet的輸入,并且在網絡中利用兩條支路來增強網絡的識別性能。其中一個支路的輸入后,信號的前半部分置零的主要原因是:不同建鏈行為信號之間的差異主要為突發波形后半部分攜帶不同有效比特的差異,不同行為對應的信號后半部分會有較大差異。而突發波形前半部分主要為建鏈行為的數據幀頭,這代表著這個突發波形用于傳輸建鏈行為,因此7種建鏈行為信號的前半部分極為相似,所以信號前半部分作置零處理。改進的DenseNet結構如圖1所示。圖1中的一維dense塊的內部結構如表2所示。

表2 一維dense塊的內部結構

圖1 改進DenseNet的結構

2 DenseNet應用時的可視化方法

深度學習網絡模型可以提取同一類別建鏈行為信號的深層次統一特征,并且可以提取不同類別建鏈行為信號的特征差異。由圖1可知,網絡模型的輸入信號維度較大為(5 888,1),而且可以看出網絡中間層的特征維度依然較大。那么,對卷積層提取的信號特征進行可視化分析的方法得到的可視化圖像,根據圖像很難發現提取信號的特征的異同之處,所以文獻[10]中的Grad-CAM方法在應用時效果一般。因此,結合改進DenseNet的結構特點,從其全連接層著手解釋網路模型。本文利用全連接層維度較小且處于卷積模塊和分類器模塊中間的位置特點,通過實驗探索網絡的可靠性。

YⅠ=H(XⅠ)

(1)

(2)

YⅡ=H(XⅡ)

(3)

(4)

全連接層輸出的深層次特征對最終識別結果的影響需要借助全連接的熱力圖進行解釋,可以進一步掌握網絡模型的分類依據。Softmax分類器中神經元對應的最大值代表著網絡最終的輸出類別。輸出類別Ⅰ表示為ZⅠ,類別Ⅱ表示為ZⅡ,那么全連接層到輸出類別的權重矩陣表示為

(5)

(6)

(7)

(8)

同一類別行為信號的權重矩陣所呈現的熱力圖應該類似,即WⅠ和W′Ⅰ類似,WⅡ和W′Ⅱ類似。不同類別行為信號的權重矩陣應該有較大差異,即WⅠ和WⅡ,WⅠ和W′Ⅱ有著較大差異。

結合全連接層輸出和全連接層熱力激活圖的可視化可以很好地解釋網絡模型是否學習到電臺的建鏈行為信號的深層次特征,可以判斷網絡模型的分類識別是否具有可靠性。

3 改進DenseNet網絡性能分析

仿真得到總共14 000個建鏈行為信號樣本,隨機收取部分樣本作為訓練集,剩下的部分作為測試集。網絡模型訓練時,學習率設為0.01,批次處理大小設為8。隨著訓練樣本數目的增加,當信噪比(signal to noise ratio，SNR)分別為-5 dB、 0 dB、 5 dB時,在迭代次數為15次網絡性能穩定后,在測試集上的識別準確率如表3～表5所示。

表3 網絡識別性能(SNR=-5 dB)

表4 網絡識別性能(SNR=0 dB)

表5 網絡識別性能(SNR=5 dB)

根據表3～表5可知,隨著訓練樣本數目的增加,網絡的識別性能有明顯的提升。當SNR為-5 dB,訓練樣本數目從1 400增加到12 600時,網絡的識別準確率從56.34%增加到73.38%;當SNR為0 dB,訓練樣本數目從1 400增加到12 600時,網絡的識別準確率從84.46%增加到99.14%;當SNR為5 dB,訓練樣本數目從1 400增加到12 600時,網絡的識別準確率從99.58%增加到99.99%。根據實驗結果也可以看出在SNR大于0 dB時,訓練樣本數目不少于1 400個,網絡模型的識別準確率可以達到90%以上,此時網絡模型可以有效地識別短波電臺不同的建鏈行為。

4 改進DenseNet在識別建鏈信號時的可視化分析

雖然在經過訓練后,改進后DenseNet能夠有效地對短波電臺建鏈行為信號進行有效地識別,但是網絡內部的識別機理需要進一步探索。改進網絡的可視化分析既能說明網絡是否真正有效地學習到短波電臺建鏈行為信號的深度特征,也有利于理解不同的建鏈行為信號的本質區別。在通信協議未知的情況下,掌握網絡的識別依據,也進一步為網路模型識別的可靠性提供支撐。

4.1 同一類別的建鏈行為信號的識別機理可視化分析

改進的DenseNet網絡結構主要有3部分構成:卷積部分,全連接層部分和分類器。對于卷積層部分的網絡可解釋性,由于一維的建鏈行為信號較為冗長,并不像圖像樣本可以通過Grad-CAM算法清晰地找出網絡對樣本的關注區域。而且改進的DenseNet卷積部分最后一層的維度大小為(2 944, 32),利用Grad-CAM算法得到的激活熱力圖由于維度較大,難以作為可靠的依據。SNR為0 dB的數據訓練網絡后,Grad-CAM得到的熱力圖如圖2所示。

圖2 改進的DenseNet的最后一層卷積層的激活熱力圖

由圖2可知,改進DenseNet的關注重點會聚集在一維信號的后半部分特征,這后半部分特征對網絡最后有效識別不同的建鏈行為起著重要作用,這也是本文利用兩條支路來提高網絡提取信號特征能力的重要原因。但是由于提取的特征維度較大,難以觀察出網絡能否有效地找到同一類信號樣本的共性,進一步找到不同類別信號樣本之間的區別。因此,需要針對改進DenseNet的全連接層進一步探究,全連接層的神經元個數為256,數目相對較少,有利于推斷DenseNet是否找到識別不同建鏈行為信號的依據。全連接層在改進DenseNet中的位置如圖1所示。其中全連接層內部包括全連接層,批次正規化層,激活層。

實驗時,首先導入訓練好的網絡模型,然后輸入電臺的建鏈行為信號樣本,輸出網絡全連接部分,以探究同一類建鏈行為信號是否有相同或類似的輸出,據此可判斷網絡是否學習到每種行為信號的深層次特征。

在SNR分別為-5 dB、 0 dB、 5 dB條件下進行實驗,建鏈行為類別為呼叫的信號樣本作為輸入,得到全連接層的輸出。根據不同SNR下改進DenseNet的識別性能,首先分析具有一定代表性的SNR=0 dB條件下網絡可視化的結果,其全連接輸出如圖3所示。

由圖3可知,呼叫行為信號的全連接層輸出有較大的相似性。圖3(a)～圖3(d)中圖像的尾部都有一個小的“山峰”;在橫軸為150左右時,4個樣本的輸出圖像都有一個明顯的“低谷”區域;在橫軸為40左右時,4個樣本的輸出圖像都有一段類似“山峰”的曲線。這些共同點都說明,在信噪比SNR=0 dB條件下,改進DenseNet能夠提取出同一類別不同樣本的共同特征。

為了進一步探討改進DenseNet是否可以有效學習到通過不同信號質量的建鏈行為信號的內部統一特征,又在SNR分別為-5 dB、 5 dB條件下進行實驗,全連接層的輸出結果如圖4和圖5所示。

圖3 呼叫行為對應的全連接層輸出(SNR=0 dB)

根據圖4和圖5可知,在SNR分別為-5 dB、 5 dB對應的全連接層有統一類似的輸出特征,表明改進DenseNet可以有效學習不同SNR的行為信號的深層次統一特征。

綜合比較圖3～圖5可知,隨著SNR的提高,網絡模型全連接層的輸出越趨向于統一。比如,在SNR為-5 dB時圖4(a)～圖4(d)的統一相似度和在在SNR為5 dB時圖5(a)～圖5(d)的統一相似度,前者要低于后者,這與改進DenseNet對信噪比更高的建鏈行為信號有更好的識別性能相一致。

圖4 呼叫行為對應的全連接層輸出(SNR=-5 dB)

圖5 呼叫行為對應的全連接層輸出(SNR=5 dB)

4.2 不同類別的建鏈行為信號的識別機理可視化分析

不同類別的樣本的全連接層輸出是否有一定的區別,這對檢驗改進后網絡是否提取到不同類別樣本的本質區別,檢驗改進網絡對電臺的建鏈行為識別是否有合理的依據以及研究網絡的識別機理有較大的意義。

利用SNR為-5 dB、 0 dB、 5 dB的建鏈行為信號數據分別進行實驗。但考慮本節實驗探究的重點在于探究改進DenseNet是否可以提取不同類別行為信號的深層次特征區別,而不側重探究提取特征的優良情況,同時根據第4.1節的實驗結果,先選取SNR=0 dB的實驗結果進行詳細地展示和分析。除第4.1節探討的呼叫行為之外,短波電臺的握手行為,通知行為,時間校準行為,組時間廣播行為,廣播行為,掃描呼叫行為對應的全連接層輸出如圖6所示。

圖6 不同建鏈行為對應的全連接層輸出(SNR=0 dB)

由圖6可知,不同的建鏈行為對應的全連接層輸出有著明顯區別,而相同的建鏈行為對應的全連接層輸出有著較大的相似性。這不僅僅是對第4.1節中實驗結果的肯定,也進一步說明了改進后的網絡模型可以提取到不同類別樣本信號的本質特征,并且網絡能據此正確識別電臺不同類別的建鏈行為。

為了說明不同SNR條件下,改進DenseNet是否能夠學習到不同建鏈行為信號的特征差異,是否符合SNR越高提取的特征差異應該越大的實際情況。下面給出在-5 dB和5 dB條件下,握手行為對應的全連接層輸出,如圖7和圖8所示。

根據圖3～圖8中不同SNR下呼叫行為和握手行為對應的全連接輸出可知,隨著SNR的增加,不同類別行為對應的全連接層輸出差異越大,這表明改進DenseNet對質量越好的行為信號數據更能有效地提取不同類別的深層次特征差異,進一步說明改進DenseNet的識別可靠性。

圖7 不同建鏈行為對應的全連接層輸出(SNR=-5 dB)

圖8 不同建鏈行為對應的全連接層輸出(SNR=5 dB)

4.3 建鏈行為信號全連接層的激活熱力圖

不同的建鏈行為信號的全連接層輸出圖像有著明顯區別,但是這些區別是否作為網絡識別的具體依據需要進一步探究分類器輸出節點與全連接層之間的隱藏關系,這種關系主要通過層與層之間的權值矩陣來實現。利用Grad-CAM算法的思想,選擇softmax值最大值的節點(對應置信度最高的類別)反向傳播,對全連接層求梯度,此梯度作為全連接層對分類器輸出節點的影響權重。選取具有代表性的SNR為0 dB的數據信號進行實驗。如果能夠通過實驗表明,SNR為0 dB條件下,分類器的輸出節點確實與全連接層有著密切的隱藏關系,那么在SNR為-5 dB或5 dB條件下仍然有著密切關系,只不過會類比第4.1節和第4.2節的實驗結論,SNR越高這種關系會越明顯。短波電臺的不同建鏈行為信號的全連接層熱力圖,如圖9所示。

圖9 不同建鏈行為對應全連接層的熱力圖(SNR=0 dB)

由圖9可知,同一類別的建鏈行為信號對應全連接層的熱力圖較相似,不同類別的建鏈行為信號對應全連接層的熱力圖差距較大。實驗結果表明,同一類別行為信號的全連接層對最后輸出類別有關鍵貢獻作用的區域片段較為接近,不同類別行為信號的全連接層對最后輸出類別有影響的區域片段明顯不同。

綜合第4.1節～第4.3節中的實驗結果可知,改進DenseNet可以有效地學習到同一種建鏈行為信號的本質特征,不同建鏈行為信號的深層次特征區別以及中間層特征對行為類別判決的關鍵性貢獻區域。實驗結果證明了網絡的可靠性和有效性,同時也說明了在通信協議標準未知的條件下,通過深度學習的方法直接分析物理層信號以達到識別電臺不同行為信號的思路是可行且有效的。

5 結 論

在電子對抗領域,掌握短波電臺的建鏈行為類別,可以進一步掌握電臺的通聯意圖,對掌握電臺的戰術地位有重要作用。傳統的電臺的建鏈行為研究,往往需要借助通信協議標準的技術支持,這在電子對抗領域是極其困難的。因此,本文利用改進DenseNet直接學習電臺的建鏈行為信號的深層次特征,達到有效識別電臺不同建鏈行為的目的。并通過網絡模型的可視化分析實驗,表明改進的網絡模型可以有效提取電臺建鏈行為信號的深層次特征上的異同,也進一步說明了網絡模型在短波通信電臺建鏈行為識別應用時的可靠性。