基于注意力多尺度特征融合的頻譜感知方法

關鍵詞：頻譜感知；注意力機制；多尺度特征融合；卷積神經網絡

中圖分類號：ＴＮ９２９． ５ 文獻標志碼：Ａ"開放科學（資源服務）標識碼（ＯＳＩＤ）

文章編號：１００３－３１０６（２０２４）１１－２５２０－０７

０引言

隨著無線通信的快速發展，通信系統中物聯網（Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ，ＩｏＴ）各種無線終端設備在豐富日常生活的同時導致了頻譜資源短缺和電磁環境復雜性增加的問題［１－３］。通信系統需要不斷適應動態變化的頻譜環境，以確保高效的頻譜利用和滿足用戶不斷增長的通信需求。為了應對這些挑戰，頻譜感知應運而生，旨在通過實時監測和理解頻譜的使用情況，為通信系統提供更靈活、智能的頻譜管理策略［４－５］。頻譜感知的核心目標是獲取對整個頻譜范圍內信號使用情況的全面認知，包括頻率段是否被使用、信號的強度和噪聲水平等關鍵信息。對頻譜狀態的全面了解有助于通信系統更好地適應頻譜的動態變化，提高頻譜的利用效率。然而，頻譜的動態性導致了頻譜狀態的不確定性［６］，由于傳統頻譜感知方法受制于高計算成本和復雜的通信環境，限制了其在實際應用中的效果。

隨著深度學習的快速發展，基于深度學習的頻譜感知方法得到了研究。Ｘｉｎｇ 等［７］設計了一種深度神經網絡模型實現頻譜感知任務，該模型由一維卷積神經網絡（Ｏｎｅ-ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｎｖｏｌｕｔｉｏｎａｌ ＮｅｕｒａｌＮｅｔｗｏｒｋ，１ＤＣＮＮ）、雙向長短期記憶（ＢｉｄｉｒｅｃｔｉｏｎａｌＬｏｎｇ Ｓｈｏｒｔ Ｔｅｒｍ Ｍｅｍｏｒｙ，ＢｉＬＳＴＭ）和自注意力（Ｓｅｌｆ-Ａｔｔｅｎｔｉｏｎ，ＳＡ）組成。１ＤＣＮＮ 和ＢｉＬＳＴＭ 負責從時間序列數據中提取局部特征和全局相關性，ＳＡ 層使分類器網絡能夠強調ＢｉＬＳＴＭ 獲得的那些重要特征。仿真結果表明，該模型在頻譜感知任務中表現更好。Ｇａｉ 等［８］提出了一種基于殘差蜂窩網絡（ＲｅｓｉｄｕａｌＣｅｌｌｕｌａｒ Ｎｅｔｗｏｒｋ，ＲｅｓＣｅｌＮｅｔ）的頻譜感知方法，該方法將頻譜感知問題轉化為圖像二值分類問題。首先，將接收到的信號重新整形為矩陣并歸一化為灰度級，作為網絡的輸入。其次，提取灰度圖像的特征信息，并通過雙分支卷積和殘差學習來訓練網絡。最后，將測試數據輸入到訓練好的模型中，實現基于圖像分類的頻譜感知。實驗結果表明，該方法在低信噪比（Ｓｉｇｎａｌ ｔｏ Ｎｏｉｓｅ Ｒａｔｉｏ，ＳＮＲ）情況下具有更高的檢測概率、更低的誤報概率以及更好的泛化能力。Ｊａｎｕ 等［９］ 提出了一種新穎的基于圖卷積網絡（Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋ，ＧＣＮ）的協作頻譜感知方法，適應認知無線電網絡的動態變化，在無線環境的不同動態場景中證明了所提出方法的優越性。Ｚｈａｎｇ 等［１０］提出了一種基于協方差矩陣感知ＣＮＮ的多頻帶聯合頻譜感知方法，該方法在無需模型假設的情況下可以學習子帶之間隱藏的相關特征以提高頻譜感知性能。仿真結果表明，在不確定有無噪聲的情況下，都具有較好的優越性。張紅等［１１］提出一種基于ＣＮＮ 的寬帶合作頻譜感知方案，考慮利用寬帶頻譜上被占用的子帶與未被占用的子帶之間在信號能量及占用位置方面所體現出的類別差異。仿真結果證明，該方案在低ＳＮＲ 環境下的檢測性能較為優越。從戰等［１２］使用前ｋ 時隙的感知數據與當前時隙數據聯合判別當前時隙的信道狀態，并且在網絡結構中引入了ＣＢＡＭ 注意力模塊來實現頻譜感知任務。實驗表明，提出的算法具有優異的性能。雖然國內外研究者對于頻譜感知任務有了大量研究，現有的基于深度學習的方法與傳統頻譜感知算法相比進一步提高了檢測性能，但這些方法在某些方面存在局限性：

① ＣＮＮ 使用的卷積操作對于輸入數據的感受野受限。在頻譜感知中，信號的空間和頻率特性可能需要更大范圍的感受野來捕捉。

② 不同尺度的頻譜特征可能包含不同的信息，多數ＣＮＮ 實現頻譜感知的方法并未考慮有效融合不同尺度特征的機制。

③ 傳統的ＣＮＮ 在處理頻譜感知任務時可能未充分捕獲信號的空間信息，所以ＣＮＮ 的設計需要考慮引入更復雜的卷積結構或者空間注意力機制，來提高對空間信息的敏感性。

為了解決上述問題，本文提出一種注意力多尺度特征融合ＣＮＮ （Ａｔｔｅｎｔｉｏｎ-Ｍｕｌｔｉ-Ｓｃａｌｅ Ｆｅａｔｕｒｅ Ｅｘ-ｔｒａｃｔｉｏｎ-ＣＮＮ，ＡＭＦＥ-ＣＮＮ）模型來實現頻譜感知任務。ＡＭＦＥ 模塊作為一種即插模塊，由多尺度特征提取模塊和注意力模塊組成，多尺度特征提取使用膨脹率不同的膨脹卷積實現多尺度的特征提取，可以在不增加計算量的同時獲取更大的時頻感受野；注意力模塊通過多重卷積和池化操作來準確地關注時頻圖的空間信息，從而提升模型的總體性能。

１感知模型

在無線通信中，次級用戶（Ｓｅｃｏｎｄａｒｙ Ｕｓｅｒ，ＳＵ）通過感知周圍頻譜環境，以實時監測和識別主要用戶（Ｐｒｉｍａｒｙ Ｕｓｅｒ，ＰＵ）的活動，從而有效地利用未被占用的頻譜資源。頻譜狀態定義為占用和空閑２ 種狀態，該問題可以建模為一個簡化的二元決策問題：

２數據驅動模型

基于模型算法的檢測性能取決于假設模型的準確性，模型與真實輸入數據不匹配將會導致嚴重的性能下降。而基于數據驅動的模型可以從提取固有數據模式的訓練過程中學習。受此啟發，本文提出了一種由離線訓練和在線檢測組成的數據驅動的檢測方法。在離線訓練模塊中，通過維納－維爾分布（Ｗｉｇｎｅｒ-Ｖｉｌｌｅ Ｄｉｓｔｒｉｂｕｔｉｏｎ，ＷＶＤ）［１３］獲取樣本頻譜圖，使用總數據集來訓練ＡＭＦＥ-ＣＮＮ 模型。對于在線測試模塊，使用基于閾值的檢測機制，當ＡＭＦＥ-ＣＮＮ 模型輸出概率小于某一閾值時為頻譜空閑，否則為頻譜占用。數據驅動模型結構如圖１ 所示。

３.２注意力多尺度特征聚合模塊

本文提出了一種ＡＭＦＥ模塊，旨在增強ＣＮＮ 在特征提取任務中的表達能力。ＡＭＦＥ 模型結構如圖３所示。

ＡＭＦE模塊以本層特征和深層特征上采樣后的特征圖拼接為輸入，通過２ 個并行的分支進行特征提取和融合操作。第一個分支采用多尺度膨脹卷積模塊，包括４ 個小分支，分別使用膨脹率為１、２、３、６的卷積核。這樣的設計旨在充分捕捉不同尺度下的語義信息，擴大網絡感受野，使模型更具有適應性和多尺度表達能力。通過１ ×１卷積對４ 個小分支的特征圖進行拼接和調整維度，以產生融合的多尺度特征。第二個分支采用了注意力模塊，通過全局均值池化和最大池化２ 個分支，該模塊能夠有效地捕捉到全局和局部特征信息。通過２次卷積操作，得到注意力特征圖，使網絡能夠自適應地聚焦于關鍵特征區域。這一注意力機制有助于提高網絡對于重要信息的關注度，進一步提升了網絡的表達能力。模塊的輸出是第一分支和第二分支特征圖的元素乘積。這種操作有助于強化網絡對于顯著性特征的表達，進一步提高模型的區分能力。

３.３ＡＭＦＥ-ＣＮＮ模型結構和訓練

本節采用ＡＭＦＥ 模塊構建ＣＮＮ。這一模塊的引入旨在增強網絡對不同尺度和關鍵特征的感知能力，提高在頻譜感知任務中的性能表現。ＡＭＦＥ-ＣＮＮ 通用模型結構如圖４所示。

圖４中的Ｂａｃｋｂｏｎｅ 為主干網絡，可以選擇Ｒｅｓ-Ｎｅｔ［１５］、ＶＧＧ［１６］、ＭｏｂｉｌｅＮｅｔ［１７］等多種ＣＮＮ 結構。通過在不同的Ｂａｃｋｂｏｎｅ 中嵌入ＡＭＦＥ 模塊，可以在充分利用主干網絡特征的同時引入多尺度信息和注意力機制來增強模型性能。ＡＭＦＥ 模塊作為一種即插模塊，只需要在相應的特征層中插入即可，無需對整體網絡結構進行大規模修改。這種靈活性使得模型的構建更為方便，同時有助于提高模型的泛化能力和性能表現。

對比了同一ＳＮＲ 下不同網絡模型在不同Ｐ_ｆ 下的檢驗概率，實驗結果如圖６ 所示，圖中實驗結果均在－８ ｄＢ ＳＮＲ 下進行。可以看出，當ＳＮＲ 不變時，隨著Ｐ_ｆ 的提升，所有模型的Ｐ_ｄ 值均隨Ｐ_ｆ 的提升而提升。由于ＡＭＦＥ-ＣＮＮ 模型使用ＲｅｓＮｅｔ５０ 為主干網絡，相同的Ｐ_ｆ 值下，含有ＡＭＦＥ 模塊的ＲｅｓＮｅｔ５０模型的Ｐ_ｄ 值均高于原模型，證實了ＡＭＦＥ 模塊可以改善主干神經網絡在頻譜感知任務上的性能。與現下流行的ＭｏｂｉｌｅＮｅｔ 和Ｖｉｓｉｏｎ Ｔｒａｎｓｆｏｒｍｅｒ相比，實驗所提出的ＡＭＦＥ-ＣＮＮ 方法在頻譜感知任務上也體現了優越的性能。

對比了同一Ｐ_ｆ 下不同網絡模型在不同ＳＮＲ 下的檢驗概率，實驗結果如圖７ 所示。圖中實驗結果均在Ｐ_ｆ ＝ ０．１，－２０～０ ｄＢ ＳＮＲ 下進行?？梢钥闯?，當Ｐ_ｆ 不變時，Ｐ_ｄ 值隨ＳＮＲ 的提升而提升。ＡＭＦＥＣＮＮ 模型的Ｐ_ｄ值最高，ＲｅｓＮｅｔ５０的Ｐ_ｄ 值最低，進一步驗證了實驗所提出的ＡＭＦＥ 模塊的重要性。在部分ＳＮＲ 下Ｍｏｂｉｌｅ Ｎｅｔ 和Ｖｉｓｉｏｎ Ｔｒａｎｓｆｏｒｍｅｒ的Ｐ_ｄ值相近或高于ＡＭＦＥ-ＣＮＮ 模型，但總體性能ＡＭＦＥ-ＣＮＮ 模型均超越了其余網絡，驗證了ＡＭＦＥ-ＣＮＮ 模型實現頻譜感知任務的有效性和準確性。

５結束語

頻譜感知作為認知無線電中的關鍵技術在頻譜管理中發揮著重要作用，有效緩解了頻譜資源短缺的問題。盡管深度學習中的ＣＮＮ 在頻譜感知任務中表現出色，但其在感受野受限、多尺度信息融合和空間信息捕獲等方面存在局限性。為了解決這些問題，本文提出了一種ＡＭＦＥ-ＣＮＮ 模型，其中包括多尺度特征提取和注意力模塊。通過利用膨脹卷積實現多尺度特征提取，該模型能夠獲得更大的時頻感受野，從而更全面地捕捉頻譜特征。與此同時，通過多重卷積和池化操作，注意力模塊專注于時頻圖的空間信息，進一步提高了模型的性能。實驗結果表明，ＡＭＦＥ-ＣＮＮ模型在頻譜感知任務中表現出色。這一研究為頻譜感知領域引入了一種新的深度學習模型，為更有效地應對動態頻譜環境提供了有力的工具。

作者簡介

王琳 女，（１９８４—），碩士，副高級工程師。主要研究方向：無線電。

張世龍 男，（１９９５—），博士研究生。主要研究方向：認知無線傳感器網絡、深度學習。

（*通信作者）王樹彬 男，（１９７１—），博士，教授。主要研究方向：認知無線傳感器網絡、機器視覺。