基于神經網絡計算的無線容量高實時預測

賴昱辰/ LAI Yuchen, 鐘祎/ZHONG Yi, 王建峰/WANG Jianfeng

（1.華中科技大學，中國 武漢 430074；2. 微軟公司，美國 雷德蒙德 98052）

隨著無線數據需求的急劇增加，用戶與無線接入點之間的距離大大減少，導致無線網絡向超密集架構發展。由于密集的部署和多樣化的傳播環境，網絡管理和調節也變得極為復雜。在室外環境中，需要額外部署小型基站，減輕宏基站的無線流量負擔，提高覆蓋范圍的連續性和信號強度。在室內傳播環境如購物中心和辦公樓內，由于承重墻等障礙物，加上個體用戶密集部署的無線局域網（WLAN）的影響，信號傳播可能比室外更為復雜。此外，由于覆蓋率、速率、等待時間的不同，不同無線應用有著多樣化的服務質量（QoS）要求。因此，應當正確規劃接入點的部署，以保證無線網絡的性能。

為規劃無線網絡的部署，首先應評估給定部署方案的容量。傳統方法中，網絡的容量通過系統級仿真進行估算，需要計算每個位置的信噪比（SINR）值，再計算每個位置的數據率；然而，模擬具有復雜傳播環境的大規模無線網絡相當復雜，且僅適用于特定的部署方案，而部署方案千變萬化，所以對網絡容量的評估應該更加智能和高效。

本文中，我們提出了使用卷積神經網絡（CNN）模型預測無線網絡的容量的方法。圖1中給出了容量預測模型的框架，由用于無線網絡仿真的系統模型和用于數據預測的CNN組成。首先，在方形區域和有墻環境中使用無線網絡模型模擬信號傳輸，將環境信息與接入點信息等多維數據應用于網絡容量估計，使用二維矩陣描述接入點部署位置，并將無線網絡容量標記為標簽，得到CNN數據集。其次，將數據集按一定比例分為訓練集和測試集兩部分，建立CNN模型并將訓練集導入，經過特征提取與分類決策后輸出網絡容量值,再利用反向傳播算法動態調整神經網絡參數的權重，優化數據預測模型。

1 無線網絡系統建模

在本節中，我們介紹兩種不同的無線網絡部署環境（方形無障礙區域與有墻環境）并建立了信號傳輸模型。在兩個環境中各自生成10 000個接入點部署圖并計算其網絡容量，作為卷積神經網絡的數據集。

我們將區域均勻劃分為個M×M網格，隨機分布N個發射功率相同的接入點。區域中，有M2個用戶均勻分布在平面內。在方形區域內，每個用戶連接與其距離最近的接入點。在有墻環境中，用戶連接到穿墻后能提供最大信號功率的接入點，并將其他接入點視作干擾。對每個接入點發射的信號，需要考慮的關鍵因素有：

1）路徑損耗。該損耗是由發射功率的輻射擴散和無線信道的傳播特性引起的。電波信號隨距離增長而衰減，根據標準信號傳播模型，設定路徑損耗系數大于2。

2）瑞利衰落。由于信號的反射、衍射、折射和散射引起無線信道的多徑傳播，使得接收到的信號幅度遵循瑞利分布，功率衰減系數遵循均值為1的指數分布。

3）墻損。對有墻環境，還需要考慮穿墻帶來的信號損耗。信號通過一面墻時的衰減值為10～15 dB，故設定墻損系數為0.314。此外，采用跨立實驗方法來計算在用戶和接入點之間的無線通信鏈路上的墻的數量。

與接收信號功率相比，通信環境中的高斯噪聲的干擾可以忽略不計，利用香農公式可以計算每個用戶的網絡容量值。在方形區域內需考慮到邊緣效應的影響，在4條邊界各忽略15%的區域，累計中心區域的用戶的數據率，取平均得到全局網絡容量值。對有墻環境，則累加平面圖內所有室內區域的數據率并取平均值。

圖2給出了一個室內設計方案示例圖。原點設置在左下位置，將整個區域按比例縮放到平面直角坐標系中，同時將墻壁模擬為線性線段，建模得10 000個樣本。圖3中是獲得最大和最小網絡容量值的接入點的部署圖和相應的全局數據率分布。其中，高網絡容量值區域顯示為黃色，低容量區域顯示為藍色。可以看出，數據率隨著接入點周圍半徑的增加而減小，并在靠近接入點的區域達到峰值，但當接入點分布過于密集時會互相干擾，使得網絡容量值較小。

2 基于CNN的容量預測

本節中，我們將分析不同的卷積神經網絡架構，以探討網絡容量預測問題在不同場景下的適用性。將接入點的位置矩陣（即像素值為M×M的二維圖像）作為CNN的輸入，接入點位置的像素值標準化為1，其他區域像素值設置為0；將網絡容量從大到小均分為40類，作為CNN的標簽。表1給出了使用的卷積神經網絡的結構，Conv（x，y，z，s）表示卷積層，其輸入通道數為x、輸出通道數為y、步長為s，卷積核的大小為（z×z）。MaxPool（z，s）表示最大池化層，其卷積核大小為（z×z），步長為s。Fc（x，y）表示具有輸入節點數為x與輸出節點數為y的全連接層。

2.1 特征提取

在卷積層中，通過將卷積核連接到輸入層相鄰區域中的多個神經元，自動完成輸入數據集的特征提取。每個卷積層都會生成一個新的特征圖，其維數等于卷積核的數量，其尺寸取決于卷積核的大小和步長。通過連續卷積，特征圖維數增大而尺寸減小。

卷積層的輸出特征圖會被傳輸到最大池化層，以進行特征選擇和信息過濾。在最大值濾波的區域中，下采樣函數提取所有連接神經元的最大值。池化層用于壓縮特征圖并減小輸出的空間大小以簡化計算，也可提取主要特征以提高網絡的魯棒性。池化層中的計算方法與卷積層中相同，濾波器的參數不會經反向傳播過程被修改。

▲圖3 獲得最高和最低容量值的接入點的部署位置及數據率分布圖

表1 應用于無線網絡容量預測的CNN的詳細結構與參數信息

2.2 分類預測

全連接層位于所有神經網絡的末端，連接所有輸入特征并將分散特征映射到標記的樣本空間中，可用于減少特征位置對結果的影響。第一，將從最后一個卷積層獲得的高維數據表示為大小為3、維數為64的特征圖，并擴展成576個單獨特征作為全連接層的輸入；第二，將線性加權和方法應用于隱藏層，將每個標簽的輸出概率發送到分類器，并在下一次訓練中通過反向傳播算法更新隱藏層的參數權重；第三，分類器將概率最高的標簽作為最終輸出。分類的數量越多，兩個相鄰網絡容量標簽的值差就越小，即預測的網絡容量的精度越高。我們設置了兩個全連接層，并添加了一些非線性方法來提高數據集的訓練效率。

2.3 權重更新與模型優化

卷積層與池化層具有較少的參數和較大的計算量，而全連接層則相反；因此，在加速優化過程時著重于調整卷積層的參數和結構，在實現參數優化和權重裁剪時著重于全連接層。

經過仿真測試，使用線性整流函數（ReLU）作為激活函數以解決過擬合和梯度消失的問題，同時減少計算量。使用交叉熵損失函數作為評估神經網絡性能的指標，用于比較預測容量值與實際輸出之間的差異。在反向傳播過程中計算完所有參數的梯度后，使用基于隨機梯度下降（SGD）算法的AdaGrad優化算法對網絡的權重和參數進行更新，從而獲得最優的權重參數。

3 仿真驗證與分析

在本節中使用Pytorch框架建立所有的CNN模型，主要研究以下CNN結構和參數對訓練效率與準確度的影響：分類數與數據集數量、優化算法學習率、批歸一化層與Dropout層、CNN的深度。

將訓練集和測試集的比例設置為6：1，為確保實驗結論的普適性，每個測試重復3次以上并取結果平均值。一個時期（epoch）意味著訓練集中的所有樣本訓練一次，且測試集的所有數據被評估一次。由于過擬合現象的產生，可以使用早停法，即提前終止訓練過程以獲得更高準確性。為了減少大規模樣本的計算時間和梯度值差異，每32個訓練集樣本被劃分成一個小批次，隨機打亂批次順序并分批進行訓練。在以上前提條件下進行測試，觀察到在方形無障礙區域內，測試集準確率最高為96.01%，有墻環境中準確率最高為87.84%。在簡單環境中應用的CNN也可以從復雜場景中提取隱藏特征，但模型訓練時間更長，精度更低。

3.1 分類數與數據集數量

當方形區域的10 000個數據輸入到CNN-4時，準確率僅達到79.93 %。增加訓練集的數量可以提高CNN模型的擬合能力，當訓練集的數量逐漸增加到40 000個時，可基本滿足準確率要求。將網絡容量預測視為一個分類問題，當預測結果與真實值的誤差不超過2級時可視作結果正確，也可以通過減小分類類別數提高準確率；但隨著輸出等級的逐漸減小，測試集的數據精度降低，經測試后選擇40級輸出以平衡二者性能。

3.2 神經網絡深度

低時間復雜度意味著程序執行的語句較少，運行每個epoch的時間較短。低空間復雜度則意味著臨時占用的參數和存儲空間數量較少。一般情況下，模型的時間和空間復雜度隨神經網絡層數的增加而增加。由表1可知，CNN-2的模型結構與CNN-1非常相似，只是使用兩層3×3卷積替換了CNN-1第3層卷積層的5×5卷積核，這使得時間復雜度反而下降。

如圖4所示，在方形區域中，由于2層網絡無法充分提取特征圖的特征，甚至無法學習基本特征，2層CNN的準確率只能達到74.77 %；但隨CNN深度的增加，準確率呈上升趨勢并在使用4層網絡時達到最大值94.12 %。在層數增加的同時，權重的線性相乘容易導致梯度爆炸或消失，且抽象能力過強時會阻止網絡提取有用的功能，這將使得5層網絡的準確率下降。在有墻環境中，準確率首先從2層的87.06%提高到3層的87.84%，接著持續降低。所以，在方形區域中使用4層神經網絡CNN-2，在有墻環境中使用3層網絡CNN-3。

▲圖4 2—5層卷積神經網絡的時間和空間復雜度及其在方形區域與有墻環境內的準確率

3.3 優化算法學習率（LR）

圖5中測試了LR介于0.001～0.1之間的Adam算法和可自動調整學習率的AdaGrad算法的性能。LR較大時，收斂速度很快，但容易出現梯度爆炸，使得權重更新失敗，導致模型不收斂?？梢钥吹?，在LR為0.1時，模型不收斂。當LR為0.01時，準確率先上升，但梯度爆炸使得模型訓練失敗。LR較小時，梯度下降下降慢，收斂時間較長，也可能導致過擬合問題。將LR減小到0.001，模型可正常運行并表現出良好的性能。0.005的LR也被測試，雖然緩慢收斂，但性能不如0.001的LR。由于自適應學習率算法被越來越多地應用，我們選擇使用AdaGrad算法，并發現其在訓練效率和準確率上顯示出了更好的性能，并最終將其應用于本文的CNN模型內。

▲圖5 使用LR為0.001～0.1之間的Adam算法和AdaGrad算法的準確率

▲圖6 在DP層和BN層影響下的訓練次數和準確率

3.4 Dropout（DP）層和批歸一化（BN）層

BN層將重新縮放所獲均值和與方差，將每批訓練數據標準化，再使用新學習的均值0和單位方差優化網絡梯度，使數據分布更符合訓練過程中的實際情況，以確保模型的非線性。在前向傳播過程中，DP層使隱藏層的某些節點停止工作，確保該模型不會太依賴于局部特征。兩者都可提高網絡泛化能力，優化過擬合問題。

如圖6所示，網絡內不加BN或DP層時，訓練次數和單次訓練時長最大，但在有墻環境內的準確率最高，為87.84 %。在每個最大池化層后添加BN層后，訓練速度大大提高，可在第18和第46個epoch完成模型訓練；然而，由于訓練集是接入點分布的二維圖像，BN在訓練過程中丟失部分特征圖值，從而導致模型擬合度下降，使得準確率降低。帶有DP層的CNN模型的訓練速度得到了提高，同時在方形區域中的精度達到最大值96.01%。BN層和DP層同時添加時，訓練速度最高，但精度最低。

在程序中使用統一計算設備架構（CUDA）加速，可大大縮短訓練時間，這對二者在訓練效率上的影響差異可以忽略。因此在方形區域中，在CNN-2全連接層后加DP層，在有墻環境中可直接使用CNN-1模型。當使用優化后的卷積神經網絡來預測有墻環境的網絡容量時，可以在33 s內預測10 000個接入點部署方案的網絡容量，這比使用傳統系統仿真方法所需要的12 413 s快376倍。

4 結束語

利用接入點部署的二維圖像，卷積神經網絡將復雜環境中網絡容量的預測轉換為二維數據處理問題，可成功提取接入點部署位置的特征，實現高實時精準預測。比起傳統的系統仿真方法，CNN更高效與智能，且具有高精度和魯棒性。隨著人工智能技術的發展，更多的機器學習方法將被應用于未來無線網絡的部署與管理中。