基于RFE+SVM的卷積神經網絡在入侵檢測方面的應用

張峻豪 王懷彬

摘要：神經網絡在入侵檢測方向的使用已經是入侵檢測領域的熱門發展方向。傳統入侵檢測方法如機器學習、數據挖掘、統計分析等都具有一定局限性。通過引入基于RFE+SVM降維的卷積神經網絡算法，從Python的深度學習庫（tensorflow）出發，搭建出一類基于卷積神經網絡的入侵檢測數據分類模型。通過數據集對比及實驗證明，該模型有效且穩定的提高了對異常數據的判別率，并可發現未知的攻擊類型。

關鍵詞：入侵檢測;RFE+SVM;tensorflow;卷積神經網絡;未知攻擊

中圖分類號：TP393? ? ? ? 文獻標識碼：A

文章編號：1009-3044（2021）13-0191-03

Abstract：The use of neural network in intrusion detection has been a hot development direction in the field of intrusion detection. Traditional intrusion detection methods such as machine learning， data mining， statistical analysis have some limitations. By introducing convolutional neural network algorithm based on RFE + SVM dimension reduction and starting from Python's tensorFlow， a data classification model of Intrusion Detection Based on convolutional neural network is built. Through the comparison of data sets and experiments， it is proved that the model can effectively and stably improve the discrimination rate of abnormal data， and can find unknown attack types.

Key words：intrusion detection; RFE+SVM; tensorFlow; convolutional neural network; unknown attack

入侵檢測的發展歷史已經有幾十年[1]，傳統方法的使用一般有以下幾種：

①早期的入侵檢測系統基于專家經驗，通過專家的知識，對已知網絡提取特征，建立數據庫，通過數據庫比對達到入侵檢測的目的，這是一種早期比較有效的手段，但工程量大，時間長，且僅憑人為的知識填充，IDS應對攻擊類型種類不全，不能應對未知攻擊。

②基于統計分析的方法也是一種常見方法，使用高斯模型進行參數估計，從而達到降低假陰性率和假陽性率的目的，其缺點是閾值很難確定。

③基于模式匹配是第一種方法的升級，與現有多個龐大的數據庫進行對比，降低誤報率，缺點是容易忽略沒有規則描述的攻擊。

④基于數據挖掘的入侵檢測是近年常用方法，通過聚類算法進行劃分，以此解決由密度簇引起的邊緣錯誤，但在參數選擇上較為困難。

⑤人工智能的興起帶來了基于機器學習的思路，機器學習算法通過分類器進行分類，其優點是可發現未知攻擊，但精確度不高。

深度學習的興起為入侵檢測數據分類處理提供了一個新的方向，隨著卷積神經網絡在語音語義圖像識別中的突破性應用，相較于使用其他深度學習算法輸入的常規思路，嘗試將數據變為圖像形式后再使用圖像識別領域較為突出的模型訓練是一種新穎的想法，結合RFE+SVM算法，能夠使模型輸入數據更加準確。由于大量可調用函數庫在實際應用中效果更好，使用python的開源深度學習庫來實現神經網絡模型的搭建，其在模型迭代及數據分類可視化應用中操作更加簡單，并且容易產生更加友好的結果。綜上所述，本文的意義在于提出的方法能夠在入侵檢測領域提供一個可行性率較高的模型，以供參考。

1 卷積神經網絡在入侵檢測中的應用

1.1 KDDCup-99數據集的使用

KDDCup-99數據集一直是入侵檢測領域的標志性數據集，其內容為美國某實驗室將近兩個月的訓練數據，上百萬條網絡連接包含在其中;其中測試數據截取了半個月的網絡連接。 對以上連接數據集進行處理，形成了一個新的數據集。其中，一條網絡數據被定義為段落時間內的TCP數據序列，數據為特定時間段內應對預訂協議（如UDP、TCP）從源IP地址到目的IP地址的傳遞。其中，每個網絡連接被標記為正常（normal）或異常（attack），異常類型被細分為4大類共39種攻擊類型，其中22種攻擊類型出現在訓練集中。同時，為了判斷模型應對不可預見的攻擊的反應，將在測試集中額外加入17類未知攻擊。其標識類型如表1所示。

1.2 數據集預處理

1.2.1 符號數據數值化

預處理的第一步將符號型數值轉化為字符型數值。在大多數機器學習或者深度學習任務中，特征的連續值和離散值交替出現，當特征為離散值時，無法直接進行分類任務，因為分類器對連續且有序的數據更為友好。One-Hot處理過后，處理屬性數據不友好的問題不再困擾分類器，原始數據特征也將得到擴充。

使用獨熱編碼（One-Hot）[2]將離散型數據數值化方法如下：

對于任意類特征，其可能取X種不同的值，此時進行One-Hot處理，其形式將變為X個二元特征。特征之間相互排斥，處于激活狀態的特征每次只有一個，因此稀疏的數據分布即為理想的結果。

1.2.2 數據歸一化

數據特征的量綱差異過大帶來的是神經元輸出飽和與神經網絡訓練收斂時間較長等問題，將其轉化為無量綱的純數值是神經網絡訓練的必要準備[3]。此時將數據按比例縮放，使其落入一段規定的小區間。歸一化后的數據的單位限制被消除，易于多復雜性指標的加權和對比。為了使結果落到[0，1]區間，必須要對原始數據進行操作，即做線性變換，轉換函數如①所示。

[X*=X-XminXmax-Xmin]? ? ? ? ? ? ? ? ? ? ? ?①

上述公式中，[X]為經過獨熱編碼后的原始數據，[Xmax]為當前特征中最大的值，[Xmin]為當前特征中的最小值，[X*]為數據歸一化操作后的數據。

1.2.3 符號數據數值化

經過數值化、歸一化操作后我們獲得了一組被放縮于區間[0，1]的數值型數據，此時數據維度為122維。一方面，若使用傳統神經網絡的訓練方法，較大的數據維數會導致數據訓練時間較長。因此本文將數據轉化為灰度圖輸入神經網絡進行訓練能夠加快訓練時間，不受其高維度特征影響。首先對122維數據進行降維處理，由于僅需求121維數據，隨意刪除特征數據會導致實驗精度降低，因此本文提出使用多分類RFE+SVM算法對數據進行降維操作，[4]首先使用RFE算法將數據在SVM模型中進行訓練，使用SBS方法計算出所有特征得分，同時向下截取N條（將要去除的特征數量），將N條特征刪除，由此數據維度被降到121維，之后同等類型數據被轉化為11*11的灰度圖。[5]RFE+SVM算法流程如下所示：

2 卷積神經網絡在入侵檢測中的應用

2.1 卷積神經網絡的概念

卷積神經網絡的興起一般被認為在20世紀90年代[6]，標志性的LeNet-5模型被提出，此時神經網絡的大體架構完成，此后神經網絡在監督學習的實現中提供了重要力量，此后AlexNet、VGG、GoogleNet等卷積神經網絡的問世，在圖像及語音語義識別中獨占鰲頭，促進了各領域的發展。

2.2 卷積神經網絡的網絡結構

深度前饋神經網絡是其特征。每層網絡的神經元都是復數的，前一層的輸出作為下一層的輸入被接收，當前層的輸出結果經過計算后被傳遞給下一層。同層神經元不會互相連接。

本文使用的卷積神經網絡由8層結構組成：數據輸入層在第一層，其中有兩個卷積層（第2層及第4層），緊跟在每個卷積層后的是池化層（第3層及第五層），兩層全連接層在池化層之后（第6層及第7層），輸出層被放在最后。

輸入層為網絡的第一層，我們在實驗中將數據降維圖像化后為灰度圖，其維度為11*11，因此輸入層的輸入維度也為11*11。

卷積層為第二層和第四層，在這兩層中對圖像進行卷積，其卷積核大小被設定為[5*5][7]，同時使用Relu函數作為非線性激活函數。在此過程中，噪聲對于原始信號特征的干擾被縮小。

下采樣是池化層的主要作用，他們分別緊跟在卷積層之后的第三層和第五層。池化層的最大值法和均值法被用于不同的情況。本文使用的方法為最大池化方法，并將采樣核的維度設置為[2*2]。

全連接層放置在池化層之后的第六層和第七層[8]。全連接層的神經元都和池化層產生相對應的特征圖的任意神經元相連接，所有層網絡的激活函數也是Relu函數。同時本文引入Dropout方法來應對訓練樣本較少或者過度訓練而導致的過擬合發生。

網絡輸出層放置在最后一層（第八層），該層使用softmax作為分類器，以實現多分類預測效果。

3 實驗論證分析

3.1 實驗環境

實驗軟硬件設備如表2、表3所示。

3.2 實驗結果分析

本實驗選取數據集中10%的訓練集（50000條）作為神經網絡訓練樣本，另選取30000條數據作為測試樣本。

本實驗選用（AC）準確率、（FPR）誤報率作為實驗效果評判標準。

兩者計算公式如②③所示：

[AC=TP+TNTP+TN+FP+FN]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ②

[FPR=FPFP+TN]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?③

TP為被有效識別的攻擊樣本;TN為被有效識別的正常樣本;FN為被錯誤識別的攻擊樣本。FP為被錯誤識別的正常樣本。

本文引入其他作者使用的機器學習模型進行精確度對比[9]，其結果如表4所示。

在選取了其他入侵檢測方法進行對比后，從表4可以分析出，本文采用的基于RFE+SVM的卷積神經網絡方法與OBPNN、MFFS-OBPNN在對含有KDDCUP-99數據集進行檢測分析時，可以發現本文使用的方法在訓練集的準確率達到了98.94%，分別比其余兩種算法高6.14%和5.11%。從測試集來看，本文使用的方法在測試集中的表現雖然較另外兩種方法有所提高，基本可以實現準確的判斷與分析，但其準確率下降比率較大。通過精確度對比可知，本文提出的RFE+SVM-CNN方法在準確率分析中表現更好。

本文引入其他作者使用的機器學習模型進行誤報率對比，其結果如表5所示：

由以上表5可知在相同訓練集和測試集的表現情況下，本文所提出的方法誤報率更低，定量實驗結果更加準確，能夠更好地實現檢測樣本的分類。

4 結束語

本文提出了基于RFE+SVM的降維算法在神經網絡上的應用，在經過論文對比后未發現有類似實驗方式，在后續實驗論證及對比中，可以發現其精確度和誤報率與其他傳統入侵檢測方法對比有所提高。在此同時也暴露了一些缺點：在實際測試中，遇到從未出現過的攻擊方式，其準確度下降較多。若應用于現實環境中，可能會有更高幅度的準確率降低。因此，下一步需要完善的是模型應對未知攻擊的分類能力，以求達到更優異的檢測效果。

參考文獻：

[1] 張橋，卜佑軍，胡靜萍，等.入侵檢測技術研究綜述[J].網絡安全技術與應用，2020（8）：22-24.

[2] 趙晨光，周次明，龐彥東，等.基于獨熱碼有限狀態機的斐索干涉解調相位補償方法[J].光子學報，2020，49（5）：0506001.

[3] Tachicart R，Bouzoubaa K.Moroccan data-driven spelling normalization using character neural embedding[J].Vietnam Journal of Computer Science，2021，8（1）：113-131.

[4] 黃曉娟，張莉.改進的多類支持向量機遞歸特征消除在癌癥多分類中的應用[J].計算機應用，2015，35（10）：2798-2802.

[5] Choi H，Yeo D，Kwon S，et al.Gene selection and prediction for cancer classification using support vector machines with a reject option[J].Computational Statistics & Data Analysis，2011，55（5）：1897-1908.

[6] Bu S J，Cho S B.A convolutional neural-based learning classifier system for detecting database intrusion via insider attack[J].Information Sciences，2020，512：123-136.

[7] Cui W C，Lu Q，Qureshi A M，et al.An adaptive LeNet-5 model for anomaly detection[J].Information Security Journal：A Global Perspective，2021，30（1）：19-29.

[8] Wang X W，Yin S L，Li H，et al.A network intrusion detection method based on deep multi-scale convolutional neural network[J].International Journal of Wireless Information Networks，2020，27（4）：503-517.

[9] 陳高升.基于機器學習的網絡入侵檢測方法研究[D].重慶：重慶郵電大學，2020.

【通聯編輯：代影】