結合注意力與雙線性網絡的Android惡意軟件檢測

秦海雪，王 勇

(上海電力大學 計算機科學與技術學院，上海 201306)

0 引 言

近年來Android惡意軟件的數量和類型都在快速增長[1]，早期研究中所使用簡單的靜態和動態特征分析方法已經不能滿足當前惡意軟件快速檢測的需求。最近，一些研究者開始將字節碼圖像應用在Android惡意軟件檢測上面[2-9]。該方法的優點是代碼覆蓋率比較全面，根據惡意軟件家族中代碼結構的相似性，可有效檢測出大量的惡意軟件及其變體。不過，目前大多數基于字節碼圖像Android惡意軟件檢測方法使用模型都是卷積神經網絡(CNN)，該模型在檢測字節碼圖像的過程中不但會受到噪音數據的影響，對于是否能進一步識別不同類型惡意軟件還未得到實驗驗證。

針對上述方法所存在的問題。本文提出了一種結合注意力機制與雙線性網絡的Android惡意軟件檢測方法。該方法同樣基于字節碼圖像，不同的是本文將注意力機制與雙線性網絡相結合作為的Android惡意軟件檢測模型，目的就是結合注意力機制與雙線性網絡的優點，在減小字節碼圖像噪音數據影響的同時也提高了模型對惡意軟件分類的準確率。此外，本文不僅使用消融實驗驗證了模型設計的有效性，還通過二分類與多分類對比實驗驗證了本文模型能夠在檢測出惡意軟件的基礎上進一步區分出惡意軟件的具體類型。

1 相關工作

1.1 Android字節碼圖像

Android字節碼圖像就是使用逆向工具讀取APK文件內部文件的原始數據并據此轉化而成的圖像。其中APK文件內部的classes.dex文件由于包含編譯后的所有源代碼[10]，常被用來制作Android字節碼圖像。

使用Android字節碼圖像檢測惡意軟件具有代碼覆蓋率全面，特征處理簡單等優點。不過，由字節碼文件所生成的圖像不同于自然圖像，其圖像之間的差異完全由文件中的Dalvik字節碼所決定，不同類型的Android應用可能只有幾行代碼的差別，其對應字節碼圖像之間的差異也會非常小。

此外，如圖1所示，Android字節碼圖像存在不同的數據區域，同時也會包含較多的噪音數據，所以使用傳統的單線CNN無法在訓練過程中精確定位在關鍵像素區域上，從而對檢測精度造成影響。

圖1 DEX文件與RGB字節碼圖像對應關系

1.2 雙線性卷積神經網絡

雙線性卷積神經網絡(B-CNN)[11]是一種用于細粒度圖像識別的體系結構，其結構如圖2所示。

該網絡由兩個特征提取器(CNN)所組成，其輸出在圖像的每個位置使用外部乘積相乘，并合并以獲得圖像描述符。這種體系結構可以以一種平移不變的方式對局部的兩兩特征進行交互，并通過外積操作獲取特征圖通道之間的線性關系，這特別適用于圖像的細粒度分類。雙線性網絡模型B通常可表示為

(1)

B-CNN在圖像的細粒度分類領域具有巨大的優勢，但還不足以完全解決字節碼圖像識別中存在的問題，尤其是字節碼圖像中噪音數據對檢測精度的影響。本文所提出的結合注意力的雙線性網絡受B-CNN所啟發，將空間注意力機制加入B-CNN的一條分支中。通過提取特征圖中的關鍵像素位置信息來提升檢測的準確率。

1.3 空間注意力機制

空間注意力機制模塊來自woo等提出的CBAM(卷積塊注意力模型)[12]，如圖3所示。該模型有兩個順序子模塊：通道注意力模塊和空間注意力模塊。其中通道注意力模塊關注的是特征圖中的“行為”信息，而空間注意力模塊主要關注特征圖中的“位置”信息。最后通過將外積將通道信息與空間信息相結合來提取特征。

由于空間注意力模塊主要關注的是圖像中的“位置”信息，這對于定位字節碼圖像中的關鍵數據區域十分有幫助。空間注意力模塊通過對卷積層輸出的特征圖進行全局平均池化和全局最大池化操作來聚合特征圖中的空間信息的，從而更加精準識別Android字節碼圖像。

2 結合注意力與雙線性網絡的檢測方法

2.1 系統架構

本文檢測方法的系統架構如圖4所示，首先使用Android逆向工具androguard[13]將APK樣本解壓縮，同時提取APK包中的classes.dex文件。然后通過androguard的反匯編功能讀取DEX文件中的原始字節碼，將其轉換為RGB圖像矩陣，并使用圖像工具Pillow將圖像矩陣保存為128×128的RGB字節碼圖像，生成Android字節碼圖像數據集。最后，將生成的字節碼圖像數據集輸入到本文提出的模型中進行分類。如果輸入的數據集為包含良性軟件與惡意軟件的二分類檢測數據集，該模型將會從數據集中檢測出惡意軟件。如果輸入的數據集為包含不同類型惡意軟件的多分類識別數據集，該模型將會輸出數據集中惡意軟件的具體類型。圖4展示本文方法的整體架構。

2.2 字節碼圖像生成

一張彩色RGB圖像是由紅綠藍3種顏色通道所組成，每個通道共有256種色級，3個通道組合在一起就形成了彩色圖像[14]。所以，如果將classes.dex文件按照字節讀取，一個字節含有8 bit，則每讀取3個字節就可以形成一個彩色的像素點。通過這種規則，我們先提取classes.dex文件的原始字節碼生成一個8位向量矩陣，然后按照一次讀取3個字節的方式逐個生成RGB像素，如果最后字節碼不滿3個字節則用0來補充。通過這種方式，就能夠將APK包中的classes.dex文件轉化為RGB圖像。

根據上述字節碼圖像的生成原理，本文首先使用逆向工具androguard解壓并提取APK文件中的classes.dex文件，同時從中讀取原始的二進制字節碼。然后，根據所提取到文件的字節大小來計算圖像的高度和寬度，最后將這些原始字節碼放在一個向量空間中，使用Pillow將字節碼轉換為128×128的RGB彩色圖像。轉化后的字節碼RGB圖像如圖5所示。

本文之所以選擇將圖像大小保存為128×128，是因為在Daoudi等[4]的文獻中對字節碼圖像尺寸與檢測精度關系進行了詳細的測試，得出的結論是該圖像大小是能夠保持其最高檢測精度的最小尺寸，更大的圖像將會導致更長的訓練時間，而更小的圖像將會使檢測精度受損。

下面的算法1是生成RGB圖像的生成算法：

算法1：DEX文件RGB圖像生成算法

輸入：APK文件

輸出：RGB圖像

bytestream ← 0

for DexFile in APK do

bytestream←bytestream+DexFile.toByteStream()

end

l ← bytestream.length()

sq ← sqrt2

while bytestream.length() != 3sq do

bytestream ← bytestream + "x00"http://補0

end

//用字節流生成一個長寬為sqrt的矩陣

img←generateRGBImage(bytestream,sqrt)

img.resize_to_size(height=128,width=128)

img.save()

2.3 結合注意力與雙線性網絡的檢測模型

2.3.1 模型描述

B-CNN模型可以通過兩條卷積神經網絡的外積來捕獲特征圖通道中成對的相關性，從而對圖像進行更為精細的分類。但是僅使用該模型仍無法解決字節碼圖像中噪音數據對檢測準確率的影響。為了解決該問題，本文提出了結合注意力與雙線性網絡的檢測模型，該模型結構如圖6所示。

圖6 結合注意力機制的雙線性網絡模型

該模型中包含有兩個分支，每個分支中都有一個特征提取模塊。與B-CNN不同的是，本文在分支A的特征提取模塊后面加入了注意力機制模塊。該模型充分利用了兩條分支中的特征信息，其中包含注意力機制模塊的分支A關注的字節碼圖像的“位置”信息，而另一條分支B將會通過特征提取模塊提取字節碼圖像的“行為”信息，同時這兩條分支還會通過外積捕獲兩條分支特征中成對的相關性，提升字節碼圖像分類的效果。

在圖6中，結合注意力的雙線性網絡模型整體上可以由一個四元模型所組成，可表示為

B=(fA，fB，P，C)

(2)

其中：fA和fB分別表示的是注意力分支A與分支B的特征函數，而P和C分別代表池化函數和分類函數。其中特征提取函數f(·)為一個特征映射，可表示為

(3)

式中：I表示的是輸入圖像，L為區域位置，它表示I和L可以表示一個輸出大小為c×D的特征。而每一個位置的特征輸出可以由一個雙線性操作表示為

Bilinear(l，I，fA，fB)=fA(l，I)TfB(l，I)

(4)

為了能夠獲取到一個完整的圖像描述，池化函數P將收集字節碼圖像中所有位置的特征，并將圖像中所有的雙線性特征累加起來，這個過程可以表示為

P(I)=∑l∈LBilinear(l，I，fA，fB)

(5)

如果特征函數fA和fB分別提取尺寸為c×M和c×N的特征，則P(I) 的尺寸為M×N。將P(I) 重塑為尺寸MN×1得到的雙線性向量是一個通用的圖像描述，可以與分類函數C一起使用。然后，將雙線性特征正則化后通過以下公式改善性能

(6)

(7)

最后，通過分類函數Softmax對經過處理的特征進行預測分類。

2.3.2 注意力機制模塊

本文在B-CNN的一個分支中加入了空間注意力機制模塊[12]，目的是利用特征間的空間關系生成空間注意圖，抑制不重要的像素特征，同時將注意力集中在更加重要的像素上面，從而使雙線性網絡的一條分支可以通過訓練定位到字節碼圖像的關鍵像素區域。具體來說，該空間注意力機制模塊主要由一個最大池化、平均池化層、一個連接層以及一個卷積層所組成，如圖7所示。

圖7 空間注意力機制模塊

Ms(F)=σ(f5×5([AvgPool(F)；MaxPool(F)]))=

(8)

式中：σ表示的是Sigmoid函數，f5×5表示卷積核尺寸為5×5的卷積運算。

盡管從式(8)中所得出的空間注意力特征圖Ms(F)已經包含了后續計算所需的全部信息，但是該特征圖還無法直接參與模型后續的計算。因為該特征圖形狀為通道數為1，已經不同于分支B中的特征圖的通道數C，而后續的外積操作則要求兩個分支特征圖的通道數C必須保持一致。所以，在這里我們會用輸入注意力機制模塊的特征圖F與Ms(F)相乘，得到一個與特征圖F形狀保持一致空間注意力特征圖Fat，計算如式(9)

Fat=F×Ms(F)T

(9)

接下來，由式(9)所得到的空間注意力特征圖Fat將會參與后續進一步的計算。

2.3.3 特征提取器模塊

特征提取模塊同時存在于兩條分支中，該模塊的主要作用是從字節碼圖像中提取特征并生成特征圖以作為整個模型后續的計算。本文參考了Sun等[6]的網絡模型結構，使用了一組卷積神經網絡(CNN)作為雙線性網絡兩條分支的特征提取器。值得注意的是，盡管本文所用CNN的結構Sun等[6]的模型結構相同，但由于他們的模型參數是為了處理一維字節碼圖像而設置的，所以本文調整了其卷積核的尺寸，經過反復調整最終確定了使用兩個大小為5×5的卷積核和一個大小為3×3的卷積核效果最好。其特征提取模塊CNN的模型結構如圖8所示。

該特征提取模塊包含兩個卷積層以及兩個最大池化層，從字節碼圖像中提取的特征經過該模塊后將會輸出一個特征圖F。在包含注意力機制模塊的分支A中，生成的特征圖F將會經過注意力機制模塊并生成一個空間注意力特征圖Fat。而在分支B中，其特征提取器將會直接生成一個特征圖F，與空間注意力特征圖Fat共同參與后續的運算。

3 實驗評估

本實驗使用兩種類型的分類實驗對本文模型方法進行評估，分別為：①惡意軟件二分類檢測實驗，該實驗從軟件總樣本中檢測出惡意軟件樣本；②惡意軟件多分類識別實驗，從惡意軟件樣本中識別出惡意軟件的具體類型。數據集的劃分和實驗評估也都將按照這兩種類型的分類實驗進行。

3.1 數據集

本次實驗的Android惡意軟件數據來自加拿大網絡安全研究所[15]的數據集CICMalDroid2020。該惡意軟件數據集中包含了廣告軟件(Adware)、銀行惡意軟件(Ban-king)、短信惡意軟件(SMS)、風險軟件(Riskware)4個惡意軟件類型。Android良性軟件由360應用市場和豌豆莢應用商店收集而來。對該數據進行了整理和刪除后，選取了5893個惡意軟件樣本和5055個良性軟件樣本進行實驗。數據集的描述見表1。該數據集中二分類檢測數據集與多分類識別數據集將分別用于相對應的檢測與識別實驗中。

表1 數據集描述

3.2 實驗環境

本實驗的實驗環境是基于Python版本3.8.5、Anaconda集成環境。本實驗所有模型都使用Tensorflow版本2.6和Keras版本2.25實現。所有實驗是在CPU為AMD Ryzen 7 5800H with Radeon Graphics 3.20 GHz，GPU為3060的Windows系統上進行的。

3.3 評估指標

3.3.1 二分類檢測實驗評估指標

Android惡意軟件與良性軟件的二分類檢測實驗中本文將會使用準確率(Accuracy)、精確度(Precision)、召回率(Recall)和F1-Score作為評估模型性能的指標，其定義如下。

準確率(Accuracy)：被測試樣本中被正確預測的比例

(10)

精確度(Precision)：衡量預測為正例的樣本中真正為正例的比例

(11)

召回率(Recall)：評估是否把樣本中所有的真正例全部找出來

(12)

F1-Score：精度和檢出率的平衡點

(13)

3.3.2 多分類識別實驗評估指標

Android惡意軟件多分類識別實驗將會使用表2中的多分類混淆矩陣來對分類結果進行具體的評估[11]。

表2 多分類混淆矩陣

除了混淆矩陣以外，本文還使用加權平均(Weighted-average)方法對多分類進行評估，該方法中準確率與二分類的計算方式相同，其它3個指標略有不同。該方法給不同類別賦予了不同權重(權重根據該類別的真實分布比例確定)，每個類別乘權重后再進行相加，該方法考慮了類別不平衡情況。

設n代表的是多分類的樣本總數，i為第i個類別的下標，則ni表示第i個分類的樣本數量。由此可以得到第i類的權重為Wi=ni/n。然后將多分類樣本中的每個類別i看作二分類中的正例，其它類別看作反列，這樣就可以按照二分類的計算方式由式(11)、式(12)、式(13)計算出每一個分類i的精確度、召回率和F1-Score分別為Pi、Ri和Fi。進而，我們就能夠得出多分類中的Weighted-Precision、Weighted-Recall和Weighted-F1-Score。其定義如下。

加權精確度(Weighted-Precision)：表示多分類中每個類別精確度的加權平均值

(14)

加權召回率(Weighted-Recall)：表示多分類中每個類別召回率的加權平均值

(15)

加權(Weighted-F1-Score)：表示多分類中每個類別F1-Score的加權平均值

(16)

3.4 消融實驗

消融實驗的主要目的是使用控制變量的方法驗證本文模型改進所帶來的提升效果。結合注意力的雙線性網絡的主要創新之處是在B-CNN的單分支中加入了空間注意力機制模塊，而為了準確驗證這一改進的提升效果，本文使用以下5種模型作為對比：①CNN(單線網絡)，該模型結構與本文模型中特征提取器模塊中的CNN結構相同。②CNN+注意力，該模型僅在CNN模型中加入一個注意力機制，與本文模型中的分支A結構相同。③B-CNN，該模型中未加入注意力機制模塊。④B-CNN+單線注意力，該模型也就是本文所提出的結合注意力的雙線性網絡模型。⑤B-CNN+雙線注意力，該模型同時在B-CNN的兩條分支中加入注意力機制模塊。

使用這5種模型分別進行二分類檢測實驗和多分類識別實驗并綜合分析模型的性能。

3.4.1 二分類檢測

5種不同模型實驗的結果見表3。

表3 5種不同模型二分類檢測實驗結果

從表3的實驗結果可以看出，與CNN相比，加入注意力機制模塊的CNN+注意力模型在4個評估指標上均有0.1%～0.0.4%的提升，而B-CNN與CNN相比所得到的結果幾乎相同，并沒有體現出優勢。當B-CNN中加入注意力機制模塊后，其在4個評估指標上又有了0.2%～0.8%的提升，不過在B-CNN的兩條分支中加入注意力機制模塊并沒有比只在一條分支中加入注意力機制具有更好的結果，兩個模型在準確率和F1-Score上表現相同，其它兩個評估指標各有優劣。

從以上結果對比不難發現，模型中注意力機制的加入將會成為二分類檢測效果提升的關鍵，而僅僅使用B-CNN并不能對二分類檢測實驗效果產生明顯的提升。這說明了注意力機制的加入會讓模型更加關注字節碼圖像中的關鍵數據區域，從而獲得更多的有效信息，提升Android字節碼圖像檢測的效果。

3.4.2 多分類識別

多分類識別實驗的目的是驗證該模型是否能夠在檢測出Android惡意軟件的基礎上進一步識別出惡意軟件的具體類型，從而實現字節碼圖像的細粒度識別。使用加權平均(Weighted-average)評估方法對5種不同網絡模型的多分類結果見表4。

表4 5種模型的多分類識別實驗結果

從表4的多分類識別實驗結果上來看，CNN與B-CNN加入注意力機制后都有較為明顯的提升，這說明注意力機制在字節碼圖像多分類識別中同樣具有提升作用。而與二分類實驗不同的是，B-CNN本身相較于CNN在4個評估指標上也具有一定的提升，這驗證了B-CNN的雙線性特征的提取和交互在圖像多分類中具有優勢，在圖像多分類中具有優勢。值得注意的是，B-CNN+單注意力模型的效果要明顯優于B-CNN+雙線注意力模型的效果，這一結果則進一步的驗證了本文的理論，在B-CNN中使用兩個不同的分支將會聚合兩個分支中不同的特征信息，使兩個分支中的特征產生更多交互，這對于內部差異更小的惡意軟件家族多分類將更加有效。

為了能直觀展現模型在多分類實驗中對每個類型分類的準確率，本文將多分類混淆矩陣可視化，5種類型的模型多分類混淆矩陣可視化如圖9所示。

圖9 多分類混淆矩陣

該矩陣每一列表示Android惡意軟件類型的預測值，而每一行則表示Android惡意軟件類型的真實值。圖中每一格都顯示出了預測為該類型的惡意軟件數量與真實數量的比值，對角線上給出了正確的分類結果。也就是說，混淆矩陣對角線上值越大，表示多分類的準確率越高。從圖9中我們可以看出，與表4的結果相對應，當CNN模型中加入注意力機制模塊后，Adware、Banking和Riskware這3種類型分類的準確率均有提升，其中Banking提升最大為5%。B-CNN對比CNN在除Riskware外的3個類型中也均有提升。從該結果中我們還能發現，5種模型對SMS類型的惡意軟件分類的準確性最差，對Riskware類型分類的準確率最好，但B-CNN+單線注意力在這兩個類型上表現出的準確率差距最小，其綜合性能最好。

從以上二分類與多分類實驗結果綜合來看，注意力機制模塊的加入能夠同時提升字節碼圖像二分類與多分類的效果，而B-CNN模型的使用則主要能為字節碼圖像的多分類識別效果帶來提升。同時該實驗還證實了將注意力機制模塊加入B-CNN的一條分支中所得到的效果要好于同時加入兩個分支。所以本文使用B-CNN+單線注意力作為本文所提出的模型。

3.5 與其它方法的對比

本文同時實現了幾種近幾年同類型的Android惡意軟件檢測方法或模型，這些方法均是使用本文數據集并在同一實驗環境下比較的。其中Xiao等[3]的檢測方法由于同樣使用RGB字節碼圖像，與本文類似，所以僅使用該模型進行比對。其余3種方法所用字節碼圖像類型與本文不同。我們按照這些文獻中所論述的方法以及所公開的代碼將本文數據集樣本轉化為了這些方法所對應的字節碼圖像。這些方法也將與本文方法進行二分類與多分類比較實驗。

3.5.1 二分類檢測實驗

二分類檢測結果中與其它方法的比較見表5。從表5可以看出，本文方法在二分類檢測實驗中4個評估指標都超過了98%，準確率比這些所對比的方法提升要好于這些所對比的同類型方法。這說明與其它方法相比，本文所用模型中的注意力機制能夠更加關注字節碼圖像中的關鍵像素區域，從而更加精確的檢測出Android惡意軟件的字節碼圖像。在總體性能上要優于這些所對比的方法。

表5 二分類檢測實驗與現有方法結果的比較

3.5.2 多分類識別實驗

二分類檢測結果中與其它方法的比較見表6。

表6 多分類識別實驗與現有方法結果的比較

從表6中多分類識別結果來看，與二分類檢測實驗中呈現的結果不同，這些所對比的方法在4個評估指標上得出的結果相差較大，其中本文的方法表現最好，4個評估指標均達到了0.959。DexRay[4]的效果最差，準確率只有0.843，其余3個評估指標均不超過0.9。與本文使用同樣RGB圖像的Xiao等[3]的結果僅次于本文。另外兩種使用融合圖像的檢測方法盡管在4個評估指標上超過了0.9，但仍與本文方法的結果存在差距。從多分類識別的結果來看，本文對比其它方法具有較為明顯的提升，其中準確率最少比Sun等[5]的方法多提升2.8%，最多比DexRay[4]的方法提升11.63%。以上結果都說明了本文方法由于結合了B-CNN與注意力機制的優點，在Android惡意軟件的多分類識別中要優于同類型的方法和模型。

而從二分類與多分類實驗綜合來看，本文的方法不僅在Android惡意軟件二分類檢測方面具有優勢，更能有效提升惡意軟件多分類識別的效果。

3.6 訓練時間評估

本文模型在二分類檢測與多分類識別實驗中的訓練參數與訓練時間見表7和表8。表中訓練參數表示模型一輪訓練的數據量，而訓練時間則表示訓練一輪所耗費的時長。

表7 二分類檢測中訓練參數與時間

由表7和表8訓練參數與時間中可以看出，由于本文模型復雜度和計算量上有所提高，所以該模型在訓練參數與每輪的訓練時間上要略大于僅使用CNN和B-CNN。其中二分類檢測中使用本文模型訓練一輪需要花費8 s，與B-CNN相當，多于CNN的5 s。二分類中本文模型訓練一輪需要花費5 s，分別多于單線網絡和雙線性CNN的3 s和4 s。顯然該模型是用更長的訓練時間換取了檢測準確率等指標的提升。

4 結束語

本文提出了一種結合注意力和雙線性網絡的Android惡意軟件檢測方法，該方法通過在雙線性網絡模型的一個分支中加入注意力機制模塊，成功將字節碼圖像的位置信息和行為信息相結合，實現了更為準確的Android字節碼圖像的分類。實驗結果表明，該方法不但能夠準確檢測惡意軟件和良性軟件，還能進一步對惡意軟件進行多分類并識別出惡意軟件的具體類型。本研究依然存在不足，如多分類實驗中惡意軟件類型較少，模型訓練時間較長等。下一步工作將會嘗試收集更多類型的惡意軟件，同時優化模型實現性能更好的檢測。