深度遞歸網(wǎng)絡(luò)在物聯(lián)網(wǎng)系統(tǒng)異常檢測中應(yīng)用研究

李慧慧

摘 ?要： 物聯(lián)網(wǎng)系統(tǒng)采用感知層、傳輸層和應(yīng)用層三層體系架構(gòu)，物聯(lián)網(wǎng)的三層結(jié)構(gòu)具有時序性，上一層數(shù)據(jù)異常會鏈?zhǔn)椒磻?yīng)到后續(xù)層，傳統(tǒng)的物聯(lián)網(wǎng)異常檢測方法無法有效識別數(shù)據(jù)異常并快速定位異常發(fā)生在哪一層。文中提出以深度遞歸網(wǎng)絡(luò)對物聯(lián)網(wǎng)系統(tǒng)異常檢測進(jìn)行建模，感知層、傳輸層、應(yīng)用層作為深度網(wǎng)絡(luò)輸出層，深度遞歸網(wǎng)絡(luò)通過核函數(shù)變換能夠提取高階特征，并且深度遞歸網(wǎng)絡(luò)本身的時序特性能夠提升異常檢測的準(zhǔn)確性。實驗結(jié)果表明，深度遞歸網(wǎng)絡(luò)在物聯(lián)網(wǎng)系統(tǒng)異常檢測中能夠獲得較高的檢測準(zhǔn)確率。

關(guān)鍵詞： 深度遞歸網(wǎng)絡(luò); 回歸分析; 高階特征; 物聯(lián)網(wǎng)系統(tǒng)安全; 異常檢測; 核函數(shù)

中圖分類號： TN915.08?34; TP393 ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)識碼： A ? ? ? ? ? ? ? ? ? ?文章編號： 1004?373X（2019）13?0086?04

Application of deep recursive network in anomaly detection of Internet of Things system

LI Huihui

（Taiyuan University， Taiyuan 030024， China）

Abstract： The Internet of Things system adopts the architecture of perception layer， transmission layer and application layer. The three?layer structure of the Internet of Things is chronological. The former layer of data anomaly will be linked to the following layer. The traditional anomaly detection method of the Internet of Things system cant effectively identify the data anomaly and locate the anomaly on which layer quickly. A deep recursive network is proposed to model the anomaly detection of the Internet of Things system. The perceptual layer， transmission layer and application layer are used as the output layers of the depth network. The deep recursive network can extract the high?order feature by means of kernel function transformation， and the time sequence characteristic of the deep recursive network itself can improve the accuracy of the anomaly detection. The experimental results show that the deep recursive network can obtain high detection accuracy in anomaly detection of Internet of Things system.

Keywords： deep recursive network; regression analysis; higher?order feature; Internet of Things system security; anomaly detection; kernel function

0 ?引 ?言

物聯(lián)網(wǎng)作為互聯(lián)網(wǎng)背景下發(fā)展興起的一種新興網(wǎng)絡(luò)形態(tài)，正在重新定義人們的日常生活[1]。物聯(lián)網(wǎng)可解釋為物與物互聯(lián)的互聯(lián)網(wǎng)，可見物聯(lián)網(wǎng)的核心仍是互聯(lián)網(wǎng)。物聯(lián)網(wǎng)通過數(shù)據(jù)交換和數(shù)據(jù)通信傳遞信息，構(gòu)建覆蓋范圍極其廣泛的網(wǎng)絡(luò)系統(tǒng)[2]，如今物聯(lián)網(wǎng)已經(jīng)融入到人們?nèi)粘Ｉ畹姆椒矫婷妗?/p>

物聯(lián)網(wǎng)系統(tǒng)中包含大量的數(shù)據(jù)通信和數(shù)據(jù)傳輸設(shè)備，當(dāng)某些設(shè)備發(fā)生數(shù)據(jù)異常時會給整個物聯(lián)網(wǎng)系統(tǒng)造成干擾。早期物聯(lián)網(wǎng)系統(tǒng)規(guī)模相對有限時可通過環(huán)境參數(shù)異常報警加人工干預(yù)方式加以處理[3]，如今大型物聯(lián)網(wǎng)系統(tǒng)中的設(shè)備數(shù)以萬計，傳統(tǒng)的異常檢測方法已經(jīng)力不從心。

文獻(xiàn)[4?5]提出從分類的角度對系統(tǒng)進(jìn)行建模，然而傳統(tǒng)的建模方法需要進(jìn)行復(fù)雜的特征工程并且無法處理數(shù)據(jù)時序特性。文獻(xiàn)[6]提出以聚類方式對感知層的傳感節(jié)點異常情況進(jìn)行甄別，卻無法處理物聯(lián)網(wǎng)其他層的異常。

本文提出以深度遞歸網(wǎng)絡(luò)對物聯(lián)網(wǎng)系統(tǒng)異常檢測進(jìn)行建模，深度遞歸網(wǎng)絡(luò)的時序特性能夠很好地處理物聯(lián)網(wǎng)系統(tǒng)各個層之間數(shù)據(jù)時序關(guān)系，則物聯(lián)網(wǎng)系統(tǒng)異常檢測可建模為多目標(biāo)回歸問題。

物聯(lián)網(wǎng)系統(tǒng)的各個層作為深度遞歸網(wǎng)絡(luò)輸出層中的輸出節(jié)點，深度遞歸網(wǎng)絡(luò)通過多層網(wǎng)絡(luò)結(jié)構(gòu)和核函數(shù)能夠?qū)μ卣鬟M(jìn)行高階變換從而產(chǎn)生具有高區(qū)分度特征。另外，深度遞歸網(wǎng)絡(luò)的多目標(biāo)輸出特性可以快速定位異常位于物聯(lián)網(wǎng)系統(tǒng)中哪個層。實驗結(jié)果表明，深度遞歸網(wǎng)絡(luò)相比于其他回歸算法在物聯(lián)網(wǎng)系統(tǒng)異常檢測中能夠獲得更高的準(zhǔn)確率。

1 ?物聯(lián)網(wǎng)系統(tǒng)

物聯(lián)網(wǎng)系統(tǒng)采用感知層、傳輸層和應(yīng)用層三層體系架構(gòu)[7]。感知層通過大量的傳感節(jié)點實時收集環(huán)境參數(shù)，傳輸層一般通過4G網(wǎng)絡(luò)或者藍(lán)牙將感知層收集的數(shù)據(jù)回傳給應(yīng)用層供用戶分析。物聯(lián)網(wǎng)系統(tǒng)的體系架構(gòu)如圖1所示。

圖1 ?物聯(lián)網(wǎng)體系架構(gòu)圖

物聯(lián)網(wǎng)系統(tǒng)的信號采集主要通過感知層部署大量的傳感節(jié)點，傳感節(jié)點的信號具有一定的頻段信息，當(dāng)傳感節(jié)點發(fā)生數(shù)據(jù)異常時，傳輸層接收到的信號會發(fā)生偏差[8]，并鏈?zhǔn)椒答伒綉?yīng)用層，如圖2所示。

圖2 ?數(shù)據(jù)異常對比圖

圖2反映了正常數(shù)據(jù)信號和異常數(shù)據(jù)信號發(fā)生相位偏差，錯位的數(shù)據(jù)信號會導(dǎo)致物聯(lián)網(wǎng)系統(tǒng)發(fā)生系統(tǒng)異常應(yīng)予以及時處理。

2 ?深度遞歸網(wǎng)絡(luò)

深度遞歸網(wǎng)絡(luò)作為深度神經(jīng)網(wǎng)絡(luò)的一種具體表現(xiàn)形態(tài)[9]，在自然語言處理、機(jī)器翻譯和語音識別等眾多領(lǐng)域嶄露頭角。相比于其他結(jié)構(gòu)的深度網(wǎng)絡(luò)模型，深度遞歸網(wǎng)絡(luò)具有時序性，前層的輸入會同時關(guān)聯(lián)前序?qū)拥妮敵鲋怠?/p>

2.1 ?網(wǎng)絡(luò)結(jié)構(gòu)

深度遞歸網(wǎng)絡(luò)與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型并沒有本質(zhì)區(qū)別，都可以認(rèn)為由輸入層、隱藏層和輸出層三層構(gòu)成，其中深度遞歸網(wǎng)絡(luò)隱藏層的輸入來源包括當(dāng)前層的輸入和前序?qū)印㈦[藏層的輸出，如圖3所示。

圖3 ?深度遞歸網(wǎng)絡(luò)結(jié)構(gòu)圖

深度遞歸網(wǎng)絡(luò)的隱藏層與輸出層之間為全連接[10]，即輸出層每個節(jié)點都與隱藏層節(jié)點互聯(lián)。式（1）中：[V]為輸出層的權(quán)重矩陣;[g]是激活函數(shù)。在深度遞歸網(wǎng)絡(luò)中隱藏層又稱為循環(huán)層，[U]為輸入層的權(quán)重矩陣;[W]為時序權(quán)重矩陣，在式（1）中表征隱藏層[st-1]與[st]之間權(quán)重矩陣;[f]同樣表示為激活函數(shù)。

隱藏層激活函數(shù)[f]存在多種形態(tài)，從早期傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的sigmoid函數(shù)到tanh，在深度神經(jīng)網(wǎng)絡(luò)中大多采用relu函數(shù)[11]，如式（3）所示，relu函數(shù)的變換曲線如圖4所示。

relu設(shè)計原則是當(dāng)激活信號達(dá)到一定強(qiáng)度才生效，這也比較符合神經(jīng)網(wǎng)絡(luò)的工作原理，當(dāng)激活信號為負(fù)數(shù)時，則直接抑制，這種處理方式能夠在一定程度上產(chǎn)生稀疏解，對于復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，這種處理方式具有非常重要的意義，并且能夠有效地抑制網(wǎng)絡(luò)過擬合現(xiàn)象。

2.2 ?系統(tǒng)建模

定義深度遞歸網(wǎng)絡(luò)的輸出為4維向量，4維向量分別對應(yīng)為[感知層出現(xiàn)異常、傳輸層出現(xiàn)異常、應(yīng)用層出現(xiàn)異常、無異常]，即向量中每一維都對應(yīng)物聯(lián)網(wǎng)系統(tǒng)中某一層。假設(shè)感知層出現(xiàn)異常時，則輸出向量表征為[1，0，0，0]，物聯(lián)網(wǎng)系統(tǒng)某一層出現(xiàn)異常時，則將輸出向量某一維度置[12]為1，當(dāng)物聯(lián)網(wǎng)系統(tǒng)表現(xiàn)正常，無異常時輸出向量為[0，0，0，1]。

圖4 ?relu函數(shù)變換曲線圖

3 ?實驗與分析

實驗仿真平臺采用Matlab模擬物聯(lián)網(wǎng)系統(tǒng)數(shù)據(jù)發(fā)射裝置，通過Matlab模擬數(shù)據(jù)分別在感知層、傳輸層和應(yīng)用層發(fā)生數(shù)據(jù)突變，由正常數(shù)據(jù)突變?yōu)楫惓?shù)據(jù)。在模擬異常數(shù)據(jù)時，控制異常數(shù)據(jù)發(fā)生的層數(shù)，保證感知層、傳輸層和應(yīng)用層數(shù)據(jù)同時發(fā)生異常的比例占所有異常數(shù)據(jù)比例不超過50%，正常數(shù)據(jù)和異常數(shù)據(jù)的比例保持在7[∶]3。

圖5分別對比dnn算法、本文算法和softmax算法在系統(tǒng)異常識別時的準(zhǔn)確率。橫坐標(biāo)表示調(diào)整參與驗證的異常樣本比例（異常樣本比例表示選擇驗證的異常樣本比例占所有異常樣本比例），縱坐標(biāo)表示準(zhǔn)確率。可見隨著異常比例的提升，各個算法的識別準(zhǔn)確率在不斷提升，表明模型不斷學(xué)習(xí)異常數(shù)據(jù)的特征。在圖5中，dnn和rnn網(wǎng)絡(luò)的網(wǎng)絡(luò)層選取5層結(jié)構(gòu)，可見兩種算法的識別率都較高，平均值基本保持在90%，且rnn的識別效果略高于dnn。

圖5 ?dnn，rnn和softmax三種算法識別準(zhǔn)確率對比圖

圖6中所有異常樣本全部參與驗證，分別調(diào)整dnn和rnn網(wǎng)絡(luò)層數(shù)，對比時間開銷，深度網(wǎng)絡(luò)層數(shù)越大表明識別效果越好，softmax是單層網(wǎng)絡(luò)層。

圖6 ?dnn，rnn和softmax三種算法識別時間開銷對比圖

由圖6可見，隨著網(wǎng)絡(luò)層數(shù)的增加，dnn和rnn的時間計算開銷呈線性遞增趨勢，softmax作為單層結(jié)構(gòu)，時間上有相對較為明顯的優(yōu)勢。一般而言，對于大型系統(tǒng)而言，10 ms以內(nèi)的時間開銷都在可接受程度內(nèi)，因此深度遞歸網(wǎng)絡(luò)在時間開銷可控的基礎(chǔ)上能夠獲得較高的系統(tǒng)異常識別準(zhǔn)確率。

4 ?結(jié) ?語

本文針對物聯(lián)網(wǎng)系統(tǒng)中多設(shè)備系統(tǒng)異常時不易檢測的缺陷，提出以深度遞歸網(wǎng)絡(luò)對物聯(lián)網(wǎng)系統(tǒng)的三層體系架構(gòu)進(jìn)行安全檢測建模，將物聯(lián)網(wǎng)系統(tǒng)的異常與否建模為深度遞歸網(wǎng)絡(luò)的輸出狀態(tài)。實驗仿真結(jié)果表明，本文算法在時間開銷可控的前提下能夠獲得較高的識別準(zhǔn)確率。

參考文獻(xiàn)

[1] 王國卿，莊雷，王瑞民，等.基于時間自動機(jī)的物聯(lián)網(wǎng)網(wǎng)關(guān)安全系統(tǒng)的建模及驗證[J].通信學(xué)報，2018，39（3）：63?75.

WANG Guoqing， ZHUANG Lei， WANG Ruimin， et al. Mode?ling and verifying based on timed automata of Internet of Things gateway security system [J]. Journal on communications， 2018， 39（3）： 63?75.

[2] 李若瑜，周亦鵬，方德英，等.物聯(lián)網(wǎng)信息安全風(fēng)險評估研究[J].物聯(lián)網(wǎng)技術(shù)，2018，8（3）：32?34.

LI Ruoyu， ZHOU Yipeng， FANG Deying， et al. Research on security evaluation about Internet of Things [J]. Internet of Things technologies， 2018， 8（3）： 32?34.

[3] 張光華，楊耀紅，龐少博，等.物聯(lián)網(wǎng)中基于信任抗On?off攻擊的自適應(yīng)安全機(jī)制[J].計算機(jī)應(yīng)用，2018，38（3）：682?687.

ZHANG Guanghua， YANG Yaohong， PANG Shaobo， et al. Adaptive security mechanism for defending on?off attack based on trust in Internet of Things [J]. Journal of computer applications， 2018， 38（3）： 682?687.

[4] 彭軍，郭晨陽，張勇，等.基于深度學(xué)習(xí)的航空發(fā)動機(jī)部件故障診斷[J].系統(tǒng)仿真技術(shù)，2018，14（1）：20?24.

PENG Jun， GUO Chenyang， ZHANG Yong， et al. Fault diagnosis of aero engine components based on deep learning method [J]. System simulation technology， 2018， 14（1）： 20?24.

[5] 孫澤浩.基于深度學(xué)習(xí)的惡意代碼檢測技術(shù)[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2018（2）：61?62.

SUN Zehao. Technology of malicious code detection technology based on deep learning [J]. Network security technology & application， 2018（2）： 61?62.

[6] 顧?quán)嵠剑烀?基于深度學(xué)習(xí)的魚類分類算法研究[J].計算機(jī)應(yīng)用與軟件，2018，35（1）：200?205.

GU Zhengping， ZHU Min. Fish classification algorithm based on depth learning [J]. Computer applications and software， 2018， 35（1）： 200?205.

[7] 劉威，張東霞，王新迎，等.基于深度強(qiáng)化學(xué)習(xí)的電網(wǎng)緊急控制策略研究[J].中國電機(jī)工程學(xué)報，2018，38（1）：109?119.

LIU Wei， ZHANG Dongxia， WANG Xinying， et al. A decision making strategy for generating unit tripping under emergency circumstances based on deep reinforcement learning [J]. Proceedings of the CSEE， 2018， 38（1）： 109?119.

[8] 周曉誼，趙永哲，李益紅.基于量子密碼的物聯(lián)網(wǎng)RFID系統(tǒng)安全的研究[J].計算機(jī)應(yīng)用研究，2018（10）：1?2.

ZHOU Xiaoyi， ZHAO Yongzhe， LI Yihong. Security research based on quantum cryptography for RFID system in Internet of Things [J]. Application research of computers， 2018（10）： 1?2.

[9] 車暢暢，王華偉，倪曉梅，等.基于深度學(xué)習(xí)的航空發(fā)動機(jī)故障融合診斷[J].北京航空航天大學(xué)學(xué)報，2018，44（3）：621?628.

CHE Changchang， WANG Huawei， NI Xiaomei， et al. Aero engine fault fusion diagnosis based on deep learning [J]. Journal of Beijing University of Aeronautics and Astronautics， 2018， 44（3）： 621?628.

[10] 趙健，王瑞，李正民，等.物聯(lián)網(wǎng)系統(tǒng)安全威脅和風(fēng)險評估[J].北京郵電大學(xué)學(xué)報，2017，40（z1）：135?139.

ZHAO Jian， WANG Rui， LI Zhengmin et al. Security threats and risk assessment of IoT system [J]. Journal of Beijing University of Posts and Telecommunications， 2017， 40（S1）： 135?139.

[11] 劉廣東.基于“用戶畫像”的商品推送系統(tǒng)設(shè)計與實現(xiàn)[D].西安：西安電子科技大學(xué)，2017.

LIU Guangdong. The design and implementation of product recommendation system based on “userportrait” [D]. Xian： Xidian University， 2017.

[12] 張龍昌，楊艷紅，王曉明.物聯(lián)網(wǎng)環(huán)境下食品安全云計算平臺模型[J].計算機(jī)技術(shù)與發(fā)展，2017，27（1）：107?111.

ZHANG Longchang， YANG Yanhong， WANG Xiaoming. Cloud computing platform model of food safety under environment of Internet of Things [J]. Computer technology and deve?lopment， 2017， 27（1）： 107?111.