人工智能在網絡安全領域的輔助應用和挑戰

編者按：本文主要從人工智能在網絡安全領域的應用及所面臨的挑戰展開，闡述我們該如何利用人工智能、機器學習及深度感知等方法提升應對網絡安全威脅的能力，從而更全面高效地建設我國的信息安全保障機制。

在2010年后，一系列基于大數據、高性能GPU和高速網絡的深度學習方法被研究完善，基于人工智能的場景應用得到了廣泛關注，網絡安全就是其中之一。

最初，網絡安全和人工智能被認為是兩個獨立的實體，而隨著時間的推移，這兩個領域變得越來越緊密。為了混淆身份驗證系統，入侵的手段越來越隱蔽且復雜化。CAPTCHA與人工智能在安全性方面的博弈是一個很好的例子：在CAPTCHA中，用戶將鍵入扭曲（底噪）或順序顛倒模糊的字母或數字，便可輕易過濾掉惡意行為，但到了2014年，人工智能在解決這類問題時的效率已經遠超人類。

結合近兩年的研究表明，將人工智能整合入企業的網絡安全體系中，可在大幅降低企業全球化后所面臨的日益增長的網絡安全威脅。

網絡安全態勢綜述和發展趨勢

根據IDG CSO的統計，預計2021年，各國在網絡安全上的投入預算將達到6萬億美元，在對已知的“嚴重”等級以上的網絡安全事件進行篩選后發現，導致網絡安全事件發生的最薄弱的環節并不是軟硬件的缺失，而是人為因素，這其中包括疏忽、誤操作、響應遲緩以及決策錯誤等。

在現有的網絡安全理念的框架下，多樣化的威脅開始迅速涌現，現有的響應機制必須滿足不斷變化的威脅形勢的需求，這讓傳統的應對手段顯得老態龍鐘。

現今，我們所面臨的網絡安全威脅已日趨組織化、專業化和隱蔽化，部署更加智能的網絡安全軟件是網絡安全防御發展的趨勢。安全信息和事件管理軟件提供安全事件分析以及各種信息的存儲和關聯，包括日志數據、威脅向量和用戶行為等結構化的威脅情報分析。近年來，人工智能逐漸取代人工手段，成為網絡空間中各類情報大數據獲取的主要來源。

人工智能在網絡安全領域的輔助應用

為了增強現有的網絡安全系統和實踐，可以在以下三個方面應用人工智能。

第一個方面是“預防和保護”。一段時間以來，研究人員一直專注于人工智能阻止網絡入侵者的潛力。2014年在美國開始舉辦的首屆DARPA網絡挑戰賽由專業黑客和信息安全研究人員參加，通過利用基于人工智能的漏洞檢測系統找出安全漏洞并實時開發和部署解決方案。盡管仍處于初期，但網絡安全的未來可能會受益于更多使用人工智能的預防和保護系統，這些系統使用先進的機器學習技術來強化防御，還可以使人們靈活的與算法決策交互。

其次是“檢測”。傳統的網絡安全預警機制依賴專業人員使用固有特征的威脅樣本的分析軟件來檢測網絡中存在的異常，以及利用已知的攻擊方式對漏洞進行識別。一旦發現匹配的威脅特征時，分析軟件會向安全團隊發出警報。筆者將這種工作模式歸類為基于定量風險的分析模式，這其中包括已知和未知的風險。優點和不足都顯而易見：不足集中表現在缺乏對未來網絡安全趨勢的預測和可持續性追蹤上，對于網絡威脅的預警只能是發生在事中或者事后，無法做到全過程可溯。造成這種情況的原因與前面提到的基于固有特征的定量風險管理模式是分不開了的。

在網絡威脅不斷變化的情況下，準確地篩選網絡中的異常行為，對人類來說是一項極其龐大的工作。由于入侵行為（通常是數據盜竊）是長期的，因此網絡上也存在一些惡意軟件程序，并且看起來是無害的，我們稱之為高級持續性威脅（APT）。它們經過精心設計，可以被網絡安全程序和分析軟件所忽略，繞過前端蜜罐，自動識別高價值信息，并可以長期潛伏在目標網絡中，且無論目標庫中的威脅特征碼如何更新，始終可將自身置于“高度受信”的名單內。

面對APT，最好的方法就是引入“預測分析”和“認知計算”。作為人工智能的重要組成，“預測分析”也可以被稱為“機器學習”，實際上它具備了比人類更好地識別模式。通過分析各種已發生的攻擊，即使它與先前已知的特征不匹配，人工智能也具備對可能的攻擊具有“直覺”或預測的能力。

而“認知計算”則是人工智能模型通過模仿人腦動作，在系統輸入的大數據中，將網絡安全威脅事件篩查出來。它可以學習并獲得識別威脅的能力，構建基于態勢的網絡安全模型，“認知計算”可使用結構化和非結構化數據作為輸入，在異構數據的基礎上提供類似于人為洞察力的人機協作關系。之后，它可以提供人類可能從未想出的見解或提出獨特的解決方案，我們稱之為輸出，從而增強了網絡安全專業人員的能力，并且其速度遠遠超過了人類。

最后一個方面是“響應”。人工智能可以幫助優先考慮需要關注的風險領域并自動化地執行任務，從而減輕網絡安全分析師的工作量，將人員的工作重心轉移到更高價值的活動上。人工智能還可以基于共享的知識和學習，促進對外部或內部攻擊的智能響應。

例如，今天我們擁有部署半自動、智能誘餌或蜜罐的技術，這些誘餌創建了要滲透的網絡環境，以使攻擊者認為他們在預期的入侵路徑上，然后使用欺騙手段來識別罪魁禍首。具有人工智能功能的響應系統可以動態隔離網絡，以將有價值的資產隔離在安全的“地方”，或使攻擊者遠離漏洞或有價值的數據。

人工智能的引入為專業人員提供了所需要的威脅分類關聯信息，從而可以更快、更明智地制定決策，同時借助網絡安全分析軟件提供的數據（預測分析），以及上下文數據實時更新網絡安全知識集，再加上先前確定的見解（認知計算），人工智能可以比任何人更快、更準確地關聯所有數據。

人工智能在網絡安全應用中所面臨挑戰

我們看到了人工智能在網絡安全應用方面的無限前景，但同時人工智能也面臨著來自多維度的威脅，這其中包括深度學習框架中的軟件漏洞、對抗機器學習的惡意干擾元素的生成以及訓練數據的污染等。這些威脅可能導致人工智能所驅動的應用系統出現邏輯混淆，形成偏差或者誤判，甚至導致系統崩潰或被惡意劫持，從而使得人工智能變成威脅信息安全和網絡安全的攻擊工具。

惡意使用人工智能技術足以控制一個小型企業網絡。Fortinet公司在其發布的2019年《威脅態勢預測：網絡犯罪五大趨勢》中指出，未來人工智能技術將被大量應用在蜂巢網絡和機器人集群中，利用自我學習感知的能力以前所未有的精度自主攻擊脆弱系統和網絡。與傳統僵尸的網絡不同，利用人工智能技術構建的網絡和集群內部是能相互通信和交流的，并根據共享的本地情報采取對應的行動。被感染設備也將變得更加智能，這里的設備不僅僅包括計算機設備，更包括大量采用ARM或者MIPS指令集的路由器，這些設備無需等待人類控制者發出指令就能自主執行命令，同時對多個目標發起攻擊，并通過對抗學習，極大地延遲被攻擊目標自我響應程度。這一系列實例說明，智能IoT設備在應對規模化、智能化的主動攻擊方面系統表現出的脆弱性。

網絡安全研究人員曾成功操控了那些由亞馬遜、蘋果公司和谷歌開發的人工智能系統，以進行撥號電話和瀏覽論壇留言等操作，并且無需借助任何自動化運行腳本。眾所周知，各類移動設備平臺的語音助手也許是我們所接觸到和使用最廣泛的人工智能輔助程序，目前諸多APT都已瞄準了上述人工智能平臺，企圖操控用戶安裝在設備中的金融程序或通訊軟件，以竊取相關數據或實施盜竊。實際上，根據網絡安全公司Webroot的一項調查，在美國和日本，超過90%的網絡安全專業人員都表示，入侵者對其所使用的人工智能系統十分感興趣，尤其是涉及到商業決策和客戶關系管理的后端人工智能系統。

總結

在當前愈發嚴峻的網絡安全形勢下，借助人工智能，我們可以打造一套更加堅固的網絡安全系統。與傳統的網絡安全解決方案相比，人工智能在這個領域展示出了它強大且靈活的一面。

與此同時，我們也應該看到，盡管人工智能已在網絡安全領域發生了巨大作用，但并不是解決所有網絡安全問題的靈丹妙藥。不過，這并不意味著我們不能利用AI方法，而是應該了解其不足并正確利用它，在此期間，我們需要對人工智能進行不斷的完善和訓練。