人工智能不只在好人手里犯罪分子開始使用人工智能和機器學習來繞過安全防御

Maria+Korolov

2016年夏天，在全球領先的信息安全系列活動Black Hat（黑帽大會）上，美國國防高級研究計劃局讓自動化系統相互對抗，找到對手代碼中的漏洞并利用它們。 “妖怪已經從魔瓶中放出來了” “這是一個很好的例子——展示了機器怎樣輕松找到并利用新的漏洞。這方面會不斷發展，并隨著時間的推移變得越來越復雜。” Varonis Systems公司戰略和市場開發副總裁David Gibson對此說：“我們的公司還沒有了解到任何黑客利用人工智能技術或者機器的例子，但犯罪和黑客行業采用新技術比其他行業快得多。可以肯定地是，已有黑客利用人工智能來達到他們邪惡的目的。” DLT Solutions首席網絡安全技術專家Don Maclean說：“白帽和黑帽的黑客們從未如此輕松地得到并掌握機器學習交易的工具。很容易獲得軟件，成本很低甚至沒有，也很容易得到機器學習教程。” 例如，圖像識別，曾經被認為是人工智能研究的關鍵重點。Shape Security公司首席技術官Shuman Ghosemajumder說，今天，光學字符識別等工具已經非常普及，甚至不再被視為人工智能。“人們不再認為它還像以前那樣吸引人。人工智能總是未來即將發生的事情，而不是我們現在所擁有的。” 通過人工智能完善網絡安全策略 今天，計算機視覺技術足以支持自動駕駛汽車穿行在繁忙的街道上。 Ghosemajumder補充說，而且圖像識別也足以解決網站用戶常見的難題，以證明他們更像是人類。例如，谷歌I/O大會，他們有一個變形的文本驗證碼，只有33%的與會者能夠識別，相比之下，當時的最先進的OCR系統能夠以99.8%正確率來解決這一問題。 Ghosemajumder說，犯罪分子已經使用圖像識別技術并結合“Captcha群”來繞過安全措施。 他補充說，已有間接的證據表明，罪犯已經開始使用這項技術。但是，到目前為止，他沒有看到任何基于機器學習的公開可用的工具包——旨在繞過其他安全機制。例如，他們公司已經知道，如果來自一個IP地址的流量非常大，不正常，那么它很可能是惡意的，所以罪犯分子使用僵尸網絡繞過這些過濾器，而防御者尋找更細微的跡象以查明流量是自動的而不是人為的。 更聰明的電子郵件詐騙 近日，邁克菲實驗室2017年威脅預測報告中稱，網絡犯罪分子已經在使用智能機器來找到企業電子郵件的受害者，這些攻擊自2015年初以來連續不斷。 英特爾的英特爾安全CTO Steve Grobman說：“人工智能能夠讓他們針對受害者自動完成定制內容的工作。人工智能非常善于將事物分類。”例如，黑客可以自動完成找到最有可能受害者的過程。 該技術還可以用于幫助攻擊者一直隱藏在企業網絡內部，并找到漏洞。 然而，使用人工智能或者機器學習來識別某些特定情形也是比較棘手的。 他說：“犯罪分子不太愿意詳細解釋他們的方法。，但我們知道已經有跡象表明出現了這類工作。有明顯的跡象表明，犯罪分子開始朝這個方向努力。” 惡意軟件和假冒域 安全服務提供商越來越多地使用智能機器學習來區分好軟件和壞軟件，好的域和不好的域。 Anomali的首席數據科學家Evan Wright說，現在，有跡象表明，犯罪分子們在使用機器學習來確定防御系統正在尋找什么樣的模式。 他說：“犯罪分子通過防病毒軟件來測試好軟件和壞軟件，發現了‘防病毒引擎所找到的模式。他們正嘗試模擬人們正在做什么，并讓他們的機器學習模型生成這些規則的例外。我們已經發現在域生成算法中出現了類似的設計，使其更難以檢測到。但犯罪分子可以采用幾種不同的方式完成這些工作。這起作用了。” 犯罪分子聰明之處不是機器與受害者的自動對話，而是一開始創建人物形象的方式。 PerimeterX的首席執行官兼聯合創始人Omri Iluz說：“智能機器可以從Facebook上得到一張非常有吸引力的圖片，建立一個動態人物形象，添上引人注意的職業，例如，空姐或學校老師。每個人物都是獨一無二的，而且很吸引人。” 他說：“我們知道這真的很難，因此，不只是自動化的問題。我們之所以排除手動過程是因為數量太多了。我們也不認為犯罪分子能夠建立數以百萬計的人物形象，并進行自然選擇，因為這會被約會平臺識別出來。這些都是智能機器的聰明之處。” 當他們自動購買門票以轉售獲取利潤時，其行為與黃牛類似。 他說：“犯罪分子要找出那些能夠在二級市場上獲得高額利潤的項目。他們不能手動進行，因為沒有時間。這不能是數字游戲，因為他們不能簡單地購買所有庫存，這樣做掙不到錢。其背后有智慧。” 他說，這些活動的利潤超過了研發支出。“當我們看到這些欺詐者獲取的收入時，比許多大公司員工都多很多。他們不需要殺任何人，也不用進行販毒那樣的高風險工作。” 準備好圖靈測試 在有限的智能機器應用中，計算機已經通過了圖靈測試（經典的思想實驗，人類試圖確定是和人交談還是和機器交談）。 英特爾的Grobman說，針對這類攻擊的最佳防御是關注基本原理。他說：“現在，大多數公司即使在受到一定攻擊的情況下還能繼續工作。我們可以做的最重要的事情是確保公司擁有強大的技術基礎設施，不斷實踐模擬和紅隊攻擊。” （作者Maria Korolov過去20年一直涉足新興技術和新興市場。） 原文網址： http：//www.csoonline.com/article/3163022/advanced-persistent-threats/ai-isnt-just-for-the-good-guys-anymore.htmlendprint