2018中國人工智能移動安全高峰論壇

時間：2018年7月10日下午

地點：國家會議中心

主題：AI時代智能終端的攻與防

論壇概況：

中國信息通信研究院、電信終端產業協會、移動安全聯盟聚焦于AI技術與安全問題，于7月10日下午成功舉辦主題為“AI時代智能終端的攻與防”的2018中國人工智能移動安全高峰論壇。工業和信息化部網絡安全管理局副局長楊宇燕，電信終端產業協會理事長、移動安全聯盟理事長謝毅，以及來自終端廠商、互聯網企業、安全廠商、科研院所的代表共兩百余人參加了本次論壇。論壇由中國信息通信研究院泰爾終端實驗室副主任馬鑫主持。論壇邀請到多位業界大咖分別就AI技術的安全與應用進行深入廣泛的交流，發表各自觀點，分享成果與經驗，共同探討人工智能領域所面臨的安全問題與應對方案。

楊宇燕 工業和信息化部網絡安全管理局副局長

本次“人工智能移動安全高峰論壇”聚焦人工智能與移動安全，共同分享和探討成果與經驗，對做好人工智能安全工作具有重要的意義。在推動人工智能與移動互聯網發展的同時，必須高度重視安全的問題。2017年底，工業和信息化部在國家新一代人工智能發展規劃基礎上，出臺了《促進新一代人工智能產業發展三年行動計劃》，提出構建人工智能網絡安全保障體系的目標。保障人工智能的安全是一項復雜的系統工程，目前還存在安全意識不足、制度落實不到位等問題，提出四點建議：第一要突破核心技術，提高人工智能產業自主可控水平；第二要加強標準制定，建立并完善技術標準體系，積極探索基于標準開展安全認證；第三要建立網絡威脅信息共享機制，依照《公共互聯網網絡安全威脅監測與處置辦法》、即將出臺的《網絡安全漏洞管理規定》等規定，加強安全漏洞的管理；第四要加強應急處置和評測體系的建設，落實工業和信息化部公共互聯網網絡應急預案，健全人工智能移動安全應急機制，并接入工業和信息化部年底即將建成的網絡安全應急指揮平臺。

謝毅 電信終端產業協會理事長、移動安全聯盟理事長

電信終端產業協會一直秉持中國信息通信研究院“國家高端專業智庫，產業創新發展平臺，信息社會創新發展的思想庫和使能者”的定位，移動安全聯盟立足于搭建移動互聯網安全合作的交流平臺、服務企業、支撐政府，主要在政策支撐、技術標準和產業技術研究、測試與評估和應急響應機制四個方面開展工作。

李康 360智能安全研究院院長

目前安全人員已經意識到AI有很多安全問題，過去學術研究更多的關注逃逸攻擊，是欺騙人工智能，叫騙人攻擊。但對于模型和數據的安全保護關注不夠，模型推測攻擊，攻擊者的目的是偷取人工智能里面的模型或者參數，是偷人攻擊。在關注騙人攻擊的同時也應該關注軟件和模型本身的安全性。智能和安全其實已經在安全領域對抗了很多年，現在確實有很多新的人工智能應用，安全只要有新的領域、新的應用，就會有新的安全關注。安全是一個持久的問題，會逐漸體現在不同新的領域，安全對抗應該是安全領域的永恒主題。

劉焱 百度AI安全負責人

深度學習模型廣泛應用于生活的各個領域，從100元左右即可入手的智能音箱，啤酒節里抓捕逃犯的智能安防，快速便捷的人臉閘機和人臉支付到越來越成熟的無人駕駛車輛，深度學習技術逐漸改變著人們的生活。但是深度學習模型自身安全方面的研究和防御技術卻相對滯后。結合目前工業界和學術界的最新前沿進展，透析深度學習模型的脆弱性以及常見的攻擊方法，并提供一個開源的平臺，便于工業界和學術界更加便捷的研究深度學習模型的脆弱性和防御方法。

王琦 KEEN CEO

安全漏洞從來不是因為黑客而存在的，恰恰是因為黑客發現而被消滅。無論機器學習、深度學習是否是人工智能的未來，如果我們現在共同關心對抗攻擊，一定會對人工智能未來的發展有所幫助。很多人可能認為對抗攻擊會是深度學習的問題，但其實不是，深度學習可能反而恰恰是對抗攻擊處理的最好的一個領域。

郭耀 北京大學高可信軟件技術教育部重點實驗室教授

AI有很多問題，但換個角度來看，AI也能夠為我們解決很多安全問題，可以利用AI技術提高移動應用的安全和對隱私保護安全進行分析，比如廣告欺詐檢測，隱私分析，還有一些其他的隱私保護控制方面的工作等等。

王佳斌 騰訊公司移動安全防病毒負責人

AI現在已經在移動反病毒領域有了非常廣泛的應用，站在防御者的角度，一是要系統化的構建一個學習的數據，優化我們檢測的效果，這是一個相對系統一點的工程；二是要提高AI模型或AI在反病毒領域應用過程中的魯棒性。

楊正軍 移動安全聯盟秘書長

AI+IoT也就是AIoT時代已經到來，主要有三個方向的安全問題，一是AI會放大IoT終端面臨的傳統安全風險；二是AI在IoT終端上的應用存在安全盲點；三是隱私與數據安全問題在AIoT設備中會凸顯。提出了AIoT信息安全發展的幾點建議，一是制定政策與標準，加強行業監管；二是建立物聯網的安全檢測體系，促進法律法規的落實；三是加強安全宣傳，提高企業和用戶安全防范意識。

陸全 阿里巴巴安全部資深總監

目前人工智能還是像孩子一樣需要我們去呵護，不能因為人工智能有各種問題就不去做研究，現在可能非常易于被攻擊，但隨著智能的發展就不會再像現在這樣易于被人攻擊。

韋韜 百度首席安全科學家

目前在大部分產業里都是這種情況，技術推進的時候，很少有人考慮安全問題。現在AI在各個領域推進的速度超乎大家想象，在這種情況下，這些典型應用場景有極其嚴峻的安全和隱私的威脅。目前還需要做很多工作，要在安全上有新的突破，把地基重新夯實。

陳洋 小米科技首席安全官

AI給我們開展了一個新的應用技術，現在有了各種各樣的應用場景，但我們完全沒有必要去恐懼它帶來的安全問題，因為安全永遠是一個不斷攻防的過程，問題暴露了，我們解決問題，它就安全了。

唐博 長虹信息安全燈塔實驗室首席科學家

從設備廠商或者物聯網智能設備廠商來說，AI是對產品效率的一個提高，對用戶使用體驗的一個提高。同時會帶來一些安全問題，這也是正常的。AI可以把它看作三個發展階段；一是用AI的方法可以解決一些安全的問題；二是用安全來保護人工智能；三是當人工智能的安全達到一定程度的時候，AI會有更大的發展。

馬鑫 中國信息通信研究院泰爾終端實驗室副主任

AI應用與安全是一個雙刃劍的問題，任何技術本身沒有對錯之分，只有先進落后之分。AI是一個大系統，軟件越復雜，它的安全點越需要關注。在整個技術研究過程中，是一個平衡的問題。要考慮AI應用的場景，有些東西應用場景比較簡單的情況下，它的安全性比較容易能夠滿足或者保障。在AI應用比較復雜的情況下，更需要安全性的保障和研究。 ■