人工智能帶來的安全新挑戰與應對新做法

當前，基于人工智能技術的網絡攻擊日益多樣化，應該如何防范人工智能技術濫用帶來的安全風險？這其中需要從各方面入手更加全面的認識這一問題。

從產業角度來看，近年來人工智能帶來五個方面的安全新挑戰：

人工智能基礎技術帶來的安全風險。機器學習復雜程度愈發超出人類理解和控制，帶來不可控性；底層開源框架往往存在安全漏洞；并且人工智能的理論基礎也存在不確定性。

人工智能應用技術帶來的安全風險。這包括應用技術本身存在的缺陷；訓練數據可導致人工智能生成偏差；如果攻擊者使用惡意的對抗樣本進行“投毒攻擊”，將導致人工智能的根本性錯誤。

人工智能技術濫用帶來的安全風險。近年來基于人工智能技術的網絡攻擊日益多樣化，特別是利用人工智能開展的攻擊和隱蔽研究漸成體系尤其值得警惕。

中國電子信息產業發展研究院副總工程師 安暉

人工智能軍備競賽帶來的安全風險。目前各國紛紛加強安全領域的人工智能戰略布局，甚至逐步向軍事領域擴散。

數據和隱私泄露增大擴大安全風險。人工智能發展將使得敏感數據泄露風險增加，例如在人臉檢測和智能醫療領域表現尤為突出。

為應對人工智能技術帶來的安全新問題，除了傳統方案外，現在也出現了一些新做法：

以人工智能防范人工智能安全。目前人工智能逐步成為應對安全挑戰的新方案，特別在提高分析效率和提升威脅檢測效果方面成果顯著。

應用反人工智能防范安全風險。近年來出現的諸如生成對抗網絡（GANs）等反人工智能技術給網絡安全帶來新的方向。

加強人工智能領域的法律治理。如今世界各國也正在加強人工智能領域的法律法規研究與發布，提高智能算法透明化和可責性，用法律法規保障人工智能技術的合理利用。

人工智能導致安全問題的根源是什么？值得人們思考。人工智能技術本身具有雙面性，技術濫用與技術競爭導致了這一問題的不斷惡化。

安暉表示，今后應對人工智能安全要從五個方面做出研究，一是加強人工智能技術安全研究；二是制定人工智能的安全標準；三是完善人工智能的法律治理；四是加強研究系統性的反人工智能的發展的應用；五是要秉持開放的狀態加強合作，不要搞人工智能軍備競賽。