忽視安全，人工智能將從“風口”掉落到“火山口”

2017年，人工智能首次寫入《政府工作報告》，自此，人工智能飛至“風口”，已遠遠超過前60年的速度高速發展?？僧斎藗冏硇挠谛迈r事物帶來的全新體驗，卻忽視了其暗藏的安全問題。如果安全問題沒有得到充分重視，人工智能很有可能會掉落到風險巨大的“火山口”。

人工智能惡意使用的安全威脅

2月底，來自OpenAI 、人類未來研究所、牛津大學、劍橋大學等14家機構和高校的共 26 名學者在 arXiv 上發表一篇名為《人工智能的惡意使用：預測、預防和緩解》（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）的研究成果報告（以下簡稱《報告》）?！秷蟾妗返闹攸c內容是在未實施充分的防御時，人工智能惡意使用所存在的潛在安全威脅。

《報告》詳細分析了人工智能在三個安全領域（數字安全、物理安全和政治安全）有可能發生的安全威脅，并舉出代表性的例子證明其可能性。數字安全方面，將出現合成聲波、自動黑客攻擊和數據下毒等新型安全攻擊；物理安全方面，不法分子可將無人機或其他物理系統變成攻擊的武器；政治安全方面，人工智能可以檢測數據做有針對性的宣傳，造成侵犯隱私和左右輿論等安全威脅。

《報告》認為，人工智能不僅擴大現存安全威脅，還會引入新的安全威脅和改變現有威脅的典型特征。通過人工智能，完成對人類攻擊者來說不可能完成的攻擊，并非難事。此外，安全人員開發的人工智能系統也會給惡意攻擊者帶來新的可乘之機。而且《報告》也相信伴隨著人工智能應用的快速發展，安全攻擊將會更高效、更具有針對性、難于歸因且難以防守，這將在很大程度上改變傳統網絡安全威脅的典型特征。

《報告》中至少有兩處強調，人工智能可以達到攻擊規模和攻擊效率兩者平衡，而這直接改變了傳統網絡安全威脅的特征，更高效、更精準、更匿名將成為安全威脅的新特征。以更高效為例，傳統攻擊中，攻擊者往往需要在兩者之間取舍，而人工智能系統超過人類能力的潛力將會增加預計攻擊有效性的準確度，使得由人工智能自動化完成的網絡攻擊更高效，且這種高效的攻擊現目前并未有實質性的預防措施；以更精準為例，在規模和效率均能達到最優效果之后，攻擊者便有精力將其攻擊限制在具有某些特性的目標上，識別和分析潛在目標進行更為精準的攻擊；以更匿名為例，攻擊者使用人工智能自動化攻擊系統進行攻擊，而非親自執行。

如果安全問題沒有得到充分重視，人工智能很有可能會掉落到風險巨大的“火山口”。

“一點也不意外”的黑客操作

“隨著人工智能應用的普及，安全威脅會不斷增加，更多的應用會把應用的輸入接口直接或間接暴露出來。同時封閉系統的攻擊面也會隨著時間和環境而轉化。”近期，由360安全研究院發布的《AI安全風險白皮書》（以下簡稱《白皮書》）指出人工智能，特別是深度學習領域帶來的安全威脅。《白皮書》認為，被大家熟知的AlphaGo人工智能應用是因為并不與外界有直接的交互，所以安全威脅相對較小，如果人工智能要想應用落地就必須考慮安全問題。

在《報告》發表之前，兩位通訊作者Miles Brundage 和 Shahar Avin 合寫一篇較為簡單的介紹性文章，文章標題表達了作者的擔憂——《利用AI來犯罪只是時間問題》（It's only a matter of time before criminals turn AIs against us）（以下簡稱“文章”）。

文章認為人工智能研究人員在開發新應用程序時需要考慮安全因素，如果不這樣做，黑客就會利用人工智能進行惡意活動。人工智能和所有新技術一樣都具有兩面性，會以各種方式使社會受益，但同樣也會以各種方式被惡意使用。文章舉出無人機、自動駕駛車等網絡物理系統被黑客惡意使用的例子，自動駕駛車可能會帶來車禍，便宜的商業無人機可能會被改造成面部識別導彈。

《報告》中給出了相應威脅的假設性案例，例如，某安全管理系統的管理員瀏覽網站時，被一則模型火車的廣告吸引，并點開下載小冊子。此時攻擊已經開始，小冊子一旦被打開，黑客就能窺視他的電腦，獲得安全管理系統的用戶名和密碼。至于管理員看到的廣告，則是黑客根據其個人興趣，結合人工智能精心設計的“陷阱”。而這樣的操作正是黑客使用基于“強化學習”和其他AI技術來控制一大批半自動機器人程序，通過廉價的個性宣傳精確地目標人群。這樣一個8人釣魚團隊就能達到8000人的水平。類似的技術操作和實現效果在作者看來，“一點也不意外”。

“一點也不意外”的黑客操作近日被指出很有可能已經在操縱美國大選。美國特別顧問Robert Muller曾公開指出，俄羅斯有一個80多人的全職專業團隊破壞2016年美國總統選舉。通過使用虛假的美國公民身份，利用社交媒體平臺和其他網絡媒體來推進他們的計劃。“一點也不意外”的黑客操作同樣發生在我國。2017年，浙江警方破獲了一起利用人工智能犯罪，侵犯公民個人信息案。專業黑客用深度學習技術訓練機器，讓機器能夠自主操作，批量識別驗證碼?！昂芏虝r間就能識別上千上萬個驗證碼?！碑敃r的辦案民警介紹。

全社會共同討論才是問題正解

《報告》中，作者不無擔憂地表示：如果沒有制定出足夠的防御措施，我們可能很快就會看到假設性的攻擊成為現實。

中國社科院文化法制研究中心研究員劉明接受《科技日報》采訪時說，技術帶來的問題，有時也可以用技術發展來解決。當攻擊方用上了導彈大炮，防御方就不能只用“小米加步槍”?！叭绻庾R到自己所在行業存在人工智能帶來的威脅，自身加強防范就很重要?！蓖瑫r他也表示，如果用技術防御技術，“這可能是一場無止境的技術攻防戰?！?/p>

此外，道德和法律也是如何解決人工智能衍生問題的兩大關鍵詞。哈佛法學院互聯網法教授Jonathan Zittrain說，“我擔心，在技術的幫助下，我們的系統將變得更加復雜和緊密連合，人類的可操控性會下降。并且這里（編者注：利益相關者）沒有任何一個方面需要考慮道德倫理問題?！背藳]有考慮道德問題之外，關于“道德”或“公平”的概念也是十分含糊不清且難以界定。對此，英國科普作家Philip Ball表示，當新的技術出現之后，肯定會隨之而來許多新的道德問題，這是一個需要全人類共同面對的挑戰，還需要全社會來參與討論。

在《報告》中也給出了緩解威脅的四點建議：

決策者應與技術研究人員密切合作，調查、預防和減輕人工智能潛在的惡意用途；

人工智能的研究人員有責任采取一切可能的措施，幫助促進技術的有益使用，防止有害用途；

研究現有較為成熟的解決雙重用途問題的實踐方法，并研究是否適用與人工智能領域；

尋求更廣泛的交流。不僅包括，用戶、決策者、網絡安全和人工智能研究人員以及相關企業，還應該包括倫理學家和其他利益相關者。

The Verge就此發表評論性文章表示，作者旨在希望通過更多的對話和更多的行動解決行業問題。