人工智能領域亟須新安全觀（觀察家）

魯傳穎

近日，美國國防部聯合人工智能中心主任沙納漢聲稱，2020將是美軍在人工智能領域實現突破的一年。明年中心的人員將增加60個編制，預算增長3倍，并將在一系列項目上快速取得突破。沙納漢認為，要應對大國在人工智能領域的競爭，美國必須要加大、加快在人工智能軍事應用領域的投入。

美軍大舉在人工智能領域布局，反映了人工智能的武器化、實戰化正在逐步成為現實。從人類歷史上看，軍事是推動科技進步的重要力量，包括核武器、互聯網等很多重大科技領域的突破都是源自軍事目的。國家出于軍事目的發展具有戰略意義的高科技在當代也非常普遍，越來越多的國家開始加速布局人工智能在軍事領域的應用。

值得警惕的是，當代國際關系領域一個顯著的“安全困境”就是大國為謀取戰略競爭優勢而發展高科技武器，引起眾多國家效仿，反而惡化了整體的安全環境。人工智能已成為引發“安全困境”的新領域，人工智能軍事化發展的安全困境將會伴隨大國不斷加大投入而提前到來。

因此，國際社會應當建立一種新的安全觀來看待人工智能的安全問題，包括從技術安全、應用安全和體系安全三個層面來應對人工智能的安全困境。

一是要關注人工智能自身的技術安全問題。算法黑箱、自主決策、數據安全都有可能帶來人工智能武器的失控，并由此帶來嚴重的安全后果。因此，如何在確保安全的前提下開展人工智能軍事應用至關重要。

二是人工智能應用中的安全。不負責任地使用人工智能武器或是隨意擴散，都有可能給國際社會造成嚴重的安全、經濟和社會層面傷害。比如濫用人工智能武器造成無辜平民的傷亡，恐怖分子獲取人工智能武器將會實施的重大恐怖襲擊。

三是必須關注人工智能在軍事領域的應用對國際安全體系造成的顛覆。隨著人工智能的發展，戰爭的形態將被徹底改變。軍人、戰場和戰爭模式會發生顛覆性的變化。程序員將成為軍人中的重要組成部分，更加精確的殺傷將會使得戰場范圍更加廣闊，傳統的戰爭決策模式也難以適應人工智能快速反應的決策。如此巨大的變化將會使傳統的國際安全架構難以適應新挑戰，現有的沖突降級、危機管控、建立信任措施等維護國際安全的手段無法解決大國在人工智能軍事領域的沖突，危及國際安全體系穩定。

新的安全觀有助于更好地理解人工智能軍事化應用所帶來的安全挑戰，但要應對挑戰，還需要建立新的治理機制。

首先，要建立以技術治理為主體的人工智能全球治理體系，改變國家的安全觀念，更加積極地促進知識和經驗的分享來維護體系安全，而不是通過壟斷技術來獲取競爭優勢。其次，人工智能的全球治理應當處理好政府與其他利益攸關方的關系。人工智能具有軍民兩用性，技術在軍事領域的應用會對民用產生負面影響。如谷歌和亞馬遜都因為與軍方開展人工智能合作而遭到了員工和客戶的反對。最后，應有約束大國發展和使用軍事人工智能的國際機制，形成大國審慎考慮自身行為帶來安全困境的輿論氛圍。▲

（作者是上海國際問題研究院網絡空間國際治理研究中心秘書長）