防止人工智能在軍事上的濫用（觀察家）

仇昊 梁逵

隨著算法、算力和大數據等方面的不斷突破，人工智能已被廣泛應用于經濟、社會、軍事等領域，成為促進經濟發展、技術創新、戰斗力提升的動力和引擎。但人工智能技術同時也是一把雙刃劍，可能成為引發全球性風險和挑戰的“潘多拉魔盒”。

可能引發諸多風險和挑戰

首先，人工智能軍事競爭可能觸發新一輪軍備競賽。人工智能技術的發展正孕育著新軍事革命的鏈式突破，可能成為改變國家軍事實力對比的核心技術。人工智能將是大國塑造軍事優勢的新杠桿，通過推進智能武器部署，實現作戰能力的迭代升級，維持或打造軍事能力優勢和新代差。對中小國家而言，人工智能的巨大賦能效應可能會彌補其在領土、人口、經濟等方面的劣勢，獲得挑戰大國的實力和機會。

為此，世界主要大國和部分技術領先的中小國家都在抓緊制定人工智能發展戰略和規劃，推進智能化武器系統研發，推進軍事力量向智能化轉型。據稱美軍正在推進的“第三次抵消”戰略，有80%的項目與人工智能技術密切相關。從實際應用看，智能化武器系統已在美兩場反恐戰爭以及近期中東發生的多場軍事沖突中使用。人工智能的軍事應用已成為發展趨勢，人工智能的軍事競爭有演化成新一輪軍備競賽的可能。

其次，人工智能軍事應用可能顯著降低戰爭門檻。隨著自主武器系統的大規模運用，戰爭對抗可能首先在機器與機器之間展開，機器人、無人機、無人潛航器等自主武器成為部署在最前沿的力量，人將逐步退到后臺擔任操作和指揮的角色，戰場傷亡人員的數量顯著減少。軍事智能發展催生出認知戰、失能戰、網絡戰等非殺傷性作戰手段，可能不再以消滅對手為目的，而是以控制對方認知、行動等方式取勝，加大了戰爭“零傷亡”的可能。智能化條件下的殺傷性行動主要由自主機器實施，作戰樣式以自主式遠程無人攻擊為主，降低了戰爭的成本。

這些因素都能夠使戰爭看起來更“人道”“廉價”，減輕戰爭決策者發動戰爭的道義責任和政治壓力。另外，部署在網絡、太空、深海等新型作戰空間的智能武器更具有隱蔽性，難以判定誰是發起者，成為軍事對抗的“灰色地帶”。

再次，智能技術的易擴散性將加劇非傳統風險。人工智能技術與以往核武器、生化武器等最顯著的不同是易擴散性。由于智能技術的低成本、高賦能，易于被恐怖組織、個人等非國家行為體掌握和運用，成為恐怖分子、犯罪組織、黑客等進行破壞和犯罪的工具。類似委內瑞拉總統馬杜羅遭無人機攻擊的事件，都表明了智能技術可能引發的非傳統安全挑戰，帶來國際安全治理的新難題。

合作共治才能防患未然

人工智能技術應用可能導致的這些風險，已經引發世界范圍內的擔憂，促進國際社會對人工智能發展和應用進行深思。面對智能化時代的國際安全風險，國際社會只能通力合作，或許可從以下幾個方面入手：

一是確立共同目標。國際社會應當認清在人工智能應用問題上“一榮俱榮、一損俱損”的現實，明白在智能化時代的對抗沒有贏家，進而確保人工智能用于和平目的，倡導用人工智能服務于世界的繁榮與發展，共享智能技術帶來的機會和便利，杜絕零和思維、冷戰思維模式在智能時代沉渣泛濫，防止數字鴻溝和自我封閉。為此，各國應把共治作為途徑，破除以往各國“各掃門前雪”的做法，提倡通過交流對話處置人工智能領域的矛盾和爭議，杜絕發展過程中的歧視和雙重標準。

二是推進責任共擔。各國特別是人工智能大國應切實承擔起應有的國際責任，防止人工智能可能引發的惡性競爭和軍備競賽。尤其杜絕智能技術在軍事上的濫用，不發展和使用有違人類尊嚴、具有大規模破壞效應的智能裝備。另外，各國都有義務強化對本國智能技術發展的管理與引導，確保人工智能被用于合法目的。

三是致力群治共防。愛因斯坦去世前，曾后悔自己的發明被用于發展核武器，認為那是自己犯的一個巨大錯誤。為防止智能時代出現類似的錯誤，必須致力于推進國際社會群防共治，著手商討建立人工智能國際治理體系。各國應當把風險預防做在前面，不能等危機和風險降臨后再被動應對。以共同治理作為重點，各國應特別注意防止智能技術擴散與核、生物技術擴散帶來的疊加風險，共同探討建立打擊人工智能恐怖主義、國際犯罪的合作機制，維護智能時代的網絡安全和公共安全。

四是深化國際交流。為實現共同目標、應對共同挑戰，防止國際社會在智能發展領域出現兩個世界、兩個標準、兩種體系對立，推進國際交流合作是當前最緊迫的現實需要。各國應停止為他國發展設障礙、施絆子的行為，尊重他國發展智能技術的合法權利，停止對他國企業機構的打壓限制，在平等互利基礎上推進智能技術合作與產品貿易。國際社會應致力于促進人工智能技術和人才交流，促進共同的技術標準和技術準入，防止惡意技術封鎖。各國應在公開、透明基礎上建立交流合作機制，通過外交對話、國際會議、防務合作、學者交流等多種途徑交流觀點，防止戰略誤判和技術對抗，構建人工智能領域互信機制。

五是構建國際規則。當前，國際社會尚沒有建立共同遵守的人工智能國際規則，但一些學者和有識之士已認識到構建國際規則的必要性和緊迫性，中國、歐美、日本都有學者呼吁和探討建立人工智能國際規則問題。去年在中國烏鎮召開的第5屆世界互聯網大會上，就有學者呼吁盡早就人工智能制定國際準則。今年4月，歐盟委員會公布了人工智能道德準則。今年5月，中國研究機構聯合發布《人工智能北京共識》，提出15條原則。

在這一背景下，國際社會應適時推進人工智能國際規則制定，借鑒核、生物、常規武器等領域國際規則制定歷史經驗，探討人工智能發展與運用的國際規則問題，就智能武器的地位、使用范圍和限制、安全可控標準、人與機器的關系等問題進行研究和探討，確保人工智能成為人類的工具而不是相反。▲（作者分別是軍事科學院戰爭研究院研究員、助理研究員）