虛擬戰(zhàn)爭

戴維·H·弗雷德曼

8月29日，在一名自殺式炸彈襲擊者在喀布爾機(jī)場炸死13名美國軍人和160名平民三天后，美國軍事情報(bào)機(jī)構(gòu)正在追蹤據(jù)認(rèn)為是另一起潛在破壞性襲擊的目標(biāo)：一輛正在駛向機(jī)場載有疑似炸彈“包裹”的汽車。軍方的計(jì)劃是用一架“死神”無人機(jī)通過視頻鎖定這輛車，并在附近沒有平民時(shí)用“獄火”導(dǎo)彈將其摧毀。

這位戰(zhàn)術(shù)指揮官很可能在內(nèi)華達(dá)州的克里奇空軍基地工作，他從位于佛羅里達(dá)州坦帕的美國中央司令部司令肯尼思·麥肯齊那里獲得了準(zhǔn)許。由于視頻素材必須在世界各地的軍事指揮官之間傳閱，所以通常要延遲幾秒鐘。美國軍方說，在這種情況下，這一延遲很可能讓少數(shù)平民接近目標(biāo)車輛。爆炸造成包括7名兒童在內(nèi)的10名阿富汗平民死亡，引起了國際社會(huì)的強(qiáng)烈抗議。人們開始懷疑這輛車是否真的構(gòu)成威脅。

機(jī)器決定何時(shí)殺人

在軍事戰(zhàn)略家們考慮如何防止“伊斯蘭國”、“基地”組織——或者任何其他偏遠(yuǎn)地區(qū)——未來可能出現(xiàn)的其他威脅時(shí)，他們正在尋找一種更好的遠(yuǎn)程攻擊方式。這一工作正朝著一個(gè)令人不安的方向前進(jìn)：讓機(jī)器來決定何時(shí)殺人或殺誰。

未來幾年，“死神”無人機(jī)和其他美國無人機(jī)將配備先進(jìn)的人工智能技術(shù)。一個(gè)令人震驚的場景出現(xiàn)了：軍用無人機(jī)藏在阿富汗境內(nèi)或附近的小型無人基地，準(zhǔn)備起飛、掃描地盤，并立即分析它們拍攝的圖像，識(shí)別和瞄準(zhǔn)恐怖活動(dòng)，確保目標(biāo)遠(yuǎn)離平民，發(fā)射導(dǎo)彈、確認(rèn)傷亡并返回基地——這一切都在幾乎沒有人干預(yù)的情況下進(jìn)行。

當(dāng)然，為“死神”無人機(jī)裝備人工智能并不主要是出于人道主義考慮。人工智能武器的真正目的是獲得壓倒性的軍事優(yōu)勢——在這方面，人工智能大有可為。在美國已從阿富汗撤軍且不愿將軍隊(duì)投入到世界上其他沖突之際，使用無人操控武器遠(yuǎn)程發(fā)動(dòng)攻擊的能力正在成為美國軍事戰(zhàn)略的一個(gè)關(guān)鍵要素。通過賦予機(jī)器自行作出戰(zhàn)場決策的能力，人工智能使這一戰(zhàn)略變得可行。

目前正在制定的計(jì)劃，不僅要把人工智能納入“死神”無人機(jī)上，還將包括從戰(zhàn)斗機(jī)到潛艇再到導(dǎo)彈的一整套武器庫，這些武器將能夠打擊完全在其控制下的恐怖分子和敵軍。

美國前國防部副部長、人工智能國家安全委員會(huì)聯(lián)合主席羅伯特·沃克說：“人工智能已經(jīng)出現(xiàn)在戰(zhàn)爭中。所有主要的全球軍事競爭對(duì)手都在探索還能用它做什么，包括美國。”無論誰贏得這場競賽，軍事力量的輪廓——誰擁有它以及如何使用它——都將發(fā)生根本性變化。

潛在軍事優(yōu)勢巨大

20年來，裝備了導(dǎo)彈的無人機(jī)一直是美國反恐和其他軍事行動(dòng)的主力，但它們?cè)斐闪舜罅扛綆p失。相比之下，配備人工智能的無人機(jī)能夠在幾百分之一秒內(nèi)發(fā)現(xiàn)、驗(yàn)證并瞄準(zhǔn)目標(biāo)，極大增強(qiáng)了軍方遠(yuǎn)程打擊能力。這一能力可以讓美國在世界任何地方發(fā)動(dòng)更多打擊。提高無人機(jī)襲擊的精確度和時(shí)效還可以減少美軍對(duì)常規(guī)空襲的嚴(yán)重依賴。

人工智能支持的武器系統(tǒng)的不同之處在于其決策軟件的性質(zhì)和威力。人工智能軟件運(yùn)用“機(jī)器學(xué)習(xí)”算法，在接觸到數(shù)千個(gè)成功完成任務(wù)的例子后，自己編寫代碼。生成的代碼看上去與傳統(tǒng)計(jì)算機(jī)編程完全不同，但它的能力遠(yuǎn)遠(yuǎn)超出傳統(tǒng)計(jì)算機(jī)編程。人工智能武器原則上只需發(fā)射就可以監(jiān)視或追蹤幾乎任何類型的目標(biāo)，自行決定攻擊時(shí)間和目標(biāo)。它們可以追蹤外觀或行為不同的目標(biāo)，轉(zhuǎn)換目標(biāo)，并在惡劣天氣下在陌生地形進(jìn)行導(dǎo)航，同時(shí)識(shí)別和躲避友軍或平民。

人工智能的潛在軍事優(yōu)勢巨大。動(dòng)力系統(tǒng)集團(tuán)首席技術(shù)官蒂姆·巴頓說：“人工智能可以降低執(zhí)行任何任務(wù)的成本和風(fēng)險(xiǎn)，在接近對(duì)手的同時(shí)讓戰(zhàn)斗人員遠(yuǎn)離危險(xiǎn)。它們能以光速接收和傳遞信息。人類無法做到這一點(diǎn)。”

2018年，五角大樓成立了聯(lián)合人工智能中心，以推動(dòng)和協(xié)調(diào)人工智能在全軍的發(fā)展和融合。南丹麥大學(xué)戰(zhàn)爭研究中心副教授英維爾德·博德說：“我們正走在一條領(lǐng)導(dǎo)人不會(huì)從根本上質(zhì)疑是否應(yīng)該將人工智能軍事化的道路上。”

無人機(jī)集群威力強(qiáng)

真正改變游戲規(guī)則的將是無人機(jī)集群，它們可以用足夠多的攝像頭或其他類型的傳感器覆蓋一個(gè)區(qū)域，從而發(fā)現(xiàn)和分析幾乎任何敵人的活動(dòng)。協(xié)調(diào)整個(gè)無人機(jī)網(wǎng)絡(luò)的飛行超出了人類控制人員的能力，但人工智能完全可以做到。

位于加利福尼亞州歐文的安杜里爾公司的首席戰(zhàn)略官克里斯·布羅斯說：“人工智能的真正價(jià)值在于收集和整合來自大量傳感器的數(shù)據(jù)，并消除軍方操作員不感興趣的信息。”

已有四年歷史的五角大樓的“梅文計(jì)劃”，旨在利用人工智能從視頻源中發(fā)現(xiàn)并追蹤敵人的活動(dòng)。除了發(fā)現(xiàn)敵人的活動(dòng)，下一步是將人工智能應(yīng)用于“戰(zhàn)場管理”——也就是說，穿透戰(zhàn)爭迷霧，幫助軍事指揮官了解戰(zhàn)爭局勢中發(fā)生的一切，然后決定如何應(yīng)對(duì)。這可能包括調(diào)動(dòng)軍隊(duì)、選擇目標(biāo)，并根據(jù)無人機(jī)群、衛(wèi)星和戰(zhàn)場及周邊地區(qū)的一系列傳感器提供的最新信息，引入空中支持和增援。

美國國家地理空間情報(bào)局稱，該機(jī)構(gòu)已經(jīng)用人工智能對(duì)1200萬張衛(wèi)星圖像進(jìn)行處理以發(fā)現(xiàn)敵方導(dǎo)彈發(fā)射。軍方試驗(yàn)性地部署了一個(gè)被稱為“普羅米修斯”的基于人工智能的系統(tǒng)，該系統(tǒng)從實(shí)時(shí)成像中提取敵方活動(dòng)數(shù)據(jù)，并自行確定哪些活動(dòng)符合指揮官對(duì)高優(yōu)先級(jí)目標(biāo)的標(biāo)準(zhǔn)，并將這些位置反饋給炮兵武器以自動(dòng)瞄準(zhǔn)它們。

增加軍事誤判風(fēng)險(xiǎn)

軍方越是支持人工智能，專家和人權(quán)倡導(dǎo)者的反對(duì)聲音就越大。一大擔(dān)憂是，人工智能制導(dǎo)武器會(huì)錯(cuò)誤地瞄準(zhǔn)平民或友軍，或者造成比人類操作員更多不必要的傷亡。

這種擔(dān)憂是有充分理由的。從理論上講，人工智能系統(tǒng)可以被外人入侵，就像任何軟件一樣。即使軍方能夠確保其人工智能系統(tǒng)不受黑客入侵，它或許仍無法確保人工智能軟件始終按照預(yù)期運(yùn)行。這是因?yàn)樗^的“黑匣子”問題：由于機(jī)器學(xué)習(xí)算法自己編寫復(fù)雜且難以分析的代碼，人類軟件專家不能總是預(yù)測到人工智能系統(tǒng)在突發(fā)情況下會(huì)做什么。測試會(huì)減少但并不會(huì)消除發(fā)生意外的可能性——它無法涵蓋人工智能控制的武器在沖突中可能會(huì)面對(duì)的無窮無盡的獨(dú)特條件。

愛爾蘭都柏林城市大學(xué)外交政策研究員詹姆斯·約翰遜說，人工智能正在“增加因誤解或誤判導(dǎo)致疏忽或意外升級(jí)的風(fēng)險(xiǎn)”。美國和俄羅斯都一再反對(duì)聯(lián)合國《特定常規(guī)武器公約》禁止人工智能控制的致命武器。討論重新審議《特定常規(guī)武器公約》的會(huì)議計(jì)劃于12月舉行，但人們對(duì)達(dá)成協(xié)議不太樂觀。北約國家已經(jīng)討論了達(dá)成協(xié)議的可能性，但尚未有明確結(jié)果。如果美國正在與其他國家就人工智能武器進(jìn)行單獨(dú)談判，那么幾乎沒有公開的消息。

即使外交努力使得人工智能使用受限，核實(shí)其遵守情況也要比檢查核導(dǎo)彈發(fā)射井困難得多。在一個(gè)充滿敵意、競爭激烈的世界里，軍方領(lǐng)導(dǎo)人并不以他們抵制先進(jìn)武器的能力而聞名，不管后果如何。

（摘自9月20日《參考消息》。原載于9月24日美國《新聞周刊》〈提前出版〉）