以色列在加沙發(fā)動人工智能戰(zhàn)爭

近年來，以色列國防軍在加沙地帶發(fā)動了多輪猛烈空襲，規(guī)模之大與頻率之高令世人震驚。截至2023年12月，加沙地帶已有超過1.5萬人在空襲中喪生。如此巨大的死亡人數(shù)讓人們不禁開始質(zhì)疑以軍選取攻擊目標(biāo)的方式。以色列空軍負(fù)責(zé)人曾經(jīng)表示，“我們的襲擊只針對軍事目標(biāo)”。但隨后他又補(bǔ)充道：“當(dāng)然也不可能做到百分之百精準(zhǔn)無誤。”以色列國防軍向來以科技實(shí)力高超著稱，并曾放出豪言，會將人工智能前沿技術(shù)運(yùn)用于戰(zhàn)場。那么，以色列軍方究竟在以何種方式選取攻擊目標(biāo)？人工智能又在其中扮演了怎樣的角色？

在2021年5月為期11天的巴以軍事沖突中，以軍憑借先進(jìn)的計(jì)算機(jī)算法和機(jī)器學(xué)習(xí)技術(shù)打響了第一場“人工智能戰(zhàn)爭”。而近期的巴以沖突更是為以軍的人工智能工具提供了前所未有的廣闊應(yīng)用空間，其中最引人矚目的是名為“福音”的人工智能攻擊目標(biāo)生成平臺。它被以色列軍官稱作“目標(biāo)生產(chǎn)工廠”，極大地提升了“目標(biāo)生產(chǎn)線”的效率。

隨著復(fù)雜且不透明的自動化系統(tǒng)越來越多地被運(yùn)用在戰(zhàn)爭中，平民傷亡風(fēng)險(xiǎn)與日俱增，引發(fā)了國際社會的擔(dān)憂。一名了解美軍自動化系統(tǒng)的前白宮安全官員說：“如果以色列國防軍在選取攻擊目標(biāo)時(shí)重度依賴人工智能，把關(guān)系民眾生死的決策重任交由自動化系統(tǒng)承擔(dān)，那么巴以沖突或?qū)⒊蔀槿斯ぶ悄馨l(fā)展史上的關(guān)鍵轉(zhuǎn)折點(diǎn)。”

| 從每年50個(gè)目標(biāo)到每天100個(gè)目標(biāo) |

2023年11月初，以色列國防軍宣稱：“我們的目標(biāo)管理部已在加沙地帶鎖定了超過1.2萬個(gè)攻擊目標(biāo)。”該目標(biāo)管理部成立于2019年，隸屬于以色列國防軍軍事情報(bào)局，行動嚴(yán)格保密。該部門的一名軍官說：“識別攻擊目標(biāo)時(shí)，我們絕不手軟。無論哈馬斯成員藏在哪里，都會被我們找出來。”

此外，以色列國防軍官網(wǎng)上的一則簡短聲明顯示，他們在利用“福音”平臺快速鎖定攻擊目標(biāo)。以軍稱：“‘福音’能夠高效提取情報(bào)信息，為研究人員生成攻擊目標(biāo)建議。”多名熟悉以色列軍方目標(biāo)選取機(jī)制的消息人士都確認(rèn)了“福音”系統(tǒng)的存在。他們透露道：“該平臺能自動生成攻擊目標(biāo)，比如哈馬斯成員的私人住所。”

近年來，目標(biāo)管理部為以色列國防軍建造了一個(gè)龐大的數(shù)據(jù)庫，收錄了3萬至4萬名疑似哈馬斯武裝分子的人員信息，都被打上了“可以暗殺”的標(biāo)記。在這個(gè)過程中，“福音”平臺起到了關(guān)鍵作用。2024年1月卸任的原以色列國防軍總參謀長阿維夫·科哈維曾在訪談中表示，“目標(biāo)管理部由上百名軍官組成，是一支由人工智能技術(shù)驅(qū)動的團(tuán)隊(duì)”。他還說：“‘福音’能夠處理海量數(shù)據(jù)，并將數(shù)據(jù)轉(zhuǎn)化為攻擊目標(biāo)，速度遠(yuǎn)超人類。它一天內(nèi)就能生成100個(gè)攻擊目標(biāo)，其中50%會受到攻擊。而在過去，我們每年在加沙地帶只能鎖定50個(gè)目標(biāo)。”

目前，盡管“福音”的數(shù)據(jù)來源尚未公開，但專家稱人工智能決策支持系統(tǒng)通常有如下幾種數(shù)據(jù)來源：無人機(jī)捕獲的影像資料、截獲的通信數(shù)據(jù)以及從監(jiān)控系統(tǒng)搜集而來的信息動態(tài)。

過去，在加沙地帶開展軍事行動時(shí)，以色列空軍時(shí)常會遇見“沒有目標(biāo)可攻打”的情況。而目標(biāo)管理部的設(shè)立正是為了解決這個(gè)問題。知情人士稱：“每次以軍剛一發(fā)動攻勢，哈馬斯高級軍官便會遁入隧道，消失得無影無蹤。為了擴(kuò)大攻擊范圍，以色列國防軍借助‘福音’等人工智能系統(tǒng)，將更多的基層成員鎖定為攻擊目標(biāo)。”

一名曾在加沙行動中負(fù)責(zé)目標(biāo)鎖定的以軍軍官說：“我們以前不會襲擊哈馬斯基層成員的住所，但現(xiàn)在不一樣了。只要是被懷疑與哈馬斯有所牽連的人，無論級別高低，其住所都會遭到襲擊。實(shí)際上，大部分基層成員并不構(gòu)成什么威脅。他們的住所遍布加沙，都被以軍打上了標(biāo)記，在空襲中被無情摧毀，無人生還。”

| 為“攻擊目標(biāo)”評分 |

以色列方面多次表態(tài)，空襲行動僅針對哈馬斯相關(guān)人員。一名以色列國防軍高級軍官說：“我們會針對哈馬斯的軍事基礎(chǔ)設(shè)施進(jìn)行精準(zhǔn)打擊，把對平民的傷害降至最低。”以色列媒體也曾數(shù)次強(qiáng)調(diào)，人工智能平臺生成的攻擊目標(biāo)名單十分精準(zhǔn)，不會傷及無辜。以色列《新消息報(bào)》稱：“目標(biāo)管理部會盡最大努力，確保無辜平民不受牽連。”一名曾在以軍擔(dān)任要職的知情人士透露：“在襲擊之前，我們會測算建筑物中滯留的平民數(shù)量，數(shù)據(jù)十分精確。按照撤離率的高低，我們會給出紅、黃、綠等不同顏色的信號標(biāo)識。”

然而，人工智能與武裝沖突領(lǐng)域的專家卻對此持保留意見。雖然人工智能系統(tǒng)生成了更精確的攻擊目標(biāo)，但專家們并不確信無辜平民的傷亡會有所減少。“第36條”是一個(gè)致力于減少武器傷害的國際人道法律咨詢組織。其負(fù)責(zé)人理查德·莫伊斯指出，以色列空襲對加沙地帶造成的嚴(yán)重?fù)p害顯而易見。“你們看看加沙的航拍圖，繁華的城區(qū)被重型爆炸性武器夷為平地，滿目瘡痍。以色列軍方的‘精準(zhǔn)打擊’‘縮小攻擊范圍’等說辭都是毫無事實(shí)依據(jù)的。”

以色列國防軍在2023年11月公布的數(shù)據(jù)顯示，自10月新一輪巴以沖突爆發(fā)以來，以軍在35天內(nèi)對加沙地帶的1.5萬個(gè)目標(biāo)進(jìn)行了打擊。這一數(shù)字顯著超過了以往在人口密集的沿海地區(qū)進(jìn)行的軍事行動。作為對比，在2014年一場持續(xù)51天的巴以沖突中，以軍攻擊的目標(biāo)數(shù)量為5000至6000個(gè)。

多名消息人士透露，在以色列軍方對“被標(biāo)記為哈馬斯成員住所的建筑物”發(fā)動襲擊前，目標(biāo)管理部的研究人員便已對平民死亡人數(shù)有所預(yù)期。據(jù)稱，以軍會為每個(gè)攻擊目標(biāo)建立信息檔案，包含一個(gè)名為“附帶傷害分”的指標(biāo)，用以預(yù)估此次襲擊可能造成的平民死亡人數(shù)。一名曾在2021年前在以色列國防軍中負(fù)責(zé)策劃攻擊行動的消息人士透露：“決定是否襲擊某一目標(biāo)的權(quán)力掌握在當(dāng)班指揮官手中。某些指揮官尤其傾向于采取激進(jìn)行動。我認(rèn)為我們造成的平民傷亡數(shù)量已經(jīng)多到令人難以接受了。”

即便如此，以色列軍方發(fā)言人依然宣稱：“以色列國防軍遵循國際法律，實(shí)施了切實(shí)可行的預(yù)防性措施來減少平民傷亡，與哈馬斯蓄意襲擊以色列平民形成鮮明對比。”

| 大型屠殺工廠 |

了解“福音”平臺的消息人士透露道：“借助人工智能工具，以軍鎖定目標(biāo)的速度大幅提升。目標(biāo)是自動生成的。我們有一份檢查清單，工作完全依照清單開展，和工廠流水線沒什么兩樣。我們的工作節(jié)奏非常快，沒有時(shí)間去深入探究任何一個(gè)目標(biāo)。生成的攻擊目標(biāo)數(shù)量越多，研究人員的業(yè)績就越好。”

另一位知情人士稱：“有了‘福音’的以色列國防軍仿佛運(yùn)營著一間‘大型屠殺工廠’。質(zhì)量不重要，數(shù)量才重要。每次襲擊前，都有人會核查目標(biāo)信息，但也只是草草走個(gè)過場而已。”

人工智能與國際人道法領(lǐng)域的專家對這種情況表示憂心。斯德哥爾摩國際和平研究所的研究員瑪爾塔·伯說：“如今，自動化系統(tǒng)對人類復(fù)雜決策的影響已超出合理范圍。盡管人類參與決策過程并最終定奪，但依然會過度依賴系統(tǒng)，產(chǎn)生‘自動化偏見’，盲目相信系統(tǒng)生成的建議。”

莫伊斯指出，“使用‘福音’等人工智能工具時(shí)，指揮官只是被動地拿到一份算法生成的攻擊目標(biāo)名單。他們并不知道這份名單是如何生成的，也未必有能力去分析及核查這份名單。這存在一定的風(fēng)險(xiǎn)。當(dāng)人類過度依賴人工智能，就會變成機(jī)械化流水線中的一環(huán)，不再有能力去權(quán)衡分析平民的傷亡風(fēng)險(xiǎn)。”

編輯：侯寅