軍用無人系統(tǒng)的合法性及未來挑戰(zhàn)

陳會斌 曾楊智

2017年，聯(lián)合國在日內(nèi)瓦舉行《特定常規(guī)武器公約》框架下可致命性自主武器系統(tǒng)第二次正式專家會議，來自聯(lián)合國《特定常規(guī)武器公約》締約方的幾十個國家、地區(qū)和國際組織（包括如聯(lián)合國裁軍研究所、國際紅十字委員會等）參加了會議，其中包括中國外交部和國防部也派遣代表參會，與會人員對可致命性自主武器系統(tǒng)特別是其定義以及對倫理道德和國際法的沖擊進行了激烈討論。

軍用無人系統(tǒng)因其零傷亡和對復(fù)雜任務(wù)的良好適應(yīng)性，被認(rèn)為將是繼火藥和核武器發(fā)明之后的革命性武器，它的廣泛使用將完全改變現(xiàn)有的戰(zhàn)爭形態(tài)和格局，甚至改變戰(zhàn)爭的本質(zhì)，因而受到各國的高度重視。但是，軍用無人系統(tǒng)自主性的發(fā)展和作戰(zhàn)運用對倫理、道德、法律層面所帶來的挑戰(zhàn)，也引起了國際社會的廣泛關(guān)注和擔(dān)憂，國際輿論和立法將深刻影響和制約軍用無人系統(tǒng)發(fā)展與運用的走向。

隨著人工智能和信息技術(shù)發(fā)展，技術(shù)層面基本上已經(jīng)不再是制約軍用無人系統(tǒng)發(fā)展的瓶頸，各種軍用無人系統(tǒng)，特別是以無人機為典型的軍用無人系統(tǒng)已廣泛應(yīng)用到軍事領(lǐng)域并在反恐領(lǐng)域取得實效。可致命性自主武器系統(tǒng)就是在無人化平臺上搭載可致命性武器載荷的軍用無人系統(tǒng)。

一些激進的和平組織和人士將自主武器系統(tǒng)稱呼為“殺人機器人”。研究國際社會對軍用無人系統(tǒng)發(fā)展的方向輿論，特別是其在倫理道德以及國際法層面所帶來的挑戰(zhàn)，可以對未來軍用無人系統(tǒng)發(fā)展趨勢做出有意義和有效的前瞻，對于我國和軍隊發(fā)展運用軍用無人系統(tǒng)、合理規(guī)避國際爭議，具有一定的戰(zhàn)略價值。

以美國為例，美國的地面無人系統(tǒng)，如角斗士多用途無人戰(zhàn)車已大量列裝海軍陸戰(zhàn)隊。執(zhí)行偵察、戰(zhàn)場運輸和排雷等任務(wù)的專用機器人如第一眼、非洲獵豹等也投入了使用。海上方面，美國研發(fā)了多種可長時間自主巡邏海岸、港口并識別可疑船只的無人巡邏艇，正在試驗的無人潛航器可執(zhí)行偵察監(jiān)視、探雷掃雷和攻擊等任務(wù)。無人機方面，1995年7月，捕食者無人機首次加入巴爾干地區(qū)的軍事行動以來，美軍的無人機已被先后部署到本土以外的8個國家。特別是“9·11”事件以后，美國開始在全球部署可致命性無人機。據(jù)美國智庫機構(gòu)新美國基金統(tǒng)計，2004年—2013年，無人機在巴基斯坦和也門共執(zhí)行過428次攻擊任務(wù)，造成2439～3982人死亡；其中在巴基斯坦境內(nèi)攻擊355次，造成2003～3321人死亡。在2017年5月份召開的致命性自主武器系統(tǒng)專家會議上，巴基斯坦用了長達5頁紙的內(nèi)容表達了對未來自主武器系統(tǒng)的深切擔(dān)憂。

現(xiàn)有軍用無人系統(tǒng)的合法性問題

研究現(xiàn)有軍用無人系統(tǒng)的合法性問題，有效運用和發(fā)展現(xiàn)有軍用無人系統(tǒng)技術(shù)是十分必要的。對現(xiàn)有的軍用無人系統(tǒng)，可將其分為非致命性軍用無人系統(tǒng)和可致命性軍用無人系統(tǒng)分別進行討論。

非致命性軍用無人系統(tǒng)的合法性問題。一般來講，非致命性軍用無人系統(tǒng)多應(yīng)用于偵察監(jiān)視、障礙物清除、搜索營救、爆炸物拆除、生物化學(xué)武器探測等非戰(zhàn)爭軍事行動和反恐領(lǐng)域。通過應(yīng)用這些非致命性軍用無人系統(tǒng)，可以使原本需要由士兵執(zhí)行的任務(wù)由無人系統(tǒng)來執(zhí)行，有效降低士兵傷亡率；一些不適宜由人類執(zhí)行的復(fù)雜環(huán)境的任務(wù)也可以交由無人系統(tǒng)執(zhí)行，提高任務(wù)效率。很多技術(shù)專家強調(diào)機器人技術(shù)的“雙重使用屬性”，強調(diào)不能因為害怕致命性自主武器系統(tǒng)的潛在威脅就停止發(fā)展人工智能和自主系統(tǒng)，因為它們可以很完美地應(yīng)用在民事領(lǐng)域以及非戰(zhàn)爭軍事行動中，“可以給我們的生活帶來積極的改變”。

現(xiàn)有可致命性軍用無人系統(tǒng)的合法性問題。現(xiàn)有致命性軍用無人系統(tǒng)都是由人類遠(yuǎn)程操控進行的，一般認(rèn)為，目前尚未出現(xiàn)完全意義的致命性自主武器系統(tǒng)。對于現(xiàn)有致命性軍用無人系統(tǒng)的合法性，國際社會頗有爭議。“探討致命性軍用無人系統(tǒng)的合法性，一般是看該種新形式、新手段的武器是否嚴(yán)格遵守軍事沖突的國際法律”。所有這些新武器都必須嚴(yán)格遵守國際人道主義法的基本規(guī)定，包括區(qū)分原則、比例原則、軍事必須原則以及人權(quán)原則。

《1949年8月12日日內(nèi)瓦公約關(guān)于保護國際性武裝沖突受難者的附加議定書》（第一議定書）就區(qū)別原則和比例原則做出了規(guī)定，要求攻擊行動應(yīng)限于軍事目標(biāo)，平民和平民目標(biāo)不得作為攻擊目標(biāo)，并且禁止實施可能給平民生命、健康、財產(chǎn)或三者同時造成意外損害，與預(yù)期的具體和直接軍事利益相比損害過大的攻擊。以攻擊型無人機為例，它是由戰(zhàn)斗人員進行操控并下達攻擊命令，其本身并不能自主飛行（僅在無人機與操作人員失去聯(lián)系的時候，無人機才會加載自動飛行模塊進行自動返航）和攻擊。其作戰(zhàn)的軍事必須性是由作戰(zhàn)司令部或者作戰(zhàn)指揮員決定和負(fù)責(zé)。戰(zhàn)斗人員通過遠(yuǎn)程畫面對敵方戰(zhàn)斗人員和平民進行區(qū)分然后攻擊。攻擊使用的是掛載的導(dǎo)彈，與一般飛機無異。

因此，承擔(dān)戰(zhàn)爭責(zé)任的決策者和行為主體都是明確的，武器使用的也是常規(guī)的導(dǎo)彈，我們可以認(rèn)為現(xiàn)有的以攻擊型無人機為典型的可致命性軍用無人系統(tǒng)本身是合法的。

但是正如奧地利專家擔(dān)憂的：“我們非常懷疑一個預(yù)先程序化的無人武器系統(tǒng)能夠在一個人類遠(yuǎn)程的控制下，通過人類對情況的判斷，做出準(zhǔn)確而必要的決定。也就是說，如何讓我們相信殺傷性的武力是否是在某個人類控制下，針對每個情況，理性而準(zhǔn)確的做出決定，從而使該個人類能夠在國際法約束下履行責(zé)任。”這種擔(dān)憂是有道理的，因為比例原則的根本意義在于當(dāng)保護不可能是絕對的時候，應(yīng)秉承善意，用人道和軍事需要這兩項原則互相制約，從而達到最大程度保障無辜平民生命權(quán)的目的。

然而基于兩方面的原因，可致命性無人系統(tǒng)可能更容易造成不必要和不成比例的平民傷亡。一是軍用無人系統(tǒng)給攻擊策劃者和實施者創(chuàng)造一個與現(xiàn)實割裂的虛擬的戰(zhàn)場環(huán)境，難以讓操作人員全面掌握真實而準(zhǔn)確的戰(zhàn)場信息，尤其是在準(zhǔn)確辨識攻擊目標(biāo)方面。二是操控者置身事外的心態(tài)不利于其以克制的情緒操控武力。有操控者在接受媒體采訪時表示，按下導(dǎo)彈發(fā)射按鈕的那一刻是他最有成就感的時候。操控者在進行操作的時候可能會形成一種進行電玩游戲的心態(tài)，其動用武力的意愿在不經(jīng)意間就遭到了強化，有可能對平民等非軍事目標(biāo)造成不必要的傷害。

未來可致命性自主武器對國際社會帶來的挑戰(zhàn)

軍用無人系統(tǒng)的未來發(fā)展趨勢可能使其目前的合法性質(zhì)出現(xiàn)變化，國際人道法中非常重要的“馬頓斯條款”就規(guī)定：在國際人道法未包括的情況下，“平民和戰(zhàn)斗員仍受來源于既定習(xí)慣、人道原則和公眾良心要求的國際法原則的保護和支配。”隨著技術(shù)的發(fā)展，無人系統(tǒng)必將向自主化方向發(fā)展，發(fā)展為可致命性自主武器，而可致命性自主武器系統(tǒng)可以自主決定行進路徑、自主進行目標(biāo)搜索和判別并自主進行致命攻擊的機器特性，將嚴(yán)重挑戰(zhàn)現(xiàn)有倫理道德和國際法對現(xiàn)代戰(zhàn)爭的約束。具體表現(xiàn)在以下幾個方面。

嚴(yán)重挑戰(zhàn)現(xiàn)有國際法對于戰(zhàn)爭主體的定義。無人機如果完全自主選擇、識別、攻擊目標(biāo)，那么這種無人機很難僅僅被視為一種武器，而是具有某種程度人類才具有的“主體”地位。國際人道主義法從產(chǎn)生到至今，關(guān)注的一直都是人的問題，如對作戰(zhàn)方法和手段的限制、戰(zhàn)俘待遇、平民的保護等，所有的原則、規(guī)則和制度都是從人的角度出發(fā)，通過人來解決。機器以及人與機器之間的關(guān)系，在國際法中迄今為止未列入考慮范圍。那么如果一個自主武器殺害了平民，究竟誰該承擔(dān)責(zé)任，是追究自主武器自身的責(zé)任還是其設(shè)計者的責(zé)任，抑或可能存在的操控者的責(zé)任，還是或者說沒有人該被追究責(zé)任？這種“反客為主”的無人機不僅對現(xiàn)有倫理道德構(gòu)成威脅，而且對國際人道主義法存在本身也形成根本挑戰(zhàn)。

嚴(yán)重挑戰(zhàn)現(xiàn)有國際法的基本原則。國際人道主義法的基本規(guī)定，包括區(qū)分原則、比例原則、軍事必須原則以及人權(quán)原則。殺人機器人如何在瞬息萬變的戰(zhàn)場上瞬間區(qū)分?jǐn)橙撕推矫穸徽`傷平民，如何能在復(fù)雜戰(zhàn)爭環(huán)境下仍能作出在國際人權(quán)法律要求下的決定，嚴(yán)格遵守國際人權(quán)法都不能得到保證。機器人只能執(zhí)行人類預(yù)先設(shè)定的程序，目標(biāo)是否可以通過某種算法結(jié)合某種生理特征而被鎖定或者區(qū)分，比如“大胡子”，那么是否意味著所有的有“大胡子”的都是敵人或者恐怖分子？而且對一個機器人武器來說，判斷一個人是否離開戰(zhàn)斗、失去戰(zhàn)斗力的評價也存在很大的問題。造成人類死亡的決定是由沒有感情的機器決定的，這也是對人類生命權(quán)和生命尊嚴(yán)的侵犯，嚴(yán)重違反了國際人權(quán)法的人權(quán)原則。機器畢竟是冰冷的機器，不是有血有肉的人類，不具備人類天生所具有的悲憫和善良，不具備倫理和道德的觀念，他們只會嚴(yán)格的執(zhí)行任務(wù)，殘酷的殺死一切鎖定目標(biāo)，而不管正確還是錯誤，都嚴(yán)重違背了國際人道主義法的基本原則。

自主武器發(fā)展還將加劇損害不發(fā)達國家及其人民的人道主義權(quán)利，引發(fā)全人類的生存危機。正如聯(lián)合國法外處決、即決處決或任意處決問題特別報告員克里斯托夫·海恩斯所說：“人們不應(yīng)當(dāng)忘記，飛機最初在武裝沖突期間使用時也只是用于偵察目的，不考慮為進攻性目的使用。后來的經(jīng)驗表明，一旦相關(guān)技術(shù)日臻完善，最初的考慮和保證往往被拋擲腦后。”當(dāng)發(fā)達國家自主武器發(fā)展到一定程度，他們未必能阻止甚至可能樂見投入使用致命性自主武器，因為使用機器人意味著“零傷亡”，但是這是一場非對稱戰(zhàn)爭，是一場一邊是機器人而另一邊是人類的戰(zhàn)爭，這嚴(yán)重?fù)p害了不發(fā)達國家及其人民的人道主義權(quán)利，必將促進各個國家展開新一輪軍備競賽，成為引發(fā)全球戰(zhàn)爭威脅的誘因，帶來全人類的生存危機。

自主武器泛濫將會導(dǎo)致全球恐怖主義泛濫。致命性自主武器將如同核武器一樣，同樣帶來擴散的威脅，放任致命性自主武器的發(fā)展和泛濫，恐怖組織和不法分子必將大肆利用致命性自主武器，從而導(dǎo)致全球恐怖主義的亂潮。2015年11月，“伊斯蘭國”在巴黎和馬里的恐怖主義行動造成了大量無辜平民的死亡。各個國家和國際社會應(yīng)該仔細(xì)考慮這項技術(shù)落入如“伊斯蘭國”等激進的恐怖組織手中的后果。這些群體大量依賴于自殺性爆炸事件達成其戰(zhàn)術(shù)和戰(zhàn)略目的。落入這些團體的手中的致命性自主武器將造成比他們使用自殺性爆炸更大的影響后果。此外，這還可以防止他們招募的新兵的死亡。

國際社會如何應(yīng)對未來可致命無人武器系統(tǒng)

現(xiàn)階段軍用無人系統(tǒng)仍屬于合法武器的范疇，其對國際法的挑戰(zhàn)主要集中在可能違反比例原則、造成過分平民死傷或民用物體毀損上，以及由此產(chǎn)生的責(zé)任問題。但是從現(xiàn)實來看，美國等軍事強國仍將繼續(xù)大力推進致命性無人系統(tǒng)研發(fā)，致命性自主武器也有可能落入恐怖分子手中，研究軍用無人系統(tǒng)發(fā)展的倫理道德困境和國際法理發(fā)展具有重要意義。國際人道主義法以及聯(lián)合國《特定常規(guī)武器公約》一直設(shè)法將武裝沖突帶來的影響限制在一定范圍內(nèi)的規(guī)則，國際法未來可能會從以下方面應(yīng)對軍用無人系統(tǒng)對倫理道德和現(xiàn)有國際法的挑戰(zhàn)。

有可能會頒布一個預(yù)先禁令。有鑒于未來可致命性自主武器系統(tǒng)所帶來的威脅，一些國家呼吁對致命性自主武器頒發(fā)一個預(yù)先禁令，正如日內(nèi)瓦公約第一附加議定書第36條規(guī)定：“在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時，締約一方有義務(wù)斷定，在某些或所有情況下，該新的武器、作戰(zhàn)手段或方法的使用是否為本議定書或適用于該締約一方的任何其他國際法規(guī)則所禁止。”在統(tǒng)一的監(jiān)督、法律、應(yīng)用框架建立前暫停致命性自主武器的研究、生產(chǎn)、部署和使用。但是一些國家有可能會利用技術(shù)的“雙重使用屬性”，搞表面一套背后一套，表面遵守禁令，開發(fā)自主系統(tǒng)的民用發(fā)展用途，但其實亦可以快速部署于軍事用途。因此一旦頒發(fā)這個禁令，必須加強對這個禁令執(zhí)行的監(jiān)管。

在《特定常規(guī)武器公約》平臺上建立統(tǒng)一的框架和協(xié)議，用于審查、監(jiān)督致命性無人系統(tǒng)的發(fā)展和應(yīng)用，增加致命性無人武器研發(fā)的透明性。致命性無人武器審查的目標(biāo)應(yīng)該是確保系統(tǒng)不會因系統(tǒng)故障或意外失控繼續(xù)作用，并導(dǎo)致意外傷害。同時加強對致命性自主武器系統(tǒng)進行控制，防止致命性無人武器系統(tǒng)的非法獲得。同時應(yīng)嚴(yán)格測試系統(tǒng)應(yīng)對網(wǎng)絡(luò)攻擊的堅韌性，編程錯誤和部署錯誤發(fā)生時的應(yīng)對以及評估，嚴(yán)格遵守第36條附加協(xié)議。

為可致命性無人系統(tǒng)增加有意義的人類控制。各國都強調(diào)致命性無人系統(tǒng)對國際人道主義法原則的嚴(yán)格遵循，因此必須對可致命性無人系統(tǒng)增加有意義的人類控制，使機器人在選擇、識別、攻擊目標(biāo)時絕對由人類控制，而不是由機器自主選擇。這一點是《特定常規(guī)武器公約》致命性自主武器系統(tǒng)專家會議所有國家和組織的共識。正如聯(lián)合國日內(nèi)瓦辦事處執(zhí)行總干事Michael Moller所說：“人類最終的生命權(quán)應(yīng)該掌握在人類自己手上。”

強調(diào)指揮鏈責(zé)任。作戰(zhàn)系統(tǒng)的自動化并不意味著他們不是由人部署或控制的。即使是自主武器，在作出最初部署決定時，也必須有人監(jiān)督和控制。無論什么情況下，使用致命武力都應(yīng)該有一個負(fù)責(zé)任的人。責(zé)任和問責(zé)制是國際人道主義法的核心內(nèi)容。在軍事活動方面，問責(zé)是承認(rèn)和對其決定、行動及其后果承擔(dān)責(zé)任，因此必須有一個授權(quán)的軍事目標(biāo)。國際人道主義法規(guī)定，指揮官有“防止在其統(tǒng)率下的武裝部隊人員和在其控制下的其他人破壞國際人道主義法”的責(zé)任。這些人是責(zé)任最初的歸屬，責(zé)任會沿著指揮鏈往上追溯。加強指揮官責(zé)任，追究指揮鏈責(zé)任，并通過國際法律立法加以實現(xiàn)，可以有效解決可致命性無人系統(tǒng)的法律和責(zé)任問題。

結(jié) 論

軍用無人系統(tǒng)作為一種新型武器，對國際政治和國際法律造成了諸多挑戰(zhàn)。因此，國際社會特別是軍事大國應(yīng)盡快規(guī)范軍用無人系統(tǒng)的研發(fā)、部署和使用規(guī)范。對此，中國也應(yīng)該積極應(yīng)對，主動參與相關(guān)會議討論和法律法規(guī)制定，探討適合中國國情和發(fā)展的軍用無人系統(tǒng)的研發(fā)、部署和使用規(guī)范，而不應(yīng)只關(guān)注于軍用無人系統(tǒng)的技術(shù)本身，為我國發(fā)展和運用軍用無人系統(tǒng)合理規(guī)避爭議，提高軍用無人系統(tǒng)的國際話語權(quán)做出努力。

責(zé)任編輯：彭振忠