中國(guó)率先發(fā)起規(guī)范軍用人工智能國(guó)際倡議

蘭順正

2021年12月13日，聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)在日內(nèi)瓦開幕。會(huì)上，中國(guó)裁軍大使李松提交了中國(guó)《關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》。該文件聚焦人工智能軍事應(yīng)用涉及的研發(fā)、部署、使用等重要環(huán)節(jié)，就如何在軍事領(lǐng)域負(fù)責(zé)任地開發(fā)和利用人工智能技術(shù)提出解決思路。這是中國(guó)首次就規(guī)范人工智能軍事應(yīng)用問題提出國(guó)際倡議。

隨著技術(shù)的進(jìn)步，人工智能正得到越來越廣泛的應(yīng)用，對(duì)軍事的影響也被各方所重視。有觀點(diǎn)認(rèn)為，未來人工智能有可能發(fā)展成為一種與核武器、飛機(jī)、計(jì)算機(jī)、生物技術(shù)齊名的變革性國(guó)家安全技術(shù)，將導(dǎo)致國(guó)家安全領(lǐng)域戰(zhàn)略、組織、優(yōu)先事項(xiàng)和資源分配的重大變化。鑒于軍用人工智能的重要性，世界主要大國(guó)紛紛投入精力研究、發(fā)展之，并已取得不少成果。與此同時(shí)，國(guó)際上各種與人工智能技術(shù)研發(fā)和應(yīng)用相關(guān)的爭(zhēng)論與擔(dān)憂隨之而來，在軍事領(lǐng)域的應(yīng)用更是毀譽(yù)參半。不少人擔(dān)心有朝一日人工智能通過不斷的學(xué)習(xí)，萌生脫離人類控制、獨(dú)立自主行事的傾向，進(jìn)而與人類發(fā)生沖突，甚至走上濫殺、奴役、滅絕人類之路。

目前，軍用人工智能的發(fā)展主要集中在三個(gè)方面。第一，自主情報(bào)分析。機(jī)器算法擁有快速、準(zhǔn)確、無疲勞等特點(diǎn)，可以高速開展目標(biāo)識(shí)別和數(shù)據(jù)分析，提取有效情報(bào)，將海量數(shù)據(jù)轉(zhuǎn)換為有價(jià)值的信息。2017年以來，美軍一直致力于在Maven項(xiàng)目框架下，將人工智能集成到現(xiàn)有目標(biāo)偵察和識(shí)別系統(tǒng)中，這種目標(biāo)探測(cè)和殺傷系統(tǒng)在伊拉克、阿富汗和敘利亞使用，積累了一定實(shí)戰(zhàn)經(jīng)驗(yàn)。

第二，自主指揮控制系統(tǒng)。人工智能可以依據(jù)戰(zhàn)場(chǎng)情況和作戰(zhàn)需求的變化發(fā)展，動(dòng)態(tài)生成作戰(zhàn)指揮命令，快速實(shí)現(xiàn)作戰(zhàn)形態(tài)的自我聚合與分解，為作戰(zhàn)指揮提供前所未有的自治性和靈活性。美軍正在開發(fā)能夠?qū)膽?zhàn)術(shù)到戰(zhàn)略級(jí)不同規(guī)模軍事行動(dòng)進(jìn)行集中指揮和協(xié)調(diào)的人工智能多域指揮與控制系統(tǒng)（MDC），類似的基于人機(jī)共生智能的戰(zhàn)役-戰(zhàn)略級(jí)指揮系統(tǒng)也在研發(fā)之中。俄羅斯的指控基礎(chǔ)設(shè)施建設(shè)也出現(xiàn)了人工智能元素，尤其是在規(guī)劃和決策支持平臺(tái)發(fā)展方面。

2021年11月7日，尼加拉瓜舉行總統(tǒng)和議會(huì)選舉，民眾前往位于首都馬那瓜的投票站投票。

第三，自主武器。根據(jù)美國(guó)國(guó)防部2012年作出的定義，自主武器系統(tǒng)是“一種激活后就無需操作人員進(jìn)一步干預(yù)，可以自主選擇和攻擊目標(biāo)的武器系統(tǒng)”。國(guó)際紅十字委員會(huì)（ICRC）2014年將自主武器系統(tǒng)定義為“可以獨(dú)立選擇和攻擊目標(biāo)的武器，即在獲取、跟蹤、選擇和攻擊目標(biāo)等關(guān)鍵功能方面具有自主權(quán)”。

在上述三個(gè)軍用人工智能發(fā)展領(lǐng)域里，前兩類雖然參與作戰(zhàn)行動(dòng)的策劃與指揮，但畢竟沒有“親自動(dòng)手”。而自主武器系統(tǒng)的最大特點(diǎn)是能在不依賴外界指令和設(shè)備支持的情況下，于復(fù)雜的作戰(zhàn)環(huán)境中，依靠人工智能系統(tǒng)獨(dú)立做出開火決定，讓機(jī)器決定人的生死。因此，國(guó)際爭(zhēng)論的焦點(diǎn)更多集中在自主武器研發(fā)領(lǐng)域。

現(xiàn)在爭(zhēng)論的核心是“自主武器該不該被使用”。對(duì)于大規(guī)模應(yīng)用自主武器的后果，國(guó)際上存在較大分歧。一種觀點(diǎn)認(rèn)為，智能化自主武器系統(tǒng)不僅能使人與武器實(shí)現(xiàn)實(shí)質(zhì)性分離，使實(shí)際傷亡率無限趨近于零，而且自主武器系統(tǒng)無需考慮自身安全，不受主觀情緒左右，具有“理性優(yōu)勢(shì)”，加上更快的信息處理速度，武器使用效率和不同武器之間的協(xié)作也將大大提升，可以最大限度地幫助軍方獲得戰(zhàn)場(chǎng)主動(dòng)權(quán)。

另一種觀點(diǎn)則認(rèn)為，擺脫人類控制的自主武器系統(tǒng)將使戰(zhàn)爭(zhēng)變得更加冷血，在戰(zhàn)場(chǎng)上被授予“自由開火權(quán)”的人工智能可能會(huì)自作主張濫殺無辜，導(dǎo)致攻擊范圍、時(shí)間和毀傷程度等方面的諸多不確定性，進(jìn)而加劇危機(jī)意外爆發(fā)和升級(jí)的風(fēng)險(xiǎn)。如果讓機(jī)器來決定人類生死，也會(huì)使人類缺乏對(duì)殺戮行為的道德負(fù)擔(dān)，其結(jié)果必然會(huì)使殺戮變得毫無人性。

中國(guó)人工智能技術(shù)研發(fā)起步較晚，但由于受到國(guó)家高度重視和支持，發(fā)展迅速。從國(guó)際上各種權(quán)威統(tǒng)計(jì)看，中國(guó)的人工智能相關(guān)專利申請(qǐng)數(shù)量從2011年開始逐步增長(zhǎng)，2015年起呈現(xiàn)爆發(fā)式增長(zhǎng)。目前，中國(guó)人工智能產(chǎn)業(yè)規(guī)模繼續(xù)增長(zhǎng)，應(yīng)用范圍持續(xù)擴(kuò)大，人工智能產(chǎn)業(yè)市場(chǎng)的人力物力投資也在不斷增加。與此同時(shí)，國(guó)家不斷出臺(tái)各類政策扶持人工智能產(chǎn)業(yè)發(fā)展，如2017年國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，2019年以來中國(guó)政府又先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等文件，明確了人工智能治理框架和行動(dòng)指南。

中國(guó)積極參與聯(lián)合國(guó)“致命性自主武器系統(tǒng)”問題討論，推動(dòng)各方達(dá)成11條指導(dǎo)原則。2021年5月中國(guó)擔(dān)任聯(lián)合國(guó)安理會(huì)輪值主席期間，主持召開“新興科技對(duì)國(guó)際和平與安全的影響”阿里亞模式會(huì)議（聯(lián)合國(guó)框架下一種新興的非正式秘密會(huì)議模式），推動(dòng)安理會(huì)首次聚焦人工智能等新興科技問題，為國(guó)際社會(huì)探討新興科技全球治理問題提供了重要平臺(tái)。在此次會(huì)議期間，李松指出，規(guī)范人工智能軍事應(yīng)用有利于增進(jìn)國(guó)家間互信、維護(hù)全球戰(zhàn)略穩(wěn)定、防止軍備競(jìng)賽、緩解人道主義關(guān)切，也有助于打造包容性和建設(shè)性的全球安全伙伴關(guān)系，在人工智能領(lǐng)域推動(dòng)構(gòu)建人類命運(yùn)共同體。

中方在此次聯(lián)合國(guó)《特定常規(guī)武器公約》審議大會(huì)上提交的《立場(chǎng)文件》主張：各國(guó)尤其是大國(guó)應(yīng)本著慎重負(fù)責(zé)的態(tài)度在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)，不謀求絕對(duì)軍事優(yōu)勢(shì);人工智能軍事應(yīng)用不應(yīng)成為發(fā)動(dòng)戰(zhàn)爭(zhēng)和謀求霸權(quán)的工具，不能利用人工智能技術(shù)優(yōu)勢(shì)危害他國(guó)主權(quán)和領(lǐng)土安全;應(yīng)堅(jiān)持以人為本、智能向善原則，確保相關(guān)武器及其作戰(zhàn)手段符合國(guó)際人道主義法，避免誤用惡用和濫殺濫傷;應(yīng)確保相關(guān)武器系統(tǒng)不脫離人的控制，不斷提升人工智能技術(shù)的安全性、可靠性和可控性;應(yīng)加強(qiáng)對(duì)人工智能潛在風(fēng)險(xiǎn)的研判，降低擴(kuò)散風(fēng)險(xiǎn);應(yīng)建立普遍參與的國(guó)際機(jī)制，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。

在自主武器應(yīng)用方面，中國(guó)的態(tài)度與美國(guó)明顯不同。2018年3月，美國(guó)在向聯(lián)合國(guó)政府專家組會(huì)議提交的文件中曾強(qiáng)調(diào)，“致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)可以提高國(guó)家運(yùn)用武力時(shí)降低平民傷亡風(fēng)險(xiǎn)的能力……較之壓制或禁止致命性自主武器系統(tǒng)領(lǐng)域新興技術(shù)的做法，美國(guó)選擇鼓勵(lì)相關(guān)領(lǐng)域技術(shù)創(chuàng)新”。很明顯，中方的主張是從全人類福祉出發(fā)的，兼顧了發(fā)展和安全，體現(xiàn)了大國(guó)擔(dān)當(dāng)。相信未來會(huì)有更多“中國(guó)好聲音”在人工智能發(fā)展規(guī)劃領(lǐng)域發(fā)出。