美軍人工智能倫理準則研析

國防大學政治學院 李 澍

“第四次工業(yè)革命”基于信息時代，通過人工智能為核心的顛覆性技術(shù)對信息化產(chǎn)業(yè)再升級，使人類社會邁入智能時代。人工智能是繼電動機、半導體之后新興的“通用目的技術(shù)”，具備賦能全領(lǐng)域的潛力資質(zhì)。國防是國家發(fā)展的保障，各國高度重視人工智能對提升軍隊戰(zhàn)斗力的變革性影響，聚力推動該技術(shù)從民用領(lǐng)域向軍事領(lǐng)域轉(zhuǎn)化運用，旨在搶占科技高地，主動塑造戰(zhàn)略態(tài)勢。美國作為引領(lǐng)軍事革命提升軍隊實力從而維持霸權(quán)的國家，在人工智能軍事化方面走在前列。美國防部部長奧斯汀于2021年7月13日在國家安全委員會人工智能全球新興技術(shù)峰會上指明，人工智能作為革命性技術(shù)，將在新發(fā)布的聯(lián)合全域指揮控制概念（JADC2）的各領(lǐng)域發(fā)揮關(guān)鍵作用。與此同時，奧斯汀強調(diào)，美軍堅持“民主”價值觀，推行以負責為核心的人工智能倫理準則，確保人工智能的開發(fā)、部署和運用始終堅持負責、公平、可追溯、可靠和可治理的原則。結(jié)合美軍歷史行徑來看，其一向善于為軍力發(fā)展編織道德遮羞布，表面上推動科技向善，實則霸權(quán)和冷戰(zhàn)思維當?shù)溃浒l(fā)布并推行人工智能倫理準則具有深刻的軍事考量。

一、貼合國家政策理念

根據(jù)美國國家政治體制，美軍建設(shè)、任務(wù)行動等行政工作受到擁有立法權(quán)的國會監(jiān)督。例如，國防部部長奧斯汀和參聯(lián)會主席米利曾于2021年就阿富汗撤軍一事接受國會參議院軍事委員會的長期質(zhì)詢與批評。美軍為了能夠順利籌措軍事技術(shù)發(fā)展所需資金預算，減少國會干擾，為人工智能技術(shù)制定相應(yīng)準則以彰顯其“民主”價值觀，并和現(xiàn)有綱領(lǐng)性政策保持一致是應(yīng)然之舉，倫理準則自然成為落腳點。

美國國防部于2022年6月發(fā)布的《美國國防部負責的人工智能戰(zhàn)略和實施路徑》中申明，其采用的人工智能倫理準則是基于數(shù)十年來國防部運行的道德、法律和政策框架，而道德原則的重要基礎(chǔ)包括《美國憲法》《美國法典》第十條、戰(zhàn)爭法，隱私和公民自由的保護，以及長期存在的國際公約和價值觀。著眼美軍人工智能倫理準則，其以負責作為統(tǒng)領(lǐng)，將責任觀念貫穿于人工智能的發(fā)展、部署和應(yīng)用環(huán)節(jié)。同時，以公平作為價值導向，旨在減免人工智能無意導致的偏見。負責與公平原則，凸顯美國國防部在遵從國家政策和價值理念的前提下發(fā)展軍用人工智能技術(shù)，既在技術(shù)層面引領(lǐng)先行，也在價值觀層面宣揚其在國際上的“民主”形象。需要注意的是，“美國優(yōu)先”理念仍在發(fā)揮作用，準則的“負責與公平”僅是對本國軍隊技術(shù)發(fā)展負責，僅在本國軍人和公民中消除技術(shù)偏見，至多只在美盟范圍內(nèi)生效。美軍人工智能倫理準則與美國家政策及理念的貼合，意味著同多數(shù)發(fā)展中國家不合，該準則并沒有對國際第三方監(jiān)督持開放態(tài)度，自己既是參賽員，也是裁判員，無益于構(gòu)建各國普遍同意的人工智能倫理準則。

二、消解國內(nèi)反戰(zhàn)情緒

自第二次世界大戰(zhàn)結(jié)束以來，美國為了維護其世界霸權(quán)地位主導國際格局，先后發(fā)動多起干涉主權(quán)國家內(nèi)政的戰(zhàn)爭，而美國普通民眾反戰(zhàn)情緒持續(xù)存在。隨著新興科技軍事應(yīng)用的推廣，反戰(zhàn)主體從普通民眾擴展到學者和科技企業(yè)，他們主張科技向善，不應(yīng)為戰(zhàn)爭服務(wù)。表面上民眾和學者、科技企業(yè)達成了反戰(zhàn)共識，實際上反戰(zhàn)的出發(fā)點并不一致，甚至存在一種二律背反。美軍人工智能倫理準則的推行是對該二律背反的一種解決路徑，起到普遍消解國內(nèi)反戰(zhàn)情緒的作用。

一個軍人背后就有一個家庭關(guān)系，這是軍隊和社會之間的重要聯(lián)結(jié)，關(guān)系到軍隊和社會聯(lián)系程度的深淺。對于普通民眾而言，他們最關(guān)心的是參軍家庭成員的生命，不希望親人在戰(zhàn)場上喪生構(gòu)成了民眾反戰(zhàn)的出發(fā)點。美國參議員提出了“多佛標準”，指通過公眾對戰(zhàn)爭中傷亡人數(shù)的反應(yīng)來說明美國普通民眾是否支持美國參戰(zhàn)或其他軍事行動。前美海軍部部長約翰·華納指出，超過35000人在朝鮮被殺害，在越南的死亡人數(shù)超過50000人，而科索沃戰(zhàn)爭是零死亡。如果戰(zhàn)爭可能造成歷史上的那種傷亡水平，這個國家是不會再允許武裝力量參與其中。針對此情況，以人工智能技術(shù)為基礎(chǔ)的半自主和自主武器理應(yīng)受到普通民眾歡迎——軍人遠離戰(zhàn)場，在機房中進行戰(zhàn)爭。美各軍種圍繞無人戰(zhàn)爭已推出系列發(fā)展框架與計劃，為人工智能技術(shù)運用制定規(guī)劃。而學者、科技企業(yè)對武器的自主化提出質(zhì)疑：人工智能軍事應(yīng)用同人性相違背，其應(yīng)用使消滅生命簡單化，導致戰(zhàn)爭成本下降，人的生命價值被貶低。2018年3月，包括美國、德國、日本、加拿大、中國等多國學者簽署公開信抗議韓國科學技術(shù)院將人工智能技術(shù)應(yīng)用于研發(fā)軍用武器。同年，谷歌公司迫于員工壓力宣布不再與美國國防部續(xù)約“Project Maven”武器自動化項目，以踐行“不作惡”的企業(yè)價值觀。其實，美軍實際進行人工智能軍事應(yīng)用實驗要遠遠早于倫理準則的確立，美國國防部人工智能倫理準則為美軍持續(xù)發(fā)展應(yīng)用人工智能技術(shù)提供道德背書，從而普遍消解反戰(zhàn)情緒。2020年，“不作惡”的谷歌公司同國防部下級單位國防創(chuàng)新部門（DIU）達成云服務(wù)合同以維護國防部網(wǎng)絡(luò)安全，而正是國防創(chuàng)新部門為國防部提供了《實踐中負責的人工智能指南》這一倫理準則實施建議。

三、促進技術(shù)部署落地

美國國防部確立人工智能倫理準則耗時2年。2018年1月，國防部因社會輿論被動認識到人工智能技術(shù)會引發(fā)倫理難題；同年6月，一份公開的國防部人工智能戰(zhàn)略概述中提出，要引領(lǐng)制定合法、合乎道德地使用人工智能的原則；2019年10月，國防部創(chuàng)新委員會提報軍事和非軍事目的的關(guān)于人工智能設(shè)計、發(fā)展、部署、應(yīng)用中的倫理準則；2020年2月，國防部正式采用人工智能倫理準則。美國國防部并沒有止步于闡釋倫理準則的原因與意義，而是以準則為基礎(chǔ)，全面制定人工智能下一步發(fā)展框架，促進技術(shù)更好更快地部署落地。

一是塑形人工智能責任管理。確保在全政府部門建立嚴格的管理結(jié)構(gòu)流程，加強組織能力改進國防部人工智能的監(jiān)督和責任，制定關(guān)于負責人工智能的指導方針政策和激勵措施。實現(xiàn)政府結(jié)構(gòu)、行政流程現(xiàn)代化，減輕人工智能使用的意外后果及偏差。更新作戰(zhàn)能力評估過程，支持倫理準則的實施。

二是建立人員信任感。構(gòu)建強大的生態(tài)系統(tǒng)和配套基礎(chǔ)設(shè)施，安全可靠地開發(fā)和部署人工智能。通過教育培訓，為開發(fā)人員和用戶明確角色和職責定位。建立集成實時監(jiān)控、算法置信度和人員反饋的測試、評估、驗證、確認框架，在人工智能生命周期中納入人員和系統(tǒng)的反饋確保技術(shù)可信，使作戰(zhàn)人員建立起對人工智能作戰(zhàn)能力和先進系統(tǒng)的合理信心。

三是制定生產(chǎn)標準。在人工智能生產(chǎn)和采辦過程中采取謹慎措施確保相關(guān)項目保持前瞻性風險判斷，降低意外后果可能性。研制負責人工智能采辦標準，如公告和合同的語言規(guī)范，指導供應(yīng)商符合倫理準則。開發(fā)和應(yīng)用相關(guān)工具和技術(shù)，并給予實踐經(jīng)驗評估產(chǎn)品風險。同時確保研發(fā)速度同國防部需求匹配，滿足國防戰(zhàn)略。

四是要求技術(shù)驗證。國防部引領(lǐng)開發(fā)可參考的過程，可遵循該過程來編寫測試操作相關(guān)的人工智能程序。通過技術(shù)驗證提高可追溯性，并建立問責制和內(nèi)外部監(jiān)督機制。

五是建立生態(tài)系統(tǒng)。改善政府、學界、工業(yè)界和民間相關(guān)利益者的合作，并與國會就宗旨原則進行接洽，支持其監(jiān)督。在國防部設(shè)立數(shù)據(jù)與人工智能首席辦公室（CDOA）來領(lǐng)導人工智能相關(guān)工作，依托國防部創(chuàng)新部門（DIU）、國防部高級研究計劃局（DARPA）等引領(lǐng)人工智能創(chuàng)新。建立國家和全球負責人工智能生態(tài)，推動形成國際議題，形成基于共同價值觀的國際規(guī)范，提高與盟友的互操作性。

六是塑造人才隊伍。制定國防部人工智能人才管理框架，研究健全的人才培養(yǎng)和引進方案，開發(fā)相關(guān)專業(yè)課程，建立、培訓、評估、保持一支專門的負責人工智能軍事和文職人才隊伍，確保其掌握技術(shù)理念、技術(shù)開發(fā)和使用。

四、壓制對手科技發(fā)展

《2018年美國國防部人工智能戰(zhàn)略摘要》指出，“中國和俄羅斯正在為軍事目的對人工智能進行大量投資，包括對國際秩序和人權(quán)造成挑戰(zhàn)的相關(guān)程序。這些投資可能會抵消美國技術(shù)和運營優(yōu)勢，并破壞自由和開放的國際秩序”。美國國防部強調(diào)其是國際上首個推出具體人工智能倫理準則的軍事主體，旨在率先占據(jù)道德高地，以“自由”“人權(quán)”為著眼點批評中俄等具有實力的競爭對手，實則是壓制對手科技發(fā)展，確保自身的技術(shù)代差優(yōu)勢。奧斯汀聲稱，美國國防部每年和盟友和伙伴國家圍繞人工智能軍事應(yīng)用舉行會議，推進基于共同價值觀的全球規(guī)范。可見，美國意圖同少數(shù)發(fā)達國家結(jié)成人工智能同盟，從美國利益出發(fā)制定全球規(guī)范，排除中俄在內(nèi)的大多數(shù)國家主體，暴露其冷戰(zhàn)思維。美國智庫作為人工智能發(fā)展生態(tài)系統(tǒng)中的重要成分，對如何壓制對手科技發(fā)展提供方案。例如，新美國安全中心的報告中提議通過國防部評估辦公室跟蹤研究中國國防創(chuàng)新生態(tài)系統(tǒng)活動，擴大與中國私營部門的伙伴關(guān)系，獲取研發(fā)進展。同時，限制人工智能技術(shù)的轉(zhuǎn)讓、合作以及關(guān)鍵硬件產(chǎn)品的輸出，阻礙中國利用外國資源支持本土創(chuàng)新。此外，鑒于中國自主創(chuàng)新能力大幅增強，美國應(yīng)加大投資基礎(chǔ)研究、應(yīng)用和教育，吸引高端人才，營造競爭氛圍。

五、推動盟友標準統(tǒng)一

美軍一直強調(diào)加強盟友和伙伴國家之間的軍事互操性，以統(tǒng)一的標準提升協(xié)同作戰(zhàn)效率。美軍領(lǐng)導的位于歐洲的“歐洲捍衛(wèi)者”“快速反應(yīng)”，和太平洋區(qū)域的“環(huán)太平洋”“金色眼鏡蛇”等系列演習中，鞏固加強互操性一貫是演習目的之一。人工智能作為未來軍事戰(zhàn)斗力增長點，美軍意圖構(gòu)建技術(shù)同盟，必然推動標準統(tǒng)一。

第一層維度是倫理準則的統(tǒng)一。隨著美軍推進人工智能倫理準則制定并高調(diào)發(fā)布，其盟友受其影響也先后發(fā)布人工智能準則。2022年6月，英國發(fā)布的《國防人工智能戰(zhàn)略》中指出，要加強構(gòu)建安全的人工智能生態(tài)系統(tǒng)，確保人工智能按照最高道德標準并符合國際法律負責任地使用，使人工智能可信。戰(zhàn)略中同樣強調(diào)要根據(jù)民主價值觀塑造人工智能的全球發(fā)展，將俄羅斯和伊朗視作威脅，并且注意來自中國的挑戰(zhàn)。但該戰(zhàn)略致力于多邊主義，重視聯(lián)合國《特定常規(guī)武器公約》（CCW）審議會議對“合法自主武器系統(tǒng)”（LAWS）的討論，具有一定進步意義。2021年10月，在北約公布的人工智能戰(zhàn)略摘要中羅列了負責地使用人工智能的原則，包括合法性、可解釋性和可追溯性、可治理、弱偏見性，強調(diào)減少其他國家主體對盟國人工智能的干擾。在《北約2022戰(zhàn)略》中，特別說明了中俄的技術(shù)威脅。可見，北約相關(guān)立場基本同美軍準則要求一致。

第二層維度則是技術(shù)標準的統(tǒng)一。技術(shù)標準的統(tǒng)一是重點也是難點，人工智能效用發(fā)揮需要以大量數(shù)據(jù)作為基礎(chǔ)支撐，目前主要國家逐步將數(shù)據(jù)作為國家主權(quán)重要內(nèi)容，關(guān)系國家安危。北約人工智能戰(zhàn)略摘要中針對標準問題僅聲稱將進一步與相關(guān)的國際人工智能標準制定機構(gòu)合作，幫助促進軍民標準在人工智能標準方面的一致性。可以預見，由于數(shù)據(jù)關(guān)系到國家主權(quán)，且美軍本身具有侵犯別國數(shù)據(jù)的歷史污點，美軍欲推動盟友間人工智能技術(shù)標準統(tǒng)一將面臨阻礙。