論自主武器的人道主義規制

摘要：“有意義的人類控制”作為自主武器軍控的核心概念，對維護國際人道法、明晰自主武器歸責路徑具有重要意義。它強調人類對自主武器的監管，以保證自主武器使用不違背國際人道法的基本底線，符合康德有關道德責任、人類尊嚴的法哲學要義。然而，這一概念的基本要素和法律適用路徑并不明晰，其使自主武器的實際規制效果大打折扣。為保障自主武器的合理應用，可針對“基本要素孤立化”“監管過于關注自主武器運行流程”等問題引入諾埃爾·夏基提出的區分理論，探索對自主武器“分級分類”監管的可行性，確定聯合國《禁止或者限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規武器公約》框架下“有意義的人類控制”的法律地位，進而建立以該理念為指導的自主武器“分級分類”監管框架的國際法適用路徑。

關鍵詞：有意義的人類控制 自主武器系統 國際人道法 分級分類監管

中圖分類號：D99 文獻標志碼：A

DOI：10.3969/j.issn.2097-0749.2024.06.06

引言

近年來，以人工智能為代表的新興技術飛速發展，其在為各領域注入科技活力的同時，也給國際社會治理帶來潛在障礙。2022 年11 月，以ChatGPT 為代表的生成式人工智能一經推出，就引發社會各界對人工智能規制的極大關注。伴隨新一輪人工智能技術的發展，新興科技向軍事領域的持續滲透已成必然，自主武器軍事化應用的普及使自主武器系統成為人工智能安全治理領域關注的焦點。自主武器系統（Lethal Auton8v3as/lD2st3/y8qxAI2Rg==omous Weapon System） 是人工智能技術在武器裝備中的嵌入式應用，以使人工智能在不同程度代替戰斗員操作，加速“OODA回路”（OODA Loop）的循環。人工智能嵌入武器裝備的雙刃劍特性在帶來“精確打擊”“精準測算”的同時，也使人類陷入“道德倫理”的現實風險，引發了人們對“未來自主武器戰爭”的擔憂。雖然目前尚未出現具有完全自主性的武器裝備，但自主武器的“自主性”這一核心特征帶來的倫理爭議與問責困境已經使之成為國際軍控領域關注的焦點。針對自主武器系統軍控的法律規制開始成為國際人道法領域研究的熱點問題，在《禁止或者限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規武器公約》（Convention on Prohibitions or Restrictionson the Use of Certain Conventional Weapons Which May be Deemed to beExcessirely Injurious or to Have Indiscriminate Effects， 以下簡稱《常規武器公約》） 的基本框架下，國際社會圍繞人道主義保護不斷充實自主武器系統的規制思路。2018 年，以《常規武器公約》為平臺的政府專家組會議（Group ofGovernmental Experts） 將“有意義的人類控制”（Meaningful Human Control） 列為規制自主武器系統應遵守的基本原則之一，使“有意義的人類控制”理念逐漸成為規制自主武器系統的指導核心。當前，國內外學者對自主武器系統的研究重點已從理論層面向現實規制層面過渡，其不僅關注自主武器的國際法規制難點，還嘗試建構以“有意義的人類控制”為核心的規制路徑。冷新宇教授認為，“有意義的人類控制”理念能夠幫助構建全流程的監管體系，落實個人責任、國家責任不得轉移給機器的原則。王玫黎教授等指出，可在《常規武器公約》框架下形成“有意義的人類控制”法律原則，實現對自主性武器實施規制。綜合而言，“有意義的人類控制”法律原則的系列研究雖有進展，但更多是理論層面的探討，關于實際適用方面的研究成果略顯單薄。學者喬納森·克威克（Jonathan Kwik） 表示，由于“有意義的人類控制”缺乏明確定義，使其作為政策或立法的可適用性受到限制。例如，當前“有意義的人類控制”的適用范圍與適用程度缺乏明確標準，使其在《常規武器公約》框架下難以奠定基礎法律地位進而發揮效用。因此，在“有意義的人類控制”眾多的概念定義中厘清其基本要素、明確其適用標準是開展“有意義的人類控制”法律適用性研究的關鍵。本文在回應“有意義的人類控制”應該如何適用以有效監管自主武器系統、其實際適用是否有助于提升國際人道法對自主武器的規制效果等問題的同時，將探討“有意義的人類控制”對國際人道法的適用影響、自主武器的責任承擔等問題，在明確“有意義的人類控制”具有實際法律適用性后，重點研究其適用的合理路徑。

綜上，本文嘗試將自主武器系統規制中“有意義的人類控制”作為研究基礎，考察其基本要素與法律適用性，驗證其是否能夠成為規制自主武器的有效規則，并給出推動合理應用的相關建議。第一，對“有意義的人類控制”概念進行深度解讀。在參考國際有關討論成果與新進展的同時，結合康德法哲學理論解釋“有意義”的基本內涵。第二，確定“有意義的人類控制”的基本要素。“有意義的人類控制”的概念模糊性源自基本要素的不確定性，本部分以國際共識為基礎，明確當下“有意義的人類控制”基本要素的“孤立”特性之弊端。在此基礎上引用諾埃爾·夏基（Noel Sharkey） 等學者針對自主武器系統規制提出的“分級分類”監管構想，并與“有意義的人類控制”理念相融合以論證該監管方式的可行性。第三，對“有意義的人類控制”的法律適用性展開研究。重點探索其在國際人道法中的實際適用效果，尤其是對國際人道法中區分原則、比例原則等實際適用方面的影響，為“有意義的人類控制”相關的政策討論提供法律論證基礎。第四，論證“有意義的人類控制”得以適用的國際法路徑，主要從確定其法律地位、構建以其為指導理念的自主武器系統監管框架兩個方面進行構思。

一、“有意義的人類控制”概念解讀

“有意義的人類控制”是在自主武器系統的規制探索中取得的重要進展。“有意義的人類控制”最初由英國非政府組織“第36 條”（Article 36）提出，并逐漸成為《常規武器公約》以及各國和國際組織討論的重要概念。雖然“有意義的人類控制”已處于自主武器系統規制體系的核心地位，但由于國際社會理念、立場的差別使其基本概念并不明確，其基本要素也不清晰。為克服“有意義的人類控制”實際應用的局限，需要對其概念進行再解讀。

（一）“有意義的人類控制”得以形成的基本原理

“有意義的人類控制”主要從倫理學角度審視自主武器系統的應用問題。目前，對自主武器系統倫理道德的質疑主要集中在自主武器對人類造成的殺戮結果中：考慮到自主武器系統的適用可能存在巨大的“責任鴻溝”，無法實現戰后正義規約的責任溯源。更為關鍵的是，自主武器系統可能面臨違背人類尊嚴的風險，因為從理論上講，機器是否可以充當人類的道德代理人，以及自主武器系統適用中面臨的算法黑箱如何應對倫理要求等問題并不明確。自主武器系統的適用除了存在上述風險挑戰，考慮到其可以提高目標打擊精準度等優勢，并可以在一定程度上緩和違反人道危機的現實緊迫性，因此，國際法并未禁止自主武器的開發和部署，而是關注自主武器的使用管制與風險管控。國際社會將“預防性禁止”作為自主武器系統規制的主要理念，重點對自主武器系統的研發、部署、擴散等環節增加倫理設計，確保自主武器系統的適用滿足國際人道法的要求。在這一理念的指引下，“有意義的人類控制”概念得以形成，為滿足自主武器系統適用中的基本倫理要求，將人類對自主武器系統的監管滲透到其運行的全流程甚至包括自主武器系統的設計規劃環節。“有意義的人類控制”概念可以拆分為“有意義”和“人類控制”兩個內核，把握其內涵的關鍵在于準確界定這兩個內核的價值，康德法哲學可以為理解“有意義的人類控制”概念提供一個理論框架。康德法哲學重視道德責任、人類尊嚴的法律價值，認為兩者是社會價值的重要組成部分。人類與動物的區別就在于人類可以有尊嚴地對待彼此，并能認識到道德與尊嚴的重要性。康德認為人性的尊嚴就是可以道德地行動。由此可以推斷出，“有意義的人類控制”中“有意義”需要滿足道德責任、人類尊嚴的基本價值需求，包括人類能夠自愿參與相關行動、自愿干預或放棄行動、承認武力對他人的影響并分辨相關行動背后的倫理價值等；“人類控制”則需滿足“保護人類尊嚴”的要求，充分體現“人是目的”這一價值，應使機器受到人類控制，而非機器控制人類甚至掌握生殺大權。筆者亦認為，“有意義的人類控制”中“有意義”的內涵還在于確保人類對自主武器系統管控措施的有效性，因為自主武器系統并非人類道德上的代理人，保證戰斗人員對自主武器系統的絕對控制權與監管權才能滿足基本倫理的要求。康德法哲學提倡的人類尊嚴有助于厘清責任承擔者在道德價值成熟且行動自由的條件下，承擔損害后果的基本邏輯與適用自主武器的歸責路徑。

（二）“有意義的人類控制”概念的國際探討

伴隨自主武器技術的發展與實際應用，為應對倫理困境，國際社會展開了對“有意義的人類控制”的廣泛討論，各個國家和組織也在試圖給予其合理定義。其中主要包括在《常規武器公約》框架中的“有意義的人類控制”概念、紅十字國際委員會對“有意義的人類控制”概念的界定，以及美國、中國、英國等主權國家對“有意義的人類控制”的理念與概念的界定。

1.以《常規武器公約》為平臺推進“有意義的人類控制”的發展

《常規武器公約》以人道理念為指導，旨在限制具有濫殺濫傷性和過度傷害力的特定武器。目前，《常規武器公約》已成為一個探索如何規制自主武器系統的核心平臺，探討如何解釋并適用“有意義的人類控制”。2018 年起，《常規武器公約》框架下的政府專家組會議開展了對“有意義的人類控制”的概念及構成的討論。2019 年，《常規武器公約》通過了由其政府專家組會議確立的11 項有關自主武器規制的指導原則，并在2020 年、2021 年的會議中對其繼續討論。該指導原則涉及人機互動、國家審查、風險評估、責任承擔等具體措施構想，本質上屬于對“有意義的人類控制”理論的延伸。2023 年3 月6 日，《常規武器公約》框架下政府專家組召開第二次會議，呼吁制定一項限制自主武器系統的全球禁令。但美國表示，此種禁令既不成熟又過于狹窄，其更傾向于更廣泛但不具約束力的“最佳實踐”（Best Practice） 來指導人工智能的軍事應用，因此，美國將繼續堅持“有意義的人類控制”在自主武器領域的適用。

2.紅十字國際委員會對“有意義的人類控制”概念的界定

紅十字國際委員會對“有意義的人類控制”的定義深受非政府組織“第36條”的影響，并在此基礎上進行擴展與明確。非政府組織“第36 條”將“有意義的人類控制”的概念標準概括為以下四個部分：其一，采用可預測且可靠、透明的技術；其二，可提供準確的信息供使用者判斷所處情形及可能產生的結果；其三，及時的人類判斷與行動；其四，具有一定的問責標準。在此基礎上紅十字國際委員會進一步提出“有意義的人類控制”的概念：“有意義的人類控制”是指在自主武器執行任務、攻擊目標、感知作戰環境與作戰地理空間和時間等環節保證人類監督自主武器系統，且保證人類在必要時擁有解除自主武器系統運作的能力。由此可知，紅十字國際委員會對“有意義的人類控制”的關注點在于保證人類對自主武器作用的全流程監管與控制，其在人類對武器運作狀態的感知能力領域提出了更高要求，使得可預測性和可靠性成為“有意義的人類控制”定義中的關鍵點，但目前人類在自主武器系統運作中的參與程度仍存在爭議，其參與方式也并不明晰。

3.主權國家對“有意義的人類控制”理念與概念的界定

2023 年1 月25 日， 美國國防部宣布更新3000.09 號指令（DoD directive3000.09 Autonomy in Weapon Systems），旨在最大限度減少自主和半自主武器系統可能導致意外沖突的故障概率和后果。該指令要求：（1） 自主和半自主武器系統將被設計成允許指揮官與操作人員對武力的使用進行適度人為干預的系統。（2） 授權使用、指導使用或操作自主和半自主武器系統的人員適當地謹慎行事，并遵守戰爭法、適用條約、武器系統安全規則和適用的“交戰規則”。（3）武器系統在現實條件下展示了適當的性能、能力、可靠性、有效性和適用性。（4） 包括AI 功能系統的設計、開發、部署和使用符合美國國防部《人工智能準則：國防部人工智能應用倫理的若干建議》（AI Principles：Recommendations onthe Ethical Use of Artificial Intelligence by the Department of Defense） 和美國國防部《負責任的人工智能戰略和實施途徑》（Responsible Artificial IntelligenceStrategy and Implementation Pathway）。美國認為控制目標環境與自主武器系統的操作邊界對實現自主武器系統的行動目標并保持必要的人類控制水平至為關鍵，新指令承認人為適度干預對自主武器系統軍控的重要性，并明確指出，在自主武器的操作階段也需引入“有意義的人類控制”的設計理念。2023 年5 月，美國、加拿大、日本、英國等六國向聯合國提交《自主武器系統條款草案——基于國際人道法的禁令和其他監管措施》（Draft Articles on Autonomous WeaponSystems—Prohibitions and Other Regulatory Measures on the Basis of InternationalHumanitarian Law），提出了為促進自主武器系統使用符合國際人道法原則的具體措施建議。同月，阿根廷、哥倫比亞、巴勒斯坦、菲律賓等14 國向聯合國提交了《關于自主武器系統的第六附加議定書草案》（Draft Protocol onAutonomous Weapon Systems， Protocol VI，以下簡稱《草案》），呼吁“禁止無法在有意義的人類控制下使用自主武器系統，包括使用無法預測、解釋、理解或追蹤的武器系統”。《草案》將“有意義的人類控制”作為使用自主武器的必要條件，凸顯出其對自主武器規制的重要地位。2023 年2 月21 日，中國發布《全球安全倡議概念文件》（以下簡稱《文件》），強調大力推動人類安全共同體，關注人工智能等新興科技領域的國際安全治理。盡管《文件》中沒有涉及詳細的“有意義的人類控制”理念，但中國“增強對人工智能技術的安全評估和管控能力，確保有關武器系統永遠處于人類控制之下，保障人類可隨時中止其運行”的立場，依然明確了“有意義的人類控制”的重要地位，以確保人類對自主武器的管控滿足法律倫理的要求。

由此可見，在理念層面，諸如美國、英國等軍事強國考慮自主武器在精準打擊方面的優勢時并未禁止自主武器的開發與適用，而是期待通過“有意義的人類控制”的應用達到對自主武器的有效規制，肯定了“有意義的人類控制”在自主武器系統監管中的重要價值，但未嚴格將其作為自主武器應用的前提條件。相比較，諸如菲律賓、巴勒斯坦等缺乏軍事實力的國家雖支持以“有意義的人類控制”作為適用自主武器系統的前置條件，但對“有意義的人類控制”的概念解釋十分苛刻，要求其適用的范圍更廣。綜合“有意義的人類控制”在各主權國家中的發展，以及其重要性有日益提升的趨勢，“有意義的人類控制”的適用范圍也正在向自主武器設計等領域擴展，呈現出全流程的監管態勢。

“有意義的人類控制”是在有關自主武器系統規制的探討中提出的概念，近年來被視為解決自主武器系統違反人道法諸多問題的有效方案，其理念已獲得國際社會的廣泛認可。“有意義的人類控制”概念的發展側重強調人類對自主武器的監管，包含對自主武器使用的可預測性、態勢感知程度、戰爭情形控制、人為干預能力等多方面的要求，以保證自主武器使用不違背國際人道法的底線。“有意義的人類控制”概念應旨在回答“有意義”“人類控制”的內涵，跳脫出概念的界定而直接關注其基本要素并不符合法律論證邏輯。參考紅十字國際委員會對“有意義的人類控制”概念的描述：“有意義的人類控制”是保證在其運作的多個環節實現人類的有效監督并隨時保持人類對自主武器運作的解除權。該描述強調“有意義的人類控制”實際適用的關鍵在于結合自主武器運作的全流程探討其參與度與界限。由此，“有意義的人類控制”基本要素的確定需要結合自主武器作用的全流程，主要討論其參與的程度以及是否應采取針對自主武器系統分類適用的路徑。

二、“有意義的人類控制”基本要素分析

在厘定“有意義的人類控制”概念的基礎上，進一步歸納“有意義的人類控制”的基本要素對后續研究其法律適用有積極的意義。目前，對“有意義的人類控制”基本要素的分析已建立起一套較為完整的研究方法，即在總結國際現有關于“有意義的人類控制”基本要素觀點的基礎上，將其基本要素嵌入“自主武器運行全流程模型”中進行“有意義的人類控制”適用方式與適用界限的探討。但對“有意義的人類控制”的適用方式如果規定得太過詳細且過于聚焦武器應用環節，會使其具體細則因細化過甚影響適用的靈活性，進而影響整體適用效果。近年來，有學者提出“區分理念”，嘗試在區分自主武器類別以及不同自主情形的基礎上分類適用“有意義的人類控制”，類似于“分級分類監管”的法律規制路徑，其具有進步意義。筆者認為，對“有意義的人類控制”基本要素的進一步分析不僅應著眼于具體要素的厘清，更應探索有效的適用方式。在目前的研究方法與相關成果基礎上，筆者以“分級分類監管”理念為指導，探討針對“有意義的人類控制”實際適用的可行性。首先對國際主要觀點進行總結梳理，概括“有意義的人類控制”基本要素的可能組成和現有缺陷，在確定自主武器運作全流程基礎上，引入“有意義的人類控制”并探討依據“諾埃爾·夏基的區分理論”劃定“人類控制”的參與程度與行為界定的“五級”標準的可行性。

（一） 關于“有意義的人類控制”基本要素的國際探討

英國非政府組織“第36 條”首次提出“有意義的人類控制”后，于2016 年發布了“有意義的人類控制”的四種關鍵要素：其一，可預測、可靠和透明的技術；其二，可為作戰人員提供有關技術、環境和可能的作戰方案的準確信息；其三，人類可以有足夠的時間進行判斷、操作、監管以及必要時刻的干預；其四，建立問責機制。2020年，國際機器人武器控制委員會（International Committee forRobot Arms Control，ICRAC）基于《常規武器公約》提出“有意義的人類控制”的基線標準，認為“有意義的人類控制”的基本要素包括：其一，人類指揮員（或操作員） 必須對目標區域具有全面的了解和態勢感知，能夠感知和應對自計劃攻擊后可能出現的任何變化或意外情況；其二，攻擊必須包含人類積極的認知參與，保證有足夠的時間審議目標的性質、攻擊的必要性和適當性，以及攻擊可能產生的附帶和可能的意外影響；其三，必須有迅速中止或中止攻擊的手段等。紅十字國際委員會將“有意義的人類控制”的基本要素確定為四個部分，包括對可預測性、可靠性、可控制性以及問責框架的關注。上述三個機構（組織） 有關“有意義的人類控制”基本元素的比較分析表如下：

國際機器人武器控制委員會對“有意義的人類控制”基本要素的概括是對“第36 條”觀點的擴充，強調在復雜的戰斗情況中人類指揮員（或操作員） 的重要作用，要求戰斗人員增強其對戰爭的態勢感知、理解和判斷能力，保證不被自主武器所取代，但缺少了對自主武器系統可預測性與可靠性的關注和基本歸責框架，過于關注武器應用流程的人類控制。國際機器人武器控制委員會對“有意義的人類控制”的定義基礎是相信人類較自主武器而言對戰爭的可控性更為優越（例如，人類參與控制可避免造成不必要的損失、準確區分平民與戰斗員等情形）。目前，這一前提尚屬于人類控制自主武器的理想化假設，但其符合基本倫理價值，其表達了在使用自主武器系統時對人類的可預測性、及時操控性的重點關切。相對而言，紅十字國際委員會的觀點與“第36 條”則較為相似，對“有意義的人類控制”基本元素的概括均包含了四個種類，其關注人類對自主武器系統流程的干預，并設置了問責框架。但兩者仍存在區別，例如，紅十字國際委員會并未規定自主武器系統技術的透明性。

2020 年，埃克倫德（Eklund） 在一份題為《自主武器系統的有意義的人類控制：根據國際人道法和國際人權法的定義和關鍵要素》（Meaningful HumanControl of Autonomous Weapon Systems： Definitions and Key Elements in the Lightof International Humanitarian Law and International Human Rights Law ） 的報告中以更廣泛的視角對“有意義的人類控制”的關鍵要素進行歸納。研究最終得出了“有意義的人類控制”的六個關鍵元素，為進一步發展“有意義的人類控制”的統一概念提供了堅實的基礎。由此可見，無論官方觀點還是學界研究成果，目前都存在以清單列舉“有意義的人類控制”基本要素的形式。但遺憾的是，“有意義的人類控制”基本要素只是“孤立”標準的集合，并不系統化。將“有意義的人類控制”的適用重點聚焦于武器的應用環節，雖然具有較強的實踐性和技術性，但不利于充分發揮監管效能。目前，國際社會試圖給出“有意義的人類控制”的一個萬能公式，包含具體的關鍵要素并將之運用于所有種類的自主武器系統，但自主武器系統的全流程監管的方式沒有充分考慮自主武器系統的自主性、環境影響等因素，并不科學。諾埃爾·夏基指出，對“有意義的人類控制”基本要素的界定與實際應用，應放棄“統一公式”的方法，轉而使設計更加精細化，能夠采用適當區分的方式實現“有意義的人類控制”。

（二）“諾埃爾·夏基區分理論”對“有意義的人類控制”的適用

諾埃爾·夏基根據自主武器的自主程度差別對“有意義的人類控制”進行分類，用來消除“統一公式”的缺陷。夏基依據武器自主性和人為控制程度將“有意義的人類控制”分為五級監管類別：第一級，負責控制的操作員能夠決定是否與目標交戰、設置目標并發起攻擊。第二級，自主武器的程序系統建議替代目標或給出目標列表時，控制者能夠選擇要攻擊的目標。第三級，程序自動選擇目標攻擊前要經過控制者的批準。第四級，如果自主武器已經作出選擇，目標控制者有足夠的時間和能力可以取消針對目標的攻擊計劃。第五級，自主武器選擇目標并在沒有人為干預的情況下發起攻擊，無須人工參與。以等級劃分為基礎，學者丹尼爾·阿莫羅索（Daniele Amoroso） 和古列爾摩·坦布瑞尼（GuglielmoTamburrini） 繼續提出將一、二等級作為“有意義的人類控制”適用的一般情形，從第三級開始，考慮存在自主武器系統“算法黑箱”以及自動化偏差的情形，三、四、五級只有在例外情況滿足的條件下才能被接受。具言之，如果想要適用高于一級和二級的自主武器，需要簽署適用相應級別自主武器系統的國際協議或是滿足例外情形。例如，可以使用第三級的情形是在公海、沙漠或者以前沒有平民或者不太可能有平民的密閉環境中，第四級情形只能專門用于防御的目的，而第五級原則上不可以被接受，因為使用這個級別的自主武器與“有意義的人類控制”的基本理念相悖。丹尼爾和古列爾摩對高級別的自主武器系統使用做了非常有限的例外，指出在人類控制程度較低且使用自主武器系統可能對人類造成損害后果的情況下，需要對自主武器系統的使用進行嚴格限制。

諾埃爾·夏基提出的區分理論為規制自主武器系統并指導“有意義的人類控制”的適用提供了一種差異化公式。一方面，這一安排相較于對所有自主武器系統適用統一的規制方式更為可行。諸如上述“有意義的人類控制”基本要素的“孤立”清單，雖然具有明確性，但會給國際法的制定造成實質困難，并導致對具有較低自主性的自主武器系統產生不必要的限制。另一方面，“分級分類”的監管模式已成為各領域的常用形式，差異化的“有意義的人類控制”適用方式有助于更好實現國際監管。然而丹尼爾和古列爾摩針對“有意義的人類控制”的實際應用方式是否可行，還需進一步探討。目前尚不確定自主武器系統的發展速度與未來的發展趨勢，考慮伴隨自主武器系統技術的進步，其使用在“有意義的人類控制”的控制下可能比人類本身更加符合國際人道法要求的現實，因此，筆者認為，不應在當前對自主武器系統的適用進行“一刀切”的限制，實質上這種制度設計也會因國際軍備水平發展的差距難以取得國家間的共識。相反，應結合自主武器系統技術的發展和國際社會的現實要求，以“分級分類框架”為支撐融入“有意義的人類控制”理念，優化其對自主武器系統的實際適用效果。因此，針對“有意義的人類控制”的適用方式還需要結合自主武器系統的發展進行動態調整。目前，諾埃爾·夏基提出的五級監管類別為自主武器系統的分類監管搭建了基本框架，未來應關注“自主武器系統的可預測性、可靠性、透明性”“人類的態勢感知、情景控制”“人為干預能力”“責任承擔”等要素如何與分類監管框架相融合，以保證在“OODA回路”中實現“人在循環”的要求。對自主武器系統的設計也應關注“有意義的人類控制”的體現，對完全自主的自主武器系統應對其設計與生產予以堅決排斥。

三、“有意義的人類控制”的法律適用性

依據上文對“有意義的人類控制”的關鍵要素和適用可行性的分析，本部分重點探討其法律適用性，尤其關注“有意義的人類控制”的適用對國際人道法規制自主武器系統的效果。當前國際人道法對自主武器的監管依據主要有兩個：其一，武裝沖突的基本原則，例如，比例原則、區分原則、人道原則等。其二，《1949 年8 月12 日日內瓦四公約關于保護國際性武裝沖突受難者的附加議定書（第一議定書）》［Protocol（I） Additional to the Geneva Convention of 12 Aug. 1949，and Relating to the Protection of Victims of International Arm91315fad2c40266e3ac5e5a2a808933896330c199492a8fe274c3c6a723b6f0bed Conflicts （API）］ 第36 條“關于管制和禁止性質不加區分并造成過度傷害的武器”規則。第36 條規定，締約國在研究、發展、裝備、使用新武器和新作戰方式前負有審查該武器或作戰方式是否被議定書或其他國際條約禁止的義務。在上述兩類監管中，國際人道法的基本原則關注武器使用的過程與結果，屬于事中和事后監管。第36 條審查規則要求締約國自愿履行對新武器或新作戰方式的自主審查，自主審查涵蓋武器的研發到實際使用的諸多流程，屬于事前評估。理論上，以上兩條路徑能夠構建針對自主武器規制的全流程監管，但就目前的實施現狀而言，效果并不顯著。一方面，國際人道法基本原則在自主武器的規制方面存在局限，無法有效適用；另一方面，第36 條審查規則給了締約國武器審查較大自主權。根據條款文義，對新武器的審查由締約國自行完成，并判斷是否違反其他條約或議定書的要求，這一設置將無法檢驗締約國是否對新武器（新作戰方式） 實施了審查，也無法判斷審查結果的客觀中立性，進而影響審查條款的實施效果。為破解國際人道法對自主武器監管的困境，應引入“有意義的人類控制”，加強對自主武器的全流程監管，滿足區分原則、比例原則的要求。

（一）“有意義的人類控制”與區分原則區分原則

對保護不參加敵對行動的個人意義重大，例如，平民、醫務人員和非戰斗人員（包括處于受保護地位的傷病員）。區分原則強調通過區分平民和戰斗人員以及對軍事目標而非民用目標直接行動，來保護平民人口和非軍用設施不受損害。在區分原則對自主武器系統軍控的適用上，關鍵是保障自主武器系統在作戰過程中對發現目標進行準確區分。但依據當前自主武器系統的技術水平，其感知態勢、獲取信息主要依靠于C4ISR 系統（C4 代表：命令Command、控制Control、通信 Communication、計算機Computer；I 代表：情報Intelligence；S 代表：監視Surveillance；R代表：偵察Reconnaissance），該系統是現代軍隊的神經中樞，通過系統中分布的各類傳感器、成像設備、通信設備等因素辨識目標，提高精確度。但在真實戰爭中敵方加以偽裝的情況下，自主武器系統是否還可以做到準確辨識，達到甚至超過人類的判斷水平，尚不確定。如若出現目標識別錯誤的情況，歸責路徑亦不明晰。上述情形均給自主武器系統軍控中區分原則的適用帶來了阻礙與弊端。

針對上述困境，可通過“有意義的人類控制”加強對自主武器系統使用過程中的人類控制，提高自主武器系統打擊的準確度。例如，“態勢感知”和“情境控制”作為“有意義的人類控制”的基本要素之一，要求自主武器系統具有感知和規避危險的能力。為符合“有意義的人類控制”的基本要求，自主武器系統需要人類的積極參與，例如，在設計階段提高自主武器系統評估目標的能力，提高其對戰爭態勢的感知程度。此外，在自主武器系統運行流程中，“有意義的人類控制”的適用涉及某種程度的人為干預和監督，支持對自主武器系統在必要時的人為干預，側重人類對武器能力、限制和功能的理解以應對自主武器系統可能發生故障的情形，避免造成不加區分的傷害后果。此外，“有意義的人類控制”的適用也理清了自主武器系統的歸責路徑。“有意義的人類控制”針對自主武器系統的全流程監管不僅包含自主武器系統的實際運行階段，還包括自主武器系統的設計與研發過程，當存在打擊失誤的情況還可借助“人類控制”的事實而要求國家或個人承擔責任，防止將責任轉移至機器，這也符合歸責的基本邏輯。

（二）“有意義的人類控制”與比例原則

國際人道法的比例原則起源于歐洲中世紀，其內涵是限制軍事行動所造成的不必要傷害，要求軍事行動中造成的附帶傷害與軍事利益成比例，最大限度減少對平民或民用物體等的損害，禁止造成不必要的痛苦。由于比例原則與限制原則類似，均出于人道保護對軍事行動損害采取限制以滿足比例要求，遂本文不再論述限制原則。在探索比例原則對自主武器系統軍控的適用性問題上，核心在于衡量自主武器系統的武裝打擊是否可以滿足比例原則的要求。但事實上，軍事利益和附帶傷害的衡量并非簡單的量化比較，是否可以用計算的方式確定軍事利益與附帶損害的比例關系尚不明確。由于自主武器系統具有人工智能特性，有關算法會相應提升打擊的穩定性和精確度，但考慮自主武器系統還具有“致命性”特征，一旦出現目標打擊失誤的情況，勢必會造成巨大的不必要損失，違反比例原則。可見，傳統國際人道法的比例原則已不再滿足對自主武器系統規制的要求，其適用性也在逐步削弱，亟需探索優化路徑。

由于比例原則主要目的是防止“過度”傷害，側重于限制武力對平民生命和民用物體的傷害和損害，這就要求自主武器系統提高可預測性與可靠性，“有意義的人類控制”基本要素正在促進自主武器系統此種能力的提升。為滿足比例原則的基本要求，目前，戰爭仍需依靠人類指揮官對攻擊的比例和附帶損害做出定性、具體的判斷，因為戰場環境的流動性與多邊性常使人工智能很難準確權衡損失與獲益，更無法考察人類的心理作用，單獨依靠數量的比較更不能達到比例原則的要求。但“有意義的人類控制”基本元素可以對促進自主武器系統識別、感知環境提供指引：例如，在自主武器系統的設計環節，人類對自主武器系統的設計需要符合“有意義的人類控制”理念的基本要求，包括針對自主武器設計促進人為干預的系統、評估目標可靠性的算法、提升傳感器強度、提高空間限制和處理數據能力的必要技術等，用于幫助人類識別自主武器系統的攻擊是否滿足比例原則。在自主武器系統的運行過程中，為符合“有意義的人類控制”“態勢感知與環境控制”的基本要素，人類可通過自主武器系統監測戰場環境，確保平民不進入戰斗、不攻擊非軍用基礎設施。“有意義的人類控制”“保證人為干預”基本要素，還促使人類對自主武器系統的運行可能造成違反比例原則的打擊后果進行有效干預與及時終止，以避免過度的傷害與損失。

四、“有意義的人類控制”適用的國際法路徑

鑒于“有意義的人類控制”與國際人道法的相互作用有利于自主武器系統的監管，《常規武器公約》框架下的專家小組明確表示支持建立適用于包括防空系統在內的所有武器系統的“有意義的人類控制”全球標準，強調在自主武器系統的整個運行過程中納入統一的“有意義的人類控制”標準，包括從武器預開發、測試和評估到武器的認證和部署、指揮和控制測試，甚至是事后評估全流程。如果將“有意義的人類控制”標準進行統一，可為國際社會討論與自主武器系統監管的相關規則提供共同背景支撐，促進以規制自主武器系統為核心的監管條約或附加議定書中法律規制標準的形成。統一“有意義的人類控制”全球標準需要做到對“可預測性”“保證人為干預”等基本要素進行準確界定，提高國際社會對“有意義的人類控制”的認識。此外，以“有意義的人類控制”為中心理念的自主武器系統監管框架應具有合理的靈活性，涵蓋目前種類多樣、定義不明且使用頻繁的自主武器系統，優化對自主武器系統的審查與監管。上述目標的達成需依靠國際法進行，基本路徑如下：一方面，將《常規武器公約》作為“有意義的人類控制”發展的重要平臺，在《常規武器公約》平臺下確立“有意義的人類控制”的法律地位，為促進其適用提供可行渠道。另一方面，在此基礎上，建立并完善以“有意義的人類控制”為基本理念的自主武器系統監管框架，此框架應突出“分級分類監管”特質，并完善問責體系，以此監督各締約國遵守自主武器系統領域的基本監管規則。

（一） 在《常規武器公約》框架下確定“有意義的人類控制”的法律地位

《常規武器公約》作為能夠最大程度保障人道考慮和安全利益平衡的國際法工具，是討論自主武器規制的重要平臺。由于《常規武器公約》擁有多元的參與者、深入的研究基礎，也是最有可能形成具有針對性的、以適用于自主武器軍控制度的場合。“有意義的人類控制”的推廣需要《常規武器公約》的支持，亟待在《常規武器公約》框架下確立“有意義的人類控制”的法律地位。實現這一目標，可通過推動自主武器系統附加議定書的達成，為“有意義的人類控制”法律地位的奠定提供空間。有學者在比較法律規則與法律原則異同的同時，結合“有意義的人類控制”的發展現狀認為由于其具有“有益模糊性”的特點，應推動其設立為自主武器系統附加議定書的法律原則，以滿足“有意義的人類控制”目前具體適用的模糊性。筆者認為，這一觀點對“有意義的人類控制”法律地位的確定提供了基本思路，考慮“有意義的人類控制”對自主武器系統規制的重要作用，無論是將其確定為法律規則抑或是法律原則，目的都是為“有意義的人類控制”的實際適用提供法律來源。無論“有意義的人類控制”上升為法律原則是否可行，達成“有意義的人類控制”的國際認可是推動其實際適用的關鍵。就目前國際社會主流觀點來說，《常規武器公約》框架下政府專家組會議已明確認同“有意義的人類控制”的作用與價值，多數主權國家也對“有意義的人類控制”予以認可，因此提高“有意義的人類控制”的法律地位進而成為規制締約國的法律原則具有可行性。但不可否認，在國際合作趨勢日益下行的今天，全球造法的困難日益加劇、多邊條約的推進難度逐漸加大，推進《常規武器公約》框架下附加議定書的達成也愈發困難。因此，在新議定書尚未達成前國際社會還應借助《常規武器公約》平臺推進各國對自主武器軍控的討論，不斷擴充和完善“有意義的人類控制”的內容（例如，多個國家不斷豐富“有意義的人類控制”的理念、設計“有意義的人類控制”的具體規則），滿足國際人道法比例原則、區分原則等的要求。這一方式可逐步提高“有意義的人類控制”的影響力，確立其國際習慣法地位。

當前，中國積極參與并支持《常規武器公約》框架下政府專家組會議提出的自主武器系統自主武器議定書，但限于我國國內尚無有關法律與政策予以支持，使得推動力明顯不足。未來，中國應積極加入國際社會關于自主武器系統規制的探討，尤其是有關“有意義的人類控制”法律地位的討論，為我國在自主武器領域的國際博弈贏得先機。

（二） 建立以“有意義的人類控制”為基本理念的自主武器系統監管框架

本文主要研究“有意義的人類控制”的基本要素與適用性，因此，在考察其實際適用路徑中著重論證了針對自主武器系統“分級分類”審查與監管的必要性。目前，國際社會針對自主武器系統的監管停留在“有意義的人類控制”對自主武器系統運行全流程的干預，涉及武器的研發、指揮控制等多個領域，并規劃了“有意義的人類控制”干預后應該達到的實際效果。但事實上，目前的自主武器系統各個領域并非完全相同，僅在“自主性”程度領域就有區分。因此，針對自主武器系統的監管應在科學分類的基礎上進行，建立自主武器系統審查機制。對自主武器系統的“分級分類”是“有意義的人類控制”有效適用的第一步，在此基礎上依據自主武器系統等級的劃分針對性地適用“有意義的人類控制”，更有利于自主武器系統的清晰監管，也有利于自主武器系統歸責路徑的明確，從而促進自主武器系統問責體系的建構。具體而言，自主武器系統的監管框架包括自主武器審查機制和自主武器系統問責體系兩個主要部分，應重點在自主武器審查機制的建構中引入“分級分類”的監管理念。

1.建立國際與國內兩個層級的自主武器審查機制

自主武器系統的研發與部署呈現一種必然的發展趨勢，全面禁止自主武器系統的研發逐漸欠缺現實意義與價值。法律審查制度是有效督促自主武器系統的研發、取得和應用符合國際人道法要求的重要機制，在軍事需求的驅動下，借助人工智能技術不斷提升自主武器的性能將成必然，人類對高標準自主武器的追求與西方某些國家消極的法律審查行為之間的矛盾也會日益加劇。為滿足“有意義的人類控制”這一核心理念的要求，建立國內和國際兩個層級的自主武器審查機制將成為遵守和履行國際人道法的可行路徑。在國際層面，可以以《常規武器公約》為平臺確立自主武器系統法律審查機制，包括審查標準、審查機構、審查責任等內容。2006 年紅十字國際委員會出臺了《新武器、新作戰手段和方法法律審查指南》（The International Committee of the Red Cross’ A Guide to LegalReview of New Weapons，Means and Methods of Warfare） 對新武器的審查標準、審查程序等進行規定，卻由于缺乏強制性、規則不夠細致，以及審查標準也不符合自主武器的發展前景而實施效果不佳，未來自主武器審查的法律責任制度的建構將是破題的關鍵。在國內層面，西方各國對自主武器的審查并不積極，目前僅有瑞典、美國、挪威、日本、丹麥等少數國家建立了武器合法性的國內審查機制。在此背景下，中國應積極推動《常規武器公約》框架下自主武器審查機制的制定，不斷完善國內立法，建立國內立法與國際要求銜接的自主武器審查機制，向國際社會輸出中國的自主武器系統軍控理念。

但需要注意，無論是國內還是國際審查機制都應納入“分級分類”的監管理念，在自主武器系統全流程監管的基礎上設立自主武器系統的“分級分類”標準，參考自主武器系統的自主性、殺傷性強弱，由低到高進行等級劃分，對完全自主的、具有致命殺傷力的武器應完全禁止開發和使用，重點對自主性等級較低的自主武器系統進行規制，使監管定位更加準確。另外，針對不同層級的自主武器需要合理設定“有意義的人類控制”的介入環節與實際要求，使監管路徑更加清晰。

2.建構自主武器系統多元化問責系統

“有意義的人類控制”為自主武器系統的歸責提供了可行路徑，但有關自主武器系統軍控的問責體系建構仍需持審慎態度。目前，能夠明確的是：自主武器只有在故意的情況下才可以追究相關人員或國家的刑事責任，且需要滿足國際刑法的基本理論邏輯。美國對自主武器問責體系的建構也基本停留在理論層面，確定以當事人的主觀故意作為問責前提，而對非故意行為只簡單提及具有問責可能性，但具體程序與規定并不明確。由于目前各國針對自主武器規制的態度并不統一，依靠國際法建立對自主武器全流程運行的問責制度尚不現實。因此，自主武器系統問責體系構建的基本路徑是以完善國內法為出發點，繼而促進《常規武器公約》框架下自主武器系統附加議定書的達成。只有以附加議定書中“有意義的人類控制”的適用標準作為指導，才能不斷理清自主武器系統的問責路徑。另外，自主武器系統的具體責任應包括個人責任與國家責任兩個部分。承擔國家責任的情形主要包括國家未盡法律審查義務而產生損害后果的情況，以此呼應國家法律審查制度的建立。承擔個人責任的認定因素眾多，涉及指揮員、戰斗員、設計者、生產商等多個主體，個體的主觀動機是否為故意，是否造成實際損害等，需要結合自主武器的發展程度細致劃分。

五、結語

現代科技不斷推動自主武器的發展，自主武器借助算法技術已經能夠實現自主選擇目標并予以精準打擊。自主武器系統的設計理念體現了智能化、算法化的特征，也體現出其各運行階段的銜接性。由此，自主武器系統的全流程監管方式應運而生，全流程監管強調人類對自主武器的控制，促使“有意義的人類控制”成為自主武器系統軍控領域的核心理念，同時也成為未來衡量人工智能軍事化應用“合法性”“合理性”的重要指標。“有意義的人類控制”的法律適用，其關鍵在于明確標準并確立科學有效的監管路徑，這些需要國際社會的共同努力。未來，針對自主武器系統的規制，國際社會應轉換研究視角：不僅要開展自主武器系統技術的探索，還要著眼于“有意義的人類控制”的實際應用方面，在國際法領域尋找“有意義的人類控制”的適用路徑，以及繼續優化“有意義的人類控制”在自主武器系統監管領域的適用，以更好地保證自主武器的使用符合國際人道法的基本原則和精神，更好地保障人類尊嚴。

（責任編輯：李 娟）