自主武器違反國際法的責任認定

張玉玲

(中央財經大學 法學院， 北京 100081)

在當前社會，科技的進步給社會帶來了巨大的福利，同時也威脅著社會。2018年，優步(Uber)的無人駕駛 Uber SUV，在美國亞利桑那州坦佩市測試中發生致命車禍，該事故發生時Uber車輛處于自動駕駛模式。2019年，10架無人機攻擊沙特國家石油公司，這起襲擊導致石油產量減少過半，受此影響國際油價創下近4個月以來的最高值。這些事件讓人們開始思考人工智能技術的負面影響。將來自主武器投入戰場，替代人類成為未來戰場上的主角，做出違反國際的行為時，相應的法律責任該如何認定？文章首先討論自主武器法律地位的確立，其次闡述責任的基礎理論，再次指出自主武器責任認定的困境，最后指出自主武器責任認定時需要思考的問題，以及自主武器責任承擔方式。

1 自主武器法律主體地位的確立

法律責任的認定，首先需要明確責任主體，當自主武器違反國際法，發生侵害人類的行為時，究竟由誰來承擔責任呢？自主武器本身是否可以承擔法律責任？自主武器具有人類相似的一些特性，它擁有獨立思考和深度學習的能力，可以自主決策。這些特性能否讓法律賦予它獨立的法律地位呢？關鍵是看它是否可以具有法律人格。按照目前自主武器的發展和各國的態度來看，自主武器可以具有法律主體地位。

1.1 確立自主武器法律主體地位不存在法律障礙

法律人格，即在法律上享有權利并承擔義務的法律資格，包括自然人與以公司為代表的法律擬制主體兩類。自然人受到情感和道德的約束。從生物學上講，自主武器與人類的產生方式雖不同，但隨著神經網絡、情感計算等技術的成熟，自主武器逐漸擁有情感與機器理性。自主武器真正投入戰場時自處于強人工智能階段，它的特點在情感、理性與倫理約束上與人類類似，完全可以成為權力享有者與義務承擔者。此外，法律既然可以賦予公司成為法律上擬制的主體。同樣，確立自主武器法律上主體的地位是不存在障礙的。

1.2 法律主體地位逐漸被一些國家認可

2010年，日本的一只寵物機器人獲得戶籍，發明人是它戶口簿上的父親。這意味著日本政府是以人類的標準對寵物機器人進行管理，一定程度上承認了寵物機器人的法律主體地位。同樣，美國對待人工智能類產品的態度逐漸發生變化，2016年，美國國家公路交通安全管理局(NHTSA)在一回函中表示，可以將自動駕駛系統視為“駕駛員”。歐盟于2017年2月通過《關于機器人民事法律規則立法建議致歐盟委員會的報告草案》，在決議第59段建議對自主機器人擁有“電子人”地位，承認機器人在法律上特殊的主體地位。更令人驚訝的是，2017年10月，沙特政府授予“女性”機器人索菲亞公民身份。雖然全球范圍內確認人工智能主體的做法仍屬少數，甚至一些僅為建議，但是人工智能類產品的法律主體地位的確立有現實可行性。

1.3 有利于更好地規制自主武器

自主武器的特性決定了它與傳統武器的不同，它改變了武器與人之間的關系。自主武器作為一種新型的事物，按照傳統的武器審查機制，自主武器會面臨審查時機、審查內容和測試評價體系缺失的挑戰。此外，武器是軍事力量的體現，是一國的軍事秘密，武器審查的透明度要求無法滿足。因此，為了更好地規制自主武器，承認它的法律主體地位。針對這一特殊并且不斷發展的法律主體，國際社會需要共同制定規制規則，共同治理。

2 責任認定的理論基礎

常言道，“有法律，斯有社會”，而“無責任，便沒有法律”，法律責任在社會秩序的構筑中發揮著重要的作用。自主武器違反國際法時，責任形式通常表現為兩種：一種是個人責任，另一種是國家責任。個人責任與國家責任不一定同時發生，一個行為引發國家責任，不一定引發個人責任，反之亦然。

2.1 個人責任

個人責任的發展是一個復雜的過程，開創追究個人刑事責任先河的是紐倫堡審判和東京審判。20世紀90年代，國際司法機構相繼產生，南斯拉夫國際刑事法庭和盧旺達國際刑事法庭，審判了大屠殺、種族清洗等反人道罪，大大維護了國際社會的穩定。21世紀初，羅馬國際刑事法院成立，它對嚴重的國際犯罪具有管轄權。《國際刑事法院羅馬規約》(以下簡稱《羅馬規約》)第25條規定了個人承擔國際刑事責任的要件，核心是“主客觀相統一與罪刑相適應”的原則[1]，這也是對被告人權的保護與尊重。例如，在國際法上，戰爭罪是自主武器最容易引發的犯罪，它要求行為人在主觀上具有明知或者應知的故意，客觀上實行了犯罪行為。此外，根據犯罪的人數以及犯罪中發揮的作用，還可以將違反國際法的行為人分為正犯和從犯。

2.2 國家責任

19世紀，西方國家瘋狂開拓海外殖民地，當時國家責任關注的重點是海外僑民的利益，國家必須以“最低國際標準”保護外國人的人身安全和財產安全，否則就要承擔相應的責任。這是西方列強維護海外殖民統治和投資的需求。20世紀60年代，大量國家通過民族革命獲得獨立，他們反對西方列強強加的不平等義務，國家責任的范圍也發生變化。以聯合國國際法委員會《國家對國際不法行為的責任條款草案》(以下簡稱《國家責任條款》)的誕生為標志，它的范圍從單純保護海外僑民人身和財產利益擴展到一般國際不法行為和國際罪行的所有不法行為。換句話說，國家的某一行為被認定為國際不法行為，那么該國家就應承擔國際法上的責任[2]。可歸責于國家和違反國際法規則被認定為國家責任的必要要件。即需要滿足可歸屬于國家的行為的主觀要件，和該行為違反國際法規則的客觀要件[3]。國家不可能對其國內的一切行為承擔責任。2001年編制的《國家責任條款》第4～11條明確列舉了可歸屬于國家的行為，即國家整體負責原則、國家實際意志原則、國家責任追認原則以及越權行為不免責原則[4]。核心點是機關或者個人是否事實上行使了國家權力[5]，機構的行為客觀要件的國家法規則，即對國際義務的違反。這些義務的來源包括國家條約、國際習慣法等。此外，一些免責事由可以讓國家免除國家責任，他們包括一國的同意、不可抗力、對抗措施和危難緊急情況等。

3 責任認定困境

雖然自主武器可以具有法律主體地位，承擔一定的法律責任，但當它違反國際法的行為時，除了認定個人責任之外，國家責任同樣需要認定。

3.1 個人責任認定的困境

自主武器與人類一樣，具有獨立的法律主體資格。當它違反國際法時，需要承擔國際法上的個人責任。國際法上的個人責任，包括單獨的犯罪和共同犯罪，自主武器既可以單獨犯罪也可以伙同他人構成共同犯罪。

3.1.1 自主武器單獨犯罪的責任認定既然自主武器擁有完全的法律主體地位，那么它就可以承擔法律責任。一般而言，人類戰斗員違反國際人道法的原因，大致分為五種情況：被誘導實施犯罪；戰爭目的的需要；機會主義；社會心理；個人原因[6]。并且每一層次的原因還可以分為不同的情況，如社會心理原因還包含融入了某一等級內部和道德脫離、團體影響力等。因此，人類戰斗員違反國際人道法的行為是一個復雜的過程，必須要求戰斗員違反國際法的行為是符合主客觀的統一性。擁有法律主體資格的自主武器，它有比人類戰斗員更復雜的地方，表現在自主武器違反國際法的行為復合性，它的行為是人類編制的核心算法和后天習得經驗的復合。核心算法帶有編寫者的意志，人類安排的供自主武器后天學習經驗的戰爭數據也是如此。自主武器主觀要件的認定就會變得更加復雜，難以認定。

3.1.2 共同犯罪的責任認定由于自主武器的非天然性，自主武器違反國際法行為時，使人們總會聯想到藏在它背后的那些人。自主武器擁有自我決策的能力，它可以與這些人進行合作，構成法律上的共同犯罪。根據《羅馬規約》第25條規定的伙同他人實施犯罪，即多人、由實施犯罪的共同計劃并對犯罪計劃具有必不可少的作用[7]。

首先，“共謀”的認定。實施共同的犯罪計劃，表意行為人必須針對要發生的行為具有共同的謀劃、計劃，即具有“共謀”的前提。這也是有學者主張自主武器的犯罪“故意”是否能夠同自然人主體共同故意構成犯罪即共同犯罪問題，也是自主武器承擔責任的前提[8]。但是，如何認定自主武器與人類之間的“共謀”行為？在國際刑法中并不存在明確的定義。

其次，共犯主體的認定。雖然自主武器發生違反國際法的行為時，自主武器是直接的實施者，應當承擔直接的刑事責任，但不能排除存在其責任主體的可能性。自主武器有可能被當作實施犯罪的工具，《羅馬規約》規定的間接正犯，它要求幕后的參與者對行為者具有直接的支配作用。指揮官授權部署自主武器，對自主武器輸入行動命令指令。程序設計生產商親自編制自主武器的核心程序，是自主武器的直接創造與控制者。他們都可能成為幕后參與者，對自主武器的意志施加控制，利用它進行犯罪。某一國際罪行，是自主武器獨自的故意行為，還是指揮官的單獨授意或者程序設計生產商的有意為之，他們究竟誰是自主武器的真正控制者，誰是真正的責任主體，自主武器單獨負擔法律責任，還是指揮官與程序設計生產商同樣是責任主體？

最后，共犯因果關系的認定。某一行為違反國際法罪行追究法律責任時，因果關系成為追究責任的前提。雖然《羅馬規約》對因果關系并未做出規定，但紐倫堡審判和前南刑庭在法庭都對因果關系提出了要求。自主武器的自主行為，很容易中斷與其他行為人的行為與結果之間的因果關系，如程序設計生產商原本讓自主武器產生A類的行為，但是自主武器卻自主做出了B行為，那么程序設計者的行為就與最后的違法結果無直接因果關系。

3.2 國家責任認定的困境

國家只對歸屬于國家的行為負責，那些非代表國家行為的自主武器，發生違反國際法的行為，國家責任的認定就會面臨著困難。即使發生了國家的責任，國家還可以以不可抗力為由申請免除國家責任。由此看來，國家責任的認定并不是一件容易的事情。

3.2.1 國際不法行為正如2019年的10架無人機對沙特國家石油公司的突然襲擊那樣，將來戰場上可能出現一些不明來歷的自主武器，進行大肆屠殺。他們沒有明確的國籍與實際控制國家，他們憑借自身先進的裝備控制整個戰場。當這種極端情況出現時，生產的國家不明，使用的國家不明，它們的來源不明，它們所犯下的國際罪行，應該由哪個國家來承擔責任？

3.2.2 國家以不可抗力為由免責某一行為是在不可抗力的情況下發生的，那么國家的責任就可以免除。《國家責任條款》關于不可抗力的規定，如果一個國家有不可抗拒的力量或該國無力控制、無法預料的事件發生，該行為的不法性即告解除。即使將來自主武器擁有了法律上獨立的主體地位，由于它具有深度學習的特性，也可能超越人類的控制，發生不受控制的違法行為，那么，此時國家就很可能以不可抗力作為推卸責任的借口。

4 責任的認定

自主武器觸犯國際法時，責任的認定存在困難。自主武器的發展已經成為一種不可阻擋的趨勢，如果我們采取一味地回避，任憑自主武器去破壞國際秩序，威脅國際社會的安全與穩定，那么我們的生活將時時處于不安之中，也沒有所謂的幸福，自主武器違反國際法的責任的認定勢在必行。

4.1 責任認定需要考慮的問題

目前的法律體系是以人為中心建立起來的，在法律建立之初也從未想過讓一個武器來承擔責任，科技的進步終將會改變這一切。因此，將來的法律必將做出必要的調整，以適應自主武器給我們帶來的責任認定難題。

4.1.1 調整國際法上個人責任的構成要件自主武器與人類之間存在差距，專門為人類而設計的國際法無法滿足自主武器的需求。個人刑事責任的主客觀要件是對人提出的，必須探究行為人的主觀惡性，做到主客觀相統一，才能對它追究責任。但是，針對自主武器而言，它們的生理需求與對生存環境的要求，決定了它的主觀惡性與人類不同。于是，我們無法將法律上原本的構成要件適用到自主武器上，結合自主武器可再生性與生產的非天然性，在追究自主武器的刑事責任，只參考客觀要件即可。避免因為主觀要件無法查明，而讓它逃避法律責任。

4.1.2 增加無過錯的歸責原則在國內法的產品責任，生產制造商需要承擔無過錯責任。但在國際法上并不存在這樣的歸責原則，這使得自主武器的生產程序商不能滿足共同犯罪的情況，可能會逃脫法律責任。指揮官在不能滿足自己的控制行為與自主武器違法行為后果有因果關系時，逃脫法律責任。如果，國際法上承認在此情況下實行無過錯責任，那么生產程序設計商終身要為自主武器的行為負責，這樣將促使他設計更加安全的程序。指揮官對參加戰斗的自主武器也會增加更多的關注與控制，盡力避免自主武器發生違反國際法的行為。

4.1.3 自主武器進行登記，確屬國籍考慮到自主武器將來超越人類的可能性，各國應盡量不生產自主武器。如果生產自主武器，則國家必須對其進行登記，明確其國籍，否則不能投入戰場上使用。此外，國家對自主武器應實行終身負責制，即使將來發生了不可控的行為，國家也不能以不可抗力為由免責。

4.2 責任承擔方式

個人責任與國家責任是國際法上的兩種責任形式，個人責任的目的是對違反國際法的行為人進行懲罰，以防止他再次做出不法行為。國家責任不是刑事責任，不能對國家施加刑罰，它主要表現在經濟的補償上。

4.2.1 個人責任自主武器違反國際法時，需要追究相關責任主體的法律責任，否則無人對自動機器造成的傷害負責，就會出現有罪不罰的問題自主武器發生違反國際法的行為時，可以忽略自主武器的主觀構成要件，僅從違反法律上的客觀行為來認定它的犯罪行為。自主武器的懲罰方式區別于人類，包括徹底報廢或者摧毀核心系統的做法。與此同時，自主武器與程序設計生產商或指揮官也不構成法律上的共同犯罪，而是根據無過錯的歸責原則，程序設計生產商與指揮官需要對自己設計與指揮的自主武器，承擔無過錯責任。

4.2.2 國家責任1949年，《日內瓦第四公約關于保護國際性武裝沖突受難者的附加議定書》第91條要求國家對其組成的武裝部隊的一切行為負責。因為各國總在擔心另一個國家會領先自己武器的技術，要求各國放棄自主研制與使用是無法完全做到的。所以，各國對于登記在自己國家的自主武器負責，即使將來發生不可控的行為，國家也要為其使用和生產的自主武器承擔法律責任。國家責任在性質上屬于民事責任，即對那些造成損害的人或者財產實行經濟上的補償。

5 結語

目前，國際社會討論較為激烈的是對自主武器施加有意義的人類控制。但何為人類有意義的控制，標準是什么，國際社會并未達成一致的意見。隨著人工智能技術的發展，自主武器自主性與深度學習的特性不可忽略。自主武器做出的行為，違反國際法時，必須追究自主武器的法律責任，這樣才能與它的自主特性相匹配。自主武器違反國際法責任認定，存在諸多困境。通過改變法律上的構成要件，以及在國際法上增加無過錯的歸責原則，可以化解個人刑事責任認定的難題。國家對自主武器進行有效的登記，并對自主武器終身負責，在自主武器違反國際法時，可以有效認定登記國的法律責任。