“機器人殺手”的威脅

胡安·格雷羅++劉夢

科技的進步，讓未來自動武器的自主選擇和攻擊目標成為可能。而這種致命性自動武器系統（LAWS）也被稱作“殺手機器人”，它們可能是安裝了武器系統的飛行器，也可能是安裝了武器平臺的微型坦克，總之，它們可以自行決定讓誰去死。

將這些殺手機器人投入戰場，可以在很大程度上減輕人類士兵的危險和負擔。不過，也有很多人工智能專家擔心這些機器人會帶來更多的危險和安全隱患，比如它們可能會被不道德行為所利用，甚至淪為黑客的操控平臺。盡管如此，近年來全球各國還是紛紛投入到了自動化武器的研發中去。

那么，“終結者”時代真的即將來臨了嗎？

機器人哨兵

夜幕降臨，在朝鮮和韓國“三八線”附近執勤的哨兵也開始感到疲倦，而韓國布置在此的持槍機器人卻依然警惕地監視著方圓幾公里內的情況，它配有高度靈敏的熱感傳感器和紅外夜視攝像頭，一旦發現非法入侵者，會馬上向韓國指揮中心“匯報”，在收到開火命令后，將用其攜帶的大宇K3機關槍或槍榴彈發射器射擊目標。

這款機器人是2006年由韓國三星公司開發的型號為SGR-A1的機器人哨兵，單個造價為20萬美元，主要作用是替代傳統的哨兵來防范軍事區域或國境線的非法入侵者。盡管這個機器人目前還沒有自主決策能力，只能在操控人員的監控下執行守衛任務，但其實它已經裝備有識別敵我的算法，可以通過語音要求目標回復口令來區分敵我人員身份，未來在需要的情況下，它也可以自動偵測、判斷目標并完成自主射擊。

軍事機器人的發展

SGR-A1并不是唯一被用于軍事的機器人，2011年一家白俄羅斯企業就設計出了一款名為Adunok-M的無人駕駛遙控武器平臺。這款機器人擁有履帶系統，就像一輛小型的裝甲車，它還配備有槍榴彈發射器和機關槍，可根據收到的遙控指令攻擊并摧毀800米內的目標。設計人員表示，它還可以根據任務的不同來選擇使用口徑為7.62毫米的輕機槍或是12.7毫米的重機槍。

除此之外，還有美國海軍陸戰隊的“角斗士”作戰機器人、以色列軍隊用于邊境安全任務的“守護者”無人駕駛戰車等等。可見，無人武器系統的時代早已悄無聲息地來臨了。

無人駕駛航空器由美國國防部高級研究計劃局（DARPA）主導開發的X-47B無人戰斗航空器，是人類歷史上第一架無需人工干預，完全由電腦操控的無人駕駛飛機，也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機。

不過，究竟要達到何種自主程度，才能稱得上是完全獨立的軍事機器人呢？按照美國國防部的標準，具備自主性的軍事機器人一旦被投入運行，就必須能自動識別并鎖定目標，然后自主決定應該對其采取何種措施。只要能在無人操控的情況下完成這套程序的，就是合格的自主軍事機器人。目前，美國國防部的標準允許無人武器平臺具備自動和人工操作兩種模式，但就現階段來說，涉及到開火等攻擊任務時，這些武器平臺選用的還是人工操作模式。不過，專家們認為，在現有的技術條件下，開發出成熟的致命性自主武器系統并不是什么難事，長則幾十年，短則幾年就會實現。

爭議不斷的自主武器系統

越來越多軍事機器人的出現，也在國際上引發了越來越多的爭議。很多科學家認為，這類自主武器系統一旦被投入運用，將會引發繼火藥和核武器發明之后的第三次戰爭革命。這并不是危言聳聽，因為就在2015年，一臺“發狂”的機器人就“不小心”將美國一個汽車工廠的裝配工“殺死”了，隨后其家屬以意外致死罪的名義向5家涉案機器人制造商提起了訴訟。

同樣是在2015年，在倫敦舉行的一次科技大會上，著名科學家史蒂芬·霍金就發出警告稱：機器人將會控制人類。霍金說：“在未來100年內，結合人工智能的機器人將會變得比人類更聰明，屆時我們需要確保機器人與我們的目標一致，我們的未來取決于技術不斷增強的力量和我們使用技術的智慧之間的賽跑。”

特斯拉公司CEO埃隆·馬斯克也持有相同觀點。在麻省理工學院發表演講時，他將人工智能機器人描述為人類“最大的生存威脅”，他認為，只需要5年，人工智能就可能給世界帶來極端的危險。

為此，1000多名科技領域的專家和企業家共同發表了一封抵制自動武器的公開信，在信函上署名的包括著名科學家史蒂芬·霍金、特斯拉公司CEO埃隆·馬斯克和蘋果公司共同創始人史蒂夫·沃茲尼亞克。信函中寫道：“今天人類的關鍵問題是，是否要開啟一場全球人工智能武器競賽，還是阻止它的啟動。”

科學家們表示，由于自動武器將使用人工智能來選擇目標，而無需人為干預，所以，這種具有自主決策能力和行為能力的機器人一旦落入恐怖分子、獨裁者和軍閥手中，后果將不堪設想。盡管各國發展軍事機器人的本意是為了減少戰場上的傷亡，但這樣做的同時也降低了人類進入戰場的門檻，甚至可能會加劇大國之間軍事力量的競爭。

停止開發殺手機器人！“停止開發殺手機器人”是2013年由幾個非政府組織發起的運動，他們經常組織類似活動以引起政府和民眾對這一問題的關注，如圖就是他們在倫敦舉行的活動。

國與國之間的分歧

早在2013年，就有非政府組織發起了“停止開發殺手機器人”的活動，他們認為致命性自動武器系統的存在違背了人類的基本尊嚴，讓機器人去選擇殺死誰是十分不人道的，因為機器人可能會被授權殺死任何顯示出潛在威脅行為的人，包括沒有武器的平民百姓。

在社會各界的努力之下，這個問題終于得到了聯合國的重視。2014年，聯合國開始討論致命性自主武器的使用問題，并考慮通過起草國際法來約束殺手機器人技術的開發和傳播。

然而，在2016年聯合國召開的特定常規武器公約討論會議上，聯合國安理會五大常任理事國之中，只有中國明確表態支持制定條約管制機器人武器，美國因為擔心受到軍事上的制約而對此持消極態度，俄羅斯、英國和法國則都沒有明確表態。

在與會的120個國家中，雖然大部分國家都表示會支持聯合國對自主武器系統采取合理管制，但只有19個國家明確表示了應當停止開發和使用致命性自主武器系統，這其中較有影響力的國家只有阿爾及利亞、墨西哥、委內瑞拉、巴基斯坦和埃及這五國。像日本這樣擁有先進機器人技術的國家，因為擔心管制可能影響本國民用機器人的研發，所以對管制措施抱有比較謹慎的態度。不過，大會最后還是決定了要設立正式的專家會議，以便后續討論“殺手機器人”的管制等問題。

戰場效益

是什么讓這些大國在管制自主武器的問題上表現得如此含混和曖昧？答案只有一個，那就是利益。很顯然，這些殺手機器人在戰場上會比有血有肉的人類士兵更有效率，因為它們可以日夜戰斗，不會感到疲倦，不需要食物和睡眠，不會受到生理條件限制，也不會受到情感的影響，在殺人時不會感到恐懼，也不會對敵人產生憐憫，它們只會機械地完成所有設定好的任務。

盡管目前這些殺手機器人造價不菲，但隨著科技的發展以及機器人零件的量產，未來這些機器人的制作成本只會越來越低。相比之下，像美國這樣的超級大國，一旦發生了士兵傷亡事件，政府需要支付平均每人85萬美元的撫恤金給其家屬，從性價比上來說，用殺手機器人替代真人對政府更有利一些。

然而，專家們所擔心的是，一旦這些殺手機器人未來投入戰場，它們能否遵循公認的交戰規則以及遵循倫理道德，它們能否區分敵方的無辜平民和士兵，以及在敵方士兵投降后它們是否還會繼續開火，因為它們畢竟不是人類可以完全控制的無人機，而是具有完全自主性的殺手機器人。

地空自主武器系統

盡管致命性自主武器系統可能給世界帶來種種的危險，但出于軍事利益的考量，許多國家還是在大力研發并投入使用自主武器。

其中，韓國和以色列都已開始使用地空半自動防空導彈系統，美國也開發出了X-47B無人戰斗航空器，這是人類歷史上第一架無需人工干預，完全由電腦操控的無人駕駛飛機，也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機。

對此，俄羅斯也不甘示弱，在俄羅斯最新式的T-14阿瑪塔主戰坦克上也運用了無人炮塔的設計，同時設置了全向光電和雷達探測器以及兩類攔截彈，是迄今為止應用主動防護技術程度最高的坦克，可有效壓制當代西方最常用的三代主戰坦克。

英國也開發了類似美國X-47B式的無人戰斗機“雷電之神”，該機運用了三重飛行管理系統，其中包括飛行導航、引導和控制系統，地面控制系統以及情報、監視和偵察管理系統，同時還應用了包括隱形技術和自動控制技術在內的尖端技術，是英國戰略無人機實驗計劃的一個重要部分。

海上自主武器系統

除了陸地和空中自主武器系統，各國也在競相發展海上自主武器系統，因為海上自主武器不僅能長時間在水上或水下自主航行，還具備智能化控制能力，可實施對重要海域近距離情報偵察、環境數據搜集、水上或水下持久偵察監視、反潛戰、水雷對抗、后勤支援等諸多任務，已經成為全球海軍裝備的一個重要發展方向。

美國是最早開始發展海上自主武器系統的國家，且技術一直處于全球領先地位。由美國國防部高級研究計劃局（DARPA）主導研發的“海上獵人”是一種專用無人艇，雖然艇上無人值守，但它可以兼容遠程監控控制站，并且可以35節（64千米/小時）的速度持續航行48個小時。

在歐洲，法國泰雷茲公司和英國ASV公司也在共同開發一款滿足未來離艦反水雷（MCM）作戰任務的無人水面航行器。這款航行器可以在任何軍事平臺、艦艇、岸上或港口部署，并且可以搭載包括無人潛水器、拖曳式聲納在內的多種反水雷系統，同時它還具有優異的慢速牽引能力，和傳統的裝備相比，它可靠性更高，制造成本更低，將成為未來水雷戰中的關鍵制勝因素。

盡管各國發展致命性自主武器系統的本意，都是為了保護本國的士兵不要受到傷害，但任由這些殺手機器人發展，很可能給人類帶來更大的威脅，因為它們不受任何道德、法律和責任上的約束，隨時可能做出超出人類控制之外的生死決定。

目前，控制這場危機的最好辦法就是出臺相關的國際法律來約束自主武器的使用，但這需要世界各國的共同努力。而現在，我們只有祈禱，希望“終結者”的時代永遠不要來臨。

[譯自西班牙《真有趣》]