機器人革命：即將到來的人工智能時代

本刊編輯部

機器人保安、機器人司機、機器人售貨員、機器人清潔工、機器人保姆和機器人教師……這些不再只是出現在科幻小說里的職業，而是日本政府即將執行的國家項目的重要組成部分。對于即將到來的機器人時代，人們或心懷喜悅和期待，或滿是擔憂和懷疑。可以確定的是，它將為人類生活帶來一場前所未有的革命。

機器人時代倒計時開始……

在日本，售貨、洗碗、清潔等工作都有相應的機器來完成。對日本人來說，將寶貴的勞動力花費在簡單的機械勞動上非常奢侈。日本勞動力數量正在迅速下降，超過65歲的退休老人占到總人口的1/4。

機器人入侵

日本人對陌生人的不易信任從德川幕府時就開始了。17世紀中葉，日本軍政府實施封閉政策，排斥外國人。日本人民完全與外界隔離的原因是1637年基督教徒的叛亂。他們擔心西方傳教士逐漸征服日本，破壞其獨特的生活傳統，推翻統治階級。在死刑的威脅下，日本人被禁止離開自己的祖國，但同時人們開始建造越來越多的適合長途航行的大型船只。日本“鎖國”政策持續了兩個多世紀。現如今，這個國家98.5%的人口是土著民族。這里不接受廉價勞動力移民，政府打算用機器人填補勞動力的空缺。

2015年1月，日本經濟產業省批準了官方命名為“機器人革命”的工業革命策略。該文件定下了成為“超級機器人強國”的目標，將機器人引入到生活的各個領域，將2020年定為最后期限，并在這一年召開世界機器人峰會。到那個時候，1/4日本大公司的所有工作都將由機器人承擔，它們不僅會在生產流水線上作業，還要在餐館收拾餐盤，在超市整理商品，在酒店清理房間。在俄羅斯、歐洲和美國，這些工作都是由來自貧窮國家的移民完成的。現如今，日本已經在這些領域盡可能用機器代替人。

模擬人類

在東京科學博物館的“未來館”里，隨處可見機器人導游。在日本，很多公司已推出機器人成型產品，既有面向企業的，也有面向大眾的。這些人形機器人價格不菲，從幾萬美元到幾百萬美元不等，其中最有名的當屬日本本田公司出品的ASI-MO機器人。它外形酷似宇航員，具備聽覺和視覺，可以識別人類的面部表情，聽懂人類語言，最重要的是它的手腳可以完成復雜的動作。它的手可以擰開杯蓋，甚至能打出手語，雙腳可離地奔跑，最高時速可達9公里。

在“未來館”里，ASIMO一天出現6次，每次帶游客參觀10分鐘。上午10點是第一次。不同于以往的機械外形的機器人，它與真人相似得可怕：皮膚由硅膠制成，目前看來與人類皮膚并無二致，人造肌肉可以控制面部表情和手勢。2012年，它的創造者石黑浩在莫斯科經濟學院的一次演講中說：“智能機器人可以做很多事，不僅是技術方面的，如清潔或在工廠作業，還可以閱讀電視上的新聞，去學校里教孩子。在一些方面，智能機器人能比人類做得更好，因為它們不會疲憊，出錯率比人類低很多，而且不需要支付薪酬。例如，在用于傳達信息的電視新聞播報行業，智能機器人就比人類做得更好。”

仿生機器人是一種在外觀上模仿人類或其他生物的機器人，日本人近乎狂熱地追逐其中的人形機器人，全世界有四成機器人都由日本制造，日本也是世界上擁有機器人數量最多的國家。

除日本企業外，美國也有公司在研發類似產品，其中一家名為“波士頓動力”的公司近期開始進入公眾視野，該公司成立于1992年并在前年被谷歌收購。波士頓動力一直與美國軍方保持合作，最著名的是機器狗項目。這種機器狗可以在光滑冰面等各種復雜地形行走，即使被踢踹也能保持平衡而不摔倒。同時，該公司還研發有能雙足站立的機器人Atlas，也由美國軍方贊助，它擁有兩套視覺系統，能在崎嶇的地形行走攀登。美國企業顯然是看中了機器人在戰爭中搜索偵查和背馱貨物的能力。

人形機器人在機械方面還存在不少問題，人類四肢的復雜度對于機械部件設計要求很高，而且機器人的直立行走能力還有很大改進空間，從近期國外舉辦的機器人奔跑大賽可以看出，直立行走對于技術積累不足的企業還是很大的挑戰。

石黑浩堅信在不久的將來，智能機器人將像智能手機和電腦一樣，成為人們日常生活里不可或缺的一部分。石黑浩制作的成年智能機器人Tanareid，外形看上去很普通，是一位穿著端莊的女性，微笑著向路過的人招手，眼睛閃爍。在博物館的“未來館”里，Tanareid在服務臺負責咨詢事宜，回答一些簡單的問題，并能與人保持簡單的話題交談。日本孩子們開心地圍繞在它周圍，試圖跟它一起自拍。

“在西方文化中，大規模研制機器人的想法由捷克作家卡雷爾·恰佩克在其作品中首次提到：工廠里的人造工人開始反抗人類。‘機器人這個詞也源自捷克，原意為‘繁重的工作。1923年被翻譯成日語，指智能機械，直譯為‘人造人。也就是說，日本最初就將機器人視為朋友，視為與人類類似的物種。”科學博物館“未來館”的導游說道。

日本廠商在開發智能機器人時很重視心理效應。例如，當機器人看起來像一個孩子時，會讓人有購買、撫養、寵溺它的愿望。該博物館里有一個身高130厘米的兒童機器人，背著一個巨大的蓄電池，看起來像日本動漫里的人物。它可以在博物館隨意走動，向游客展示自己的技能：爬樓梯，玩球，歡迎人們。它可以辨別出移動的物體，還能同時與3人交談。

ASIMO走向展臺，看到很多人已經坐好，拿著各種手機、照相機朝它拍照，它停頓了一下，好像是在計算路徑，稍微改變了前進方向，朝無人的方向走去。走到人群圍繞的圓圈中心，它蹦跳著，繞著房間來回跑，用日語說了些什么后開始唱歌一這是坐在前排的孩子們要求的。

所有這些機器人都還只是雛形，還沒開始量產。但在東京成田機場，機器人服務員已經“上崗”了：播報時間表，為每位候機乘客提供一瓶水。此外，這種機器人已在4所日本醫院投入使用，負責拿藥和其他物品。

拯救孤獨

日本孤獨老人的數量非常龐大。日本政府每年都要為他們生產很多先進的“社交型智能機器人”。日本是世界上退休人數占比最大的國家，約有6萬人超過百歲，有270家養老院有能與老人溝通的智能機器人。

社交機器人胡椒就是專為社交設計的陪伴型智能機器人。購買一個能區分人類情緒，并用笑聲或話語來回應自己的朋友，在日本是完全可行的。但購買前需要在制造商的網站上填寫一份問卷，上傳身份證件，等待認證通過。機器人基本套件只需21.3萬日元，但為了讓機器人充分工作，還必須支付裝配費用，并每月維護和上保險，累計需要118萬日元——約1萬美元。盡管價格高昂，但第一批1000個機器人胡椒在日本一經上市還是在一分鐘內就被搶購一空。

自2015年6月以來，機器人胡椒已售出1萬多個，全額付款后還必須等待26個月才能收到貨。對于那些買不起胡椒的人來說，今年將有一個更廉價的選擇。10厘米高的智能機器人Kirobo Mini是由豐田公司開發的智能機器人司機，司機們再也不用擔心駕駛時注意力不集中或疲勞駕駛了。但這款迷你機器人在銷售之初的目標并不只是作為司機，也是為了陪伴孤獨的日本人。Kirobo可以模仿孩子的動作——坐著、搖晃著，擁有幼兒的音色，能夠識別情緒。如果你的聲音很悲傷，它會講笑話讓你振作起來。

東京千代田區數字秋葉原從前銷售電視機備件，如今已是世界上最大、最新的數字技術市場。晚上，人們來到這里，在大廳里玩傳統的老虎機游戲，在漫畫店看漫畫，緩解白日的壓力。附近是著名的機器人餐廳，大廳里有嗡嗡作響的寵物恐龍機器人玩具，還有機器人大戰表演。機器人、恐龍和變形金剛都是由運營商控制的，不是真的打架，但坐在一旁的年輕人還是會為誰將贏得最后的勝利爭執不休，就像在討論誰會贏得拳擊比賽的世界冠軍一樣，他們手里還拿著寫有自己支持的機器人名字的海報。

餐廳外的小攤上，擺放著各種類型和毛色的數以百計的機器狗。這是日本現在最流行的電子狗AI-BO，是人類歷史上第一個機器人朋友，由索尼公司生產，起初目的不是用于軍事或工廠作業，而只是為了與人交流。小狗會搖晃尾巴討主人歡心，甚至還可以自己充電。購買寵物狗AIBO后，主人需要親力親為地規范它們的行為舉止，教它們如何在家里玩，與真小狗無異。頭幾天，智能狗不能獨自站立，不會玩球和骨頭，不會溝通。如果你在剛買來前幾天就抓緊時間訓練它，幾天后它就能凸顯主要功能，但如果你不持續贊揚它，就可能導致它失去行為能力，甚至永遠失去“智能”：機器狗不再會撿塑料骨頭，說話，看守房子。主人的愛撫和關懷就是它繼續生存的精神電荷。這款智能狗的名字源自一款游戲，官方縮寫為AIBO（Artificial Intelligence Robot人工智能機器人），日語名為“好友”。

機器人引發的信任危機

對于即將到來的機器人時代，人們或心懷喜悅和期待，或滿是擔憂和懷疑。一些機器人的支持者對機器人采取盲目追隨的態度。美國佐治亞理工大學的科學家們在實驗后驚奇地發現，即使急救機器人兩次在模擬火災中帶著試驗參與者兜圈子，導致他們根本走不出火場，他們仍堅定地選擇繼續追隨機器人。“人們高估了機器的認知”，研究者阿蘭·瓦格納說，“他們認為，機器人永遠不會犯錯。”

這種對機器人的過度信任在極端情況下可能帶來致命的后果。特斯拉汽車司機喬什華·布朗正是在車內駕駛時只顧著看電影而徑直撞上了一輛大貨車，而造成這一事故的原因正是社會上普遍流行的對科技的信任。“使用者很快就會對科技產生信任。目前，自動化系統正慢慢進入我們的日常生活，卻無法完全勝任我們所期待他們完成的工作。”來自瑞士蘇黎世科技大學的機器人專家阿蘭·瓦格納說。

和目前在德國蔓延的對科技的敵對態度一樣，盲目的信任也是不可取的。來自圖賓根的馬克斯·普朗克人工智能學院院長斯特凡·沙爾說：“我們必須要讓人們明白，哪些事情機器人可以做，哪些事情不能做。現在很多人害怕機器人有一天會超越我們人類，但這是不可能發生的。”

在機器人已經被投入應用很長時間的日本，人們對機器人的信任最為明顯。“有時候，人們不信任彼此，尤其是老年人對外人更是充滿不信任感。可是對于機器人，他們的態度卻是截然相反的。”日本最有名的機器人研究專家石黑浩通過觀察得出這個結論。如今，機器人被應用到日本人日常生活的很多領域，比如老人看護、家務助手、機場指引甚至酒店前臺接待。機器人被看作受歡迎的生活助手，因為在這里，人口的老年化問題正在日益加劇，而機器人正好可以填補因勞動力短缺而造成的職位空缺。

不過，在德國，對機器人的這種信任就差遠了。在這里，運用機器的領域主要是在工廠。德國和中國、韓國、美國是世界上對于數字設備投入最大的4個國家，同時也是這些設備的受益者。機器人能明顯提高我們的競爭力。知名運動品牌阿迪達斯已啟動一項名為“快速生產”的生產計劃，由機器人和3D打印機來進行運動鞋的生產。而在此之前的23年問，阿迪達斯一直在勞動力廉價的國家進行代工生產。

而在今天的德國，機器人也離開了工廠。在德國電視一臺關于“工作的未來”話題周中，機器被當作“工作殺手”來討論，它們給勞動力市場帶來的影響引發了頗多爭論。“除了工業領域，機器人并不會搶走我們的工作崗位。只有將來出現勞動力短缺時，它們才會被投入使用。比如護理行業。”斯特凡·沙爾說，“如果機器人能夠幫忙照料我91歲的嬸嬸，讓她能夠在自己家里待得更久，這是非常好的事情。”

人工智能構建未來世界

未來的25年，最為重要的技術變化就是這個世界將更加智能化。這是未來的走向，也是人類未來的軌道。

人工智能和人合作效率最高

大多數時候，人工智能在后臺運作，我們看不到它。比如人工智能能夠幫助我們診斷疾病、解決法律問題，在飛機上飛行員可以只操作8分鐘、其他時間由人工智能控制等。這是我們5年前無法想象的，在很多領域，人工智能正在取代傳統的人力。

比如讓人工智能來控制車輛。在過去的一年當中，車禍毀掉了100萬人的生命，但是人工智能控制的汽車不會分心，也不會受到其他事物的影響。在很多領域，人工智能的能力已經超越了人類的大腦功能，比如網絡搜索引擎，它有無限的存儲量，有極快的運算速度，它的能力讓人類望塵莫及。

人工智能和人類的思維方式相去甚遠，它不是類人腦，因此，它和人類的智慧可以相互補充，形成一種互相依賴和共存的關系。在歷史上，工業革命和電氣革命深深地改變了人類社會，人類獲得的能量和自然能量完全不同，比如驅動汽車高速奔馳依靠的就是人造能量。現在，我們每個家庭、每個工廠、每個農場都可以分享這種能量，我們不需要自己創造，而是可以作為價格低廉的日用品來購買，這就解放了很多的創造力。

在今后的25年，人工智能也會像人造能量一樣，變成日用品。比如現在的汽車使用的是人造能量，如果再加入更多的人工智能，就相當于給汽車裝上了“大腦”，它可以和云端、大數據相結合，人工智能就變成了一種與我們的生活息息相關的設施和服務。你不需要創造人工智能，只需要像繳水電費那樣購買就可以了，而且價格非常低廉。

很多人擔心，人工智能取代人力會造成失業，尤其是人工智能現在有了學習能力，它們可以“進化”得越來越聰明。但實際上，這些機器人還會為人類創造更多的工作機會。150年前，70%的美國人都是農民，而現在他們的后代中只有1%是農民。如果回到150年前，你告訴他們說你可能會失業，他們會為科技將偷走自己的工作機會而犯愁，但實際上，科技創造了新的工作崗位，現在的人可以去做房地產，做IT，做金融，而不只是做農民。這些是科技給我們帶來的便利，人工智能也將帶給我們更美好的未來。那些對效率要求非常高的工作，機器人和人工智能當然會取代人類，但是創新是一個不斷試錯的過程，它并不是一個富有效率的過程，這些工作就不能交給機器人來做，機器人無法完全替代人類的角色。

虛擬現實創造仿真世界

我們希望設備和我們進行互動，而不是像機器那樣冷漠。斯皮爾伯格做電影的時候，他通過揮動手臂來和計算機互動。除了手勢以外，還可以通過其他的小姿勢來進行互動，比如，眨一下眼睛，也可以和機器進行交流。而現在的人工智能技術讓我們走得更遠，也更精彩。

現在有一種納米芯片，可以讀取我們的情緒。這種技術可以讓我們進入電腦系統當中去，這就是VR——虛擬現實。就是當你走進一個虛擬的環境當中，相當于你的電腦環繞著你。VR眼鏡是1989年發明的，當時我預測5年內VR眼鏡就會上市，結果我錯了，因為它上市的價格是100萬美元一副，確實太貴了。現在要好多了，大家能消費得起，10年以后每個人都可以使用VR眼鏡了，作為智能手機之后的下一個平臺，VR的天地無限廣闊，我給大家解釋一下原因。

虛擬現實技術有兩種。一種可以讓你有進入式的體驗，戴上VR眼鏡后進入一個完全虛擬的世界，比如恐龍世界和太空中。另一種眼鏡你戴上以后會進入混合現實，即在現實的環境中看到一些并不存在的東西，你甚至可以用虛擬的手去觸摸這些東西，仿佛它們真的存在。設計師可以由此完善設計，用戶也可以體驗自己想買的商品。

另外VR眼鏡還可以作為虛擬的屏幕，我們可以通過它看動畫片、電影、書籍，只要戴上VR眼鏡，很多設備就在你的眼前隨時供你調閱，這就是混合的虛擬現實，它要混合真正的世界和虛擬世界，這是非常偉大的技術。

虛擬現實讓我們感受到了真實的存在，讓我們可以進行體驗、互動，因為它跟真人的動作、語言等一致，能說服我們相信這是真實的體驗。這就是虛擬現實會成為社交化的媒體的原因。虛擬現實最強大的部分就是創造了一個仿真世界，使我們可以體驗到那些不可能在我們生活中出現的事物，這將是一場了不起的變革。

一切皆可追蹤

我們的世界變化的速度讓人難以置信，如果我們穿越時空回到25年前，向朋友和家人解釋現在的智能設備，并且告訴他們很多技術和服務是免費的，他們一定難以置信。所以我們還是要相信未來，包括相信計算機會越來越小，某一天它可能會和人的身體合為一體。30年前，人們會問為什么計算機一定會越做越小呢？但是今天我們住酒店刷的門卡就是芯片越來越小的結果，很多在現在看來是很瘋狂的事情，以后都可能實現。

我相信我們仍然處在變革的第一天。人工智能、虛擬現實等會有很大的變化，并對我們的生活產生變革性的影響。我們處于一個比互聯網更為偉大的變革時代開始的階段，我相信，未來20年最偉大的產品尚未問世，而你現在開始接受、了解它們，為時不晚。

“機器人殺手”的威脅

科技的進步，讓未來自動武器的自主選擇和攻擊目標成為可能。而這種致命性自動武器系統（LAWS）也被稱作“殺手機器人”，它們可能是安裝了武器系統的飛行器，也可能是安裝了武器平臺的微型坦克，總之，它們可以自行決定讓誰去死。

將這些殺手機器人投入戰場，可以在很大程度上減輕人類士兵的危險和負擔。不過，也有很多人工智能專家擔心這些機器人會帶來更多的危險和安全隱患，比如它們可能會被不道德行為所利用，甚至淪為黑客的操控平臺。盡管如此，近年來全球各國還是紛紛投入到了自動化武器的研發中去。

那么，“終結者”時代真的即將來臨了嗎？

機器人哨兵

夜幕降臨，在朝鮮和韓國“三八線”附近執勤的哨兵也開始感到疲倦，而韓國布置在此的持槍機器人卻依然警惕地監視著方圓幾公里內的情況，它配有高度靈敏的熱感傳感器和紅外夜視攝像頭，一旦發現非法入侵者，會馬上向韓國指揮中心“匯報”，在收到開火命令后，將用其攜帶的大宇K3機關槍或槍榴彈發射器射擊目標。

這款機器人是2006年由韓國三星公司開發的型號為SGR-A1的機器人哨兵，單個造價為20萬美元，主要作用是替代傳統的哨兵來防范軍事區域或國境線的非法入侵者。盡管這個機器人目前還沒有自主決策能力，只能在操控人員的監控下執行守衛任務，但其實它已經裝備有識別敵我的算法，可以通過語音要求目標回復口令來區分敵我人員身份，未來在需要的情況下，它也可以自動偵測、判斷目標并完成自主射擊。

軍事機器人的發展

SGR-A1并不是唯一被用于軍事的機器人，2011年一家白俄羅斯企業就設計出了一款名為Adunok-M的無人駕駛遙控武器平臺。這款機器人擁有履帶系統，就像一輛小型的裝甲車，它還配備有槍榴彈發射器和機關槍，可根據收到的遙控指令攻擊并摧毀800米內的目標。設計人員表示，它還可以根據任務的不同來選擇使用口徑為7.62毫米的輕機槍或是12.7毫米的重機槍。

除此之外，還有美國海軍陸戰隊的“角斗士”作戰機器人、以色列軍隊用于邊境安全任務的“守護者”無人駕駛戰車等等。可見，無人武器系統的時代早已悄無聲息地來臨了。

不過，究竟要達到何種自主程度，才能稱得上是完全獨立的軍事機器人呢？按照美國國防部的標準，具備自主性的軍事機器人一旦被投入運行，就必須能自動識別并鎖定目標，然后自主決定應該對其采取何種措施。只要能在無人操控的情況下完成這套程序的，就是合格的自主軍事機器人。目前，美國國防部的標準允許無人武器平臺具備自動和人工操作兩種模式，但就現階段來說，涉及開火等攻擊任務時，這些武器平臺選用的還是人工操作模式。不過，專家們認為，在現有的技術條件下，開發出成熟的致命性自主武器系統并不是什么難事，長則幾十年，短則幾年就會實現。

爭議不斷的自主武器系統

越來越多軍事機器人的出現，也在國際上引發了越來越多的爭議。很多科學家認為，這類自主武器系統一旦被投入運用，將會引發繼火藥和核武器發明之后的第三次戰爭革命。這并不是危言聳聽，因為就在2015年，一臺“發狂”的機器人就“不小心”將美國一個汽車工廠的裝配工“殺死”了，隨后其家屬以意外致死罪的名義向5家涉案機器人制造商提起了訴訟。

同樣是在2015年，在倫敦舉行的一次科技大會上，著名科學家史蒂芬·霍金就發出警告稱：機器人將會控制人類。霍金說：“在未來100年內，結合人工智能的機器人將會變得比人類更聰明，屆時我們需要確保機器人與我們的目標一致，我們的未來取決于技術不斷增強的力量和我們使用技術的智慧之間的賽跑。”

特斯拉公司CEO埃隆·馬斯克也持有相同觀點。在麻省理工學院發表演講時，他將人工智能機器人描述為人類“最大的生存威脅”，他認為，只需要5年，人工智能就可能給世界帶來極端的危險。

為此，1000多名科技領域的專家和企業家共同發表了一封抵制自動武器的公開信，在信函上署名的包括著名科學家史蒂芬·霍金、特斯拉公司CEO埃隆·馬斯克和蘋果公司共同創始人史蒂夫·沃茲尼亞克。信函中寫道：“今天人類的關鍵問題是，是否要開啟一場全球人工智能武器競賽，還是阻止它的啟動。”

科學家們表示，由于自動武器將使用人工智能來選擇目標，而無須人為干預，所以，這種具有自主決策能力和行為能力的機器人一旦落入恐怖分子、獨裁者和軍閥手中，后果將不堪設想。盡管各國發展軍事機器人的本意是為了減少戰場上的傷亡，但這樣做的同時也降低了人類進入戰場的門檻，甚至可能會加劇大國之間軍事力量的競爭。

國與國之間的分歧

早在2013年，就有非政府組織發起了“停止開發殺手機器人”的活動，他們認為致命性自動武器系統的存在違背了人類的基本尊嚴，讓機器人去選擇殺死誰是十分不人道的，因為機器人可能會被授權殺死任何顯示出潛在威脅行為的人，包括沒有武器的平民百姓。

在社會各界的努力之下，這個問題終于得到了聯合國的重視。2014年，聯合國開始討論致命性自主武器的使用問題，并考慮通過起草國際法來約束殺手機器人技術的開發和傳播。

然而，在2016年聯合國召開的特定常規武器公約討論會議上，聯合國安理會五大常任理事國之中，只有中國明確表態支持制定條約管制機器人武器，美國因為擔心受到軍事上的制約而對此持消極態度，俄羅斯、英國和法國則都沒有明確表態。

在與會的120個國家中，雖然大部分國家都表示會支持聯合國對自主武器系統采取合理管制，但只有19個國家明確表示了應當停止開發和使用致命性自主武器系統，這其中較有影響力的國家只有阿爾及利亞、墨西哥、委內瑞拉、巴基斯坦和埃及這五國。像日本這樣擁有先進機器人技術的國家，因為擔心管制可能影響本國民用機器人的研發，所以對管制措施抱有比較謹慎的態度。不過，大會最后還是決定了要設立正式的專家會議，以便后續討論“殺手機器人”的管制等問題。

戰場效益

是什么讓這些大國在管制自主武器的問題上表現得如此含混和暖昧？答案只有一個，那就是利益。很顯然，這些殺手機器人在戰場上會比有血有肉的人類士兵更有效率，因為它們可以日夜戰斗，不會感到疲倦，不需要食物和睡眠，不會受到生理條件限制，也不會受到情感的影響，在殺人時不會感到恐懼，也不會對敵人產生憐憫，它們只會機械地完成所有設定好的任務。

盡管目前這些殺手機器人造價不菲，但隨著科技的發展以及機器人零件的量產，未來這些機器人的制作成本只會越來越低。相比之下，像美國這樣的超級大國，一旦發生了士兵傷亡事件，政府需要支付平均每人85萬美元的撫恤金給其家屬，從性價比上來說，用殺手機器人替代真人對政府更有利一些。

然而，專家們所擔心的是，一旦這些殺手機器人未來投入戰場，它們能否遵循公認的交戰規則以及遵循倫理道德，它們能否區分敵方的無辜平民和士兵，以及在敵方士兵投降后它們是否還會繼續開火，因為它們畢竟不是人類可以完全控制的無人機，而是具有完全自主性的殺手機器人。

地空自主武器系統

盡管致命性自主武器系統可能給世界帶來種種的危險，但出于軍事利益的考量，許多國家還是在大力研發并投入使用自主武器。

其中，韓國和以色列都已開始使用地空半自動防空導彈系統，美國也開發出了X-47B無人戰斗航空器，這是人類歷史上第一架無形人工干預，完全由電腦操控的無人駕駛飛機，也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機。

對此，俄羅斯也不甘示弱，在俄羅斯最新式的T-14阿瑪塔主戰坦克上也運用了無人炮塔的設計，同時設置了全向光電和雷達探測器以及兩類攔截彈，是迄今為止應用主動防護技術程度最高的坦克，可有效壓制當代西方最常用的三代主戰坦克。

英國也開發了類似美國X-47B式的無人戰斗機“雷電之神”，該機運用了三重飛行管理系統，其中包括飛行導航、引導和控制系統，地面控制系統以及情報、監視和偵察管理系統，同時還應用了包括隱形技術和自動控制技術在內的尖端技術，是英國戰略無人機實驗計劃的一個重要部分。

海上自主武器系統

除了陸地和空中自主武器系統，各國也在競相發展海上自主武器系統，因為海上自主武器不僅能長時間在水上或水下自主航行，還具備智能化控制能力，可實施對重要海域近距離情報偵察、環境數據搜集、水上或水下持久偵察監視、反潛戰、水雷對抗、后勤支援等諸多任務，已經成為全球海軍裝備的一個重要發展方向。

美國是最早開始發展海上自主武器系統的國家，且技術一直處于全球領先地位。由美國國防部高級研究計劃局（DARPA）主導研發的“海上獵人”是一種專用無人艇，雖然艇上無人值守，但它可以兼容遠程監控控制站，并且可以35節（64千米/小時）的速度持續航行48個小時。

在歐洲，法國泰雷茲公司和英國ASV公司也在共同開發一款滿足未來離艦反水雷（MCM）作戰任務的無人水面航行器。這款航行器可以在任何軍事平臺、艦艇、岸上或港口部署，并且可以搭載包括無人潛水器、拖曳式聲吶在內的多種反水雷系統，同時它還具有優異的慢速牽引能力，和傳統的裝備相比，它可靠性更高，制造成本更低，將成為未來水雷戰中的關鍵制勝因素。

盡管各國發展致命性自主武器系統的本意，都是為了保護本國的士兵不要受到傷害，但任由這些殺手機器人發展，很可能給人類帶來更大的威脅，因為它們不受任何道德、法律和責任上的約束，隨時可能做出超出人類控制之外的生死決定。

目前，控制這場危機的最好辦法就是出臺相關的國際法律來約束自主武器的使用，但這需要世界各國的共同努力。而現在，我們只有祈禱，希望“終結者”的時代永遠不要來臨。

機器人會威脅人類嗎？

隨著人工智能的不斷發展，一些科學家擔心：在不久的未來，人工智能技術會超越人類的智慧，甚至會反過來控制或毀滅人類。對這一災難性的預測來自一群世界上公認“最聰明的人”，包括微軟創始人比爾·蓋茨、英國科學家史蒂芬·霍金以及美國的“科技狂人”伊隆·馬斯克。甚至有學者認為，人工智能超過人類的時間點——“奇點”已經逼近，很可能就在十幾年后。這一切真的會發生嗎？

人類面臨的危險：機器人比人類還聰明

什么樣的機器人才是有危險的人工智能？英國密碼專家、計算機先驅阿蘭·圖靈設計了一個甄別實驗：一臺計算機和一個人做競賽，說服一個看不到它們的觀察者，使其相信自己才是真正的人類。當機器人至少把半數觀察者蒙騙了，才算通過了測試。目前，尚無一臺計算機接近于通過測試。但圖靈也指出，當超級智能機器人通過圖靈測試時，人類的報應就來到了。

人類所擔心的智能機器人是能夠像人一樣思考、行動。這里行動應廣義地理解為采取行動，或制定行動的決策，而不是肢體動作，而且它們具有知覺和自我意識。

人工智能對人類的毀滅能力是什么？牛津大學人類未來研究所的研究人員給出了解釋，人工智能不是像核武器一樣消滅人類，而是會逐步取代人類，真正可怕的是它們的智力。它們將比人類更聰明、更擅長社交、更有工作能力，假如一個超級機器人走進一個酒吧，它比人類更能吸引男人、女人，那時它們才真的可怕。

比爾·蓋茨說：“如果我們能夠很好地駕馭機器人，機器能夠為人類造福，但如果若干年后機器發展得超過人類的智能，那么它們就將成為人類的心頭大患。”

機器人會比人類還聰明嗎？

機器的智商能有多高？機器是否會產生自我意識？機器人會比人類還聰明嗎？一些科學家認為，機器人的智商超過人類是遲早的事情，甚至還有美國學者明確提出了人工智能超過人類的時間點。

首位用“奇點”這一術語描述這種技術大變革的人是美國數學家、科幻小說家弗諾·文奇，此后，高科技企業家雷·庫茲韋爾在其著作《奇點迫近》一書中進一步提升了這一概念。庫茲韋爾認為，技術的指數級發展將不可避免地導致超人類智能的出現。庫茲韋爾對自己的預測很有信心，他甚至將到達“奇點”的時間定為2029年。到了2029年，電腦不僅能夠理解我們的語言，甚至能夠和我們開玩笑。庫茲韋爾是世界上最著名的未來學家和人工智能專家之一。在此之前，他曾準確預測科學技術的發展趨勢。1990年，庫茲韋爾預測稱電腦將在1998年之前打敗國際象棋冠軍。1997年，IBM公司研制的電腦“深藍”成功擊敗國際象棋冠軍加里·卡斯帕羅夫。在互聯網仍只是一個由少數學者使用的微小網絡時，庫茲韋爾就預言互聯網將在不久后把整個世界連接在一起。庫茲韋爾表示電腦的智商將在10多年內超過人類，也就是說，電腦在圖靈測試中表現出的智能行為將與人類一模一樣。

麻省理工學院的機器人學教授羅德尼·布魯克斯說：“在越過‘奇點后，我們和我們的世界將與現在大不一樣，對什么是人、什么是機器人的定義也將變得不同。”一些未來學家稱，正如黑洞中心存在著一個讓一切已知物理定律都失效的“奇點”一樣，信息技術也正在朝著這樣一個“奇點”邁進。屆時，人工智能機器將比其制造者——人更加聰明。這些未來學家認為，過了這個點，一切都將以現在不可預測、無法想象的速度和形式發展了。人工智能奇點研究所的創辦人之一伊利澤·尤德庫斯基目前正在研究所謂的“友好人工智能”。他說，他最擔心的是，一些科技怪才會發明一種能夠自我進化但卻沒有道德感的機器人，這將給人類帶來災難。

馬丁是世界上最杰出的天文學家之一，他認為雖然地球已經存在了4500萬個世紀，但本世紀非常特殊。在幾乎整個地球歷史里，威脅都來自自然界，但從現在開始，最大的危險來自我們自身——尤其是人工智能。馬丁認為，人類大腦的大小和處理能力受到了化學和新陳代謝的限制。也許人類已經非常接近這些極限了。但基于硅的電腦卻沒有這樣的限制。人工智能不受到地球生物圈限制這一事實使得它成為更加致命的威脅。當這些機器制造者具有最大的建造能力時，太陽系內和星際空間將成為它們的理想舞臺。而這個領域的創新正快速地向前發展。

機器人會毀滅人類嗎？

一些科學家擔心：人工智能正在以令人害怕的步伐發展，它將導致人類走向最終的滅亡。

就在不久前，著名科學家史蒂芬·霍金再次發出警告——未來100年內，人工智能將比人類更為聰明，機器人將控制人類。霍金曾與特斯拉CEO伊隆·馬斯克共同發表公開信，他們認為人工智能的發展應該受到控制。信中稱，如果智能機器無法保障安全，人類可能陷入黑暗的未來。一方面人工智能讓人類越來越缺乏思考，另一方面其自身則有可能越來越聰明，從而威脅到人類的生存。

馬斯克也提出警告，最少只需5年，智能機器可能就會帶來極端危險。他認為，人工智能就像“召喚惡魔”。馬斯克在麻省理工學院發表演講時，將人工智能描述為人類“最大的生存威脅”。他說：“我認為我們對人工智能應該保持高度警惕。如果讓我猜測人類生存的最大威脅，那可能就是人工智能。”

牛津大學哲學教授尼克·博斯特倫與詹姆斯·巴拉特認為，“現在我們人類就像一群擺弄著一顆危險炸彈的無知孩童。即便是出于好意而創造的人工智能，它仍有犯下種族滅絕罪行的傾向。如果沒有小心謹慎的制衡指令，一個有著自我意識、不斷自我完善并追尋目標的系統將發展到在我們看來非常荒謬的程度，以完成它的目標”。