機器人會威脅人類嗎？

礎德

隨著人工智能的不斷發展，一些科學家擔心：在不久的未來，人工智能技術會超越人類的智慧，甚至會反過來控制或毀滅人類。對這一災難性的預測來自一群世界上公認“最聰明的人”，包括微軟創始人比爾·蓋茨、英國科學家史蒂芬·霍金以及美國的“科技狂人”伊隆·馬斯克。甚至有學者認為，人工智能超過人類的時間點——“奇點”已經逼近，很可能就在十幾年后。這一切真的會發生嗎？

人類面臨的危險：機器人比人類還聰明

什么樣的機器人才是有危險的人工智能？英國密碼專家、計算機先驅阿蘭·圖靈設計了一個甄別實驗：一臺計算機和一個人做競賽，說服一個看不到它們的觀察者，使其相信自己才是真正的人類。當機器人至少把半數觀察者蒙騙了，才算通過了測試。目前，尚無一臺計算機接近于通過測試。但圖靈也指出，當超級智能機器人通過圖靈測試時，人類的報應就來到了。

人類所擔心的智能機器人是能夠像人一樣思考、行動。這里行動應廣義地理解為采取行動，或制定行動的決策，而不是肢體動作，而且它們具有知覺和自我意識。

人工智能對人類的毀滅能力是什么？牛津大學人類未來研究所的研究人員給出了解釋，人工智能不是像核武器一樣消滅人類，而是會逐步取代人類，真正可怕的是它們的智力。它們將比人類更聰明、更擅長社交、更有工作能力，假如一個超級機器人走進一個酒吧，它比人類更能吸引男人、女人，那時它們才真的可怕。

比爾·蓋茨說：“如果我們能夠很好地駕馭機器人，機器能夠為人類造福，但如果若干年后機器發展得超過人類的智能，那么它們就將成為人類的心頭大患。”

機器人會比人類還聰明嗎？

機器的智商能有多高？機器是否會產生自我意識？機器人會比人類還聰明嗎？一些科學家認為，機器人的智商超過人類是遲早的事情，甚至還有美國學者明確提出了人工智能超過人類的時間點。

首位用“奇點”這一術語描述這種技術大變革的人是美國數學家、科幻小說家弗諾·文奇，此后，高科技企業家雷·庫茲韋爾在其著作《奇點迫近》一書中進一步提升了這一概念。庫茲韋爾認為，技術的指數級發展將不可避免地導致超人類智能的出現。庫茲韋爾對自己的預測很有信心，他甚至將到達“奇點”的時間定為2029年。到了2029年，電腦不僅能夠理解我們的語言，甚至能夠和我們開玩笑。庫茲韋爾是世界上最著名的未來學家和人工智能專家之一。在此之前，他曾準確預測科學技術的發展趨勢。1990年，庫茲韋爾預測稱電腦將在1998年之前打敗國際象棋冠軍。1997年，IBM公司研制的電腦“深藍”成功擊敗國際象棋冠軍加里·卡斯帕羅夫。在互聯網仍只是一個由少數學者使用的微小網絡時，庫茲韋爾就預言互聯網將在不久后把整個世界連接在一起。庫茲韋爾表示電腦的智商將在10多年內超過人類，也就是說，電腦在圖靈測試中表現出的智能行為將與人類一模一樣。

麻省理工學院的機器人學教授羅德尼·布魯克斯說：“在越過‘奇點’后，我們和我們的世界將與現在大不一樣，對什么是人、什么是機器人的定義也將變得不同。”一些未來學家稱，正如黑洞中心存在著一個讓一切已知物理定律都失效的“奇點”一樣，信息技術也正在朝著這樣一個“奇點”邁進。屆時，人工智能機器將比其制造者——人更加聰明。這些未來學家認為，過了這個點，一切都將以現在不可預測、無法想象的速度和形式發展了。人工智能奇點研究所的創辦人之一伊利澤·尤德庫斯基目前正在研究所謂的“友好人工智能”。他說，他最擔心的是，一些科技怪才會發明一種能夠自我進化但卻沒有道德感的機器人，這將給人類帶來災難。

馬丁是世界上最杰出的天文學家之一，他認為雖然地球已經存在了4500萬個世紀，但本世紀非常特殊。在幾乎整個地球歷史里，威脅都來自自然界，但從現在開始，最大的危險來自我們自身——尤其是人工智能。馬丁認為，人類大腦的大小和處理能力受到了化學和新陳代謝的限制。也許人類已經非常接近這些極限了。但基于硅的電腦卻沒有這樣的限制。人工智能不受到地球生物圈限制這一事實使得它成為更加致命的威脅。當這些機器制造者具有最大的建造能力時，太陽系內和星際空間將成為它們的理想舞臺。而這個領域的創新正快速地向前發展。

機器人會毀滅人類嗎？

一些科學家擔心：人工智能正在以令人害怕的步伐發展，它將導致人類走向最終的滅亡。

就在不久前，著名科學家史蒂芬·霍金再次發出警告——未來100年內，人工智能將比人類更為聰明，機器人將控制人類。霍金曾與特斯拉CEO伊隆·馬斯克共同發表公開信，他們認為人工智能的發展應該受到控制。信中稱，如果智能機器無法保障安全，人類可能陷入黑暗的未來。一方面人工智能讓人類越來越缺乏思考，另一方面其自身則有可能越來越聰明，從而威脅到人類的生存。

馬斯克也提出警告，最少只需5年，智能機器可能就會帶來極端危險。他認為，人工智能就像“召喚惡魔”。馬斯克在麻省理工學院發表演講時，將人工智能描述為人類“最大的生存威脅”。他說：“我認為我們對人工智能應該保持高度警惕。如果讓我猜測人類生存的最大威脅，那可能就是人工智能。”

牛津大學哲學教授尼克·博斯特倫與詹姆斯·巴拉特認為，“現在我們人類就像一群擺弄著一顆危險炸彈的無知孩童。即便是出于好意而創造的人工智能，它仍有犯下種族滅絕罪行的傾向。如果沒有小心謹慎的制衡指令，一個有著自我意識、不斷自我完善并追尋目標的系統將發展到在我們看來非常荒謬的程度，以完成它的目標”。

鏈接1：

機器人會叛亂嗎？

在一些科幻電影中，機器人會起義對抗它們的制造者——人類，甚至最終將人類趕盡殺絕。雖然這只是科幻電影中的故事情節，但并不意味著未來隨著機器人技術進步，它們不會與人類產生對抗和沖突。數以千計的無人駕駛飛機和機器人已部署在許多國家，尤其是美國駐伊拉克和阿富汗戰場。也許有一天，武裝機器人真的會改變現代戰爭的法則和方法;也許有一天，真的會出現科幻電影《終結者》中控制戰爭的“天網”機器人系統。

不論如何，科學家認為未來對于人工智能的制造，一定要將不得傷害人類設定為其最重要的行事規則。美國科幻小說家艾薩克·阿西莫夫在他的機器人相關小說中為機器人設定了行為準則（也就是機器人三定律）——

法則一，也是最為重要的一條法則：機器人不得傷害人類，也不得因不作為而使人類受到傷害;

法則二，機器人必須服從人類的命令，除非違背第一法則;

法則三，在不違背第一及第二法則的前提下，機器人必須保護自己。

機器人會成為我們的朋友？

對于馬斯克、霍金等人的言論，谷歌董事長施密特率先發起反駁。施密特的身份很特殊，作為谷歌的董事長，他曾親身參與許多世界上最復雜的人工智能系統的研發，從自動駕駛汽車到谷歌的預測性搜索引擎等。施密特認為，所有對機器將搶走人類工作、占領世界的恐懼都毫無根據，并且希望人們能夠意識到：機器人會成為我們的朋友。施密特說：“對于人工智能的擔憂，都是正常的。但是回顧歷史你會發現，這些絕對是錯誤的。歷史的經驗已經證明，過去的經濟繁榮時期，大多數是因為采用新技術而引發的。”

科技取得突飛猛進的成果時，總是讓人感到害怕，但真正重要的是掌握技術的人。總之，對于新技術的發展，難免會存在爭論，但科學的進步總歸是為人類帶來更美好的未來。但是有一點卻不能忽視，隨著科學技術的進步，自動化的人工智能會越來越多地出現在我們的工作、生活中，機器代替人類工作很有可能在不遠的將來成為現實。

鏈接2：

人工智能將沖擊現有社會體系

人工智能對人類工作、生活方式的改變，可能影響到現有的法律體系、道德標準以及利益分配的模式等等。而人類做出改變的速度未必能跟得上人工智能的發展速度，這就會對社會現有的體制造成沖擊，從而引發混亂。科學家預測：在技術上，具有人工智能的機器人將使得人類全部失業。只要對掌握某項技能的人復制100次，就能復制出100個具有此能力的機器人，那么在100個行業里就會擁有1萬名高級員工，這也許1個星期就能訓練完成，只要愿意還可以復制得更多。這樣一來，人工智能幾乎可以代替任何人，包括各類專業人員。那個時候人類會是沉溺于機器人世界所帶來的休閑呢？還是處于一種前所未有的恐懼呢？

【責任編輯】蒲 ?暉