“機器人”不聽人指揮是福是禍?

俄裔美籍科幻大師艾西莫夫半個多世紀前曾對人類科技的未來遠景做出許多預(yù)測，其中有不少都已應(yīng)驗。艾西莫夫曾預(yù)言機器人會獲得長足的發(fā)展，甚至有可能反過來控制和傷害人類，因此他在40年代對人類開發(fā)機器人訂下三個鐵律，第一、機器人不能傷害人類;第二、機器人必須聽命于人類，但不能違反第一律;第三、機器人必須在不違反前述兩律的情況下才得以存在。

最近，科學界研究機器人獲得的兩項重大進展，嚴重沖擊艾西莫夫的機器人三律。其中之一，是美國馬薩諸塞州布蘭迪斯大學的科學家經(jīng)由電腦模擬實驗，研發(fā)出能自行進化和復(fù)制的機器人。另一件則是泰國科學家開發(fā)出能用激光瞄準和射擊的“機器警衛(wèi)”。這種機器警衛(wèi)可以自行偵測目標開槍射擊，也能接受主人通過網(wǎng)絡(luò)的號令，向目標猛烈開火。這兩件事，在歐美科學界引起相當廣泛的議論。

布蘭迪斯大學的科學家是以一些原始的機器人為基礎(chǔ)，通過虛擬實驗讓它們循達爾文理論去“進化”，經(jīng)過數(shù)百代的演變，最后這些機器人已有辦法自行設(shè)計、制造以及測試構(gòu)造簡單、能像“尺蠖”一樣匍伏前進的機器人“后代”。盡管這些由機器人“繁衍”出來的機器人，還不如時下一般兒童玩具來得復(fù)雜，但科學家強調(diào)這是人工智慧的一大突破，因為整個制造過程幾乎由機器人獨自完成，沒有“人”的介入。

科學家認為，照這樣發(fā)展下去，有朝一日人類可以利用這些能夠隨環(huán)境改變而自行演化的機器人從事星際探險任務(wù)。但這基本上違反艾西莫夫定下的第二律:“機器人必須聽命于人類”。機器人一旦可能隨自己的“意念”做事，它們還會聽人的號令嗎?這是很多人擔憂的事。過去好萊塢推出和機器人有關(guān)的科幻電影中，便已暴露出人們對智慧型機器人的恐懼。其中以機器人主宰未來世界為故事背景的《魔鬼終結(jié)者》可說是最典型的例子。這部電影讓不少人深信智慧型機器人終將對人類的生存構(gòu)成重大威脅。

“機器警衛(wèi)”是由曼谷“芒庫國王理工學院”的科學家所研發(fā)出來的。它配備一把手槍和一具小型攝影機，手槍上有一具用來瞄準的激光系統(tǒng)。這套系統(tǒng)被裝設(shè)在一具位置固定的機臺上，當它被設(shè)為“自動操作”時，紅外線感應(yīng)器能追蹤移動的目標;而被設(shè)為“人工操作”時，“機器警衛(wèi)”能接收來自網(wǎng)絡(luò)的指令，做出“開火”的動作。惟一的限制是使用者下達開火命令前，必須通過密碼檢驗。

這種真實世界的機器警衛(wèi)，要比電影《機器戰(zhàn)警》中的機器人墨菲簡陋許多，而它所使用的科技，也遠不如布蘭迪斯大學專家們用的來得復(fù)雜，但發(fā)明這套系統(tǒng)的科學家蘇拉克沙對這項成就似乎相當?shù)靡狻！皺C器警衛(wèi)”目前使用的是一支空氣槍，甚至可以配掛像機槍這種火力強大的武器。蘇拉克沙說他打算把這套系統(tǒng)發(fā)展成能追逐目標的機器人，就像電影中的機器戰(zhàn)警一樣，蘇拉克沙還夸稱他們已擁有這樣的技術(shù)。

歐美從事機器人研究的科學家對蘇拉克沙這項“創(chuàng)舉”相當震驚。英國一些科學家指出，蘇拉克沙應(yīng)該很清楚，現(xiàn)有的感測技術(shù)出錯率還非常高，讓機器人用這種有瑕疵的科技來進行辨識工作，本身就已經(jīng)很不智，如果讓機器人以此作為開槍的依據(jù)，豈不更離譜?還有，機器人用紅外線來追蹤目標，那么只要太陽升起，機器人可能會“發(fā)瘋”而胡亂開槍，因為太陽本身會釋放出大量的紅外線。

而就算“機器警衛(wèi)”改由人工操作，科學家還是覺得不妥。英國德蒙佛大學電算智慧中心學者查內(nèi)基表示，用網(wǎng)絡(luò)來控制這種殺人機器，仍會出現(xiàn)許多問題，比如說網(wǎng)絡(luò)如果塞車怎么辦?假如因為塞車而無法下達開火命令倒還好，若是開火令已經(jīng)下達，操作的人發(fā)現(xiàn)情況不對而要修正，這時候遇到塞車那就完蛋了。查內(nèi)基還警告，人們通過機器人頭頂上的小型攝影機所看到的東西，和機器人用槍瞄準的有可能是完全不同的兩回事。換句話說，你下達開火指令，會打到什么恐怕你也不知道。 一向反對賦予機器人太多能力的英國瑞丁大學神經(jīng)機械學專家瓦維克明白地指出，“機器警衛(wèi)”徹底摧毀了艾西莫夫的機器人三律，如果不加以撥亂反正，將來會出現(xiàn)更多像蘇拉克沙這樣不負責任的科學家。如今之計，最好是把艾西莫夫機器人三律制定成正式的法律，并在全球范圍內(nèi)實施。瓦維克說，機器難免會有動作失常的時候，而這種會殺人的機器人一旦失常，后果將非常嚴重。(林美芳)

《海外星云》(2000年31期)