“機器人”不聽人指揮是福是禍?

俄裔美籍科幻大師艾西莫夫半個多世紀前曾對人類科技的未來遠景做出許多預測,其中有不少都已應驗。艾西莫夫曾預言機器人會獲得長足的發展,甚至有可能反過來控制和傷害人類,因此他在40年代對人類開發機器人訂下三個鐵律,第一、機器人不能傷害人類;第二、機器人必須聽命于人類,但不能違反第一律;第三、機器人必須在不違反前述兩律的情況下才得以存在。

最近,科學界研究機器人獲得的兩項重大進展,嚴重沖擊艾西莫夫的機器人三律。其中之一,是美國馬薩諸塞州布蘭迪斯大學的科學家經由電腦模擬實驗,研發出能自行進化和復制的機器人。另一件則是泰國科學家開發出能用激光瞄準和射擊的“機器警衛”。這種機器警衛可以自行偵測目標開槍射擊,也能接受主人通過網絡的號令,向目標猛烈開火。這兩件事,在歐美科學界引起相當廣泛的議論。

布蘭迪斯大學的科學家是以一些原始的機器人為基礎,通過虛擬實驗讓它們循達爾文理論去“進化”,經過數百代的演變,最后這些機器人已有辦法自行設計、制造以及測試構造簡單、能像“尺蠖”一樣匍伏前進的機器人“后代”。盡管這些由機器人“繁衍”出來的機器人,還不如時下一般兒童玩具來得復雜,但科學家強調這是人工智慧的一大突破,因為整個制造過程幾乎由機器人獨自完成,沒有“人”的介入。

科學家認為,照這樣發展下去,有朝一日人類可以利用這些能夠隨環境改變而自行演化的機器人從事星際探險任務。但這基本上違反艾西莫夫定下的第二律:“機器人必須聽命于人類”。機器人一旦可能隨自己的“意念”做事,它們還會聽人的號令嗎?這是很多人擔憂的事。過去好萊塢推出和機器人有關的科幻電影中,便已暴露出人們對智慧型機器人的恐懼。其中以機器人主宰未來世界為故事背景的《魔鬼終結者》可說是最典型的例子。這部電影讓不少人深信智慧型機器人終將對人類的生存構成重大威脅。

“機器警衛”是由曼谷“芒庫國王理工學院”的科學家所研發出來的。它配備一把手槍和一具小型攝影機,手槍上有一具用來瞄準的激光系統。這套系統被裝設在一具位置固定的機臺上,當它被設為“自動操作”時,紅外線感應器能追蹤移動的目標;而被設為“人工操作”時,“機器警衛”能接收來自網絡的指令,做出“開火”的動作。惟一的限制是使用者下達開火命令前,必須通過密碼檢驗。

這種真實世界的機器警衛,要比電影《機器戰警》中的機器人墨菲簡陋許多,而它所使用的科技,也遠不如布蘭迪斯大學專家們用的來得復雜,但發明這套系統的科學家蘇拉克沙對這項成就似乎相當得意。“機器警衛”目前使用的是一支空氣槍,甚至可以配掛像機槍這種火力強大的武器。蘇拉克沙說他打算把這套系統發展成能追逐目標的機器人,就像電影中的機器戰警一樣,蘇拉克沙還夸稱他們已擁有這樣的技術。

歐美從事機器人研究的科學家對蘇拉克沙這項“創舉”相當震驚。英國一些科學家指出,蘇拉克沙應該很清楚,現有的感測技術出錯率還非常高,讓機器人用這種有瑕疵的科技來進行辨識工作,本身就已經很不智,如果讓機器人以此作為開槍的依據,豈不更離譜?還有,機器人用紅外線來追蹤目標,那么只要太陽升起,機器人可能會“發瘋”而胡亂開槍,因為太陽本身會釋放出大量的紅外線。

而就算“機器警衛”改由人工操作,科學家還是覺得不妥。英國德蒙佛大學電算智慧中心學者查內基表示,用網絡來控制這種殺人機器,仍會出現許多問題,比如說網絡如果塞車怎么辦?假如因為塞車而無法下達開火命令倒還好,若是開火令已經下達,操作的人發現情況不對而要修正,這時候遇到塞車那就完蛋了。查內基還警告,人們通過機器人頭頂上的小型攝影機所看到的東西,和機器人用槍瞄準的有可能是完全不同的兩回事。換句話說,你下達開火指令,會打到什么恐怕你也不知道。 一向反對賦予機器人太多能力的英國瑞丁大學神經機械學專家瓦維克明白地指出,“機器警衛”徹底摧毀了艾西莫夫的機器人三律,如果不加以撥亂反正,將來會出現更多像蘇拉克沙這樣不負責任的科學家。如今之計,最好是把艾西莫夫機器人三律制定成正式的法律,并在全球范圍內實施。瓦維克說,機器難免會有動作失常的時候,而這種會殺人的機器人一旦失常,后果將非常嚴重。G(林美芳)

《海外星云》(2000年31期)