智能機器:好夢還是噩夢?

社會面臨的問題越來越復雜，機器越來越智能化，人類對機器的依賴性越來越強……會不會有那么一天，機器或機器人具備了自主意識和自我設計的能力，進而群體反叛人類，甚至把人類置于其有效控制之下，最終成為掌控地球的新勢力?在北京電視臺《非常故事匯》節目錄制現場，放過科幻電影《機械公敵》那驚心動魄的片斷之后，主持人英達把問題拋給了王渝生和我兩個嘉賓。

王先生的觀點是：人無遠慮，必有近憂。科技的應用有正面作用，也有負面效應。對有些壞的可能性，與其信其無，不如信其有，這樣才能防患于未然。

我的看法仍然傾向于保守：機器人終歸只是機器，工具而已，給它植入確保行為無害的運行規則或“套”上安全裝置不就安然無恙了嗎?我不相信沒有生命的自主意識。然而，那些常被視為“杞人之憂”的幻想，距離我們的現實生活竟是如此之近!就在我們錄制完那期節目3天之后，《紐約時報》登出一篇題為《科學家擔心機器會比人聰明》的報道，提到：由于人工智能方面令人吃驚的進展，一些計算機科學家正在爭論是否應該對某些研究設限，以防這些研究導致人類失去對計算機體系控制的可能性，而這些系統承擔著越來越多的從發動戰爭到同顧客電話聊天的社會工作。有人甚至認為，可以自動殺人的機器或者已經產生，或者很快將會出現。

這篇報道的觀點，跟兩年前在美國舊金山召開的“奇點峰會——人工智能和人類未來”所傳出的信息如出一轍。在當年的那個峰會上。有人工智能研究人員提醒說，現在是制定道德指導規則以保證這些進步會幫助人類而不是危害人類的時候了。最讓人擔心的情況是，一個才華橫溢的發明者創造出一個對人類懷有敵意、可以自我編程但卻沒有道德觀念的智能機器。

而在目前的人工智能領域，則有這樣一種理念：當人工智能機器達到一定的智能水平(即在某天突然達到一種稱為“奇點”的狀態)之后，它們將會“失去控制”，以我們無法想象的速度自行進化，以至于遠遠地并且非常迅速地把我們拋在后面。就此有一聲刺耳的警告稱：如果你認為這種神一樣無所不能的人工智能機器不可能被很快制造出來的話，那么不妨回想一下，利奧·西拉德在20世紀30年代預測一顆炸彈可以摧毀一座城市，當時的人們卻把他視為瘋子的情形。真正的問題或許反映在這樣一種憂慮中：當我們使機器具有更多的智能時，并不知道哪里是危險的邊緣，因為對于智能的衡量并不明確。更何況智能所要包括的領域是如此之廣。這情形“很像是閉著眼睛在懸崖上行走，每向前邁一步之前，你說：‘我剛才走的一步沒出問題，因此我就再邁一步吧?！跊]有到達懸崖邊緣之前你還不會出事，但等到了的時候就太晚了”。到那時候，人類是圓了一個好夢還是迎來了一個噩夢呢?

不過，也有不少人對此持樂觀態度，認為各種各樣的智力至少有可能建立一種共生關系。機器人或計算機不會取代我們的地位，而會作為我們的朋友和同盟者，跟我們一道走向光輝燦爛的未來——只要我們在此之前不要自我毀滅。更有人工智能專家大膽設想：智能機器人實際上是人類演化的后代，它們從人類中成長，學習我們的技能，與我們擁有共同的價值標準，可以看成是人類思維的后代。很有可能，未來的人們將能夠把他們的思想加載到高級計算機中，由此轉化形式，使得自己可以永遠生存下去。而在此之前的一幅圖景則是：學會使用計算機與機器人，已成為未來人類接受文明的重要條件，就像過去人們要立足于社會，就必須學會讀書、寫字一樣。