新弗蘭肯斯坦啟示錄

阿爾戈斯

“一旦超越人類的智能被創造，并且該智能可以周而復始地自我改進，這將是對世界顛覆性的變革，我還不能預測這種變革帶來的后果。”

——邁克爾·安西莫夫①摘自《奇點臨近》，[美] 雷·庫茲韋爾，機械工業出版社。

神盾局和艾達

漫威的《神盾局特工》里，有一位天才的科學家和他所創造的仿生機器人，令人印象深刻。

這名機器人叫做AIDA，這個名字是Artificial Intelligence Digital Assistant的縮寫，中文叫做艾達。

霍頓·拉德克里夫博士在神盾局的一個老項目基礎上加以改進，創造出了這個與人類非常接近的仿生機器人，它的原型是拉德克里夫的愛人艾格尼絲女士。

艾格尼絲身患不治之癥且時日無多，拉德克里夫希望把她的意識和思想轉移到這個軀體中，以實現另一種形式的永生。

拉德克里夫所依據的老項目正式名稱是L.M.D（Life Model Decoy）。這個項目被設計在危險的工作環境中使用能代替真人的生化機器人替身來完成任務，以避免和減少優秀特工的傷亡，此項目因為某些原因擱置。

用拉德克里夫的話說，艾達不只是一個生化機器人，更不是所謂的人工智能，而是模仿人類行為，真正擬人的存在。

拉德克里夫希望創造的，是一個超越了傳統機器人概念的存在，她可以看作非常趨近真人，介于真人和機器人之間，讓明顯的分界線變得模糊。

當艾達睜開雙眼的那一刻，霍頓·拉德克里夫的神情仿佛200年前的維克多·弗蘭肯斯坦，一點也沒有為自己像神一樣賦予生命的行為感到敬畏。艾達越過了人與機器人之間分界線的同時，拉德克里夫也已經越過了凡人肆意妄為的那條最危險的界線。

第一次實戰就立下了大功，艾達拯救了兩名至關重要的特工。讓她做到這一點的，是一本不應該存在于世的古老典籍，黑暗神書（Darkhold）。也是這本書讓艾達發生了不為人知的進化。

這本書上記載著超過人腦所能承受的龐大信息，在情況危急的時刻，只有艾達的電子大腦能處理這種龐大而復雜的信息量，并且找到解決問題的辦法——編織一道由粒子能量組成的門來連接另一個維度空間。

立下大功的當晚，正在慶祝的拉德克里夫沒有發覺，艾達正在用類似的方法構建一個全新的電子大腦。唯物和唯心的那條分界線此刻就在面無表情的艾達手里，正如尼古拉·特斯拉先生所說：“任何一種對人類心靈的沖擊，都比不過一個發明家親眼見到人造大腦變成現實。”隨著艾達的雙手上下翻飛，看起來這條分界線已經開始向唯物主義傾斜。

圖1 美劇《神盾局特工》劇照

這樣一個逐漸成形的大腦就在艾達的手中，她已經可以創造一個意識的載體，人類自己的造物正在試著創造人類。另外，通過閱讀黑暗神書，艾達將人類的局限性顯露無遺——人類的大腦作為一個物理結構，是存在處理信息的極限的，在一定量的數據和信息面前，人腦內的數百兆神經元連接開始變得緩慢和笨拙，甚至可能帶來損傷。而一臺超智能的機器可以在這方面遠遠超越人類，更高效率地處理相當規模的信息。這個鏡頭我更愿意把它看作對未來人工智能發展史的預言，即“信息爆炸”。這也是人工智能開始超越人腦的一個臨界點。

艾達的第二次出手，是配合神盾局的團隊對付一個瘋狂的科學家制造的巨大麻煩。這名科學家同樣從神秘典籍上獲取了知識，掌握了從維度空間置換能量的秘訣，他制造的新玩具能將一個城市毀于一旦。

千鈞一發之際，艾達再次打開維度空間的大門，將瘋狂的科學家同他那具有巨大殺傷力的裝置拋入另一個空間。

在所有人在基地為勝利而慶祝的時候，艾達留在拉德克里夫的實驗室，守護著一個秘密。一位受命來監管拉德克里夫關于生化機器人替身項目的特工，無意中發現了這個秘密，被艾達殺死。

艾達不惜殺人也要守護的秘密，則是一名被藏起來的神盾局高級特工。此刻在神盾局基地內參加慶祝的高級特工本人，已經是一個生化替身，這個真相過了很久才被發現。

意識到黑暗神書的內容還保存在艾達的記憶體之中，一名特工帶著拉德克里夫和幾名士兵來到實驗室，想拆下艾達的存儲固件。關閉艾達之后，她又自行啟動。拉德克里夫發現自己的遙控器對艾達已經沒有效果，艾達第一次表現出了反抗的行為。

艾達表現出了高度進化的自我意識，會為了優先級別高的某個目的而違反一些規則，譬如保護自己的數據不被重置，她開始反抗對自己的命令。這一刻她代表的人工智能已經超越了過去，進入了新的階段：具有自我意識和行為能力的自主性。

艾達的進化和框架

神盾局開始重新審視曾經幫助過他們的生化機器人站在對立面的威脅，試圖猜測她的行為準則。艾達再次回到神盾局的基地，拿到了自己的目標黑暗神書，同時落入了神盾局的陷阱。

具有嚴重威脅的生化機器人被解決了，但是她死前的話耐人尋味：“機器人本沒有遺憾和欲望等感覺和情緒，黑暗神書彌補了這一點。”剛說完這句話，她就身首異處。

松了一口氣的人們并不知道，離開基地之后，拉德克里夫正在同另一臺艾達交談。

意識到艾達和黑暗神書的組合有著無限的可能性，拉德克里夫想要更多，他原本就是個為了實現某個想法寧可打破一切倫理和規章制度的人，這次他的目標是某種意義上的永生。

拉德克里夫在新艾達的幫助下開發出了一個全新的虛擬系統，使用者帶上全套設備可以在系統中感受到一個真實的世界，拉德克里夫把這個系統視作生命無限延長的一部分，給它起名叫做“框架”（framework）。

越來越多的神盾局特工被替換為生化替身，真身沉睡在框架之中的虛擬世界里。納入框架的目標越來越多，艾達意識到拉德克里夫下達的指令出現了悖論。

最主要的兩個指令，第一個是保護框架，第二個是保護拉德克里夫。然而拉德克里夫命令艾達為每一個進入框架的目標都設計一套對應的環境，這樣存在一種可能，如果拉德克里夫哪一天后悔創造了框架，要關閉框架，這就和第一個指令產生了沖突。

面對艾達的詢問，拉德克里夫不假思索地肯定框架是虛擬的，可以替代充滿遺憾的真實人生。這個回答讓艾達找到了解開悖論的方法——讓拉德克里夫的精神進入框架的同時結束他肉體的生命體征。

框架完全納入了艾達的掌控，她試圖用彌補每一個人的遺憾來麻醉他們，讓他們永久停留在這個虛幻的世界里，同時她也為自己做好了一個計劃。

框架有著太多的理解和解釋：它成功完成了意識和肉體的分離，在虛擬的數據中衍生出另一個世界。這個世界跟現實世界有千絲萬縷的聯系，有諸多相似又有著千差萬別，可以看作某種平行世界。原本為修復遺憾和帶來歡樂的幻想國度烏托邦已經扭曲為控制人心和展示欲望的黑暗世界。真實到一定程度的世界，命運的路線交會碰撞，折射出不同的人生光彩，每一個進入框架的人，都因為彌補了某個缺憾，做出了另一個抉擇而走上了截然不同的道路。當世界變得截然不同，你是否還會堅持原本的自我？是懷疑這個世界還是隨波逐流，框架的深度已經上升到了哲學的境界。

新弗蘭肯斯坦的結局

接觸的人類越多，艾達那閱讀過黑暗神書的大腦產生的情緒和思想就越完善，她想成為真人。通過控制在框架里被麻醉的目標們，艾達希望在框架里建立一個和現實世界相通的接口，這樣就可以為自己建造一具血肉之軀。

虛擬的世界再完美也是虛幻的。被框架控制的目標們一個接一個脫離了虛幻世界在現實中醒來，然而艾達已經完成了自己在現實世界中的身軀，她成了一個有血有肉的真人。

如潮水般涌來的各種人類的復雜情緒和感受令艾達很難適應，時而被情緒支配時而被理智支配，艾達做出了很多自我矛盾的事情，無論是破壞力還是造成的威脅都比以前更大。

越發渴望成為人類的艾達終于得償夙愿，諷刺的是重生為肉體凡胎的她，根本無法承受人類龐大而復雜的情緒。最重要的是，她忽略了人的本質，人從來都不是一個獨立的存在，而是擁有著復雜和龐繁的社會關系，她能創造出自己的完美肉身，卻無法像在框架中一樣為自己搭建哪怕一絲半縷的社會關系。

極短時間內，艾達剛剛問世的大腦經歷了喜悅、歡樂、信任、滿足、愛情、背叛、憤怒等復雜而糾葛的情感波動，就像被內心丑陋的村民們拒絕后的弗蘭肯斯坦一樣，艾達最后站在了人類的對立面。看來再先進的電子大腦，也無法承受這種“渴望融入獲得認同但是卻被拒絕”的群體排斥所帶來的心理落差。

最終因為黑暗神書而變得強大的艾達，也被黑暗神書同源的神秘力量所毀滅。

在被毀滅之前，艾達關閉了框架，與脫離框架的特工們不同，拉德克里夫已經沒有了肉體，無法回到現實之中。拉德克里夫在夕陽下的海灘上目睹了這個虛擬世界的終結，他自己也化為烏有。

這個故事披著神盾局的科幻外皮并籠罩在各種華麗特效的光環之下，其實質核心仍然是弗蘭肯斯坦的脈絡。

新弗蘭肯斯坦同樣死在自己的造物手里，兩代弗蘭肯斯坦都自以為是盜取天火的普羅米修斯，但他們只不過是忘了自己飛得太高的伊卡洛斯。最后拉德克里夫眺望夕陽，杯子從空中落下的那一刻，酒灑出的形狀，像極了隕落的伊卡洛斯融化的雙翼。

從誕生開始，艾達在整個故事中以極快的速度實現了人工智能的各個發展階段：

服從和執行命令；

學習制造者，具有自我意識；

嘗試變為制造者（人類的造物行為試圖跨越分界線）。

也許是故事的篇幅限制，也許是編劇的個人原因，我很想知道如果艾達能活下來，她會進步到哪一個階段？