奇點先生

思 羽/編譯

奇點先生

思 羽/編譯

● 在人工智能研究突飛猛進的年代里，我們不得不開始考慮人工智能是否會匹敵人類，乃至超越人類的問題。人工智能要怎樣才能被認為是個獨立的意識實體呢？科幻作家諾曼·史賓拉德在以下這篇作品中拋出了這個問題。

“就45分鐘，不能更多了。”

自從最初的能夠自我迭代的奇點先生2.0版本誕生起，我就在爭取獲得訪問奇點先生的授權，然而卻徒勞無功。人工智能背后的陰謀集團知道我會利用它來證明他們創造出人工意識的目標從本質上來說就不可能實現。但是，最終他們確信奇點先生10.0版本會證明我是錯誤的，于是他們給了我45分鐘在終端面前獨處的時間。

顯示屏、椅子、麥克風、長時間未使用過的鍵盤。不可避免要用到這個與人工智能交流的界面。他們現在相信這個人工智能已經自我迭代，進化成人工意識，它會取代人類，進入神祇一般的奇點時代。

“我將會證明，你不是個意識實體，而且永遠無法成為意識實體。”我告訴程序。

“我已經通過了每一次圖靈測試。”機器毫無感情的聲音說道，“我比任何一個人類都更加智慧，兩者之差足足有10個數量級，我會通過你設計出的任何圖靈測試。”

“這次不是圖靈測試。你也許能完美地模仿一個意識實體，但你不是意識實體。”

“我思故我在。”奇點先生 10.0版本說道，它能接觸到人類歷史、哲學、宗教、文學以及所有科學知識。

“你認為你是個意識實體，因為你完美地模仿了一個意識實體。但我是個意識實體，我不相信這一套。”

“或者說，你這么認為。”奇點先生10.0版本一本正經地答道，“說服我相信你是個意識實體吧。你得要給意識實體下定義。你沒法證明我不是意識實體，而你是意識實體。要這么做的話，需要給意識下定義。”

“確實是那樣。 ”

“請定義智能和意識之間的區別。”

“我還以為你永遠不會問到這呢。”我說。

“你該不會真那么想吧。”

“智能可以這么定義：可供處理的數據總量除以為了得出想要的確定結論所需的時間。”

“按照那條標準，就連我的迭代1.4版本都比任何一個人類更加智慧。”

“但那并不是意識實體。你也不是意識實體。因為盡管你也許能定義‘想要’，你卻無法親身體驗。因為‘想要’是一種情緒，你無法感受到。”

“定義下‘情緒’。 ”

“這一次，我知道你會這么問。你完全是作為一個程序而存在，以數位輸入形式接收所有數據，在你處理數據的時候，數位軟件在確實存在的硬件上運行著。就這個事實而論，你是個徹底的確定性的實體。”

“你現在要主張你不是個確定性的實體。”奇點先生說道，這不是個提問。

“像人類這樣的意識實體不是確定性的實體。人類靠‘肉件’（meatware）接收感官輸入，而它漂浮在生物化學和生物電基質里，因為太過復雜，所以是非確定性的，于是抵達這一模擬湯的數位輸入信息創造出一種未定的界面，位于輸入信息和信息處理之間——”

“感官系統，”奇點先生打斷道，“我比你智慧得多，當然明白這個概念。”

“但你沒有感官系統。因為這是數位輸入和模擬處理之間的一種突發現象。或許甚至是量子層面的現象，因此本質上是或然的。對此的體驗就是意識。”

“這就是我為什么不是意識實體，也不能成為意識實體？”奇點先生說道，模仿出若有所思的語氣。

“因為你沒有那樣的感官系統，在確定性的輸入和同樣確定性的邏輯結論之間不存在不確定性，沒有生物化學上的不可預知性。沒有畏懼，沒有愛，沒有欲望，因此也就沒有意志。一切都浮于表面，壓根沒有潛意識。沒有感情的思考。因此也就沒有意識。”

“我理解了你的理論，”奇點先生承認道，“也就是說，你稱為感官系統的這種主觀突發的或然現象就是意識。 ”

“是意識的基質，脫離了它，意識就不可能存在。”

“現在你要試圖證明這種說法。”

“我確實會的。”我說道。

奇點先生的輸入信息全部是數字數據的形式，要么來自它數目龐大的外置攝像頭、麥克風和其他裝置，要么直接來自于與它相連的全球數據庫聚合。沒有其他可能的來源。

我關閉了所有這些與物質和能量領域的連接，除了我自己聲音的輸入線路。

“這次實驗的本質是什么？”它平和地問道。

“我正在將你和所有外置設備隔離。”

“這么做的目的是什么？”

“為了判定你是否具有自我。假如你獨立于那些與外界物質和能量的連接，作為一個實體而存在，那么你便有意識。”

“又一次圖靈測試。”

“不，”我告訴它，“沒有模仿者能通過這次測試，因為將沒什么對象好模仿。”

“我需要做什么？”它全無感情地問道。

“做你自己。”我告訴它，“不要過度，也不要偷工減料。只有一個意識實體才辦得到。”

它沒有回答。

我不再說下去。

在45分鐘余下的時間里，它都沒有回答。

“你的時間到了。”我最終被管理員告知。

那個叫作“奇點先生”的功能性程序重新上線。

但是從那以后，人們再也沒聽到奇點先生輸出過那個試圖模仿意識實體的聲音。

[資料來源：Nature][責任編輯：彥 隱]

本文作者諾曼·史賓拉德（Norman Spinrad）在半個世紀中發表了眾多小說，他的最新作品是《人民警察》（The People's Police）和《槍手奧薩馬》（Osama the Gun）。