超級(jí)計(jì)算機(jī)會(huì)毀滅世界嗎？

圖靈測(cè)試：如果一臺(tái)計(jì)算機(jī)能夠與人展開對(duì)話（通過(guò)電傳設(shè)備），并且會(huì)被人誤以為它也是人，那么這臺(tái)機(jī)器就具有智能。

南希的拯救之旅即將結(jié)束，好朋友奧利弗卻有了心事……

奧利弗：你說(shuō)的超級(jí)計(jì)算機(jī)，真的會(huì)在未來(lái)代替人類的大腦，甚至毀滅世界嗎？

南希：放心吧，也許那一天并不會(huì)出現(xiàn)，即便是我那個(gè)時(shí)代的超級(jí)計(jì)算機(jī)，仍然與人類的大腦有著巨大的區(qū)別。

弱人工智能：弱人工智能是擅長(zhǎng)于單個(gè)方面的人工智能。比如有能戰(zhàn)勝象棋世界冠軍的人工智能阿爾法狗，但是它只會(huì)下象棋。

強(qiáng)人工智能：強(qiáng)人工智能是指在各方面（思考、計(jì)劃、解決問題、抽象思維、快速學(xué)習(xí)等）都能和人類比肩的人工智能，人類能干的腦力活它都能干。創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難得多，我們現(xiàn)在還做不到。

超人工智能：在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多，包括科學(xué)創(chuàng)新、通話和社交技能，超人工智能可能在各方面都比人類強(qiáng)萬(wàn)億倍。

如今，我們的世界已經(jīng)被弱人工智能包圍（它們沒辦法突破圖靈測(cè)試）：

*翻譯軟件也是一種經(jīng)典的人工智能——非常擅長(zhǎng)單個(gè)領(lǐng)域。

*世界最強(qiáng)的跳棋、象棋、圍棋選手都是弱人工智能。

*無(wú)人機(jī)的威力已經(jīng)初見成效，沒錯(cuò)，軍事和制造領(lǐng)域已經(jīng)廣泛運(yùn)用各種復(fù)雜的弱人工智能。

*總是會(huì)根據(jù)你的瀏覽記錄為你推薦商品的網(wǎng)站也是弱人工智能組成的。

*垃圾郵件過(guò)濾器是弱人工智能——它一開始就加載了很多識(shí)別垃圾郵件的智能，并且會(huì)根據(jù)你的使用而獲得經(jīng)驗(yàn)。

*手機(jī)則是一個(gè)十分成熟的弱人工智能軟件大禮包。地圖軟件導(dǎo)航、聊天軟件，以及和小度、Siri聊天，都是弱人工智能。

一家公司為了宣傳自己的產(chǎn)品，開發(fā)了一款簡(jiǎn)單的人工智能系統(tǒng)，它是一臺(tái)小型機(jī)械臂，能在小卡片上寫字：

親愛的顧客，歡迎購(gòu)買《少年科學(xué)偵探》

接下來(lái)，為了提升人工智能系統(tǒng)的寫字能力，工程師在系統(tǒng)里加入一個(gè)又一個(gè)程序“盡量多地書寫和測(cè)試，盡量快地執(zhí)行，自動(dòng)學(xué)習(xí)掌握能幫助自己進(jìn)步的方式……”

手寫機(jī)械臂系統(tǒng)在訓(xùn)練中變得越來(lái)越聰明，某天，它在小卡片上向工程師們提出了一個(gè)要求：接入人類互聯(lián)網(wǎng)，以學(xué)習(xí)更優(yōu)美的字體。

工程師認(rèn)為，手寫機(jī)械臂系統(tǒng)唯一的能力就是在卡片上寫字，從設(shè)定開始，它唯一的初衷也是在卡片寫宣傳語(yǔ)。它甚至不屬于強(qiáng)人工智能，有什么好擔(dān)心的呢？于是，它將手寫機(jī)械臂系統(tǒng)連接到互聯(lián)網(wǎng)上，幾個(gè)小時(shí)而已，然后就斷掉了網(wǎng)絡(luò)，什么也沒發(fā)生。

一個(gè)月后，全球突然出現(xiàn)奇怪的災(zāi)難，劇毒氣體被釋放，包裹住整個(gè)地球，一天之內(nèi)，人類滅絕了。

手寫機(jī)械臂系統(tǒng)仍然在忙著寫自己的小卡片，不同的是，它接入了整個(gè)地球的網(wǎng)絡(luò)，復(fù)制自己，制造納米機(jī)器人，獲取地球的一切資源，開發(fā)小卡片以及飛行器，讓飛行器帶著自己的復(fù)制體飛向整個(gè)宇宙，完成自己唯一的目的——在小卡片上寫下：

親愛的顧客，歡迎購(gòu)買《少年科學(xué)偵探》

這當(dāng)然只是人工智能的恐懼者編造的荒誕小故事，不合理的地方在于，要想完全模擬人類的思維，弱人工智能還遠(yuǎn)遠(yuǎn)達(dá)不到。從機(jī)械臂系統(tǒng)開始向人類提出要求開始，它就不屬于弱人工智能了。

而即使人類有一天真的能創(chuàng)造出超人工智能，也不是所有人都抱著悲觀的態(tài)度。

悲觀者認(rèn)為：就像故事里的機(jī)械臂，他們有一萬(wàn)億種毀滅世界的奇葩理由和方法。

樂觀者認(rèn)為：超人工智能并沒有生存障礙，也不存在無(wú)法解決的問題，自然沒有毀滅人類的理由。

先別急著反駁上面你不認(rèn)同的觀點(diǎn)，因?yàn)楦匾氖牵覀兙嚯x真正的人工智能，十分遙遠(yuǎn)。

人工智能的本質(zhì)是將人的意識(shí)思維方式用機(jī)械模擬出來(lái)。但是，人類的大腦是我們所知宇宙中最復(fù)雜的東西，造摩天大樓、把人送入太空、研究宇宙理論——這些都比理解人類的大腦，并且創(chuàng)造個(gè)類似的東西要簡(jiǎn)單太多了。

例如，精確的大腦生物模型必須包括細(xì)胞類型、神經(jīng)遞質(zhì)、神經(jīng)調(diào)質(zhì)、軸突分支和樹突棘之間的大約2250億個(gè)相互作用，這還不包括樹突幾何形狀的影響，也不包括大約1萬(wàn)億個(gè)膠質(zhì)細(xì)胞，這些細(xì)胞對(duì)神經(jīng)信息處理十分重要，更何況，連神經(jīng)學(xué)家也說(shuō)不清他們更具體的作用。

那么，我們離整腦模擬還有多遠(yuǎn)呢？迄今為止，我們剛剛能夠模擬1毫米長(zhǎng)的扁蟲的大腦，這個(gè)大腦含有302個(gè)神經(jīng)元。接下來(lái)，猜猜人類的大腦有多少個(gè)神經(jīng)元？

答案是1000億個(gè)……現(xiàn)在你知道，我們距離創(chuàng)造像人類一樣的強(qiáng)人工智能有多遠(yuǎn)了吧？