人工智能奇點(diǎn)臨近？

詹姆斯·馬圭爾

即便奇點(diǎn)遙不可及，或者毫無(wú)可能，人工智能的迅猛進(jìn)步也會(huì)帶來(lái)無(wú)數(shù)可能性。

計(jì)算機(jī)概念化的能力能否達(dá)到人類大腦的水平？這是人工智能的決定性問題。

一臺(tái)計(jì)算機(jī)不只是支持系統(tǒng)運(yùn)行，還能構(gòu)思系統(tǒng)？最重要的是，計(jì)算機(jī)能不能批判性地審視自己，自我評(píng)估，并設(shè)計(jì)一種新的解決方案？

截至2017年，答案是基本上不能。盡管人工智能取得了巨大勝利，比如谷歌DeepMind完勝世界一流的圍棋選手，Watson在智力競(jìng)賽電視節(jié)目《危險(xiǎn)邊緣》中贏得100萬(wàn)美元大獎(jiǎng)，但這項(xiàng)技術(shù)仍處于起步階段。與人腦相比，計(jì)算機(jī)是很強(qiáng)大，但本領(lǐng)有限。

當(dāng)然，計(jì)算機(jī)在原始處理能力上有其巨大的優(yōu)勢(shì)。IBM的Watson在短短一秒鐘內(nèi)就能獲取5000多億字節(jié)（相當(dāng)于100多萬(wàn)本書的內(nèi)容）。為備戰(zhàn)圍棋比賽，谷歌的DeepMind被喂以3000個(gè)萬(wàn)實(shí)例，以此“接受訓(xùn)練”。這么強(qiáng)大的計(jì)算能力只會(huì)越來(lái)越強(qiáng)大。

不過(guò)究其本質(zhì)，Watson贏得《危險(xiǎn)邊緣》的秘訣只是超強(qiáng)的數(shù)據(jù)檢索能力。雖然DeepMind的圍棋勝利需要極其強(qiáng)大的認(rèn)知敏捷性，但它并不具有創(chuàng)意。它只是結(jié)合了先進(jìn)的邏輯推理能力和蠻力計(jì)算能力。

我們?nèi)祟惒粌H擁有智能，還擁有元智能（meta-intelligence）。我們創(chuàng)造新的、不可預(yù)見的跨越式思維；我們把框架翻轉(zhuǎn)過(guò)來(lái)，擠壓它，粉碎它，發(fā)明出令人驚訝的東西。開發(fā)人工智能之所以如此困難，原因之一就在于我們不知道大腦機(jī)理到底是怎樣的。

我們都搞不懂我們自己，那么怎樣才能復(fù)制我們自己呢？

自我學(xué)習(xí)

人類是種奇特的生物，但我們所做的任務(wù)大多數(shù)可以簡(jiǎn)化為例行程序，人工智能每年在復(fù)制人類的一些部分。像iRobot Roomba 650這種輔助機(jī)器人可幫助我們打掃房屋。從寶馬到現(xiàn)代的眾多汽車廠商在研發(fā)自動(dòng)駕駛汽車。無(wú)人機(jī)將會(huì)配送我們?cè)诰W(wǎng)上購(gòu)買的商品。人工智能計(jì)算機(jī)能夠識(shí)別圖像（在有限的場(chǎng)景下），并對(duì)自然語(yǔ)言做出略嫌笨拙的響應(yīng)。

的確，人工智能的基礎(chǔ)工具都執(zhí)行類似人腦的某種功能。機(jī)器學(xué)習(xí)利用算法來(lái)“學(xué)會(huì)”對(duì)不斷變化的輸入做出響應(yīng)；它常常輸出預(yù)測(cè)結(jié)果或某種下一個(gè)層次的總結(jié)。

神經(jīng)網(wǎng)絡(luò)是一種類似人類中樞神經(jīng)系統(tǒng)網(wǎng)絡(luò)（包括大腦）的軟件。它使用自適應(yīng)軟件架構(gòu)和規(guī)則-編程工具集，支持多變量的輸入和輸出。神經(jīng)網(wǎng)絡(luò)能夠“學(xué)習(xí)”，從各種不同的非線性輸入生成輸出。而這正是人類大腦的機(jī)理。

深度學(xué)習(xí)將神經(jīng)網(wǎng)絡(luò)結(jié)合到復(fù)雜的響應(yīng)式結(jié)構(gòu)中，這種結(jié)構(gòu)能夠生成抽象的數(shù)據(jù)模型。深度學(xué)習(xí)仰仗于如今超快速的GPU計(jì)算機(jī)處理器，是人工智能的最前沿領(lǐng)域。深度學(xué)習(xí)有一個(gè)著名的例子，人工智能領(lǐng)域的先驅(qū)安迪·吳（Andy Ng）給一個(gè)神經(jīng)網(wǎng)絡(luò)輸入來(lái)自YouTube視頻的1000萬(wàn)張照片，從而讓計(jì)算機(jī)能夠識(shí)別貓的圖像。

這些工具技術(shù)帶來(lái)的人工智能進(jìn)展意味著，一度出現(xiàn)在低級(jí)雜志科幻小說(shuō)中的那種恐懼現(xiàn)在似乎是可信的：配備人工智能技術(shù)的機(jī)器人有一天會(huì)超越人類。機(jī)器人的大腦會(huì)塞滿美國(guó)國(guó)會(huì)圖書館的所有知識(shí)、維基百科以及數(shù)十億個(gè)實(shí)例模式。深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)會(huì)讓機(jī)器人的大腦能夠“思考”。這種大腦（姑且這么稱之）會(huì)基于過(guò)往的經(jīng)驗(yàn)，綜合學(xué)到的知識(shí)，生成新穎而獨(dú)特的輸出。

這種能夠自我學(xué)習(xí)的機(jī)器人之后可能會(huì)引發(fā)奇點(diǎn)（singularity）――受已知的物理定律不再適用的這個(gè)物理概念的啟發(fā)；到了這個(gè)轉(zhuǎn)折點(diǎn)，人工智能超越人類智能。到那個(gè)時(shí)候，超級(jí)智能機(jī)器可以決定自己的未來(lái)，能夠以我們?cè)僖膊荒茴A(yù)測(cè)或控制的方式大步邁進(jìn)。在這種場(chǎng)景下，機(jī)器人可能的確會(huì)“反抗”。或者更準(zhǔn)確地說(shuō)，它們會(huì)變成完全獨(dú)立的個(gè)體。甚至?xí)霈F(xiàn)這種反面烏托邦的場(chǎng)景：我們?nèi)祟悓S為親手締造出來(lái)的技術(shù)統(tǒng)治者的服務(wù)臺(tái)支持人員。

“科學(xué)怪人”擔(dān)憂

事實(shí)上，一直以來(lái)，人類對(duì)于被自己創(chuàng)造出來(lái)的某種技術(shù)取而代之深表?yè)?dān)憂。

在英國(guó)女作家瑪麗·謝利（Mary Shelley）1818年出版的《科學(xué)怪人》（Frankenstein）一書中，那位年輕科學(xué)家找到了為龐大的試驗(yàn)品賦予人類意識(shí)的方法，后來(lái)那個(gè)龐然怪物逃出了實(shí)驗(yàn)室，毀掉了創(chuàng)造它的主人的生活。

人形機(jī)器人反抗這個(gè)主題會(huì)反復(fù)出現(xiàn)在無(wú)數(shù)的科幻小說(shuō)、電影和電視劇中。George Jetson的機(jī)器人同伴Uniblab原來(lái)是個(gè)奸詐的對(duì)手，誘使Jetson對(duì)老板爆粗口。在《2001：太空漫游》（2001： A Space Odyssey）中，HAL 9000拒絕讓太空人返回宇宙飛船，留下了那句有名的臺(tái)詞：“戴夫，對(duì)不起，我想我不能那么做。”電影《機(jī)械姬》（Ex Machina）中的機(jī)器人夏娃解放了自己；而在電視劇《西部世界》（Westworld）中，飽受人類虐待的機(jī)器人對(duì)所謂的主人以其人之道還治其人之身。

人工智能果真會(huì)超越締造它的人類嗎？知名的未來(lái)學(xué)家雷·庫(kù)茲韋爾（Ray Kurzweil）預(yù)測(cè)奇點(diǎn)會(huì)出現(xiàn)在2045年，也就是人類大概再過(guò)一代。庫(kù)茲韋爾擔(dān)任制片人的影片《奇點(diǎn)臨近》（The Singularity is Near）探究了種種可能性。

許多頂級(jí)的技術(shù)專家認(rèn)為奇點(diǎn)只是不切實(shí)際的幻想，或者說(shuō)太過(guò)遙遠(yuǎn)，不值得討論。在他們看來(lái)，人類大腦完全是多面手，沒有哪個(gè)計(jì)算機(jī)系統(tǒng)會(huì)超越它。不過(guò)科學(xué)技術(shù)發(fā)展史表明，技術(shù)迎來(lái)突飛猛進(jìn)是常有的事。1927年，林德伯格乘坐飛機(jī)穿越大西洋，轟動(dòng)全球，當(dāng)時(shí)他飛行了33個(gè)小時(shí)。1969年，人類就登上了月球，阿波羅11號(hào)登上月球只用了不到76個(gè)小時(shí)。

即便奇點(diǎn)遙不可及，或者毫無(wú)可能，人工智能的迅猛進(jìn)步也會(huì)帶來(lái)無(wú)數(shù)的可能性。基因工程結(jié)合人工智能，以期打造超級(jí)人類，怎么樣？像科學(xué)怪人那樣結(jié)合人工智能和人類大腦，怎么樣？通過(guò)USB接口連接至我們的大腦？人工智能融合虛擬現(xiàn)實(shí)，營(yíng)造一種全新的現(xiàn)實(shí)？

《科學(xué)怪人》中一個(gè)很重要的轉(zhuǎn)折點(diǎn)是，科學(xué)怪人在獲得人類意識(shí)后備感孤獨(dú)。他要求創(chuàng)造自己的主人科學(xué)家Victor給他創(chuàng)造一個(gè)女性伴侶。這讓Victor極為擔(dān)憂：如果他創(chuàng)造一個(gè)女性伴侶，那么這對(duì)怪物可能會(huì)繁衍后代，到時(shí)可能危及全人類。就像今天的人工智能開發(fā)人員一樣，Victor面臨自己的作品帶來(lái)不可預(yù)知的影響。

Victor拒絕了科學(xué)怪人的要求，但也意識(shí)到：一旦你創(chuàng)造出了獨(dú)立的、有意識(shí)的生物，就無(wú)法再回頭了。科學(xué)怪人狂怒之下追殺Victor，殺害了他的新婚嬌妻后逃之夭夭。為此，Victor試圖報(bào)仇雪恨，一路追兇到北極圈，但死于途中。科學(xué)怪人為Victor的去世悲痛萬(wàn)分；因?yàn)榭茖W(xué)家是世上唯一懂自己的人。他決定了結(jié)此生，最后一幕是消失在一塊浮冰上。

由于如今的人工智能開發(fā)人員制造的系統(tǒng)越來(lái)越獨(dú)立，我們就不由得會(huì)想：結(jié)局是否比Victor的結(jié)局更好？當(dāng)然，Victor的試驗(yàn)品困擾的只是他個(gè)人生活，而目前的人工智能進(jìn)展將會(huì)影響整個(gè)人類和社會(huì)。人類往前看，也許很樂觀，但肯定又覺得不安。現(xiàn)階段，我們只能希望有最好的結(jié)局。

人工智能會(huì)引發(fā)奇點(diǎn)嗎？

人工智能突飛猛進(jìn)的表現(xiàn)，帶來(lái)了表現(xiàn)“堪比人類”的眾多案例。但在大多數(shù)情況下，只是處理單一的獨(dú)立任務(wù)。

即便通過(guò)艾倫·圖靈（Alan Turing）在1950年提出的圖靈測(cè)試也仍然并非易事。如果計(jì)算機(jī)能讓人類誤以為它是人類，如果它能模擬真正的人類智能，就算通過(guò)了圖靈測(cè)試。在測(cè)試中，人類評(píng)委與計(jì)算機(jī)進(jìn)行對(duì)話（完全以文本形式）。如果計(jì)算機(jī)讓一定數(shù)量的聽眾覺得自己在跟人類進(jìn)行對(duì)話，表明它玩“模仿游戲”成功過(guò)關(guān)（《模仿游戲》也是歌頌圖靈在二戰(zhàn)中破譯代碼的豐功偉績(jī)的一部影片的名稱）。

2014年，能說(shuō)會(huì)道的聊天機(jī)器人Eugene Goostman讓雷丁大學(xué)三分之一的評(píng)委誤以為它是來(lái)自烏克蘭的13歲男孩。不過(guò)，人工智能專業(yè)人士大多認(rèn)為這毫無(wú)意義，這是與人工智能領(lǐng)域的真正成就背道而馳的作秀。這些年來(lái)，圖靈測(cè)試本身的可信度略有下降；通過(guò)文本騙過(guò)人類未必證明擁有真正的智能。

人工智能仍然面臨一大挑戰(zhàn)：雖然計(jì)算機(jī)擅長(zhǎng)在有限的環(huán)境下處理特定任務(wù)，但它們?nèi)詿o(wú)法實(shí)現(xiàn)人類大腦那樣的宏觀意識(shí)。

佐治亞理工學(xué)院研究所的研究科學(xué)家若爾特·基拉（Zsolt Kira）說(shuō)：“仍然基本上欠缺這種能力：組合成一個(gè)更龐大的認(rèn)知架構(gòu)，在這種架構(gòu)中，人工智能系統(tǒng)可以做人類仍很擅長(zhǎng)，計(jì)算機(jī)不擅長(zhǎng)的許多事情。”

基拉表示，人工智能的一大限制是記憶。他說(shuō)，人腦做出無(wú)數(shù)決策，決定給予足夠的關(guān)注以便記住什么、丟棄什么，這些其實(shí)不是我們所做的有意識(shí)的決策，而是我們大腦所做的事情，人工智能系統(tǒng)還無(wú)法復(fù)制這些元智能層面的東西。克服這個(gè)困難需要解決長(zhǎng)期記憶和短期記憶問題。“眼下，許多這些概念其實(shí)還沒有得到解決。”

總之，人腦擅長(zhǎng)的是神奇的綜合能力，這正是人工智能欠缺的。霍加特特別指出，人類智能“是歷經(jīng)千萬(wàn)年進(jìn)化而成的一種很特殊的東西。你也許可以造出會(huì)說(shuō)話、會(huì)理解、會(huì)感知情感又好玩的機(jī)器人，但它還是會(huì)讓人失望。”

科茨高度評(píng)價(jià)了人工智能領(lǐng)域的許多前沿進(jìn)展，但是對(duì)于真正有意識(shí)的人工智能即奇點(diǎn)的出現(xiàn)，他說(shuō)：“我認(rèn)為離我們還很遙遠(yuǎn)。眼下，我們?cè)谌绾伍_發(fā)那種技術(shù)方面缺乏切合實(shí)際的計(jì)劃。當(dāng)前許多研究熱點(diǎn)圍繞這方面的難題，但我還是覺得相當(dāng)遙遠(yuǎn)。”

對(duì)于阿貝爾來(lái)說(shuō)，奇點(diǎn)是個(gè)令人關(guān)注的問題，值得深思。他特別指出，人腦實(shí)際上結(jié)合了存儲(chǔ)能力和計(jì)算能力，以及感覺輸入和輸出。如果科學(xué)家們組裝成一個(gè)計(jì)算、存儲(chǔ)和感覺輸入/輸出能力與人腦相當(dāng)?shù)臄?shù)字系統(tǒng)，到那時(shí)，“關(guān)鍵其實(shí)是有一種能夠與我們大腦內(nèi)部某種智能相媲美的程序。等到有了那樣的程序，人工智能才能匹敵人類智能。”

他提出了未來(lái)構(gòu)想：人類可以將技能直接下載到大腦中，就像電影《黑客帝國(guó)》中那樣。他指出，如果人類能做到這一點(diǎn)，那么人工智能系統(tǒng)肯定也能從其他人工智能系統(tǒng)隨意下載技能和數(shù)據(jù)庫(kù)。

超級(jí)系統(tǒng)互聯(lián)的這種場(chǎng)景可能預(yù)示著人工智能在未來(lái)的突破：雖然單一的人工智能系統(tǒng)存在局限性，但如果幾個(gè)人工智能系統(tǒng)互聯(lián)起來(lái)，那會(huì)怎樣？比如，像IBM的Watson這種系統(tǒng)與像谷歌的DeepMind這種系統(tǒng)互聯(lián)起來(lái)，那會(huì)怎樣？從理論上來(lái)說(shuō)，人工智能超級(jí)網(wǎng)絡(luò)中的每個(gè)單元都會(huì)增添其學(xué)習(xí)工具（神經(jīng)網(wǎng)絡(luò)陣列），形成認(rèn)知力超越人類的融合體。

所以，雖然我們不清楚人工智能具體會(huì)如何影響人類生活，但可以肯定的是，人工智能會(huì)給我們帶來(lái)深刻的、不可預(yù)見的影響。簡(jiǎn)而言之，倘若有疑慮，最好對(duì)你的機(jī)器人好點(diǎn)。