現代機器人之父：預測AI的七宗致命罪狀（上）

錯誤的推斷，有限的想象力，以及一些其他常見的錯誤，這些都使得我們無法有效地思考未來。

我們對于人工智能和機器人技術的未來充滿了一種狂躁的臆想——幻想著它們將會變得多么強大、多么迅速以及它們將會對就業產生怎樣的影響。

最近，我在 MarketWatch 上面看了一個故事——在 10 ～ 20 年內機器人將會取代目前人類一半的工作——它甚至用到了一張圖表來描繪這個數字。

這樣的說法十分荒謬！（我試著去保持專業的語言，但有時……）舉個例子，這個故事似乎表明，在 10 至 20 年內，美國的路面維修工人將由100萬人減少到50萬人，因為機器人會接管這些工作。而目前又有多少機器人在這些崗位上呢？零。又有多少機器人在這個領域工作的實際案例呢？零。類似的道理同樣也適用于那些指出我們將會看到 90%的工作在未來逐漸消失的故事。

錯誤的預測會引發我們對那些不會發生的事情的恐懼，無論是對現有工作的大規模破壞，奇點或是人工智能的出現，這些都與我們的價值觀相悖，并且可能會試圖毀滅我們。我們應該抵制這些錯誤。但是人類為何要犯下這些錯誤呢？我發現了以下七個常見的原因。

高估和低估

羅伊·阿瑪拉是未來研究所（the Institute for the Future）的聯合創始人。他最廣為人知的是他的格言——現在被稱為阿瑪拉定律：我們總是傾向于高估一項科技所帶來的短期效益，卻又低估它的長期影響。

這一個句子中包含了很多東西。樂天派可以從一方面解讀，而悲觀者則可以有不同的解讀。

美國的全球定位系統是解釋阿瑪拉定律兩個方面的一個很好的例子。自 1978 年起，有 24 顆衛星（目前包括備件有 31 顆）不斷地被放置在地球軌道上。全球定位系統目的是讓美國軍方精確地提供軍火。但是在 20 世紀 80 年代，這個項目多次面臨被取消。它的第一個實際用途是在 1991 年的塵暴中，美國軍方接受了它的作用，并取得了一些成功。

如今 GPS 的用途是最初人們完全沒有意料到的，這符合阿瑪拉定律中的長期影響。我的第二代 Apple Watch 在我外出跑步時會使用 GPS，其記錄的定位精確到足夠分辨出我在沿著街道的哪一邊跑步。對于早期的 GPS 工程師來說，信號接收器的微小尺寸及價格會是難以理解的。

這項技術在全球范圍內同步進行物理實驗，并在同步美國電網和維持其運正常轉方面扮演著重要角色。它甚至允許那些真正控制股市的高頻交易員規避災難性的同步誤差。無論或大或小，我們所有的飛機都使用它來導航，并且它還被用來追蹤那些被假釋出獄的人。它決定了全球各個地區應該種植哪種種子。它可以監測車輛蹤跡并報告駕駛員狀況。

GPS 最開始只有一個目的，但如何讓它發揮除了預期目標之外的作用是一個艱巨的任務。如今 GPS 已經滲透到我們生活的方方面面，但如果我們失去了 GPS 我們不僅僅只是會迷路那么簡單；我們還會感到寒冷，感到饑餓，甚至可能會死去。

近 30 年里其它科技的發展也是類似的模式。起始人們抱有極大的希望，但逐漸開始失望，而后來對其取得的超出預期的成果慢慢產生信心。計算法、全基因組測序、太陽能發電、風力發電、甚至是雜貨鋪送貨上門也同樣如此。

從 20 世紀 60 年代、80 年代，人工智能被一次又一次的高估，而且我堅信今天亦是如此，但它的長期影響也同樣可能被低估了。問題是：長期的時間具體是多少？接下來的六個錯誤有助于解釋為什么人工智能的未來會被嚴重低估。

想象的魔力

當我十幾歲的時候，亞瑟·克拉克與羅伯特·海因萊因及艾薩克·阿西莫夫并稱為三大科幻小說作家。但克拉克同時還是一個發明家、科學作家和未來主義者。在 1962 ～1973 年間，他提出了三條格言，這后來被稱為克拉克三大定律：

如果一個年高德劭的杰出科學家說，某件事情是可能的，那他幾乎一定是正確的。但如果他說，某件事情是不可能的，那他很有可能是錯的。

要想弄清楚一件事是否可能，唯一的途徑是稍稍突破二者的分界線，冒險進入不可能的領域。

任何極其先進的技術都與魔法無異。

個人來說，我認為應該提防第一定律中的第二句話，因為對于人工智能將會以多快的速度崛起，我比其他人更加保守一些。但目前來說，我想就克拉克第三定律進行闡述。

想象一下，我們擁有一臺時光機可以將艾薩克·牛頓從 17 世紀晚期傳送到今天，放在一個他熟悉的地方：劍橋大學三一學院教堂。

現在給牛頓展示一部蘋果手機。從你的口袋里拿出一部 iPhone，解鎖它，這樣布滿了圖標了的屏幕就會發光，然后把它遞給牛頓。通過使用棱鏡將太陽光分解，揭示了白色光是如何由不同顏色的光組成的，然后將其重新組合起來的牛頓無疑會對這個在漆黑的小教堂發出了生動色彩的小玩意兒感到驚訝。現在播放一個關于英國鄉村場景的電影，還有一些他曾聽過的教會音樂。然后，給他展示一個有500多頁他自己關于他的杰作原理注釋的網頁，教他如何使用縮放手勢來放大細節。

牛頓能解釋這個小設備是如何做到這一切的嗎？盡管他發明了微積分并解釋了光和重力，但他卻無法把化學從煉金術中區別開來。所以我認為他會感到困惑，甚至無法回想起這個設備最開始的相關輪廓。這與他十分感興趣的超自然的體現沒有什么區別，它和魔法是無法區分的。記住，牛頓是一個極其聰明的家伙。

如果一件事物是魔法，那我們就很難去發現它的局限性。假設我們進一步的向牛頓展示這個設備如何在黑暗中照明，它是如何拍攝照片錄制視頻及錄制聲音，如何將它用作一個放大鏡和鏡子。然后我們向他演示，這個設備如何用不可思議的速度進行算術運算并精確到多位小數。就在教堂里，我們指導他操作設備時應采取的詳細步驟，并告訴他可以用這個設備同世界上任何地方的人即時交流。

牛頓還能推測出這個設備的其他用途嗎？棱鏡無需能源就能永遠工作下去。他是否會推斷出 iPhone 會永遠工作下去，而忽略了它需要充電的情況呢？回想起來，我們在法拉第誕生 100 年前我們就抓來了他，所以他缺乏對電能的科學理解。既然 iPhone 在無需火的情況下就能成為光的來源，那么它也許會將鉛轉化為黃金？

這就是我們想象未來科技時都會出現的問題。如果它距離我們如今擁有且能夠理解的科技足夠遙遠的話，我們就發現不了它的局限性。如果它變得和魔法無二，人們所說的關于它的一切都不再被證偽。

當我與人們爭論是否我們應該為通用人工智能（即 AGI， 我們將建立像真實生物一樣運行的有著自主意識的實體）感到恐懼，我經常會遇到這樣的問題。我被告知，不了解通用人工智能將會有多么強大。這不僅僅只是一場爭論而已。

我們不知道是否它應該存在。我更希望它存在——這一直是我在機器人技術及人工智能領域工作的動力。但如今通用人工智能研究在普及和支撐實際存在的獨立實體方面做的并不好。

在至少 50 年內，人工智能在推理及常識方面都會遇到同樣的問題。我所見到的證據都表明我們還沒有辦法去建立一個可以獨自思考的實體。它的屬性是完全未知的，所以它很快就會被形容為魔法，強大到沒有界限。

宇宙中沒有任何東西是沒有界限的。

注意關于未來科技的爭論，這是不可思議的。這樣的爭論永遠不會被駁倒，因為這是一個基于信仰的爭論，而不是基于科學。（摘自美《深科技》）

（編輯/華生）