深度思維大模型“加托”真的是“通才”嗎

早些時候，深度思維發(fā)布了一款名為“加托”的新的“通才”型人工智能模型。母公司為Alphabet的人工智能實驗室深度思維表示，這一模型可以完成玩雅達利視頻游戲、理解圖像內(nèi)容、聊天、以及用物理的機器人手臂來堆棧塊等各種任務(wù)。總而言之，加托可以完成604個不同的任務(wù)。

毫無疑問，這款“加托”模型有著十分強大的能力，而且在它發(fā)布僅僅一周之后，許多研究人員就已經(jīng)對它有些癡迷了。

深度思維公司的頂級研究人員之一，同時也是有關(guān)“加托”的論文的合著者的南多·德·弗雷塔斯就是其中的一名，談到加托他難掩自己的興奮。他發(fā)表推文說：“游戲要通關(guān)”，也就是說通過“加托”，人們現(xiàn)在找到了通往人工通用智能——即AGI的道路，AGI這一概念是指達到類似人類或超人類級別的人工智能。他說，現(xiàn)在要想實現(xiàn)AGI所要解決的主要是有關(guān)規(guī)模的問題：即怎樣讓類似“加托”的模型規(guī)模更大，能力更強。

而德·弗雷塔斯的這一聲明不出意外地引發(fā)了媒體的廣泛報道，稱深度思維公司正在達到“接近”人類水平的人工智能。而且這已經(jīng)不是媒體第一次就超越現(xiàn)實進行炒作了。

其實許多其他很強大的新發(fā)布的人工智能模型也發(fā)布過類似的宏偉聲明，例如Open AI公司的文本生成器GPT-3模型和圖像生成器DALL-E模型。但是很遺憾的是這種吸引人眼球的“宏偉聲明”導(dǎo)致該領(lǐng)域的許多人忽略了人工智能中的其他重要的研究領(lǐng)域。而對于“加托”模型來說，也是如此。

目前的一些人工智能模型中已經(jīng)開始混合不同的技能：例如，DALL-E模型可以從文本描述中生成圖像。還有其他模型可以通過相對單一的訓(xùn)練技術(shù)來同時實現(xiàn)對于圖片和句子的識別。此外深度思維公司的阿爾法零模型已經(jīng)既學(xué)會了下圍棋、也學(xué)會了下國際象棋和將棋。

但阿爾法零與“加托”的關(guān)鍵區(qū)別之處是：阿爾法零一次只能學(xué)習(xí)一項任務(wù)。在學(xué)會下圍棋之后，如果它想學(xué)習(xí)一門新的棋類，必須先忘記之前學(xué)會的一切。也就是說，它不能同時學(xué)習(xí)玩兩種游戲。

而這里就顯示“加托”的強大之處：“加托”可以同時學(xué)習(xí)多個不同的任務(wù)，這意味著它可以在不同技能的訓(xùn)練之間切換，而在學(xué)習(xí)另一種技能之前不需要忘記之前所學(xué)的技能。盡管這看上去只是一個小小的進步，但意義重大。

不過“加托”也有缺點，那就是不能同時執(zhí)行不同種類的任務(wù)。麻省理工學(xué)院專攻人工智能、自然語言和語音處理的助理教授雅各布·安德烈亞斯說，機器人仍然需要從文本中學(xué)習(xí)有關(guān)這個世界的“常識性知識”。

而如果機器人學(xué)會以上這些能力，將可能在某些場合很有幫助。安德烈亞斯說：“這樣，當(dāng)你把一個機器人帶進廚房時，并首次要求它做一杯茶時，它們不需要知道就會知道做一杯茶的步驟，并同時可以自己尋找到茶袋的位置。”

但是一些外部研究人員對德·弗雷塔斯的主張表示強烈的不認同。例如人工智能研究員加里·馬庫斯就認為上面所說的這些“遠非‘智能’”，他對深度學(xué)習(xí)也一直持批評態(tài)度。他表示，圍繞“加托”的炒作表明，人工智能領(lǐng)域正被一種毫無意義的“必勝主義文化”所破壞。

馬庫斯說，總能吸引人們眼球并讓人們興奮的深度學(xué)習(xí)模型中的一個很大的問題是，人們總是期待它將會達到接近人類水平的智能，而如果它犯了錯誤，人們將會認為是這個模型的問題，而這就好像“如果一個人犯了錯誤，人們就認為是這個人有問題。”

他補充說：“而事實上大自然一直在告訴我們，這樣的方法是行不通的。但是遺憾的是，這一領(lǐng)域的研究人員如此相信新聞報道，以至于完全忽略了這一點。”

就連和德弗雷塔斯一起進行“加托”研究的同事杰基·凱和斯科特·里德在被問到有關(guān)這一問題的看法時，也持有謹慎態(tài)度。在談到加托可能向著AGI的方向發(fā)展的前景時，并沒有表現(xiàn)出很大的興趣，他說：“我并不認為類似的預(yù)測是真正可信并有說服力的，這種預(yù)測就像預(yù)測股市一樣，而我也盡量避免這么做。”

里德也表示，這個問題很難回答：“我認為大多數(shù)從事機器學(xué)習(xí)工作的人都會刻意避免回答這類問題。這很難預(yù)測，但是，我也確實希望有一天它可以實現(xiàn)。”

在某種角度來看，深度思維將“加托”炒作為萬能的“通才”和AGI，最終在人工智能行業(yè)的受害者可能反而是深度思維自身。這將使人們產(chǎn)生目前的人工智能系統(tǒng)的功能仍然“狹隘”的想法，即目前的人工智能只能做一組特定的、受限制的任務(wù)，比如生成文本。

包括來自深度思維的一些技術(shù)專家也認為，有一天人類將開發(fā)出“更廣泛的”的人工智能系統(tǒng)，它們將能夠像人類一樣工作，甚至更好。雖然有些人將其稱為人工通用智能，但也有一些人批判它就好像“對魔法的信仰”。包括Meta公司首席人工智能科學(xué)家楊立昆在內(nèi)的許多頂級研究人員也對其可能性持質(zhì)疑態(tài)度。

“加托”是一個“通才”，它可以同時做許多不同的事情。但是麻省理工學(xué)院的安德烈亞斯說，這還沒有達到“通用”人工智能，通用人工智能將能夠根據(jù)需要靈活地執(zhí)行模型沒有被訓(xùn)練過的新型任務(wù)，而目前我們還遠遠做不到這一點。

他說，即使擴大模型的規(guī)模也不能解決模型無法“終身學(xué)習(xí)”的問題。終身學(xué)習(xí)是指如果教模型一些東西，他們會理解其中所有的含義，并在之后所有的任務(wù)中都將這些新學(xué)到的能力用于其中。

人工智能及機器人方面的研究員、由蒂尼特·格布魯共同創(chuàng)立的Black in Ai組織的成員伊曼紐爾·卡亨布維也認為，圍繞“加托”模型的炒作對人工智能的總體發(fā)展是有害的。

他說：“在人工智能領(lǐng)域還有許多有趣的、但是由于資金不足需要被更多關(guān)注的話題，但很遺憾許多大型科技公司以及這些科技公司的許多研究人員對其不那么感興趣。”

帕特里克小麥戈文基金會的主席維拉斯·達爾說，科技公司需要經(jīng)常退一步，回想并評估一下為什么要建造他們目前正在建造的東西。據(jù)悉，麥戈文基金會是一個資助人工智能項目的慈善機構(gòu)。

他說：“AGI這一概念描述的是一種深刻的有關(guān)人性的概念——通過創(chuàng)造可以使人類更強大的工具來推動人類變得更強大。”“而這一概念確實很好，但也要注意人們可能因為它而被分散注意力，忘記去研究我們正在面臨著的需要用人工智能來解決的真正的問題。”