馬斯克資助的AI安全項(xiàng)目正在做什么？

文 陳夢(mèng)凡 孫夢(mèng)璠 編輯 汪再興 卜昌炯

馬斯克資助的AI安全項(xiàng)目正在做什么？

文 陳夢(mèng)凡 孫夢(mèng)璠 編輯 汪再興 卜昌炯

人工智能是一把雙刃劍。如何讓它只做對(duì)人類(lèi)有益的事卻不至于失控，擁有豪華科學(xué)顧問(wèn)團(tuán)隊(duì)的生命未來(lái)研究所正未雨綢繆。

美國(guó)麻省理工學(xué)院教授、宇宙學(xué)家麥克斯·泰格馬克將致力于降低人類(lèi)存在性風(fēng)險(xiǎn)的生命未來(lái)研究所官網(wǎng)Logo設(shè)計(jì)成一棵樹(shù)是有意味的。這棵與眾不同的樹(shù)一邊枝繁葉茂，另一邊只剩下枯枝，似乎在暗示技術(shù)能給人類(lèi)帶來(lái)前所未有的繁盛，但也會(huì)讓人類(lèi)走向自我毀滅。

麥克斯是生命未來(lái)研究所（Future of Life Institute，簡(jiǎn)稱(chēng)FLI）的聯(lián)合創(chuàng)始人之一。如名所示，這是一個(gè)關(guān)注人類(lèi)未來(lái)的組織，關(guān)注基因、核以及人工智能等各種現(xiàn)代技術(shù)的發(fā)展會(huì)為人類(lèi)帶來(lái)怎樣的前景。

FLI官網(wǎng)上列出的一長(zhǎng)串科學(xué)顧問(wèn)委員會(huì)成員名單，可謂大牌云集。這可能是由世界上最聰明、最具影響力的一群人組成的顧問(wèn)團(tuán)。

他們中有行事天馬行空的特斯拉創(chuàng)始人埃隆·馬斯克，還有身兼導(dǎo)演、演員、編劇等身份，多次獲得艾美獎(jiǎng)和金球獎(jiǎng)的艾倫·艾爾達(dá)，以及內(nèi)地很多觀(guān)眾熟悉的影星摩根·弗里曼。但更多的還是學(xué)術(shù)圈名人，著名物理學(xué)家史蒂夫·霍金領(lǐng)銜一眾來(lái)自哈佛、牛津、劍橋、麻省理工等院校的精英們，涉及基因、大腦、人工智能、物理、宇宙、數(shù)字經(jīng)濟(jì)等各個(gè)領(lǐng)域。

他們中的不少人曾在不同場(chǎng)合向媒體表達(dá)過(guò)對(duì)人工智能的擔(dān)憂(yōu)。去年12月，霍金接受BBC采訪(fǎng)時(shí)稱(chēng)全面發(fā)展的人工智能可能成為人類(lèi)的終結(jié)者，他主要擔(dān)心的是那些達(dá)到或者超越人類(lèi)的人工智能—“他們會(huì)快速地發(fā)展和更新?lián)Q代，但人類(lèi)受制于緩慢的生物進(jìn)化，無(wú)法與之抗衡，終將被取代”。馬斯克也有過(guò)“發(fā)展人工智能就像是召喚魔鬼”的言論，他說(shuō)：“就像所有的神話(huà)中畫(huà)著法陣捧著圣水的邪惡巫師一樣，每個(gè)巫師都聲稱(chēng)自己可以控制惡魔，但最終沒(méi)有一個(gè)成功的?！?/p>

名人的擔(dān)憂(yōu)體現(xiàn)了時(shí)下這個(gè)社會(huì)流行且互相沖突的潮流：過(guò)去5年，人工智能得以快速發(fā)展，很多5年前或者多年前想象的事情現(xiàn)在已經(jīng)發(fā)生了，從活躍在各種制造業(yè)工廠(chǎng)的機(jī)器人到大腦原型芯片TrueNorth，再到Siri、微軟小冰等，人工智能已經(jīng)陸續(xù)走進(jìn)并改變著人們的生活，但機(jī)器越來(lái)越像人的同時(shí)也讓它們的創(chuàng)造者深陷恐懼。

2014年3月，在麥克斯的倡導(dǎo)下，Skype的創(chuàng)始人之一揚(yáng)·塔里安、哈佛大學(xué)統(tǒng)計(jì)學(xué)在讀博士維克托維亞·克拉克弗納、加州大學(xué)圣克魯茲分校理論宇宙學(xué)教授安東尼·阿吉雷，以及擁有教育和哲學(xué)背景的波士頓大學(xué)在讀博士米哈埃拉·契塔共同成立了FLI。

依托于波士頓地區(qū)豐富的高校資源，F(xiàn)LI吸引了來(lái)自各個(gè)高校的志愿者。志愿者和創(chuàng)始人們經(jīng)常在一起席地而坐進(jìn)行頭腦風(fēng)暴，討論項(xiàng)目、組織活動(dòng)。

“出于對(duì)人類(lèi)未來(lái)的關(guān)心，來(lái)自不同領(lǐng)域的我們聚在了一起。不同的專(zhuān)業(yè)背景和興趣能讓我們更好地完成使命?！本S克托維亞說(shuō)。

彼時(shí)在商業(yè)上已經(jīng)頗有成就的揚(yáng)·塔里安為初創(chuàng)的機(jī)構(gòu)注入了發(fā)展資金。而真正讓媒體和公眾關(guān)注到這個(gè)組織的，則是埃隆·馬斯克。今年年初，馬斯克向FLI提供了1000萬(wàn)美元的資助，用于A(yíng)I安全的研究。

特斯拉、SpaceX創(chuàng)始人埃隆·馬斯克

“我們應(yīng)該主動(dòng)出擊”

去年10月，馬斯克在麻省理工學(xué)院航空航天系的百年研討會(huì)上與學(xué)生們交流，聊的話(huà)題很“未來(lái)”，計(jì)算機(jī)科學(xué)、人工智能、太空探索，還有火星殖民計(jì)劃。有人問(wèn)及他對(duì)人工智能的看法，這位科技狂人說(shuō)：“我覺(jué)得我們應(yīng)該非常小心人工智能?；蛟S人工智能是我們所面臨的最大的存在性威脅。我越來(lái)越傾向于應(yīng)該有一些規(guī)范和監(jiān)督，國(guó)家層面或者是國(guó)際層面的，從而保證我們不會(huì)做蠢事?！?/p>

被很多媒體引用的“召喚魔鬼”的言論就出自這場(chǎng)交流。麥克斯說(shuō)他很欣賞馬斯克的一個(gè)地方，就是他不僅說(shuō)，而且真的會(huì)去做。

“馬斯克關(guān)注人工智能的安全問(wèn)題已經(jīng)有一段時(shí)間了，這也促使他加入了CSER （存在風(fēng)險(xiǎn)研究中心）和FLI?！本S克托維亞說(shuō)，“今年年初我們組織了一場(chǎng)AI會(huì)議，達(dá)成了很多研究方向的共識(shí)，馬斯克希望讓這些研究能夠落地?！?/p>

2015年1月2日至5日，在波多黎各的圣胡安，F(xiàn)LI組織了一場(chǎng)沒(méi)有媒體參與的閉門(mén)會(huì)議，參會(huì)的有學(xué)術(shù)界和業(yè)界的AI從業(yè)者，還有經(jīng)濟(jì)、倫理和法律各界的專(zhuān)家。FLI希望這次會(huì)議能夠?yàn)槲磥?lái)AI的發(fā)展和研究確定下方向，從而使其效益最大化，避免走入歧途。當(dāng)時(shí)已是FLI科學(xué)顧問(wèn)的馬斯克也參與了這次會(huì)議。那場(chǎng)會(huì)議后，馬斯克宣布向FLI資助1000萬(wàn)美元用于A(yíng)I安全的研究。

在宣布資助不久后的一次對(duì)話(huà)中，麥克斯問(wèn)馬斯克：“為什么對(duì)人類(lèi)的未來(lái)這么有興趣？”先后創(chuàng)立了特斯拉、SpaceX的馬斯克說(shuō)這跟他小時(shí)候喜歡看科幻小說(shuō)和哲學(xué)書(shū)籍有關(guān)，讓他意識(shí)到，“我們應(yīng)該做的是讓生命在未來(lái)延續(xù)，尤其是有意識(shí)的生命。這樣我們才能夠更好地去理解宇宙的本質(zhì)，達(dá)到更高的文明層次”。

在與麥克斯的對(duì)話(huà)中，馬斯克認(rèn)為，未來(lái)科技將會(huì)從五個(gè)層面對(duì)人類(lèi)社會(huì)產(chǎn)生巨大影響—讓生命多星球化、能源的可持續(xù)生產(chǎn)和使用、互聯(lián)網(wǎng)的持續(xù)發(fā)展、對(duì)人類(lèi)基因的重編碼以及人工智能。馬斯克創(chuàng)辦的特斯拉和SpaceX，前者專(zhuān)注于新能源的使用，減少人類(lèi)交通對(duì)石油類(lèi)能源的依賴(lài)，后者作為一家私營(yíng)太空運(yùn)輸公司，旨在為人類(lèi)進(jìn)入太空鋪路。

在對(duì)人工智能的態(tài)度上，馬斯克的立場(chǎng)顯得矛盾。他認(rèn)為，AI最大的好處在于能夠使人們從很多無(wú)聊、繁重的工作和測(cè)試中解放出來(lái)，并突破一些人類(lèi)智慧尚未解決和難以控制的問(wèn)題，比如治療癌癥、老年疾病等。

同時(shí)，他也認(rèn)為，AI與基因技術(shù)一樣是“雙面的”，可能帶來(lái)混亂。“最好的方式是避免AI的負(fù)面影響出現(xiàn)，而不是等它出現(xiàn)之后再做出反應(yīng)。有些AI的潛在威脅是很?chē)?yán)重的。當(dāng)風(fēng)險(xiǎn)很大的時(shí)候，我們應(yīng)該主動(dòng)出擊而不是被動(dòng)反應(yīng)?！?/p>

“當(dāng)時(shí)做特斯拉和SpaceX，成功的幾率可能只有兩成?！痹隈R斯克看來(lái)，二者對(duì)人類(lèi)社會(huì)都是一種長(zhǎng)期的優(yōu)化，不宜急功近利。同樣的，在資助FLI做人工智能安全研究這件事上，他也看得很長(zhǎng)遠(yuǎn)，對(duì)錢(qián)的問(wèn)題并不太計(jì)較，“并不是每個(gè)人都需要做這些事情，只是確實(shí)需要有人去做。如果我看到這些領(lǐng)域沒(méi)有人在做，（就會(huì)想）也許我可以在這些事情上做點(diǎn)什么?！?/p>

一切都是為了有益于人類(lèi)

Skype的創(chuàng)始人揚(yáng)·塔里安曾打過(guò)一個(gè)比方，“發(fā)展先進(jìn)的人工智能就像發(fā)射火箭，第一要?jiǎng)?wù)是使加速度達(dá)到最大，一旦它開(kāi)始增速的時(shí)候，就得去關(guān)注控制與引導(dǎo)的問(wèn)題?！?/p>

FLI的創(chuàng)始人麥克斯并不是AI的反對(duì)派，不認(rèn)為應(yīng)該減緩人工智能的發(fā)展，但他希望調(diào)整人工智能的目標(biāo)。這位來(lái)自麻省理工學(xué)院的教授告訴《博客天下》，發(fā)展人工智能的目標(biāo)不應(yīng)該是讓機(jī)器更加聰明更加智能，而是讓它們更加忠誠(chéng)且更有益于人類(lèi)。

“做生物的人，他們并不想做生物武器，他們只想去做藥品之類(lèi)的對(duì)人類(lèi)有益的事情；做化學(xué)的一樣，他們不希望去研發(fā)化學(xué)武器，他們只想創(chuàng)造新的材料去幫助人類(lèi)。對(duì)人工智能來(lái)說(shuō)也是一樣的，研發(fā)他們的人在最開(kāi)始就應(yīng)該想清楚這些東西將會(huì)走向哪里?！丙溈怂拐f(shuō)。所以，F(xiàn)LI對(duì)參選項(xiàng)目的一個(gè)要求就是，“如何讓AI更加有益于人類(lèi)而不是簡(jiǎn)單地變得更加能干?！?/p>

在大方向的指引下，還有具體的研究重點(diǎn)。FLI根據(jù)前期調(diào)研以及會(huì)議成果發(fā)布了一份文件，詳細(xì)介紹了AI安全研究的短期和長(zhǎng)期研究重點(diǎn)。短期研究重點(diǎn)關(guān)注那些已經(jīng)初步顯現(xiàn)的AI的影響與威脅，長(zhǎng)期研究重點(diǎn)則關(guān)注超級(jí)人工智能是否能實(shí)現(xiàn)。

在得到馬斯克的資助后，F(xiàn)LI開(kāi)始了針對(duì)AI未來(lái)研究項(xiàng)目的征集與選拔。此前麥克斯和FLI的另一位創(chuàng)始人安東尼·阿吉雷曾經(jīng)運(yùn)營(yíng)過(guò)物理學(xué)領(lǐng)域的一個(gè)類(lèi)似機(jī)構(gòu)，他們對(duì)機(jī)構(gòu)運(yùn)營(yíng)和項(xiàng)目管理有一定的經(jīng)驗(yàn)，因此他們也為項(xiàng)目訂立了一系列科學(xué)嚴(yán)謹(jǐn)?shù)膶徟鞒獭谑盏礁鱾€(gè)研究團(tuán)隊(duì)的提案后，F(xiàn)LI將組織相應(yīng)領(lǐng)域內(nèi)公認(rèn)的學(xué)者教授或者業(yè)內(nèi)人士組成專(zhuān)家評(píng)審團(tuán)，對(duì)項(xiàng)目進(jìn)行同行評(píng)審。當(dāng)然，F(xiàn)LI會(huì)保證評(píng)審者和項(xiàng)目申請(qǐng)者互相不知道對(duì)方的信息。

評(píng)審標(biāo)準(zhǔn)包括項(xiàng)目主要研究者及其團(tuán)隊(duì)的資格審查，項(xiàng)目本身的價(jià)值、科學(xué)嚴(yán)謹(jǐn)性和創(chuàng)新性，在給定時(shí)間框架內(nèi)研究的可行性等。最終37個(gè)項(xiàng)目通過(guò)了審核。

之后，F(xiàn)LI與硅谷社區(qū)基金會(huì)下屬的一個(gè)捐贈(zèng)人指導(dǎo)基金（DAF）合作確定每個(gè)項(xiàng)目分配多少錢(qián)。根據(jù)項(xiàng)目承接團(tuán)隊(duì)要求的資助金額，結(jié)合項(xiàng)目的影響力，DAF最終確定下分配的項(xiàng)目資金，并且后期負(fù)責(zé)與項(xiàng)目承擔(dān)方在經(jīng)費(fèi)上的對(duì)接。

37個(gè)項(xiàng)目中包括32個(gè)具體的研究課題，1個(gè)人工智能戰(zhàn)略研究中心的籌建以及4個(gè)教育與會(huì)議項(xiàng)目。FLI最初的希望是能夠?qū)ⅠR斯克的資助大致分在計(jì)算機(jī)科學(xué)（50%），政策（20%），法律、倫理和經(jīng)濟(jì)（15%）以及教育（15%）4個(gè)類(lèi)目當(dāng)中。后來(lái)根據(jù)申報(bào)項(xiàng)目的數(shù)量和質(zhì)量，進(jìn)行了相應(yīng)的優(yōu)化調(diào)整。

這些項(xiàng)目將獲得為期3年的資助，大部分項(xiàng)目從今年9月份開(kāi)始，項(xiàng)目承擔(dān)者每年將給FLI提交報(bào)告匯報(bào)，F(xiàn)LI將組織相應(yīng)的審核。

比失業(yè)更可怕的是失去尊嚴(yán)

牛津大學(xué)的尼克·博斯特羅姆教授拿到了FLI的150萬(wàn)美元的最高資助。

這筆經(jīng)費(fèi)將用于籌建人工智能戰(zhàn)略研究中心。這一中心將由牛津大學(xué)和劍橋大學(xué)聯(lián)合成立，專(zhuān)注于為政府、行業(yè)領(lǐng)導(dǎo)者等提供政策研究支持，從而降低人工智能發(fā)展的風(fēng)險(xiǎn)，使其效益最大化。

尼克是牛津大學(xué)的哲學(xué)教授，專(zhuān)注于存在風(fēng)險(xiǎn)和人類(lèi)未來(lái)的研究，也是暢銷(xiāo)書(shū)《超級(jí)智能：路徑、危險(xiǎn)、策略》一書(shū)的作者。尼克認(rèn)為，人們有理由相信不受監(jiān)管與約束的人工智能會(huì)帶來(lái)相當(dāng)大的危險(xiǎn)，一方面是因?yàn)榧夹g(shù)本身有了前所未有的能力，另一方面是因?yàn)檎牟回?fù)責(zé)任。像核裂變等高科技，政策走在了技術(shù)發(fā)展之后，使得這項(xiàng)技術(shù)的發(fā)展伴隨著毀滅性的風(fēng)險(xiǎn)。為了避免這種狀況發(fā)生，人工智能安全戰(zhàn)略的研究必須走在超越人類(lèi)的實(shí)用人工智能廣泛實(shí)行之前。尼克希望戰(zhàn)略研究中心的成果能夠?yàn)槿澜绲恼蛷氖翧I行業(yè)的人所用。

尼克本人更加關(guān)注AI的長(zhǎng)期發(fā)展，包括超級(jí)人工智能一類(lèi)的議題，但是人工智能戰(zhàn)略研究中心建成后也會(huì)關(guān)注AI造成的短期問(wèn)題，例如失業(yè)問(wèn)題。對(duì)這一問(wèn)題，他個(gè)人的看法比較樂(lè)觀(guān)：“我個(gè)人覺(jué)得到目前為止，我們還沒(méi)有看到人工智能技術(shù)的應(yīng)用與早前的技術(shù)進(jìn)步浪潮帶來(lái)的改變有什么不同—一些工作會(huì)被淘汰，但新的工作也會(huì)出現(xiàn)。”

但并非所有人都這么樂(lè)觀(guān)。“我認(rèn)為未來(lái)20年間，人工智能帶來(lái)的失業(yè)問(wèn)題是最令人擔(dān)憂(yōu)的?！盕IL的項(xiàng)目承擔(dān)者之一，斯坦福大學(xué)博士邁克爾·韋伯告訴《博客天下》，“不管你是一個(gè)拿著高收入的律師，還是流水線(xiàn)上生產(chǎn)iPad的普通工人，當(dāng)你的雇主發(fā)現(xiàn)使用機(jī)器或者軟件成本更低時(shí)，你都有可能失業(yè)。”邁克爾說(shuō)，人類(lèi)在享受人工智能帶來(lái)的經(jīng)濟(jì)增長(zhǎng)和生活質(zhì)量改善的同時(shí)，更應(yīng)該去關(guān)注社會(huì)中每個(gè)人的幸福和尊嚴(yán)，尤其是可能被技術(shù)進(jìn)步奪去工作的人。他的研究課題是“人工智能經(jīng)濟(jì)的優(yōu)化過(guò)渡”，他將依據(jù)相關(guān)經(jīng)濟(jì)理論，針對(duì)不同情境下的AI發(fā)展，探