埃隆·馬斯克：與世界分享人工智能的宏偉大業

凱德·梅茨（Cade Meze）張 鐸/譯

埃隆·馬斯克：與世界分享人工智能的宏偉大業

凱德·梅茨（Cade Meze）
張 鐸/譯

選自美國《連線》雜志 2016年4月號

政客和資本家有一個共同的傳統，那就是在周五下午悄悄地發布壞消息。在去年12月的一個周五下午，電動汽車制造商特斯拉（Tesla）創始人埃隆·馬斯克（Elon Musk）和知名科技孵化器風險聯合投資公司（Y Combinator）總裁山姆·阿爾特曼（Sam Altman）在蒙特利爾（Montreal）人工智能大會即將閉幕時宣布了他們剛剛開發的人工智能（AI）項目。之所以選擇在會議結束時公開這一項目，是因為它已經得到了太多人的關注。硅谷里一些實力雄厚的公司已經注意到了這個項目，并開始向OpenAI剛剛招募的研究人員許以高薪，以期他們能為自己所用，其開出的薪水之高令人咋舌，以至于馬斯克和阿爾特曼不得不推遲這個新項目的發布。“薪水高得離譜。”沃伊切赫·薩倫巴（Wojciech Zaremba）說，他曾在谷歌（Google）和臉譜網（Facebook）實習，在正準備加入OpenAI項目時收到了高薪邀請。

那么，到底多高才能稱得上是“高得離譜”呢？兩年前新一代機器學習技術市場開始升溫時，微軟公司的研究副總裁彼得·李（Peter Lee）曾說，一個頂尖的人工智能研究員的身價已經遠遠超過美國職業橄欖球運動中最優秀的四分衛球員，而這類球員的年薪一般都在八位數以上。如果硅谷最著名的兩大企業去你的公司招募被他們相中的AI研究人員，他們則會開出難以想象的高薪。薩倫巴說，OpenAI剛剛組建的時候，就有人給他開出了兩倍于自身市場身價的工資。

OpenAI雖然不像其他公司那樣財大氣粗，但它能提供別的東西，在這里，沒有產品和季度盈利的限制，研究人員可以全心著眼于未來，盡情地做試驗，而最后的研究結果，不說全部，至少也會最大程度地與他人分享，讓大家各取所需。沒錯，馬斯克和阿爾特曼等人的目標，就是讓所有人免費分享這一21世紀最具變革性的技術。

在薩倫巴看來，雖然他非常欽佩谷歌和臉譜網等公司，但這些公司開出的薪水讓卻讓他望而卻步。薩倫巴認為，過高的薪水一方面是為了招募研究者，而更重要的一方面則是要將OpenAI扼殺在搖籃里，而這反而讓他更加認同OpenAI的偉大使命。“我意識到，”薩倫巴說，“OpenAI才是最好的選擇。”

這是整個故事最具諷刺意味的地方——就像職業球隊抓著自己的球星不放一樣，世界上最大的科技公司極力挽留自己的研究人才，但研究者卻懷有一顆博愛之心。在冰冷的人工智能研究界，最聰明的頭腦追逐的并不是（至少不完全是）改變世界的產品或日進斗金的職業。他們只想推動人工智能技術不斷進步。不過，如果大家都將最新的研究進展藏起來，那么人工智能的進步也就變成了天方夜譚。馬斯克等人為OpenAI項目投資數十億美元的目標就將其推向極致。

幾天前，OpenAI發布了首批軟件，借助這個工具包，OpenAI可以通過名為“強化學習”（Reinforcement Learning）的技術打造自己的人工智能系統。不久前，谷歌圍棋人工智能AlphaGo就是在“強化學習”的幫助下戰勝了韓國國手李世石。這個工具包可以幫助用戶搭建自己的系統，模擬新一代機器人、教它玩電子游戲以及下圍棋。

但玩游戲僅僅是個開始，馬斯克向OpenAI投資數十億美元是為了將人工智能技術推向極致，而不是生產游戲人生的機器人。透過這個項目的誕生及發展的過程，我們隱約可以窺見下一波創新浪潮的形成。當前，我們還不能貿然揣測OpenAI能否成為這場變革中的主角，但是，這家非同尋常的初創企業身后存在著一股強大的力量，它告訴我們，新一代的人工智能不僅會重塑技術本身，還將重塑技術的構建方式。

人工智能將無處不在

硅谷并不反感天馬行空的想法，而是以懷疑的態度來審視夸大其詞的宣傳。但是，在人工智能領域內，變革正在發生。谷歌和臉譜等公司已經在使用一種名為“深度學習”（Deep Learning）的技術，以幫助各類互聯網服務產品識別照片中的人臉、語音指令以及對通過互聯網搜索的詞條做出回應等。在未來，同樣的技術將會驅生更多的應用軟件，從而可以幫助機器理解自然語言——原生態的人類話語和文本。最終，新一代機器人將會誕生，它們不僅能執行設定的任務，還能在做中學。一些人認為，機器最終將獲得一種近似于常識的東西——真正像人類一樣思考。

不過，美好的憧憬也伴隨著深深的憂慮。馬斯克和阿爾特曼擔心，我們既然能創造出做好事的人工智能系統，就也會有人搗鼓出做壞事的人工智能。擔心機器人統治地球奴役人類的并不止他們兩人，但也許有些反直覺的是，馬斯克和阿爾特曼認為，抵抗惡意AI的最佳方式，不是限制人工智能的普及，而是把它推而廣之。正因為如此，他們的新項目才能吸引一大批智慧超群的青年才俊。

開發OpenAI的想法誕生于去年夏天的一個夜晚，在硅谷風投圣地沙山路正中央的紫檀酒店的一個包間內。當時，那里正在進行一場晚宴，出席者包括伊隆·馬斯克和伊利亞·蘇茨凱威爾（Ilya Sutskever）。

蘇茨凱威爾當時還在谷歌旗下一個名為大腦（Brain）的項目組工作。這家公司的目標是打造深度神經網絡（Deep Neural Networks），這種強大的人工智能系統能通過分析海量數據，掌握識別照片、撰寫電子郵件以及與人交談等各種能力。蘇茨凱威爾是這個項目的頂尖研究員之一，但此時此刻，一些更加宏大的設想正在包間內醞釀著。

這場餐會的召集者是山姆·阿爾特曼，他還邀請了好幾位人工智能研究者，其中一位名叫格雷格·布羅克曼（Greg Brockman）。布羅克曼年紀輕輕，卻擁有豐富的創業經驗，曾在名噪一時的數字支付初創企業斯瑞普（Stripe）擔任首席科技官。 這群人不拘一格，但都有一個共同的目標：建立一所不僅不受谷歌控制，而且不受任何人控制的新型人工智能實驗室。“我能想到的最有意義的事，”布羅克曼說，“就是幫助人類安全地構建真正的人工智能系統。”馬斯克也再三發出警告：在未來，這些系統可能強大到不靠人類就能學習，從而掙脫人類的控制。

馬斯克之所以到場，一方面是因為他與阿爾特曼是老朋友，另一方面也因為AI對他各項事業的發展、乃至全人類的未來都非常關鍵。特斯拉終將推出自動駕駛汽車，而這必然要用到人工智能系統。馬斯克的另一家公司SpaceX要把人送上太空，并保證他們能在太空中生存，這也需要人工智能。

但目前最大的問題在于，最有資格解決這些問題的人大多都已經被谷歌（還有臉譜網、微軟、百度和推特）收入麾下。晚宴上，大家誰也不能確定，這些人工智能方面的研究人才會不會被一家初創企業吸引，哪怕它有馬斯克和阿爾特曼為之背書。在這時，一個關鍵人物站了出來，他至少不排斥跳槽。“我覺得這樣雖然做有風險，”蘇茨凱威爾說，“但嘗試一下也蠻有趣的。”

打破堅冰

在馬斯克、阿爾特曼和當晚其他人的支持下，布羅克曼很快就下定決心，將眾人設想的實驗室先建起來。他全身心投入這個項目，并聯系上蒙特利爾大學（University of Montreal）計算機科學家、深度學習技術潮流的奠基人之一約書亞·本吉奧（Yoshua Bengio），以及該領域的另兩位先驅——杰夫·欣頓（Geoff Hinton）和揚·勒康（Yann LeCun）——現分別供職于谷歌和臉譜網，本吉奧一心投身學術界，基本不參與企業活動，但他同意幫助布羅克曼，為布羅克曼列了一份人工智能領域頂級研究人才的名單，在之后的幾星期里，布羅克曼就照著這份名單，一個個地聯系，并拉攏名單外的其他人。

不少研究人員都很認同這個主意，但誰都不愿輕舉妄動。為了打破堅冰，布羅克曼挑選了他最想爭取的十名研究人員，在一個周末，邀請他們到美國紅酒之鄉納帕谷（Napa Valley）的酒莊，在享受美酒、美食的同時，給他們做工作。就連開車去納帕谷的旅途，也被他利用起來開“動員大會”。“這段路很長，大家在路上總需要聊天吧，這正是用來拉攏人心的好時機。”他說。一行人抵達葡萄酒之鄉時，這種微妙的氛圍都沒有散去。“你可以切身體會到那種微妙的化學反應。”布羅克曼說。或者正如蘇茨凱威爾所言：“酒是次要的，談話才是正題。”

當這趟紅酒之旅結束時，布羅克曼向這十位研究員發出了邀請，并給他們三周時間考慮。三個星期后，有九人選擇加入。后來雖有硅谷巨頭開出巨額報酬，但這些人也都不曾反悔。“谷歌挽留我的條件極為誘人，所以這不是一個輕松的決定，”蘇茨凱威爾說，“但最后，我還是決定加入OpenAI，一定程度上，我是奔著這個夢之隊來的，但最主要還是看中它的使命。”

深度學習運動興起于學術圈，由于基礎計算能力的進步使深度神經網絡成為現實，而不僅是一個理論上的可能性，因此，谷歌、臉譜網和微軟等企業也開始挺進這一領域。欣頓和勒康等人離開學術界，投奔谷歌和臉譜網的原因就是這些公司擁有海量的資源。但他們仍有意向和其他思想家合作，事實上，正如勒康所說，深度學習領域的研究需要思想的自由流動。“閉門造車的結果就是落后。”

因此，當前大公司都傾向于將自己在人工智能領域內的研究成果與他人分享。這個轉變是的確存在的，尤其是谷歌，一直以來，它都對自己的核心技術嚴加保密，而最近卻開源了驅動其神經網絡的軟件引擎。在這場奔向未來的賽跑中，這家公司還是穩穩地守住了內道優勢。布羅克曼、阿爾特曼和馬斯克想要推動人工智能社群走向進一步的開放，他們不希望人工智能的未來被一兩家大公司所左右。

開放的邊界

所有的一切聽起來都不錯，但在天花亂墜的理想主義之下，OpenAI的研究人員可能還是要做出妥協，這些妥協也許和他們之前工作中遇到的別無二致。開放也是設限的。而AI的長期愿景并非其中牽涉到的唯一利益。OpenAI不是慈善機構。 馬斯克的公司可以從這家初創企業的工作中獲益，阿爾特曼的風險聯合投資公司所支持的企業同樣可以。

“當然會有一些相互沖突的目標，”勒康說，“這是一家非營利機構，但又跟風險聯合投資公司的關系密切。它的薪酬也要向行業水平看齊。”據布羅克曼所說，實驗室并不像谷歌和臉譜網那樣，給人工智能的研究人員開出天價薪酬，但還是會給出“優厚的待遇”，并向研究人員提供股票期權作為報酬的一部分，先是風險聯合投資公司的期權，未來可能還會給SpaceX的期權（它目前仍是一家私營公司，而不像特斯拉那樣已經上市）。

盡管如此，布羅克曼堅稱，OpenAI不會給予姊妹公司任何特殊優待。他說，OpenAI是一家研究機構，不是咨詢公司。但一再追問之下，他還是承認，OpenAI的理想化愿景也存在局限性。公司可能無法把全部成果悉數開源，但它的目標是共享研究成果。“敞開大門做研究未必是最好的做法。你要把一個想法開發出來，看結果如何，然后再行發布，”布羅克曼說，“我們會創造出大量開源代碼，但同時也會有很多還沒準備好公開的東西。”

不過，蘇茨凱威爾和布羅克曼也認為，OpenAI甚至會去申請一些專利，“短期內，我們不會申請任何專利，”布羅克曼說，“但不排除日后改變戰術的可能性——如果我們認為這樣做更有利于世界的話。”比如他說，OpenAI可能會申請預防性專利，一種防止專利被他人搶走的策略。可是在一些人看來，申請專利就意味著某種牟利動機。至少，這讓OpenAI的開源理念少了幾分說服力。“專利制度就是為牟利而生的，”艾倫人工智能研究所（Allen Institute for Artificial Intelligence）負責人奧倫·埃齊奧尼（Oren Etzioni）說，“我很想知道他們究竟要做什么。”

對“超級智能”的隱憂

按照馬斯克和阿爾特曼當初的描述，OpenAI的成立是為了抵消惡意人工超級智能的威脅。這種超級智能當然也可能源自OpenAI所創造的技術，但他們堅持認為，如果任何人都能使用該技術，這種威脅就會減弱。“我們認為更可能出現的情況是，千千萬萬的人工智能研究者會聯合起來，共同阻撓那些偶爾出現的壞蛋。”阿爾特曼說。

然而，話雖說得漂亮，并不是所有業內人士都愿意買賬。牛津大學哲學家尼克·博斯特羅姆（Nick Bostrom）和馬斯克一樣，都就人工智能的危險性發出過警告。他指出，如果在還來不及確保安全性時，就不加限制地把研究分享出去，它可能會被壞蛋拿走。 “若你手里有一個足以危害世界的按鈕，”博斯特羅姆說，“那最好不要把它交給所有人。”此外，博斯特羅姆說，如果OpenAI為了防止技術落入壞人手中，決定將技術保密，那這跟谷歌或臉譜壟斷人工智能的發展又有何區別呢？

博斯特羅姆承認，情況或許會因為OpenAI的非營利身份而有所改變，但這只是可能而已。這個項目真正強大的地方在于，它確實能對谷歌和臉譜網等公司起到制衡作用。“它能夠降低超級智能被壟斷的風險，” 博斯特羅姆說，“有各種情況會導致一些實體或集團把持超強AI技術，OpenAI可以消除其中一種可能。”

但正如這位AI倫理研究大師在一篇新論文中所述，像OpenAI這樣一家旨在免費分享工作成果的機構，其主要作用是加快人工智能的進步，至少短期內有加速作用。長期內能否做出貢獻，則要看它能否出于利他主義的考量，“摒棄最佳商業利益，選擇更高一層的開放性”。

“一家研發資助機構以公益為目的，通過追逐開放性，加速技術進步，這種情況也是有可能發生的。”博斯特羅姆說。

又一個施樂帕洛阿爾托研究中心（Xerox PARC）

今年1月初，布羅克曼招募到的那9位人工智能研究員聚集在他的公寓開碰頭會。這個項目實在是太新了，他們連白板都沒準備好。（你能想像嗎？）他們就在當天買來白板，立即開動大腦。

布羅克曼說，OpenAI將探索強化學習，這是一種機器學習方式，就是一遍又一遍地重復執行一項任務，追蹤其中最有成效的方法。

但OpenAI的另一個主要目標是“無監督學習（Unsupervised Learning）”，讓機器在沒有人類指引的情況下，實現真正的自主學習。當前，深度學習仍然依賴帶標簽的數據。比如，想要教神經網絡識別出貓，那就需要給它提供大量有貓的照片。機器的學習離不開加標簽的人類，需要在他們的監督下進行。但和其他許多研究人員一樣，OpenAI也要想開發出不靠標簽就能學習的神經網絡。

“有了無監督學習的能力，機器就可以像人一樣，只要到處瀏覽，就能從網上或書上學到各種知識。”布羅克曼說。

在布羅克曼看來，OpenAI就是現代版的施樂帕洛阿爾托研究中心。PARC的研究多為開放性質，且不受約束。從圖形用戶界面到激光打印機，再到面向對象編程（OOP），它們激發了一系列創新。而布羅克曼等人則想進一步化科幻為現實。PARC固然隸屬于施樂公司，但它成就了無數的企業，當中最著名的就是蘋果。諸如史蒂夫·喬布斯（Steve Jobs）這類人都得益于PARC的研究。而在OpenAI，布羅克曼也希望所有人都能從它的研究中受益。 為了盡可能推動這種活躍的氛圍，近日，布羅克曼等人又挖來幾位知名研究人員，其中包括伊恩·古德費洛（Ian Goodfellow），谷歌大腦團隊的另一位前高級研究員。“PARC的特別之處在于，他們聚攏了一幫聰明人，讓他們愛研究什么就研究什么，”布羅克曼說，“有一個共同愿景就行，不需要中央控制。”

放棄控制權是開源理念的精髓所在。如果有足夠多的人投身于一個共同目標，最終成果必然完勝任何閉門造車的結果。但如果人工智能變得像我們預想中那樣強大，那局面又會變得大不一樣。我們秉承平均主義的理想創造了人工智能，同樣也要確保新人工智能能堅守同樣的理想。馬斯克、阿爾特曼和布羅克曼寄希望于大眾的智慧。但如果他們是對的，那將來的大眾可不完全是由人類組成的。

原文標題：Inside OpenAI， Elon Musk's Wild Plan to Set Artificial Intelligence Free