馬斯克做Open AI的野心和私心

劉泓君++謝麗容

一直號稱人工智能比朝鮮核武器更危險的馬斯克，可能也是那個把世界推入險境的人

當全世界都在關注美國總統特朗普與朝鮮的互慫上，特斯拉創始人伊隆·馬斯克（Elon Musk）發Twitter稱“如果你不關注人工智能的安全，你應該擔心，它比朝鮮問題更危險”。

這已經不是他第一次發表對人工智能安全問題的擔憂。8月中，他與來自26個國家的人工智能領袖聯合向聯合國呼吁嚴格限制自動化殺人武器，如坦克、無人機自動槍械等，禁止這些武器在國際間使用。

兩年以前，馬斯克聯合硅谷大佬投資10億美元成立了一家非營利組織Open AI，號稱要防止人工智能滅世。

這個組織幾乎匯聚了硅谷最有權勢與名望的人，除馬斯克以外，它包括了很多熟悉的名字：著名孵化器Y Combinator創始人山姆·奧特曼（Sam Altman）以及合伙人Jessica Livingston、前Stripe的CTO格雷格·布勞克曼（Greg Brockman），被稱為“硅谷人脈王”的Linkedin聯合創始人Reid Hoffman，以及Paypal共同創建者及著名投資人Peter Thiel。

盡管人工智能滅世的言論一直富有爭議，馬斯克的警告可能并不是危言聳聽，但他的Open AI真的有能力有意愿防止人工智能毀滅世界嗎？馬斯克的真實動機也一直在被質疑。

Open AI的神秘面紗

如果用最通俗易懂的話來解釋Open AI正在做的事，就是做一個“會做飯的機器人”。想象一個機器人能夠像人一樣去行動去思考，這是Open AI的終極使命——建立安全的通用機器人。

做飯是一個非常復雜的任務。盡管現在亞馬遜的倉庫、特斯拉的工廠中都用上了機器人，但這些機器人只做簡單重復性的工作，在車間流水線上組裝零件。對靈活的任務，機器人做的并不好。馬斯克希望能夠通過機器人研究，推進家務機器人的前沿研究。

施天麟是Open AI的早期成員，也是斯坦福人工智能方向的在讀博士。2015年12月，他參加一個關于機器人的行業會議，并在這個會議上機緣巧合地認識了格雷格。當時，格雷格開始興致勃勃地跟施天麟講未來想要做的事情，并告訴他一些大牛即將加入。在蒙特利爾的一個會議進入尾聲時，馬斯克與山姆宣布成立新的人工智能非營利公司Open AI。

盡管有著眾多的行業大佬背書，實際操作人也起著關鍵作用。第一個加入Open AI的人是格雷格，相傳他與馬斯克私交甚篤。他是增強學習很有名的研究者，導師是伯克利做機器人研究的教授。

格雷格創業之后主要負責Stripe底層平臺，因此在學術研究社區知名度并不是很高，他主要搭建負責Open AI的基礎架構。

真正主管研究的人是Ilya Stuskever，他在谷歌大腦有著三年的研究經驗，在此之前，他是斯坦福深度學習實驗室吳恩達（Andrew Ng）團隊的博士后，曾與多倫多大學教授Geoffrey Hinton一起工作，是其最得意的學生之一。谷歌曾經為了搶奪Geoffrey與他的兩個學生，特意發起對DNNResearch的收購，這家公司隸屬多倫多大學計算機科學院，只有三個人—— Geoffrey Hinton以及他的研究生學生Alex Krizhevsky和Ilya Sutskever，而且該公司沒有任何實際產品與服務。

Open AI成立以后，馬斯克每周會來辦公室半天。他并不會在會議上滔滔不絕，大多數時候只是聽大家說，然后給出一些方向性的建議，在場的成員能明顯感覺到他對機器人的濃厚興趣。

除了給出方向建議，馬斯克還會幫Open AI找融資，在現有的10億美元融資中，有相當一部分來自于他自掏腰包。

山姆則負責Open AI所有的對外合作部分，比如近期跟Dota合作的人機大賽，需要游戲開發者獲取他們的API接口以及一些開放數據。

如果要對人工智能研究進行成本分析，成本來自于服務器提供的計算資源、數據獲取以及人才工資成本。服務器成本是所有人工智能公司成本中最大的一塊，山姆也牽頭促成了Open AI與微軟云Azure合作，以幫助Open AI尋找可用的服務器。

Open AI目前僅60多人，辦公室坐落在Stripe舊金山的辦公區。在該組織成立早期，主要依靠內部成員的相互推薦。現在有一套固定的招聘流程招聘研究人員，而基礎架構的工程師方向則與Facebook、谷歌的招聘流程類似，招聘工資也直接對標這兩家公司。

目前，在Open AI的平臺上有三個大的開源平臺—— Gym、Universe和Robot。主要研究方向是機器人的遷移學習與增強學習。Gym是指研究在每個細分研究領域建立自己的算法以后，把算法放在不同的環境中測試;Universe目標是讓AI智能像人一樣使用計算機，目前已有1000種訓練環境;而Robot則是訓練機器人。

對抗巨頭？

馬斯克在成立時就宣稱Open AI要對抗Facebook、谷歌等巨頭壟斷，以開源的方式來驅動研究。

就在Open AI宣布成立的一個月以前，互聯網巨頭把人工智能的發展推向高潮。當時，谷歌宣布將部分開源人工智能引擎，Facebook也在不久后宣布開源深度學習計算機服務器設計。Open AI自成立就開始宣布自己要開放它所有的研究成果。

與巨頭開放這些人工智能平臺不同，Open AI的開源是算法而非平臺，它也會與巨頭的開源平臺合作，其Gym平臺就與谷歌的TensorFlow合作。

回顧人工智能最近幾年的發展趨勢，無論是算法還是平臺，開源已經是人工智能競爭的一大核心策略。

得人才者得人工智能。在硅谷，做深度學習的人工智能博士生，已經成為幾大互聯網巨頭瘋搶的對象。各大機構競相追逐學術研究者并開出高價，這在歷史上從沒有發生過。一位研究者稱：“在Open AI成立之后，谷歌與Facebook給頂級研究人員的Offer高了兩倍。”endprint

對學術研究者來說，他們更愿意分享自己的研究成果，并以此建立影響力。開源可以幫助這些AI機構吸引更多的人才。同時，對巨頭來說，開源也意味著更多的開發者會利用平臺搭建算法，可以幫助平臺自我完善，也會加快整個產業的發展進程。

如果要在業內給Open AI找一個對標者，最相似的莫過于與李世石圍棋大戰的DeepMind。兩者都不是平臺，而是對人工智能的算法研究。施天麟在他的研究中發現，Open AI更偏向于機器人的研究，會使用更多專門為機器人打造的虛擬環境，而DeepMind更偏向于用游戲做虛擬環境進行訓練。

“DeepMind認為在游戲規則下能夠獲勝的AI有一定智能，但這個離真實的機器人還比較遠。你能控制一個游戲機的飛船，并不意味著你真正能夠控制一架飛機。”施天麟對《財經》記者說。

他正在為Open AI開發“World of bits”的訓練平臺，是Open AI Universe的前身，希望機器人能夠像人一樣在網上訂機票、酒店、外賣。但其關注點不是最后機器人如何訂到機票，而是通過觀察人怎么訂機票，讓機器去學習人的這種在不同環境下都可以應對自如的“遷移學習”能力。

施天麟認為，盡管DeepMind號稱開源，但只開放了幾個“迷宮”這類的小游戲，真正核心的算法依然沒有開源。

AI競爭，數據為王。無論是Facebook還是谷歌，都有強大的平臺資源和數據寶庫。外界對Open AI最大的質疑是，沒有數據資源如何突破人工智能研究？

吳恩達曾說過：“為什么做AI需要去大公司，因為大公司有海量的數據和強大的計算平臺。”

施天麟的項目需要征集人怎么用計算機訂票的演示，于是他在亞馬遜上發起了眾籌項目以征集數據，每小時價格10美元左右，目前已經花了幾萬美元。但這相對于大公司的數據，依然九牛一毛。

山姆曾在Open AI成立的時候稱，Y Combinator將會與Open AI共享數據服務。Y Combinator已經在硅谷投資了大量的獨角獸企業，旗下的平臺有Airbnb、Dropbox、Stripe。同時，特斯拉也稱將開放數據給Open AI，微軟與亞馬遜也正在變成Open AI的合作伙伴。

如此看來，Open AI可能會通過各種間接渠道獲取機器訓練數據，但美國對數據監管政策嚴厲，Open AI目前可以獲取一些數據，但這樣的來源是不穩定且充滿風險的。

馬斯克飽受質疑，外界認為00en Al成為其招攬人才的后花園。

不過也有做房產分享的創業者認為，Open AI的房源數據就可以多過谷歌，因此它在一些細分領域并不處于劣勢狀態，也可能成為對抗巨頭的一方勢力。

馬斯克的私心？

即使對億萬富豪來說，10億美元的投資也并非一筆小數字。盡管他曾經多次表示出對人工智能心存恐懼，但這一動機仍被質疑。

馬斯克曾經投資著名的人工智能研究公司DeepMind，后來這家公司被谷歌收購，這也讓他了解了人工智能的發展前沿。接近馬斯克的人認為，在創建特斯拉與Space X時，他對工程類技術非常了解，但他并不了解最前沿的深度學習技術，依然處于學習階段。

眼下，馬斯克旗下的特斯拉正在研究無人駕駛，他還將在今年10月推出無人駕駛卡車。在無人駕駛的競爭中，特斯拉每一輛在路上跑的車都可以看成是一次數據收集。然而，無人駕駛涉及到圖形圖像識別、分析等多個深度學習研究領域，擁有了數據這塊寶藏之后，他旗下的公司對AI人才有著迫切的需求。

著名研究員Andrej Kapathy從Open AI跳槽加盟特斯拉無人駕駛團隊，直接向馬斯克匯報。Kapathy的跳槽讓馬斯克飽受質疑，外界認為Open AI成為其招攬人才的后花園。

Open AI一個研究項目是機器人如何抓取物體。比如人讓機器人去冰箱拿啤酒，啤酒瓶從哪幾個點抓起來既穩又不會碎，這個方向不需要大量的數據，只用建立各種模擬場景模擬即可。一個容易聯想的事實是，馬斯克建立了自己的特斯拉工廠，他的工廠中已經引入很多自動化的機器人生產。

盡管Open AI號稱對所有人開放，但這家非營利機構也的確彌補了他商業上的短板，成為這家組織的實際受益者。

在Open AI這種非營利組織架構中，管理較為扁平，以項目為單位劃分。Ilya曾經在Open AI的私人聚會上透露，評價標準之一就是發論文。組織成員認為，這種組織形式與大學的實驗室比較像，每個人都有自主權去選擇要做些什么項目，而科研項目的周期往往比普通項目要長。因此如果實驗中，發現想法是不可行的，也可以中途放棄。

不過，這種模式也令外界質疑，類似于學術研究的算法對工業界究竟產生多少影響力有待懷疑。

通常企業開發研究中，不同人會在一個社區中貢獻大量的代碼，這個代碼庫由很多程序員來維護。而在學術研究中，只有幾個人做一個課題組，很多時候一個人就可以寫一個算法。加上學術研究的樣本庫較小，在大規模的檢測后可能并不能應用于其他場景。

除了一些計算機領域的大神，學術研究最終大概只有1%的算法能夠適應不同的環境最后留下來。但如果底層研究有突破性進展，將會催生一個產業的誕生。

吳恩達在谷歌大腦時，曾經使用1000臺機器去學習Youtube上關于貓的視頻，使用深度學習神經網絡最后可以在很多圖片中識別貓。當時沒有人會嘗試用1000臺機器的大量計算能力去學習。但這次突破印證了當你有足夠多的計算資源足夠多的數據時，算法的突破會有很大潛力。此后，計算機視覺進入到一個快速發展的時期，人臉識別、圖像識別、自動駕駛等基于計算機視覺的公司如雨后春筍般出現。

Open AI的野心是希望能夠在機器人領域做出類似的大突破。“如果能把機器人做出來，發明一種新算法讓機器在環境中快速學習，極可能催生一個嶄新的機器人產業。” 施天麟說道。

不過，機器人通用算法在未來十年里都不會有大突破，因為這需要大量的數據訓練、計算能力和高昂的成本投入。

“實現這件事的算法還不成熟，控制人工智能不做危險的事更是無稽之談。”有不愿具名的分析人士向《財經》記者稱，“但是馬斯克發表機器人的這些言論是有根據的，如果機器人算法有重大突破，類似于當年識別貓的圖片那樣，那機器人就是一件很危險的事情。”

不妨這么說，如果馬斯克的目標真是通用的人工智能機器人的重大技術突破，那他極可能成為把世界置于危險境地的人。盡管馬斯克已經在做盡可能多的增強學習等安全方向的研究，但不排除如果居心叵測之人使用Open AI的研究成果開發武器。

盡管不排除馬斯克成立Open AI確實存在一些私心——在未來的技術競爭中占據制高點，并且廣泛網羅人才。但他的擔憂也不無道理，也可能確實有出于無私的角度在推進行業的發展。畢竟，機器人是個大趨勢，巨頭與創業公司已經開始搶占市場，非營利組織存在的必要性也毋庸置疑。endprint