OpenAI最后的戰役

朱秋雨

一個創始人被公司趕走，不是一件罕見的事。OpenAI董事會與創始人、CEO山姆·奧特曼在11月發生的這一場宮斗，本來也不該是值得奇怪的事。

后者，一個自詡奧本海默般的硅谷菁英，在一個大周五的中午，被親手組建的公司通知他被解雇了。連同被解除職務的，是會議都沒來得及出席的董事會主席格雷格·布洛克曼。

11月17日，會議進行的同時，OpenAI對外發布通告：因為奧特曼“不坦誠”，導致董事會失去信心，所以解雇奧特曼。

言辭沒留下一絲體面。

5天后，奧特曼與OpenAI像一對重歸于好的密友，發聲明表示，兩方達成一致，奧特曼回來當CEO。

一切又像傳統商戰里的鬧劇—受利益驅使的雙方反復博弈、相互說服、一方勝出的故事。這個劇本在硅谷上演過很多次，我們到底為什么要關心呢？

美國媒體Politico的科技記者Derek Robertson寫道，全世界對這家AI公司的高度關注，是硅谷文化滲透的縮影。在硅谷的世界里，對領導者個人命運和個人風格的關注，遠高于對大公司人事變動和系統架構的關心。不管人們承不承認，像馬斯克和奧特曼這樣的幾個人，正在塑造著當下。

這樣的矛盾同樣關乎著人類命運。如何確保人工智能的發展符合人類的福祉，而不是像奧本海默一樣—掌握先進技術以后，是由在京都度過蜜月的美國總統杜魯門最終決定，要在廣島而不是給京都投擲威力巨大的原子彈？

在ChatGPT即將發布一周年之際，關于如何實現上述方向，而不是走向相反的路的爭執，將OpenAI“內斗”引燃。畢竟，2015年，OpenAI由奧特曼創立時，他為目標設置了出廠“保險”—非營利機構。他們還給投資人忠告：“以捐贈的精神看待對OpenAI的投資?！钡?1月，OpenAI被曝研發出了可能對人類產生威脅的AI。

這也許是來自OpenAI內部最后的戰役。11月22日，隨著擅長對外社交和融資的奧特曼回歸，不再天真的OpenAI已然成為自己過去回避的巨頭。

前方要走的，注定是需要平衡多方的路。顫顫巍巍地，OpenAI不再如以前一般酷了。

重要的是，人類會怎樣？

覺 醒

2016年，在硅谷最具盛名的俄羅斯籍風投家尤里·米爾納位于洛斯阿爾托斯的城堡里，一個小型放映會正悄然進行。

放映會的“主角”是HBO的新電視劇集《西部世界》。攢局者除了城堡的主人，還有當年只有31歲的AI機構創始人奧特曼。兩人在邀請函里寫道：“邀請您參加《西部世界》首播集觀影會，這是一部探索意識和人工智能前景的新連續劇?！?/p>

連續劇的第一集，設定在有著凹凸起伏山脈的美國西部。在不同服飾與懸疑音樂的切換中，人們才知道，這個西部世界由偉大的AI科學家創造，里面的多數“活人”都是AI扮演，相當于一個真實的AI游戲小鎮。高高在上方監控的人類，唯一的煩惱在于：極少數AI數字人會不按劇本走。

毀滅犯錯的AI容易，在西部世界，科學家內部無法達成一致的是：要不要搞清楚犯錯的AI是如何運行的；沒有答案之前，要不要停止項目？一個豆瓣網友總結，這是一個內核關乎覺醒的故事，“更開腦洞來說，我們人類是更高級的人工智能，因苦痛而覺醒”。

奧特曼被罷免，是因為董事會“擔心他對OpenAI實現安全和有益AI的承諾”無法兌現。

影視劇橋段在生成式人工智能定義的2023年，變得不突兀了。在GPT-4發布后的3月末，近千名AI界大人物簽署聯名信，呼吁所有AI實驗室暫停訓練比GPT-4更強大的AI系統至少6個月。簽了名的，有大名鼎鼎的圖靈獎得主Yoshua Bengio、蘋果聯合創始人Steve Wozniak、《人類簡史》作者，以及在2018年退出OpenAI的聯合創始人埃隆·馬斯克。

很難說得清這些前瞻者對人工智能的擔心是否過分。畢竟，ChatGPT為代表的大語言模型，用的還是過去深度網絡最擅長的那套：在廣大無窮的數據之中尋找共性，推測概率。盡管看上去像個有知識的本科生，但它們從未真正掌握語言本身。

只是，半年內，GPT-4在各項榜單上的一騎絕塵，讓越來越多的擔憂從四面八方涌入。最擅長對外的奧特曼由此出席了各類場合。他像扎克伯格一樣出席美國參議院的聽證會，接著進行了環歐出行，與英國首相、法國總統等歐洲政要見面，共同探討AI的未來與監管。

最近的一次，是他出現在亞太經濟合作組織（APEC）峰會上，11月16日。

他還發表了講話。

所有人都以為，OpenAI會像人們所仰望的那樣，繼續無懈可擊。

但一切在11月17日開始搖擺。由六人組成的OpenAI董事會突然宣布，對奧特曼的解雇令立即生效。那一天，奧特曼在視頻會議上得知消息。而與他共同創立OpenAI的另一人，被解除部分職位的總裁布洛克曼，甚至沒提前收到會議鏈接。

毫無疑問，這次的“坍塌”發生得很突然。

《金融時報》報道稱，奧特曼被罷免，是因為董事會“擔心他對OpenAI實現安全和有益AI的承諾”無法兌現。據知情人士透露，奧特曼近日試圖籌集1000億美元，以建立一家AI芯片公司，與英偉達競爭。這樣的路徑與OpenAI“存在潛在利益沖突”。

另一個說法是，這位四處露面宣講監管AI的造浪者，近日加快推進了旗下機構的商業化進程。11月初，他不僅推出了GPTs，還首次對外承認，OpenAI正在研發GPT-5，且將得到更多來自最大金主—微軟的支持。

“我們將從對方的成功中賺錢，每個人都會很滿意。”他允諾說。

這樣的迭代步伐，引發了OpenAI六人董事會的擔憂。一位OpenAI投資者解釋，奧特曼等人試圖部署強AI的速度超出了預期。

“他們因（當下）行動太快發生爭執。就是這樣。”

被認為最可能領導“政變”的，OpenAI首席科學家伊利亞·蘇茨基弗（Ilya Sutskever），正是格外強調AI安全的一員。

這位俄羅斯裔技術天才，在接受《衛報》最新采訪時，舉了更多關于AI的負面案例。

“第一代通用人工智能（AGI），將一定是巨大無比的數據中心。帶著深度網絡處理器并行計算，將耗費掉數以百萬計家庭的能源。”

那么，“人類真的會從中獲益嗎？誰會是獲益者？誰不在其中？”

貫穿的矛盾

伊利亞是OpenAI的靈魂人物，至少是技術上的一號人物。如果在學術頁面搜索，他是一個比奧特曼有名得多的人，師從“深度網絡之父”杰弗里·辛頓。2012年，伊利亞與導師共同發明了用于圖片識別的AlexNet。這個底層的革新，推動了全球此后十年人臉識別應用的高飛。

但這位主導OpenAI率先實現智能涌現的技術派，經常有著哲學化的表達。他將科技進步比作人類進化，說訓練大模型就像人自然選擇的過程，我們并不掌握每一個部位如何運行，但把握了基本原則—保留好的，去掉不利于人類的。

所以，“第一代AGI的愿景和信仰是很重要的，我們有必要非常正確地將它們編程出來，以免被只為自己利益而不顧他人的人所用?！币晾麃喺f。

在AGI上的志同道合促使OpenAI多位創始人在2015年走在了一起。他們首先達成共識：為了確保AI可以造福人類，這得是非營利實驗室主導的項目。

他們將其命名為 “OpenAI”。這個名字是當時的創始人之一馬斯克提的。如字面意思所說，OpenAI將推崇開放，將成果公之于眾。

這是馬斯克與谷歌聯合創始人拉里·佩奇（Larry Page）討論后的構想。與后者談完后，馬斯克對谷歌等大公司對AI安全的漠視感到失望，轉而決定花100億美元投資奧特曼的項目。幾位創始人由此確認了這個實驗室的基本原則—對抗巨頭谷歌在AI領域強大的主導地位，并 “確保AI不會傷害人類”。

于是，OpenAI在成立的章程中強調，“要為每個人而不是股東創造價值”“主要信托責任是對全人類的責任”。它同時規定，員工的薪酬會與其遵守章程的程度掛鉤。在2018年4月，它在新發布的章程中寫道：如果另一個組織率先實現AGI這一目標，OpenAI將停止競爭步伐，與其合作。

“第一代AGI的愿景和信仰是很重要的，我們有必要非常正確地將它們編程出來，以免被只為自己利益而不顧他人的人所用。”伊利亞說。

只是，誓要實現AGI，對當時的初創團隊而言，就像在汪洋泥沼中尋找拔出腳的正確道路，哪個方向都有可能。在2016年接受《紐約客》采訪時，OpenAI也說不清楚自己在做什么?？偛貌悸蹇寺o了一個模糊方向：“我們現在的目標……是做最好的事情。”

至于奧特曼，在成立OpenAI幾年后，他在加州牧場的家告訴前來采訪的記者，自己對錢不感興趣。OpenAI將通過 AGI來獲取世界上的大部分財富，再將這些財富重新分配給人們。

這個數字，“可能是1000 億美元、1 萬億美元、100 萬億美元……”

關鍵方向的轉變由伊利亞主導。

2017年，一篇由八名谷歌研究人員共同撰寫的論文發布。官方標題是“注意力就是你需要的”（Attention is All You Need），首次提出了Transformer結構和自注意力等革命性概念。

曾在谷歌任職的伊利亞，成為全世界少數理解這一突破有多強大的人?？偛貌悸蹇寺貞洠骸罢嬲念D悟時刻是當伊利亞看到Transformer出來時。”OpenAI團隊迅速投入其中，接著發現，“兩周內取得的進步比過去兩年還要多”。

這個新方向讓所有人都為之振奮。重大的轉變隨之發生，他們意識到，讓模型變得智能的關鍵，是要擴大規模，即在龐大的數據集上訓練模型。

OpenAI決定為此押注所用。

“你需要更像一個工程組織來運營它，不可能讓每個研究人員都嘗試做自己的事情，”OpenAI董事會成員，也是Quora首席執行官Adam DAngelo總結，“團隊必須一起做這項更乏味、更不優雅的工作。這是 OpenAI能做到的事情，也是其他人無法做到的。”

橫亙OpenAI至今的矛盾在這時出現。提高模型規模本身，需要大量的算力和資源投入，同時意味著必須投入大量的資金。這個需求，與非營利的設想本身，存在方向上的偏離。

最大“金主”馬斯克在此時，因路線不合選擇了退出。也因此，2019年正式擔任CEO的奧特曼，跑去微軟要了10億美元投資。

救世主來臨？

2023年11月的第三周，一場不被事先通知的“政變”，將OpenAI內部的相撞立場公布于眾。這證實了馬斯克等人的指責并非空穴來風，人們此刻意識到，內部的無法統一，真的足以摧垮一個冉冉升起的帝國。

關于OpenAI到底該往哪走，如何去往AGI的疑問，同時籠罩在這家新創公司的四周。有很多人開始認為，從OpenAI身上看到了熟悉的巨頭模樣—先采用虧損戰略占領大部分市場，再運用贏家通吃的邏輯，獲取利潤。

11月10日，在OpenAI召開的首屆開發者大會上，奧特曼宣布推出面向個人的GPTs。這是一個看上去更接近于靠近消費者而不是技術的舉動。奧特曼指出，每個人都能“定制化GPT”，并將它們放在GPT Store出售。

這讓許多AI創業者大呼，“奧特曼毀掉了我的初創公司”。

只是，這個站在臺前，讓眾人對AI安全盡情發難的CEO，總能用真誠的回答化解危機。OpenAI董事會前顧問凱利·西姆斯評價，奧特曼經常就是辯論的雙方。言下之意，他既能理解這方，又能理解那方。

奧特曼“成功塑造了一種邪教式的、近乎救世主式的員工文化，這一點從他們愿意全體團結一致辭職就能看出來”。

接觸過奧特曼的人有一致的評價：他極其擅長說服他人。2023年5月，坐在美國參議會聽證會上，奧特曼面對美國官員，呼吁加強AI的監管。這是遠比面對扎克伯格時更溫和的質詢現場，在場議員甚至反過來問他，你認為應該怎么監管AI？

與奧特曼共事了超10年的恩師格雷厄姆評價，他有一種天生的說服別人的能力。在《寫給學生們的創業指南》中，格雷厄姆說，2006年他第一次見到20歲的奧特曼時，“當時見他不到三分鐘，我就在想，啊，19歲的比爾·蓋茨估計也就這樣了吧！”

就像辯論時的態度，近半年反復如政治新星出席各類場合的奧特曼，傾向于走中間路線。

面對政治家的提問，他喜歡這么說：監管必須恰到好處。他期望看到的模式是 “介于傳統歐洲方式和傳統美國方式之間”，并同時警告，過度的規制可能會對小公司和開源活動造成傷害。

很難有人反駁奧特曼。

理由也非常簡單，OpenAI的確在沒人嘗試過的道路上取得了意想不到的成果，這個成果比設想的快得多。硅谷科技記者都記得那種震撼感，2022年11月，ChatGPT發布之際，OpenAI只是想將其作為實驗室的一項成果發布。沒人能預測到，這將成為一個活躍用戶快速破億的超級應用。

奧特曼也表示過不解。 “如果你問10歲的我，常常做的AI白日夢會是什么，我相當自信的預測是，首先我們將擁有機器人，它們將完成所有的體力勞動。接著也許是做復雜事情的系統，比如證明數學定理。最終，我們才擁有能夠創作藝術、寫作等深具人類特點的AI。這是一個可怕的預測，如今，正朝著相反的方向發展?！?/p>

橫亙在OpenAI創始之初的問題又出現了。如果過快發展的大模型不可避免地讓先來者OpenAI成為巨頭，如何確保這是一個有利于人類福祉的項目？

奧特曼在2019年給出過答案。他創立了獨特的治理機構，強調了OpenAI的非營利性。在這個設置下，受微軟等資本資助的營利主體OpenAI LP需要服從非營利主體OpenAI Inc的六人董事會。董事會成員不持股份，有投票權，將決定OpenAI的發展方向。

他因此經常對外自豪地指出，這樣的結構，自己不占任何好處，OpenAI有權解雇他。

事實就是，11月17日，在伊利亞等人代表的董事會將奧特曼投票出局后，770人的公司有超過730名員工簽署了聯名信，要求奧特曼回歸。

最終，奧特曼贏得了這場戰役。

美國創新經濟基金會高級經濟學家塞繆爾·哈蒙德形容，奧特曼“成功塑造了一種邪教式的、近乎救世主式的員工文化，這一點從他們愿意全體團結一致辭職就能看出來”。

還有一個更現實的解釋是，面臨在AI安全和AI發展中二選一的路徑選擇時，中間路線贏了。更多人愿意維持原狀，守住當下的領先優勢。這是一個更接近貪婪人性的選擇。

生存還是毀滅？

戲劇性地，在奧特曼回歸OpenAI、董事會重組后，路透社報道稱，在奧特曼被罷免的幾天前，OpenAI幾位研究人員致信董事會，警告說他們發現了一種強大的人工智能技術，可能威脅到人類。

這是一個內部代號為Q-Star的項目，也被外界認為是GPT-5的版本。這封信寫道，Q-Star很可能實現了OpenAI過去長期尋找的通用人工通用智能（AGI）。按照OpenAI對AGI的定義，這意味著，AI在許多方面表現出了超越人類的能力。

上述報道指出，正是這個新突破，成為奧特曼等人被罷免的原因之一。

關于GPT-5涌現的智能在硅谷圈早有傳聞。一切又變得像哲學問題一樣，關乎人類命運和生存的本質。

謹慎的人始終像異端。早期的OpenAI是，現在的伊利亞也是。

而這幾個月，奧特曼對外輸出的核心，也是一個長期流傳于美國科技圈的理論：技術加速主義。

這個主義被許多技術公司的CEO和商人反復引用。意思是，回顧技術發展的幾百年歷史，新技術在剛到來時都讓人類恐慌，但隨著時間的發展，任由新技術顛覆社會后，實際上加速了社會的進步。顛覆的技術會迫使人類迅速適應和發展，更快達到更高意識水平。

有類似觀念的奧特曼在自己的博客里寫道：很多人經常問他，究竟如何做到平衡外界的看法和自己想做的事情？

他的答案是，很多人面對外界，選擇只聽重要的人的話。但還有一種與眾不同的方法，那就是拉開時間的維度。

“這類人通常會在很長的時間跨度內關心他人的意見，只要放在歷史的維度上看是正確的，那么現在外界評價你是錯誤的也無妨?！?/p>

他寫道：“關鍵在于，只要你是對的，那么無論在短期還是長期，你都是對的?！?/p>

11月，奧特曼用行動顯示，在追隨AGI的過程中，人們可以先等待改變發生，用更長期的結果評判當下。

他喜歡引用奧本海默的思想，認為原子彈是科學進步的必然結果?！凹夹g的出現是因為它是可能的?！?/p>

謹慎的人始終像異端。早期的OpenAI是，現在的伊利亞也是。

比起奧特曼頻繁為OpenAI搖旗吶喊，這位專注于技術的科學家很少對外輸出。他在今年7月成立了“超級對齊”項目，目標是在OpenAI拿出20%的算力，在4年內解決超級智能對齊的核心技術挑戰，以保證人類對超級智能的可控。

現階段，他還在頻繁表達對AI安全的擔心。

在11月的采訪中，伊利亞暗示，AGI的發展，讓人們很難把握后果，今后很可能讓人類和AI的關系，變得像動物和人類的關系。

“這就像人們很愛動物。但是當我們要在兩座城市建高速公路的時候，從來不會問動物的意見。這可能會是以后我們和AI的關系。”

在發布表示對參與罷黜奧特曼“后悔”的推特之前，伊利亞還在10月發了一條推文。

他寫道：“如果你把智力看得比人類的其他品質都更重要，那你會過得很糟糕?！?/p>