馬斯克起訴OpenAI，打開了“潘多拉盒子”

Kevin Roose

伊隆·馬斯克（Elon Musk）對OpenAI提起訴訟很容易被認為是出于一種“吃不到葡萄說葡萄酸”的嫉妒心理。

2024年3月1日，馬斯克起訴OpenAI，指控該公司違反創(chuàng)始協(xié)議條款，違背了其創(chuàng)立原則。按照他的說法，OpenAI是作為一家非營利組織成立的，旨在為人類的利益構(gòu)建強大的人工智能系統(tǒng)，并將研究成果免費提供給公眾。馬斯克認為，OpenAI違背了這一承諾，因為它成立了一家營利性的子公司，并接受了微軟數(shù)十億美元的投資。

OpenAI發(fā)言人拒絕就該訴訟發(fā)表評論。在發(fā)給員工的一份備忘錄中，OpenAI首席戰(zhàn)略官杰森·權(quán)（Jason Kwon）否認了馬斯克的說法，并表示，“我們認為這起訴訟可能源于伊隆對如今沒有參與公司事務的遺憾”。

從一個層面上看，這起訴訟充滿了私人恩怨。馬斯克在2015年與一些技術(shù)領袖、知名投資人等共同創(chuàng)立了OpenAI，向它提供了大部分初始資金。但由于與領導層發(fā)生分歧，馬斯克在2018年離開了OpenAI。他對于在關(guān)于人工智能的討論中被邊緣化感到不滿，而他自己的AI項目又遠沒有OpenAI的聊天機器人ChatGPT那么受歡迎。馬斯克與OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）的不和也有據(jù)可查。

然而，在這些恩怨之中有一個值得注意的點，是它揭示了當代AI討論的一個核心悖論—OpenAI實際上提供了兩套說辭，既堅稱人工智能系統(tǒng)極其強大，同時又堅定認為AI技術(shù)遠遠無法與人類智能相匹敵。

這種悖論集中在“AGI”這個術(shù)語上，也就是“通用人工智能”。盡管大多數(shù)人都覺得，AGI是指人工智能系統(tǒng)能夠完成人腦能做的大部分或所有事情，但如何定義什么是AGI，是一個出了名的棘手問題。阿爾特曼將AGI描述為“可以雇傭它作為同事”，而OpenAI官方將AGI定義為“在大多數(shù)有經(jīng)濟價值的工作上能力優(yōu)于人類的高度自主系統(tǒng)”。

構(gòu)建AGI是OpenAI的明確目標，它有很多理由想率先實現(xiàn)這一目標。真正的AGI是一種極其寶貴的資源，能夠?qū)⒋罅康娜肆趧幼詣踊瑸檫@項技術(shù)的創(chuàng)造者賺取巨額收益。這也正是投資者熱衷于投資的那種閃亮、充滿雄心的項目，而AI實驗室擁有資本加持后就能招募頂尖的工程師和研究人員。

但是，如果AGI能夠超越人類，或者變得具有欺騙性、與人類價值觀不一致，那么它也可能是危險的。包括馬斯克在內(nèi)的多位OpenAI創(chuàng)始團隊成員都擔心，AGI過于強大，無法只由單一實體擁有；圍繞這項技術(shù)應該改革它的組織控制結(jié)構(gòu)，以防止它造成危害，或避免過多的財富和權(quán)力集中在一家公司手中。

這就是為什么OpenAI在與微軟建立合作伙伴關(guān)系時，特別向這家技術(shù)巨頭提供了一份僅適用于“AGI誕生前”的技術(shù)許可證。

根據(jù)協(xié)議條款，如果OpenAI開發(fā)出符合AGI定義的技術(shù)產(chǎn)品—由OpenAI的非營利性董事會確定—微軟的許可證將不再適用，OpenAI的董事會可以決定采取任何措施，以確保OpenAI的AGI造福于全人類。這可能意味著很多事情，包括開源技術(shù)或完全關(guān)閉它。

大多數(shù)人工智能評論家認為，當下最先進的人工智能模型都不屬于AGI，因為它們?nèi)狈碗s的推理能力，而且經(jīng)常犯愚蠢的錯誤。但馬斯克在訴狀中提出了一個不同尋常的論點。他認為，OpenAI去年發(fā)布的GPT-4語言模型已經(jīng)實現(xiàn)了AGI，該公司未來的技術(shù)也將更明確地符合AGI的標準。然而OpenAI的董事會眼下不會輕易承認其人工智能系統(tǒng)實際上已符合AGI的標準。因為一旦這樣做，它就必須對該技術(shù)的部署方式和商業(yè)化方式做出重大改變。“相反，OpenAI實現(xiàn)AGI，就像電影《安妮》（Annie）中的‘明天一樣，永遠都是一天之后的事。”這份訴狀寫道。

馬斯克指出，在去年的內(nèi)部動蕩導致阿爾特曼一度被OpenAI解雇后，微軟有強烈的動機否認OpenAI的技術(shù)符合AGI的標準，否則會終止它在自家產(chǎn)品中使用該技術(shù)的許可，妨礙它從中獲得潛在的巨額利潤。

鑒于馬斯克時常發(fā)起有爭議的訴訟，這一次他的動機也很值得質(zhì)疑。但此次訴訟確實給OpenAI提出了一個真正的難題，令其陷入自我矛盾：一方面低調(diào)介紹自家系統(tǒng)的能力，另一方面又繼續(xù)營造AGI即將取得重大突破的預期。

這也讓馬斯克陷入了一個困難的境地：要求陪審團裁定什么是AGI以及OpenAI的技術(shù)是否達到了AGI的標準。

杰森·權(quán)在給員工的備忘錄中寫道：“GPT-4不是AGI。它能夠解決許多工作中的小任務，但在經(jīng)濟中，人類完成的工作占比仍然比GPT-4能完成的工作高得多。”

即使被駁回，馬斯克的訴訟也指出了一些重要問題：誰來判定某項技術(shù)是否屬于AGI？技術(shù)公司在描述自家系統(tǒng)的能力時，是夸大其詞還是有所保留（或兩者兼而有之）？在我們離實現(xiàn)AGI有多近或多遠的各種說法背后，隱藏著怎樣的動機？

一個心懷怨恨的億萬富翁提起訴訟可能不是解答這些問題的正確方式，但這些問題確實很值得一問，尤其是在人工智能持續(xù)加速發(fā)展的大背景下。