正在閱讀:

為什么OpenAI留不住真大佬?

掃一掃下載界面新聞APP

為什么OpenAI留不住真大佬?

古有PayPal黑幫,今有OpenAI叛將。

文 | 適道

編輯 | 白石

Sam Altman曾對(duì)《紐約客》侃侃而談:“馬斯克非??释仁澜?,但前提他必須是拯救世界的那個(gè)英雄?!?/p>

對(duì)于他本人呢?我想到一個(gè)有趣的類比:Altman毫不在意世界是否毀滅,但前提他必須在諾亞方舟上,而且必須是船長(zhǎng)。

不出意外地,OpenAI又雙叒出現(xiàn)了人事地震。

“ChatGPT架構(gòu)師”、聯(lián)創(chuàng)John Schulman官宣轉(zhuǎn)投Anthropic;去年新加入的產(chǎn)品副總裁Peter Deng官宣離職;大跌眼鏡的是,Altman的堅(jiān)定戰(zhàn)友,OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman也疑似離場(chǎng)。

如果此前“人員出走潮”是Altman掃除異己;那么Greg Brockman“長(zhǎng)期休假”(Altman未回應(yīng)),或許是這位“新王”眾叛親離的開始。

至此,OpenAI最初11位創(chuàng)始人或僅存兩席:Sam Altman,以及楊立昆得意門生,語(yǔ)言與代碼生成部門負(fù)責(zé)人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發(fā)X:高層已成空殼,你們快上新吧。

與此同時(shí),OpenAI創(chuàng)始人之一,Altman昔日“導(dǎo)師”——馬斯克再次將Altman、Brockman告上法庭,理由是創(chuàng)立之初的“欺騙和敲詐勒索”。

適道來細(xì)數(shù)“OpenAI大將叛變”歷程,探討Sam Altman為何留不住真大佬?

01 “登基”前傳:是安全問題,但也不都是安全

古有PayPal黑幫,今有OpenAI叛將。

據(jù)統(tǒng)計(jì),此前OpenAI已有近75名重要員工離職,創(chuàng)立了約30家AI公司。

前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創(chuàng)辦Anthropic,估值180億美元;

前首席科學(xué)家Ilya Sutskever創(chuàng)辦SSI,估值100億美元;

前工程副總裁David Luan創(chuàng)辦Adept AI(被亞馬遜收編),估值超10億美元;

前技術(shù)負(fù)責(zé)人Jonas Schneider創(chuàng)辦機(jī)器人創(chuàng)企Daedalus,估值4000萬(wàn)美元;

前研究科學(xué)家Aravind Srinivas創(chuàng)辦Perplexity.AI,估值估值30億美元;

前技術(shù)人員Tim Shi創(chuàng)辦AI客服平臺(tái)Cresta Al,估值16億美元;

其中,Anthropic成長(zhǎng)為OpenAI的頭號(hào)對(duì)手、前司員工“庇護(hù)所”;Perplexity.AI成長(zhǎng)為OpenAI最佳套殼者、Google搜索挑戰(zhàn)者........

對(duì)于普通研究員而言,離開是謀求更好的發(fā)展;但對(duì)于核心成員,尤其是創(chuàng)始團(tuán)隊(duì)而言,離開基本就是因?yàn)槿^不同。

典型代表為馬斯克、Amodei兄妹,以及Ilya Sutskever。他們與Altman過招后反而鞏固了Altman在OpenAI的地位。

第一步,推翻馬斯克“暴政”

2015年,谷歌收購(gòu)DeepMind。馬斯克與PayPal聯(lián)合創(chuàng)始人、Founders Fund創(chuàng)始人Luke Nosek聯(lián)手提出了一個(gè)競(jìng)購(gòu)方案,但最終未成功。這成為了馬斯克揮之不去的遺憾。

在此背景下,憂心忡忡的馬斯克參加了一場(chǎng)載入硅谷史冊(cè)的晚宴。席間聚集了約十位杰出人物,其中三位尤為耀眼——Altman、Ilya Sutskever,以及Greg Brockman。

他們和馬斯克探討了AI可能引發(fā)的災(zāi)難性后果,和成立一個(gè)匹敵谷歌項(xiàng)目所需的各項(xiàng)條件。

四人團(tuán)隊(duì)認(rèn)為自己具備成功所有要素:Hinton得意門生Ilya Sutskever是AI科學(xué)家;Stripe CTO Brockman是運(yùn)營(yíng)高手;YC CEO Sam Altman能協(xié)調(diào)所有要素;特斯拉創(chuàng)始人馬斯克有錢。

晚宴上,馬斯克承諾會(huì)投資10億美元,并提議將項(xiàng)目命名為OpenAI——將以非營(yíng)利性的方式運(yùn)作,專注于研發(fā)對(duì)人類有益的安全AI,而不是追求利潤(rùn)。

2017年,谷歌發(fā)表著名Transformer論文,揭示了關(guān)鍵在于處理大量數(shù)據(jù),這需要巨大算力支持(Ilya Sutskever在OpenAI創(chuàng)立之初已有此判斷)。

于是,OpenAI開始缺錢了(馬斯克共為OpenAI捐贈(zèng)了4400萬(wàn)美元,并承擔(dān)了租金)。

Brockman和其他OpenAI成員建議將該組織轉(zhuǎn)變?yōu)闋I(yíng)利性機(jī)構(gòu),以便從微軟等投資者那里籌錢。

一開始,馬斯克堅(jiān)決反對(duì)。但當(dāng)他意識(shí)到成立營(yíng)利性實(shí)體很必要性時(shí),就希望自己獲得多數(shù)股權(quán)、初步董事會(huì)控制權(quán),并擔(dān)任CEO。馬斯克甚至提出將OpenAI并入特斯拉。原因是,特斯拉是唯一有希望與谷歌比肩的公司。

眼看沒人答應(yīng),馬斯克又開始游說OpenAI研究人員跳槽特斯拉。

終于,“作妖不斷”的馬斯克被董事會(huì)投票出局。

走之前,他還詛咒OpenAI戰(zhàn)勝DeepMind/Google的概率為0%。

不過,與Altman密切的人透露,馬斯克純粹是嫉妒Altman搶了自己在AI領(lǐng)域的風(fēng)頭,他更加關(guān)注如何擊敗OpenAI,而非AI安全。與馬斯克親近的人則堅(jiān)稱,他對(duì)AI安全的擔(dān)憂是真實(shí)且深刻的,比如開發(fā)xAI替代OpenAI。

但無(wú)論如何,趕走“獨(dú)裁者”馬斯克絕對(duì)是Altman登基的第一步。

第二步,金蟬脫殼,追求利潤(rùn)最大化。

2019年,OpenAI從微軟手中拿到了10億美元,以繼續(xù)開發(fā)“好”AI。

當(dāng)你拿到10億美元時(shí),你就必須回報(bào)“金主”,這其實(shí)已經(jīng)讓一些元老心懷疑慮。

但Altman相當(dāng)靈活——不留戀非營(yíng)利組織的名聲,留戀非營(yíng)利組織的殼子。

他創(chuàng)造性地構(gòu)建了一種全新的架構(gòu)。一方面,OpenAI能像普通公司運(yùn)作,比如籌資、發(fā)放員工股權(quán);另一方面,OpenAI投資者的回報(bào)有上限。

本質(zhì)上,OpenAI成為了一個(gè)由非營(yíng)利組織董事會(huì)控制的營(yíng)利公司。

這聽起來就不穩(wěn)定,團(tuán)隊(duì)內(nèi)部分裂開始逐步出現(xiàn)。

2021年,Dario Amode創(chuàng)立Anthropic時(shí)說:

“OpenAI內(nèi)部有一群人,當(dāng)我們創(chuàng)造GPT-2和GPT-3后,對(duì)兩件事有非常強(qiáng)烈的信念。一是認(rèn)為這些模型中投入的計(jì)算資源越多,它們會(huì)變得越好,幾乎沒有盡頭。我認(rèn)為現(xiàn)在這個(gè)觀點(diǎn)得到了更廣泛的認(rèn)可,但我們是最早的信仰者。

第二點(diǎn)是認(rèn)為,需要除了擴(kuò)大模型規(guī)模之外的東西,那就是對(duì)齊或安全性。因?yàn)橹煌ㄟ^增加計(jì)算資源并不能告訴模型它們的價(jià)值觀。所以我們秉持著這個(gè)想法,成立了自己的公司?!?/p>

雖然Anthropic看起來更加“安全”,并在準(zhǔn)確性方面下足了功夫。例如,Anthropic使用了大量復(fù)雜的事實(shí)問題來針對(duì)模型已知的弱點(diǎn),將答案分為正確答案、錯(cuò)誤答案(幻覺)、承認(rèn)“不知道”。相應(yīng)地,Claude3可以表示自己不知道答案,而不是提供不正確的信息。除了更準(zhǔn)確的回復(fù),Claude 3甚至還能“引用”,指向參考材料中的精確句子來驗(yàn)證他們的答案。

但正如OpenAI回報(bào)微軟,Anthropic也要回報(bào)亞馬遜,以合乎道德的方式經(jīng)營(yíng)一家大型AI公司幾乎是不可能的。

最近,Anthropic就被曝24小時(shí)抓取百萬(wàn)次網(wǎng)站數(shù)據(jù)等等。

“質(zhì)疑、理解、成為”或許才是大模型初創(chuàng)公司的必經(jīng)之路。

第三步,清洗叛徒 “黃袍加身”。

陳橋兵變,宋太祖趙匡胤在半夜熟睡中,被兵變將士們偷偷地將黃袍披在身上。第二天,他痛苦地接受了大家的“逼迫”。主打一個(gè)民心所向。

而在去年11月OpenAI宮斗中,也上演了一出“硅谷版”黃袍加身。彼時(shí),數(shù)百名OpenAI員工簽署聯(lián)名信,要求所有“叛變”董事會(huì)成員辭職、恢復(fù)Altman職位,否則簽署聯(lián)名信的員工將采取行動(dòng),“可能會(huì)加入Altman和Brockman在微軟新成立的子公司”。

這威望和影響力,簡(jiǎn)直是所有CEO的夢(mèng)想。

等等,故事還有另一個(gè)版本。

其實(shí)這場(chǎng)風(fēng)波,除了“比心隊(duì)列”,還有一個(gè)關(guān)鍵因素——金錢。

就在逼宮事件前不久,OpenAI剛剛為員工組織了一場(chǎng)股票出售活動(dòng),讓大家有機(jī)會(huì)套現(xiàn)部分股權(quán)。結(jié)果,錢還沒拿到手呢,老板先被干下去了。

一些投資者表示,如果Altman不回歸,他們會(huì)暫停執(zhí)行要約收購(gòu)。眼看拿這筆錢提前退休,居然被“大惡人”Ilya Sutskever攪黃了!換誰(shuí)能不生氣。

因此,簽署請(qǐng)?jiān)笗_實(shí)是民心所向。而且,當(dāng)你身邊95%同事都簽名支持時(shí),你很可能也會(huì)簽上字。

至于Ilya Sutskever逼宮失敗與被迫出走,除了不那么懂人性之外,還和Altman極強(qiáng)的弄權(quán)能力有關(guān),具體如下。

02 “新王”剪影:專權(quán)、欺騙、牟利、放任

時(shí)間回到2016年。彼時(shí),OpenAI辦公地點(diǎn)是Brockman的私人公寓——沙發(fā)、廚柜,甚至床鋪,都是員工的工作臺(tái)。這個(gè)不起眼的地方,居然讓20位世界頂尖的AI大神齊聚一堂。

當(dāng)時(shí)Altman和馬斯克不常駐,是Brockman和Ilya Sutskever攜手撐起了團(tuán)隊(duì)。

Ilya Sutskever是AI領(lǐng)域的領(lǐng)軍人物,Brockman則被視為OpenAI業(yè)務(wù)運(yùn)營(yíng)的頂梁柱,

員工們記得,他們?cè)cIlya Sutskever一同漫步于舊金山大街,深入討論宏觀議題,自問是否在正確的研究道路上踟躕。Ilya Sutskever對(duì)AI有著超前洞察力,他能用簡(jiǎn)單的類比來闡釋復(fù)雜的技術(shù)概念,比如將神經(jīng)網(wǎng)絡(luò)比作一種特殊的計(jì)算機(jī)程序或電路。

甚至在OpenAI成立之初,Ilya Sutskever就意識(shí)到AI的巨大飛躍不是來自某個(gè)特定的調(diào)整或新發(fā)明,而是源自海量數(shù)據(jù)的積累,就像為引擎不斷注入燃料。

也正是這個(gè)原因。2017年,谷歌Transformer論文一經(jīng)發(fā)表,Ilya Sutskever就能及時(shí)帶領(lǐng)OpenAI探索并采用Transformer架構(gòu),成為行業(yè)內(nèi)最早采納這項(xiàng)先進(jìn)技術(shù)的先鋒之一。

Brockman的勤奮眾所周知。一位前員工回憶,每天早晨到達(dá)辦公室時(shí),總能看到Brockman對(duì)著電腦,晚上離開時(shí),他也在鍵盤上敲打。幾年后,Brockman的婚禮在OpenAI辦公室舉行,婚禮由Ilya Sutskever主持,這一場(chǎng)景成為了公司文化的一部分。

在Brockman和Ilya Sutskever加入OpenAI時(shí),他們已經(jīng)實(shí)現(xiàn)財(cái)富自由了。披星戴月只不過是被一個(gè)共同的夢(mèng)想驅(qū)動(dòng)——利用AI為人類未來做貢獻(xiàn)。

后續(xù)如我們所知,二人分道揚(yáng)鑣。不過,相隔幾個(gè)月“被逼走”的二人未來也可能殊途同歸。

第一宗罪:專權(quán)

很多人可能將11月宮斗視為Altman的無(wú)妄之災(zāi),實(shí)際并非如此。

故事還是要從Anthropic說起。

起因是,Altman與董事會(huì)成員Helen Toner本來就不對(duì)付。

去年10月,Toner在喬治城大學(xué)的智庫(kù)發(fā)表了一篇論文,傾向于認(rèn)為Anthropic在安全性更勝一籌,并輕微批評(píng)ChatGPT“偷工減料”發(fā)布。

盡管論文結(jié)論挺溫和,但Altman氣炸了,并開始私下與董事會(huì)成員逐一接觸,想把Toner投出去。

而且Altman顛倒黑白,聲稱Toner的一位支持者也想逐出她。

最終結(jié)果大家都知道了,被投出去的人是Altman。

第二宗罪:欺騙

董事會(huì)之所以想讓Altman走人,主要是不信任他。

比如去年7月,OpenAI成立超對(duì)齊團(tuán)隊(duì),由Ilya Sutskever和Leike領(lǐng)導(dǎo)。團(tuán)隊(duì)旨在為公司內(nèi)部和非OpenAI模型的安全性提供研究。

但逃不過“先野蠻生長(zhǎng),再安全有序”的規(guī)律。OpenAI對(duì)AGI安全治理的優(yōu)先級(jí),顯然放在了推出“閃亮產(chǎn)品”之后。初期承諾給超級(jí)對(duì)齊團(tuán)隊(duì)的20%算力,也遭不斷蠶食,傷及“建立一個(gè)更負(fù)責(zé)任的AGI”員工的信心。

有趣的是,本次轉(zhuǎn)投Anthropic的John Schulman離職也和AI對(duì)齊相關(guān):“希望加深對(duì)AI對(duì)齊的關(guān)注,并開啟我職業(yè)生涯的新篇章,讓我可以重返實(shí)際的技術(shù)工作?!?/p>

今年7月末,OpenAI還把安全部門高級(jí)主管Aleksander Madry調(diào)離了安全崗位,并給他重新分配了“AI推理”的工作。

但OpenAI告訴媒體,Madry到新職位上后,仍致力于安全工作。Altman居然還強(qiáng)調(diào),OpenAI堅(jiān)持了“給整個(gè)安全團(tuán)隊(duì)至少20%算力”的承諾。

請(qǐng)注意,此時(shí)“超級(jí)對(duì)齊團(tuán)隊(duì)”被他偷偷換成了“整個(gè)安全團(tuán)隊(duì)”。

第三宗罪:牟利

如果欺騙升級(jí)呢?小道消息,去年董事會(huì)對(duì)Altman的驅(qū)逐和他隱瞞投資有關(guān)。

今年6月,WSJ指出——Altman投資了400多家公司,所持股份價(jià)值至少有28億美元。這個(gè)隱秘且龐大的投資帝國(guó)因OpenAI成功而直接受益。

表面上,Altman作為OpenAI CEO,年薪僅6.5萬(wàn)美元,且不持有任何股份,原因是不想讓金錢腐蝕AI的安全發(fā)展。

實(shí)際上,在Altman的投資帝國(guó)中,越來越多的公司直接和OpenAI做起了生意,要么是OpenAI客戶,要么是主要業(yè)務(wù)合作伙伴。

例如,OpenAI正與核能創(chuàng)業(yè)公司Helion達(dá)成協(xié)議,希望通過后者購(gòu)買大量電力,為數(shù)據(jù)中心供電。幕后老板正是Altman。

又例如,OpenAI想付費(fèi)使用Reddit內(nèi)容來訓(xùn)練ChatGPT。而Altman和他所控制的實(shí)體持有7.6%的Reddit股份。甚至早在2014年,Altman還短暫地?fù)?dān)任過Reddit CEO。合作傳出后,此前瘋狂掉血的Reddit股價(jià)大漲10%,結(jié)果就是Altman所持股份一舉增長(zhǎng)6900萬(wàn)美元,達(dá)到7.54億美元。

第四宗罪:放任

Altman之所以對(duì)AI安全放任,有一部分原因是他非常樂觀?

如果你知道真正答案,可能會(huì)五味雜陳。

2015年,Altman就明確地表達(dá)過自己的擔(dān)心,認(rèn)為高級(jí)AI會(huì)成為人類生存的最大威脅。甚至在早期談話中,他還用一種輕佻語(yǔ)氣提到,AI有可能終結(jié)世界。

甚至面對(duì)《紐約客》記者,Altman透露,自己早就儲(chǔ)備了槍支、黃金、彈藥、抗生素,以及以色列國(guó)防軍的防毒面具。他還提到自己在美國(guó)加州Big Sur有一片地,確保能在世界末日避難。

而當(dāng)媒體再次提出時(shí),Altman口風(fēng)又變了:這不就是每個(gè)小男孩夢(mèng)想的秘密基地嗎?

而他的妹妹安妮表示,這很符合她對(duì)自己哥哥的了解——一個(gè)極度注重安全、準(zhǔn)備在最壞情況下囤積資源的人??梢酝茰y(cè),Altman確實(shí)擁有足夠的儲(chǔ)備,只是懂得閉嘴了。

據(jù)稱,Altman的野心也在不斷擴(kuò)張。例如,他正在進(jìn)行普遍基本收入的研究,以防AI導(dǎo)致大規(guī)模失業(yè);他推出Worldcoin加密貨幣,該項(xiàng)目通過掃描眼球來分配收入。

了解Altman的人透露,他的目標(biāo)遠(yuǎn)不止于此,他甚至想成為“世界之王”,接管整個(gè)世界。反正,Altman確實(shí)曾考慮競(jìng)選加州州長(zhǎng)。而Altman曾經(jīng)的導(dǎo)師Paul Graham說:我認(rèn)為他的目標(biāo)是掌控整個(gè)未來!

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

OpenAI

  • 科技早報(bào) | 張一鳴在港成立個(gè)人投資基金;OpenAI約400名員工可股票套現(xiàn)
  • OpenAI:用戶現(xiàn)可與ChatGPT通電話、發(fā)短信

評(píng)論

暫無(wú)評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

為什么OpenAI留不住真大佬?

古有PayPal黑幫,今有OpenAI叛將。

文 | 適道

編輯 | 白石

Sam Altman曾對(duì)《紐約客》侃侃而談:“馬斯克非常渴望拯救世界,但前提他必須是拯救世界的那個(gè)英雄?!?/p>

對(duì)于他本人呢?我想到一個(gè)有趣的類比:Altman毫不在意世界是否毀滅,但前提他必須在諾亞方舟上,而且必須是船長(zhǎng)。

不出意外地,OpenAI又雙叒出現(xiàn)了人事地震。

“ChatGPT架構(gòu)師”、聯(lián)創(chuàng)John Schulman官宣轉(zhuǎn)投Anthropic;去年新加入的產(chǎn)品副總裁Peter Deng官宣離職;大跌眼鏡的是,Altman的堅(jiān)定戰(zhàn)友,OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman也疑似離場(chǎng)。

如果此前“人員出走潮”是Altman掃除異己;那么Greg Brockman“長(zhǎng)期休假”(Altman未回應(yīng)),或許是這位“新王”眾叛親離的開始。

至此,OpenAI最初11位創(chuàng)始人或僅存兩席:Sam Altman,以及楊立昆得意門生,語(yǔ)言與代碼生成部門負(fù)責(zé)人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發(fā)X:高層已成空殼,你們快上新吧。

與此同時(shí),OpenAI創(chuàng)始人之一,Altman昔日“導(dǎo)師”——馬斯克再次將Altman、Brockman告上法庭,理由是創(chuàng)立之初的“欺騙和敲詐勒索”。

適道來細(xì)數(shù)“OpenAI大將叛變”歷程,探討Sam Altman為何留不住真大佬?

01 “登基”前傳:是安全問題,但也不都是安全

古有PayPal黑幫,今有OpenAI叛將。

據(jù)統(tǒng)計(jì),此前OpenAI已有近75名重要員工離職,創(chuàng)立了約30家AI公司。

前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創(chuàng)辦Anthropic,估值180億美元;

前首席科學(xué)家Ilya Sutskever創(chuàng)辦SSI,估值100億美元;

前工程副總裁David Luan創(chuàng)辦Adept AI(被亞馬遜收編),估值超10億美元;

前技術(shù)負(fù)責(zé)人Jonas Schneider創(chuàng)辦機(jī)器人創(chuàng)企Daedalus,估值4000萬(wàn)美元;

前研究科學(xué)家Aravind Srinivas創(chuàng)辦Perplexity.AI,估值估值30億美元;

前技術(shù)人員Tim Shi創(chuàng)辦AI客服平臺(tái)Cresta Al,估值16億美元;

其中,Anthropic成長(zhǎng)為OpenAI的頭號(hào)對(duì)手、前司員工“庇護(hù)所”;Perplexity.AI成長(zhǎng)為OpenAI最佳套殼者、Google搜索挑戰(zhàn)者........

對(duì)于普通研究員而言,離開是謀求更好的發(fā)展;但對(duì)于核心成員,尤其是創(chuàng)始團(tuán)隊(duì)而言,離開基本就是因?yàn)槿^不同。

典型代表為馬斯克、Amodei兄妹,以及Ilya Sutskever。他們與Altman過招后反而鞏固了Altman在OpenAI的地位。

第一步,推翻馬斯克“暴政”

2015年,谷歌收購(gòu)DeepMind。馬斯克與PayPal聯(lián)合創(chuàng)始人、Founders Fund創(chuàng)始人Luke Nosek聯(lián)手提出了一個(gè)競(jìng)購(gòu)方案,但最終未成功。這成為了馬斯克揮之不去的遺憾。

在此背景下,憂心忡忡的馬斯克參加了一場(chǎng)載入硅谷史冊(cè)的晚宴。席間聚集了約十位杰出人物,其中三位尤為耀眼——Altman、Ilya Sutskever,以及Greg Brockman。

他們和馬斯克探討了AI可能引發(fā)的災(zāi)難性后果,和成立一個(gè)匹敵谷歌項(xiàng)目所需的各項(xiàng)條件。

四人團(tuán)隊(duì)認(rèn)為自己具備成功所有要素:Hinton得意門生Ilya Sutskever是AI科學(xué)家;Stripe CTO Brockman是運(yùn)營(yíng)高手;YC CEO Sam Altman能協(xié)調(diào)所有要素;特斯拉創(chuàng)始人馬斯克有錢。

晚宴上,馬斯克承諾會(huì)投資10億美元,并提議將項(xiàng)目命名為OpenAI——將以非營(yíng)利性的方式運(yùn)作,專注于研發(fā)對(duì)人類有益的安全AI,而不是追求利潤(rùn)。

2017年,谷歌發(fā)表著名Transformer論文,揭示了關(guān)鍵在于處理大量數(shù)據(jù),這需要巨大算力支持(Ilya Sutskever在OpenAI創(chuàng)立之初已有此判斷)。

于是,OpenAI開始缺錢了(馬斯克共為OpenAI捐贈(zèng)了4400萬(wàn)美元,并承擔(dān)了租金)。

Brockman和其他OpenAI成員建議將該組織轉(zhuǎn)變?yōu)闋I(yíng)利性機(jī)構(gòu),以便從微軟等投資者那里籌錢。

一開始,馬斯克堅(jiān)決反對(duì)。但當(dāng)他意識(shí)到成立營(yíng)利性實(shí)體很必要性時(shí),就希望自己獲得多數(shù)股權(quán)、初步董事會(huì)控制權(quán),并擔(dān)任CEO。馬斯克甚至提出將OpenAI并入特斯拉。原因是,特斯拉是唯一有希望與谷歌比肩的公司。

眼看沒人答應(yīng),馬斯克又開始游說OpenAI研究人員跳槽特斯拉。

終于,“作妖不斷”的馬斯克被董事會(huì)投票出局。

走之前,他還詛咒OpenAI戰(zhàn)勝DeepMind/Google的概率為0%。

不過,與Altman密切的人透露,馬斯克純粹是嫉妒Altman搶了自己在AI領(lǐng)域的風(fēng)頭,他更加關(guān)注如何擊敗OpenAI,而非AI安全。與馬斯克親近的人則堅(jiān)稱,他對(duì)AI安全的擔(dān)憂是真實(shí)且深刻的,比如開發(fā)xAI替代OpenAI。

但無(wú)論如何,趕走“獨(dú)裁者”馬斯克絕對(duì)是Altman登基的第一步。

第二步,金蟬脫殼,追求利潤(rùn)最大化。

2019年,OpenAI從微軟手中拿到了10億美元,以繼續(xù)開發(fā)“好”AI。

當(dāng)你拿到10億美元時(shí),你就必須回報(bào)“金主”,這其實(shí)已經(jīng)讓一些元老心懷疑慮。

但Altman相當(dāng)靈活——不留戀非營(yíng)利組織的名聲,留戀非營(yíng)利組織的殼子。

他創(chuàng)造性地構(gòu)建了一種全新的架構(gòu)。一方面,OpenAI能像普通公司運(yùn)作,比如籌資、發(fā)放員工股權(quán);另一方面,OpenAI投資者的回報(bào)有上限。

本質(zhì)上,OpenAI成為了一個(gè)由非營(yíng)利組織董事會(huì)控制的營(yíng)利公司。

這聽起來就不穩(wěn)定,團(tuán)隊(duì)內(nèi)部分裂開始逐步出現(xiàn)。

2021年,Dario Amode創(chuàng)立Anthropic時(shí)說:

“OpenAI內(nèi)部有一群人,當(dāng)我們創(chuàng)造GPT-2和GPT-3后,對(duì)兩件事有非常強(qiáng)烈的信念。一是認(rèn)為這些模型中投入的計(jì)算資源越多,它們會(huì)變得越好,幾乎沒有盡頭。我認(rèn)為現(xiàn)在這個(gè)觀點(diǎn)得到了更廣泛的認(rèn)可,但我們是最早的信仰者。

第二點(diǎn)是認(rèn)為,需要除了擴(kuò)大模型規(guī)模之外的東西,那就是對(duì)齊或安全性。因?yàn)橹煌ㄟ^增加計(jì)算資源并不能告訴模型它們的價(jià)值觀。所以我們秉持著這個(gè)想法,成立了自己的公司?!?/p>

雖然Anthropic看起來更加“安全”,并在準(zhǔn)確性方面下足了功夫。例如,Anthropic使用了大量復(fù)雜的事實(shí)問題來針對(duì)模型已知的弱點(diǎn),將答案分為正確答案、錯(cuò)誤答案(幻覺)、承認(rèn)“不知道”。相應(yīng)地,Claude3可以表示自己不知道答案,而不是提供不正確的信息。除了更準(zhǔn)確的回復(fù),Claude 3甚至還能“引用”,指向參考材料中的精確句子來驗(yàn)證他們的答案。

但正如OpenAI回報(bào)微軟,Anthropic也要回報(bào)亞馬遜,以合乎道德的方式經(jīng)營(yíng)一家大型AI公司幾乎是不可能的。

最近,Anthropic就被曝24小時(shí)抓取百萬(wàn)次網(wǎng)站數(shù)據(jù)等等。

“質(zhì)疑、理解、成為”或許才是大模型初創(chuàng)公司的必經(jīng)之路。

第三步,清洗叛徒 “黃袍加身”。

陳橋兵變,宋太祖趙匡胤在半夜熟睡中,被兵變將士們偷偷地將黃袍披在身上。第二天,他痛苦地接受了大家的“逼迫”。主打一個(gè)民心所向。

而在去年11月OpenAI宮斗中,也上演了一出“硅谷版”黃袍加身。彼時(shí),數(shù)百名OpenAI員工簽署聯(lián)名信,要求所有“叛變”董事會(huì)成員辭職、恢復(fù)Altman職位,否則簽署聯(lián)名信的員工將采取行動(dòng),“可能會(huì)加入Altman和Brockman在微軟新成立的子公司”。

這威望和影響力,簡(jiǎn)直是所有CEO的夢(mèng)想。

等等,故事還有另一個(gè)版本。

其實(shí)這場(chǎng)風(fēng)波,除了“比心隊(duì)列”,還有一個(gè)關(guān)鍵因素——金錢。

就在逼宮事件前不久,OpenAI剛剛為員工組織了一場(chǎng)股票出售活動(dòng),讓大家有機(jī)會(huì)套現(xiàn)部分股權(quán)。結(jié)果,錢還沒拿到手呢,老板先被干下去了。

一些投資者表示,如果Altman不回歸,他們會(huì)暫停執(zhí)行要約收購(gòu)。眼看拿這筆錢提前退休,居然被“大惡人”Ilya Sutskever攪黃了!換誰(shuí)能不生氣。

因此,簽署請(qǐng)?jiān)笗_實(shí)是民心所向。而且,當(dāng)你身邊95%同事都簽名支持時(shí),你很可能也會(huì)簽上字。

至于Ilya Sutskever逼宮失敗與被迫出走,除了不那么懂人性之外,還和Altman極強(qiáng)的弄權(quán)能力有關(guān),具體如下。

02 “新王”剪影:專權(quán)、欺騙、牟利、放任

時(shí)間回到2016年。彼時(shí),OpenAI辦公地點(diǎn)是Brockman的私人公寓——沙發(fā)、廚柜,甚至床鋪,都是員工的工作臺(tái)。這個(gè)不起眼的地方,居然讓20位世界頂尖的AI大神齊聚一堂。

當(dāng)時(shí)Altman和馬斯克不常駐,是Brockman和Ilya Sutskever攜手撐起了團(tuán)隊(duì)。

Ilya Sutskever是AI領(lǐng)域的領(lǐng)軍人物,Brockman則被視為OpenAI業(yè)務(wù)運(yùn)營(yíng)的頂梁柱,

員工們記得,他們?cè)cIlya Sutskever一同漫步于舊金山大街,深入討論宏觀議題,自問是否在正確的研究道路上踟躕。Ilya Sutskever對(duì)AI有著超前洞察力,他能用簡(jiǎn)單的類比來闡釋復(fù)雜的技術(shù)概念,比如將神經(jīng)網(wǎng)絡(luò)比作一種特殊的計(jì)算機(jī)程序或電路。

甚至在OpenAI成立之初,Ilya Sutskever就意識(shí)到AI的巨大飛躍不是來自某個(gè)特定的調(diào)整或新發(fā)明,而是源自海量數(shù)據(jù)的積累,就像為引擎不斷注入燃料。

也正是這個(gè)原因。2017年,谷歌Transformer論文一經(jīng)發(fā)表,Ilya Sutskever就能及時(shí)帶領(lǐng)OpenAI探索并采用Transformer架構(gòu),成為行業(yè)內(nèi)最早采納這項(xiàng)先進(jìn)技術(shù)的先鋒之一。

Brockman的勤奮眾所周知。一位前員工回憶,每天早晨到達(dá)辦公室時(shí),總能看到Brockman對(duì)著電腦,晚上離開時(shí),他也在鍵盤上敲打。幾年后,Brockman的婚禮在OpenAI辦公室舉行,婚禮由Ilya Sutskever主持,這一場(chǎng)景成為了公司文化的一部分。

在Brockman和Ilya Sutskever加入OpenAI時(shí),他們已經(jīng)實(shí)現(xiàn)財(cái)富自由了。披星戴月只不過是被一個(gè)共同的夢(mèng)想驅(qū)動(dòng)——利用AI為人類未來做貢獻(xiàn)。

后續(xù)如我們所知,二人分道揚(yáng)鑣。不過,相隔幾個(gè)月“被逼走”的二人未來也可能殊途同歸。

第一宗罪:專權(quán)

很多人可能將11月宮斗視為Altman的無(wú)妄之災(zāi),實(shí)際并非如此。

故事還是要從Anthropic說起。

起因是,Altman與董事會(huì)成員Helen Toner本來就不對(duì)付。

去年10月,Toner在喬治城大學(xué)的智庫(kù)發(fā)表了一篇論文,傾向于認(rèn)為Anthropic在安全性更勝一籌,并輕微批評(píng)ChatGPT“偷工減料”發(fā)布。

盡管論文結(jié)論挺溫和,但Altman氣炸了,并開始私下與董事會(huì)成員逐一接觸,想把Toner投出去。

而且Altman顛倒黑白,聲稱Toner的一位支持者也想逐出她。

最終結(jié)果大家都知道了,被投出去的人是Altman。

第二宗罪:欺騙

董事會(huì)之所以想讓Altman走人,主要是不信任他。

比如去年7月,OpenAI成立超對(duì)齊團(tuán)隊(duì),由Ilya Sutskever和Leike領(lǐng)導(dǎo)。團(tuán)隊(duì)旨在為公司內(nèi)部和非OpenAI模型的安全性提供研究。

但逃不過“先野蠻生長(zhǎng),再安全有序”的規(guī)律。OpenAI對(duì)AGI安全治理的優(yōu)先級(jí),顯然放在了推出“閃亮產(chǎn)品”之后。初期承諾給超級(jí)對(duì)齊團(tuán)隊(duì)的20%算力,也遭不斷蠶食,傷及“建立一個(gè)更負(fù)責(zé)任的AGI”員工的信心。

有趣的是,本次轉(zhuǎn)投Anthropic的John Schulman離職也和AI對(duì)齊相關(guān):“希望加深對(duì)AI對(duì)齊的關(guān)注,并開啟我職業(yè)生涯的新篇章,讓我可以重返實(shí)際的技術(shù)工作?!?/p>

今年7月末,OpenAI還把安全部門高級(jí)主管Aleksander Madry調(diào)離了安全崗位,并給他重新分配了“AI推理”的工作。

但OpenAI告訴媒體,Madry到新職位上后,仍致力于安全工作。Altman居然還強(qiáng)調(diào),OpenAI堅(jiān)持了“給整個(gè)安全團(tuán)隊(duì)至少20%算力”的承諾。

請(qǐng)注意,此時(shí)“超級(jí)對(duì)齊團(tuán)隊(duì)”被他偷偷換成了“整個(gè)安全團(tuán)隊(duì)”。

第三宗罪:牟利

如果欺騙升級(jí)呢?小道消息,去年董事會(huì)對(duì)Altman的驅(qū)逐和他隱瞞投資有關(guān)。

今年6月,WSJ指出——Altman投資了400多家公司,所持股份價(jià)值至少有28億美元。這個(gè)隱秘且龐大的投資帝國(guó)因OpenAI成功而直接受益。

表面上,Altman作為OpenAI CEO,年薪僅6.5萬(wàn)美元,且不持有任何股份,原因是不想讓金錢腐蝕AI的安全發(fā)展。

實(shí)際上,在Altman的投資帝國(guó)中,越來越多的公司直接和OpenAI做起了生意,要么是OpenAI客戶,要么是主要業(yè)務(wù)合作伙伴。

例如,OpenAI正與核能創(chuàng)業(yè)公司Helion達(dá)成協(xié)議,希望通過后者購(gòu)買大量電力,為數(shù)據(jù)中心供電。幕后老板正是Altman。

又例如,OpenAI想付費(fèi)使用Reddit內(nèi)容來訓(xùn)練ChatGPT。而Altman和他所控制的實(shí)體持有7.6%的Reddit股份。甚至早在2014年,Altman還短暫地?fù)?dān)任過Reddit CEO。合作傳出后,此前瘋狂掉血的Reddit股價(jià)大漲10%,結(jié)果就是Altman所持股份一舉增長(zhǎng)6900萬(wàn)美元,達(dá)到7.54億美元。

第四宗罪:放任

Altman之所以對(duì)AI安全放任,有一部分原因是他非常樂觀?

如果你知道真正答案,可能會(huì)五味雜陳。

2015年,Altman就明確地表達(dá)過自己的擔(dān)心,認(rèn)為高級(jí)AI會(huì)成為人類生存的最大威脅。甚至在早期談話中,他還用一種輕佻語(yǔ)氣提到,AI有可能終結(jié)世界。

甚至面對(duì)《紐約客》記者,Altman透露,自己早就儲(chǔ)備了槍支、黃金、彈藥、抗生素,以及以色列國(guó)防軍的防毒面具。他還提到自己在美國(guó)加州Big Sur有一片地,確保能在世界末日避難。

而當(dāng)媒體再次提出時(shí),Altman口風(fēng)又變了:這不就是每個(gè)小男孩夢(mèng)想的秘密基地嗎?

而他的妹妹安妮表示,這很符合她對(duì)自己哥哥的了解——一個(gè)極度注重安全、準(zhǔn)備在最壞情況下囤積資源的人??梢酝茰y(cè),Altman確實(shí)擁有足夠的儲(chǔ)備,只是懂得閉嘴了。

據(jù)稱,Altman的野心也在不斷擴(kuò)張。例如,他正在進(jìn)行普遍基本收入的研究,以防AI導(dǎo)致大規(guī)模失業(yè);他推出Worldcoin加密貨幣,該項(xiàng)目通過掃描眼球來分配收入。

了解Altman的人透露,他的目標(biāo)遠(yuǎn)不止于此,他甚至想成為“世界之王”,接管整個(gè)世界。反正,Altman確實(shí)曾考慮競(jìng)選加州州長(zhǎng)。而Altman曾經(jīng)的導(dǎo)師Paul Graham說:我認(rèn)為他的目標(biāo)是掌控整個(gè)未來!

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。