正在閱讀:

OpenAI“宮斗”迎來(lái)完結(jié)篇,AI安全派一敗涂地

掃一掃下載界面新聞APP

OpenAI“宮斗”迎來(lái)完結(jié)篇,AI安全派一敗涂地

Ilya Sutskever、Jan Leike的離開幾乎是必然。

文|三易生活

不久前,OpenAI在美國(guó)舉行新品發(fā)布會(huì),雖然這次沒有GPT-5、也沒有AI搜索,但聯(lián)動(dòng)文本、圖像和音頻的全能大模型GPT-4o證明了他們I依然有能力引流潮流。只不過(guò)剛剛發(fā)布GPT-4o之后,OpenAI就迎來(lái)了劇變,其首席科學(xué)家Ilya Sutskever宣布離職,緊接著超級(jí)對(duì)齊團(tuán)隊(duì)的負(fù)責(zé)人Jan Leike也宣布離職。

如果再算上超級(jí)對(duì)齊團(tuán)隊(duì)的核心成員Leopold Aschenbrenner,近期OpenAI內(nèi)部已有多位關(guān)注AI安全的員工或主動(dòng)、或被動(dòng)地離開。以至于“Ilya看見了什么”的表情包在社交平臺(tái)泛濫,大有成為MEME的趨勢(shì)。遺憾的是,Ilya Sutskever這位人工智能領(lǐng)域的先驅(qū)大概率是沒有看到通用人工智能(AGI)在OpenAI的誕生,曾與前者共同領(lǐng)導(dǎo)這家公司超級(jí)對(duì)齊團(tuán)隊(duì)的Jan Leike日前在X上發(fā)布的“小作文”也揭開了相關(guān)內(nèi)幕。

Jan Leike公開表示,自己與OpenAI高層在公司的核心優(yōu)先事項(xiàng)上存在無(wú)法調(diào)和的分歧,這就是他離開這家公司的原因。Jan Leik在推文中表示,創(chuàng)造超越人類智能的AI充滿風(fēng)險(xiǎn),OpenAI正在承擔(dān)這一責(zé)任,但安全文化和流程在追求產(chǎn)品開發(fā)過(guò)程中被邊緣化,并且OpenAI公司高層對(duì)于AGI的安全治理問(wèn)題優(yōu)先級(jí)不如推出“閃亮的產(chǎn)品”,以至于超級(jí)對(duì)齊團(tuán)隊(duì)只能獲得公司高層承諾的20%算力。

考慮到去年11月的“宮斗風(fēng)波”之后,三名發(fā)動(dòng)“政變”的原董事以及首席科學(xué)家Ilya Sutskever離開,作為CEO的Sam Altman和總裁Greg Brockman官?gòu)?fù)原職,Jan Leike這一“小作文”指向的無(wú)疑就是Sam Altman和Greg Brockman。以至于兩位OpenAI的領(lǐng)導(dǎo)者被迫站出來(lái),為這篇“小作文”點(diǎn)燃的輿論風(fēng)波滅火。換而言之,這次Ilya Sutskever以及盟友的離開,才標(biāo)志著OpenAI去年的那場(chǎng)“宮斗”才真正落幕。

去年Sam Altman和Greg Brockman被OpenAI原董事會(huì)驅(qū)逐的真正原因,外界普遍認(rèn)為是Ilya Sutskever和Sam Altman之間在理念上有著不可調(diào)和的矛盾,屬于急功近利的CEO和心懷理想主義的首席科學(xué)家之間的價(jià)值觀沖突。彼時(shí),Sam Altman對(duì)于商業(yè)利潤(rùn)的追求,促使他傾向于加速發(fā)展AGI,這與Ilya Sutskever堅(jiān)持AGI發(fā)展的同時(shí)還要兼顧倫理和安全形成了沖突,即所謂的加速主義和有效利他主義這兩股思潮在OpenAI內(nèi)部發(fā)生了碰撞。

最終的結(jié)果,是更傾向加速OpenAI商業(yè)化進(jìn)程的Sam Altman,不僅贏得了微軟等投資者的支持,出于自身利益的考量,大量OpenAI的員工也站在了Sam Altman這一邊。到此加速主義在OpenAI內(nèi)部占據(jù)上風(fēng),其開始全力訓(xùn)練更強(qiáng)大的人工智能、乃至所謂的AGI。據(jù)內(nèi)部人士透露,Ilya Sutskever則遠(yuǎn)程共同領(lǐng)導(dǎo)著超級(jí)對(duì)齊團(tuán)隊(duì)。

問(wèn)題是既然當(dāng)初的路線之爭(zhēng)已經(jīng)分出高下,Ilya Sutskever也在“宮斗”結(jié)束后聲稱,“我熱愛我們共同建立的一切,我將盡一切努力讓公司重新團(tuán)結(jié)起來(lái)”。所以從某種意義上來(lái)說(shuō),OpenAI的算力短缺是Ilya Sutskever出走、或者說(shuō)Sam Altman清洗前者盟友的導(dǎo)火索。

畢竟“誰(shuí)掌握了算力,誰(shuí)就掌握了未來(lái)”幾乎是AI行業(yè)的共識(shí)了,但英偉達(dá)的H100、乃至B100卻供不應(yīng)求,這也是為什么OpenAI沒有端出GPT-5,僅僅發(fā)布了缺乏顛覆性的GPT-4o的原因。

如果OpenAI真的有充沛的算力,超級(jí)對(duì)齊團(tuán)隊(duì)也就不會(huì)只獲得高層承諾算力的20%,這個(gè)團(tuán)隊(duì)很可能也不會(huì)分崩離析。事實(shí)上,為了獲得算力,Sam Altman是進(jìn)行了努力的。此前就曾有消息稱,他一直在沙特阿拉伯為代號(hào)為Tigris的項(xiàng)目籌集資金,并計(jì)劃成立一家專注于人工智能的芯片公司。按照目前X上OpenAI前員工的說(shuō)法,正是Sam Altman尋求資金以解決算力問(wèn)題的做法,導(dǎo)致了關(guān)注AI安全的員工對(duì)其失去信任。

事實(shí)上,OpenAI目前的狀態(tài)確實(shí)可以用鮮花著錦、烈火烹油來(lái)形容。盡管OpenAI是AI行業(yè)毋庸置疑的領(lǐng)導(dǎo)者,但這家公司到目前為止也沒能實(shí)現(xiàn)盈利,依然需要花投資機(jī)構(gòu)的錢。這個(gè)現(xiàn)狀也就決定了這家公司需要持續(xù)“炸翻全場(chǎng)”,要一直拿出新東西。可OpenAI畢竟資源有限,無(wú)法做到既研發(fā)新產(chǎn)品、又兼顧AI安全。作為一個(gè)有計(jì)算機(jī)行業(yè)背景的商人,而非有技術(shù)信仰的創(chuàng)客,Sam Altman顯然更傾向于把寶押在新技術(shù)、新產(chǎn)品上。

所以Ilya Sutskever、Jan Leike的離開幾乎是必然。但隨著真正意義上“ChatGPT之父”的退出,Sam Altman究竟是類似喬布斯一般有著敏銳嗅覺的產(chǎn)品經(jīng)理,還是一個(gè)貪天之功的“表演藝術(shù)家”,真正意義上的大考可能就要來(lái)了。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

OpenAI

  • Meta公司AR眼鏡團(tuán)隊(duì)前負(fù)責(zé)人宣布加入OpenAI
  • 機(jī)器人軟件創(chuàng)企Physical Intelligence獲貝索斯和OpenAI投資

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

OpenAI“宮斗”迎來(lái)完結(jié)篇,AI安全派一敗涂地

Ilya Sutskever、Jan Leike的離開幾乎是必然。

文|三易生活

不久前,OpenAI在美國(guó)舉行新品發(fā)布會(huì),雖然這次沒有GPT-5、也沒有AI搜索,但聯(lián)動(dòng)文本、圖像和音頻的全能大模型GPT-4o證明了他們I依然有能力引流潮流。只不過(guò)剛剛發(fā)布GPT-4o之后,OpenAI就迎來(lái)了劇變,其首席科學(xué)家Ilya Sutskever宣布離職,緊接著超級(jí)對(duì)齊團(tuán)隊(duì)的負(fù)責(zé)人Jan Leike也宣布離職。

如果再算上超級(jí)對(duì)齊團(tuán)隊(duì)的核心成員Leopold Aschenbrenner,近期OpenAI內(nèi)部已有多位關(guān)注AI安全的員工或主動(dòng)、或被動(dòng)地離開。以至于“Ilya看見了什么”的表情包在社交平臺(tái)泛濫,大有成為MEME的趨勢(shì)。遺憾的是,Ilya Sutskever這位人工智能領(lǐng)域的先驅(qū)大概率是沒有看到通用人工智能(AGI)在OpenAI的誕生,曾與前者共同領(lǐng)導(dǎo)這家公司超級(jí)對(duì)齊團(tuán)隊(duì)的Jan Leike日前在X上發(fā)布的“小作文”也揭開了相關(guān)內(nèi)幕。

Jan Leike公開表示,自己與OpenAI高層在公司的核心優(yōu)先事項(xiàng)上存在無(wú)法調(diào)和的分歧,這就是他離開這家公司的原因。Jan Leik在推文中表示,創(chuàng)造超越人類智能的AI充滿風(fēng)險(xiǎn),OpenAI正在承擔(dān)這一責(zé)任,但安全文化和流程在追求產(chǎn)品開發(fā)過(guò)程中被邊緣化,并且OpenAI公司高層對(duì)于AGI的安全治理問(wèn)題優(yōu)先級(jí)不如推出“閃亮的產(chǎn)品”,以至于超級(jí)對(duì)齊團(tuán)隊(duì)只能獲得公司高層承諾的20%算力。

考慮到去年11月的“宮斗風(fēng)波”之后,三名發(fā)動(dòng)“政變”的原董事以及首席科學(xué)家Ilya Sutskever離開,作為CEO的Sam Altman和總裁Greg Brockman官?gòu)?fù)原職,Jan Leike這一“小作文”指向的無(wú)疑就是Sam Altman和Greg Brockman。以至于兩位OpenAI的領(lǐng)導(dǎo)者被迫站出來(lái),為這篇“小作文”點(diǎn)燃的輿論風(fēng)波滅火。換而言之,這次Ilya Sutskever以及盟友的離開,才標(biāo)志著OpenAI去年的那場(chǎng)“宮斗”才真正落幕。

去年Sam Altman和Greg Brockman被OpenAI原董事會(huì)驅(qū)逐的真正原因,外界普遍認(rèn)為是Ilya Sutskever和Sam Altman之間在理念上有著不可調(diào)和的矛盾,屬于急功近利的CEO和心懷理想主義的首席科學(xué)家之間的價(jià)值觀沖突。彼時(shí),Sam Altman對(duì)于商業(yè)利潤(rùn)的追求,促使他傾向于加速發(fā)展AGI,這與Ilya Sutskever堅(jiān)持AGI發(fā)展的同時(shí)還要兼顧倫理和安全形成了沖突,即所謂的加速主義和有效利他主義這兩股思潮在OpenAI內(nèi)部發(fā)生了碰撞。

最終的結(jié)果,是更傾向加速OpenAI商業(yè)化進(jìn)程的Sam Altman,不僅贏得了微軟等投資者的支持,出于自身利益的考量,大量OpenAI的員工也站在了Sam Altman這一邊。到此加速主義在OpenAI內(nèi)部占據(jù)上風(fēng),其開始全力訓(xùn)練更強(qiáng)大的人工智能、乃至所謂的AGI。據(jù)內(nèi)部人士透露,Ilya Sutskever則遠(yuǎn)程共同領(lǐng)導(dǎo)著超級(jí)對(duì)齊團(tuán)隊(duì)。

問(wèn)題是既然當(dāng)初的路線之爭(zhēng)已經(jīng)分出高下,Ilya Sutskever也在“宮斗”結(jié)束后聲稱,“我熱愛我們共同建立的一切,我將盡一切努力讓公司重新團(tuán)結(jié)起來(lái)”。所以從某種意義上來(lái)說(shuō),OpenAI的算力短缺是Ilya Sutskever出走、或者說(shuō)Sam Altman清洗前者盟友的導(dǎo)火索。

畢竟“誰(shuí)掌握了算力,誰(shuí)就掌握了未來(lái)”幾乎是AI行業(yè)的共識(shí)了,但英偉達(dá)的H100、乃至B100卻供不應(yīng)求,這也是為什么OpenAI沒有端出GPT-5,僅僅發(fā)布了缺乏顛覆性的GPT-4o的原因。

如果OpenAI真的有充沛的算力,超級(jí)對(duì)齊團(tuán)隊(duì)也就不會(huì)只獲得高層承諾算力的20%,這個(gè)團(tuán)隊(duì)很可能也不會(huì)分崩離析。事實(shí)上,為了獲得算力,Sam Altman是進(jìn)行了努力的。此前就曾有消息稱,他一直在沙特阿拉伯為代號(hào)為Tigris的項(xiàng)目籌集資金,并計(jì)劃成立一家專注于人工智能的芯片公司。按照目前X上OpenAI前員工的說(shuō)法,正是Sam Altman尋求資金以解決算力問(wèn)題的做法,導(dǎo)致了關(guān)注AI安全的員工對(duì)其失去信任。

事實(shí)上,OpenAI目前的狀態(tài)確實(shí)可以用鮮花著錦、烈火烹油來(lái)形容。盡管OpenAI是AI行業(yè)毋庸置疑的領(lǐng)導(dǎo)者,但這家公司到目前為止也沒能實(shí)現(xiàn)盈利,依然需要花投資機(jī)構(gòu)的錢。這個(gè)現(xiàn)狀也就決定了這家公司需要持續(xù)“炸翻全場(chǎng)”,要一直拿出新東西??蒓penAI畢竟資源有限,無(wú)法做到既研發(fā)新產(chǎn)品、又兼顧AI安全。作為一個(gè)有計(jì)算機(jī)行業(yè)背景的商人,而非有技術(shù)信仰的創(chuàng)客,Sam Altman顯然更傾向于把寶押在新技術(shù)、新產(chǎn)品上。

所以Ilya Sutskever、Jan Leike的離開幾乎是必然。但隨著真正意義上“ChatGPT之父”的退出,Sam Altman究竟是類似喬布斯一般有著敏銳嗅覺的產(chǎn)品經(jīng)理,還是一個(gè)貪天之功的“表演藝術(shù)家”,真正意義上的大考可能就要來(lái)了。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。