正在閱讀:

OpenAI內(nèi)斗的本質(zhì)是“左右之爭”

掃一掃下載界面新聞APP

OpenAI內(nèi)斗的本質(zhì)是“左右之爭”

奧特曼們是比較溫和的“右”,他想要的是可持續(xù)發(fā)展的商業(yè)公司,在此前提下適度兼顧造福人類的愿景。伊利亞則是相對激進(jìn)的“左”,他想要的是近乎不摻雜“商業(yè)化淤泥”的“AI桃花源”。

文 | 數(shù)字力場 佘宗明

?哲學(xué)家卡爾·波普爾曾說過:烏托邦主義的吸引力,是因為沒能認(rèn)識到我們不可能在地上建造天國。

OpenAI首席科學(xué)家伊利亞·蘇茨克沃爾(Ilya Sutskever)卻用代碼敲出一句:不,我偏要。

幾天前,他跟OpenAI董事會幾名成員,對CEO山姆·奧特曼(Sam Altman)發(fā)起罷免投票,奧特曼就此出局,AI界的“911事件”就此釀成。

是大戲,就會一波三折九曲回環(huán)。OpenAI宮斗,就在幾天內(nèi)變成了連續(xù)劇:

第一集,驚現(xiàn)政變:OpenAI董事會起意,將奧特曼掃地出門

第二集,內(nèi)部動蕩:OpenAI總裁跟著辭職,多名員工抗議變動

第三集,激烈博弈:臨時CEO站隊挺“奧”,董事會與奧特曼商談

第四集,談判破裂:奧特“反逼宮”敗北,改組董事會要求被拒

第五集,微軟入局:OpenAI新CEO上任,微軟宣布奧特曼加入微軟

第六集,風(fēng)云再起:超95%員工簽聯(lián)名信,要求董事會下臺

第七集,負(fù)隅頑抗:董事會尋求將OpenAI與對家合并,微軟不批

第八集,變局迭出:新CEO有意離開,奧特曼與董事會矛盾被曝

最新一集,王者歸來:奧特曼恢復(fù)原職,OpenAI董事會被重組

反轉(zhuǎn)反轉(zhuǎn)再反轉(zhuǎn),堪比3秒鐘一個過山車5秒鐘一個反轉(zhuǎn)的國產(chǎn)爽文微短劇,ChatGPT想破腦袋大概都編不出這劇情。

旁觀者說OpenAI里上演的是“權(quán)力的游戲”,OpenAI董事會表示100個不同意:這分明是“人民的名義”。

耐人尋味的是,這場政變中的焦點人物伊利亞,原本被視作站在奧特曼的對立面。

可沒多久后,伊利亞便在馬斯克家的X上發(fā)消息稱:“因為參與董事會的行動,我深感后悔。我無意傷害OpenAI?!眾W特曼讀完后,還給他點了一連串紅心。

這波內(nèi)訌后儼然重歸于好的舉動,把很多拿著“快意恩仇”劇本準(zhǔn)備對號入座的網(wǎng)絡(luò)編劇們給整不會了。

就在不少人嚷著“觀眾的乳腺也是乳腺”時,伊利亞還秀出了更具反轉(zhuǎn)意味的操作:聯(lián)合700多名OpenAI員工在公開信上簽字,稱如果不讓奧特曼復(fù)職,他們就離開公司,加入微軟與奧特曼共事。伊利亞還同意罷免自己的董事會席位。

而哼著“當(dāng)初是你想分開,分開就分開,現(xiàn)在又要用真愛,把我哄回來”的奧特曼,最終復(fù)刻“喬布斯時刻”——他又回來了。

在網(wǎng)上,不少人將這場政變歸因于宗教與世俗的PK,理想與現(xiàn)實的沖突。

在我看來,太陽之下無新鮮事,這事仍未脫離傳統(tǒng)的“左右之爭”框架。

伊利亞們在左,奧特曼們在右。

01

有人的地方,就有左中右。

改用漢娜·阿倫特的話說:如果人們不知道一個群體的政治光譜,不能區(qū)分不同群體的基本狀況,不同的價值取向和觀念心智,那么,他們也就不知道如何在很多領(lǐng)域中行事和表態(tài)。

就拿剛當(dāng)選阿根廷下任總統(tǒng)的“阿根廷版特朗普”哈維爾·米萊來說,雖然是左翼的民粹力量選上臺,可他廢除中央銀行、力推美元化、解散多個公共部門、對國有企業(yè)大規(guī)模私有化等主張,盡顯極右底色。

政治光譜存在于經(jīng)濟(jì)維度,也存在于技術(shù)領(lǐng)域。

以“公平,公平,還是公平”為口號的左翼,對前沿技術(shù)的態(tài)度往往是夕惕若厲,總是強(qiáng)調(diào)要把控風(fēng)險,“AI價值對齊”使他們的慣有主張,再往前數(shù)步,就可能滑向新勒德主義。

作為動能派的馬斯克,向來很難用“左右”來界定,但他在AI上的看法就接近于左翼——他經(jīng)常渲染AI威脅論,認(rèn)為硅基(機(jī)器)會毀滅碳基(人類)。

他之前計劃推出TruthGPT宣戰(zhàn)ChatGPT,很多人認(rèn)為他是眼紅OpenAI一枝獨秀、眼紅奧特曼搶了風(fēng)頭,但他更可能的動機(jī)是,對大規(guī)模AI應(yīng)用的擔(dān)憂和對OpenAI商業(yè)化運作方式的不滿。他之前退出OpenAI董事會,之后簽署呼吁暫停強(qiáng)AI研究的千人聯(lián)名信,都與此相關(guān)。

將效率優(yōu)先序前置的右翼,則往往會接入更多商業(yè)化思維,他們篤信技術(shù)進(jìn)步主義,認(rèn)為技術(shù)的問題就該在技術(shù)的發(fā)展中解決,更先進(jìn)的技術(shù)就是解決方案本身。

今年6月,全球頂級風(fēng)投公司 a16z掌舵者馬克·安德森就駁斥加強(qiáng)對AI監(jiān)管的合理性,認(rèn)為“AI最大的風(fēng)險是不以最大努力追求它?!?/p>

細(xì)究起來,這次OpenAI變局的始末里,也穿插著左右翼激烈博弈的脈絡(luò)。

02

猶記得,在ChatGPT剛問世時,許多人都對OpenAI獨特的公司治理架構(gòu)贊嘆不已——OpenAI創(chuàng)立時就定位為非盈利機(jī)構(gòu),致力于為全人類創(chuàng)造出安全有益的通用人工智能(AGI),其權(quán)力金字塔的塔尖立著董事會,董事會下面控制OpenAI的非營利母公司。

創(chuàng)始人自身不控股,大股東微軟沒有關(guān)鍵投票權(quán),這般設(shè)計確實太反常規(guī)。當(dāng)時很多人就由此反思:中國什么時候能出現(xiàn)自己的OpenAI?中國企業(yè)家何時能不只顧著低頭掙錢?

但現(xiàn)在看,它獨特的公司架構(gòu)確實太挑戰(zhàn)人性了,說得更苛刻些,就是反人性。

有掙錢的能力而不好好掙錢,除非是理想主義圣徒,一般人誰能經(jīng)受住這番誘惑?

某種程度上,OpenAI今天的內(nèi)訌,從它一開始背負(fù)起“非盈利”使命和“為了人類”愿景,充滿著烏托邦氣質(zhì)的時候,就已經(jīng)埋下了伏筆。

作為CEO的奧特曼是中間派偏右,他自己曾說,他在AI辯論中屬于中間派。

作為首席科學(xué)家的伊利亞是左翼,其光譜色號偏“深紅”,他以往偶爾在媒體中出鏡都是強(qiáng)調(diào)AI安全問題。

作為首席技術(shù)官(CTO)的米拉·穆拉蒂,立場偏中立,跟奧特曼雖不同頻卻也相近,此次風(fēng)波中,擔(dān)任臨時CEO的她力主重新聘用奧特曼,就說明了很多問題。

有意思的是,不少人此前將奧特曼被掃地出門跟喬布斯當(dāng)年被踢出蘋果作類比,但從擅長的能力區(qū)間看,奧特曼更接近于AI界的庫克,在融資、商業(yè)化、應(yīng)用生態(tài)探索等方面的能力尤為突出;伊利亞更像是管理能力和商業(yè)思維欠缺版的喬布斯,技術(shù)創(chuàng)新能力出類拔萃。

在OpenAI發(fā)展伊始,公司處于燒錢階段,還不具備盈利能力,這時候,各方都能被共同的技術(shù)信仰維系在一塊。他們可以對大模型不計成本地投入、對AGI了無掛礙地追求,正因如此,ChatGPT才會在同期產(chǎn)品中做到一覽眾山小。

此時的奧特曼,其能力更多的是用在為燒錢的OpenAI融資上,而不是讓OpenAI盈利上。能拉來微軟百億投資,能吸引馬斯克投錢進(jìn)來,離不開奧特曼的長袖善舞。

奧特曼背后站著微軟。

但非盈利組織的困境在于:很難做大。要想把規(guī)模做大,就必須走商業(yè)化路線,投資人不會一直為愛發(fā)電,企業(yè)不能一直“有情飲水飽”,這些都得靠盈利能力支撐;若不想把規(guī)模做大……很抱歉,當(dāng)下已長成超級獨角獸的OpenAI,已經(jīng)容不下這種“如果”了。

今天的OpenAI已非昔日可比,它面臨的,是做大做強(qiáng)跟非盈利之間的尖銳矛盾。

此時的奧特曼,必然會將能力用在掙錢上。就算他自己不想掙錢,他身后的投資人也會逼著他掙。

他摁下商業(yè)化按鈕,發(fā)力應(yīng)用生態(tài)、拓展應(yīng)用場景、拓寬盈利路徑,讓OpenAI回歸商業(yè)公司的商業(yè)化邏輯,算是順勢而為。

當(dāng)此之時,幾名合伙人之間的價值觀分歧會加速凸顯。在左邊的會覺得在右邊的急功近利,不顧AI風(fēng)險就將它推向市場;在右側(cè)的會覺得在左側(cè)的不切實際,技術(shù)突破若沒了商業(yè)化支撐只會是死路一條。

這就決定了,朝左的伊利亞們,跟中間靠右的奧特曼們,可以“共苦(共同打拼)”,卻很難“同甘(一塊賺錢)”。

畢竟,他們的使命,已經(jīng)出現(xiàn)了歧異。

03

若將OpenAI這場紛爭置于硅谷里左右翼思潮興起和博弈的背景下,也許能看得更真切。

近幾年,隨著AI技術(shù)迎來突破性進(jìn)展,硅谷兩個派別——EA(effective-altruism,即有效利他主義)陣營和“e/acc(即有效加速主義)”信徒的觀念PK也日趨激烈。

EA和e/acc的對峙,其實仍是保守派與激進(jìn)派之爭在技術(shù)發(fā)展上的映射。前者認(rèn)為包括AI在內(nèi)的技術(shù)應(yīng)該用來解決就業(yè)、疾病和貧困等社會問題。e/acc則相信技術(shù)進(jìn)步無法阻止,伴隨技術(shù)革新而至的是個美妙未來。

在AI領(lǐng)域,EA的代表性人物是“AI教父”、卷積神經(jīng)網(wǎng)絡(luò)理論領(lǐng)軍人物杰弗里·辛頓(Geoffrey Hinton)。他曾多次對外警告,AI會毀滅人類。

伊利亞正是辛頓的得意弟子,也是EA派新的扛旗者。

生于俄羅斯、在以色列長大、在多倫多大學(xué)學(xué)習(xí)、在斯坦福大學(xué)深造的伊利亞,起初曾加入谷歌人工智能團(tuán)隊Brain Team,但后來因為擔(dān)心AI變得比人類更聰明,而放棄了超高薪酬,跟奧特曼一塊創(chuàng)立了OpenAI??梢哉f,他不是受金錢驅(qū)動,是為了極致信仰才加入OpenAI。

伊利亞雖然是AGI的攻堅主力,可他對AI技術(shù)發(fā)展的失控從來都不無擔(dān)憂,對AI能力商業(yè)化后的風(fēng)險一直都抱以警惕。

以往接受采訪時,他就對ChatGPT帶來的假新聞、網(wǎng)絡(luò)暴力、AI武器等新問題眉頭緊鎖。

今年7月份,他就在OpenAI內(nèi)部推動了“超級對齊計劃”,旨在確保AI發(fā)展符合人類利益。

而OpenAI原董事會中的另外三名獨立董事,也都跟EA有關(guān)聯(lián)。這其中,海倫·托納就職過的機(jī)構(gòu)大多由EA信徒資助,她之前曾與奧特曼發(fā)生矛盾;塔莎·麥考利信奉的便是EA;董事會改組后唯一留下的前獨董、“美國版知乎”創(chuàng)始人亞當(dāng)·迪安杰洛開發(fā)的類ChatGPT產(chǎn)品Poe,也隱約透露著EA主張。

剛拿到OpenAI CEO體驗卡沒幾天就不得不退場的艾米特·謝爾,也是典型的EA信徒——他在X上就說,他希望減緩AI的發(fā)展速度,并且要與e/acc一派劃清界限。

奧特曼顯然不是他們的“價值同路人”。雖然他也提出過完善AI產(chǎn)品監(jiān)管,但他是OpenAI高層中率先主張商業(yè)化的人。雖然他沒旗幟鮮明地為e/acc站過臺,但有人懷疑他用小號為其張目,他帶領(lǐng)的OpenAI也成了e/acc信徒們的“憑欄處”。他在YC時期的老友、繼任CEO陳嘉興(Garry Tan),則用把e/acc加進(jìn)社交賬號名稱后綴的方式,擁護(hù)這套理論。

在OpenAI董事會中,跟奧特曼站在同條戰(zhàn)壕里的,是OpenAI原董事會主席兼總裁格雷格·布羅克曼。他這次就跟奧特曼同進(jìn)退,還將矛頭對準(zhǔn)了伊利亞。

奧特曼們跟伊利亞們的價值分歧,隨著OpenAI做大而日益顯現(xiàn)。

今年6月,奧特曼跟伊利亞兩人曾在美國特拉維夫大學(xué)同臺對談,當(dāng)主持人提到AI存在的三大風(fēng)險——工作崗位受到影響、黑客獲得超級智能和系統(tǒng)失控時,兩人就表現(xiàn)出了立場上的差異。

奧特曼傾向于描述AI樂觀的那面,伊利亞則主張“需要適當(dāng)?shù)慕Y(jié)構(gòu)來控制這項技術(shù)的使用”。

目前看,偏右的奧特曼,贏了OpenAI原董事會中偏左的幾人——這幾人未必想讓他回來,可員工和微軟不答應(yīng)。

04

回看此事,用ChatGPT拉開“AI大爆炸”序幕的OpenAI,最終卻出現(xiàn)內(nèi)爆,不免讓人有些唏噓。

這注定是OpenAI發(fā)展史上難以略過的節(jié)點性時刻,它充分表明:烏托邦里,終究容不下那些“世俗”的欲望。

早前OpenAI還很弱小時,矛盾隱性化,左中右尚能共存;等它成了AI領(lǐng)域的頂流,矛盾顯性化,左中右已無法兼容——引爆沖突的,不是利益紛爭,而是價值觀歧異。

如今奧特曼歸來,OpenAI員工、投資人和生態(tài)圈里的創(chuàng)業(yè)者大概會松口氣:他要是不在,OpenAI商業(yè)化進(jìn)展減緩,帶來的鏈?zhǔn)椒磻?yīng)會不容小覷。

結(jié)局雖定,爭議未息。在輿論場中,不少人在情感上站在了伊利亞一邊,認(rèn)為OpenAI政變背后是科學(xué)家創(chuàng)始人奮力抵抗的悲歌。在他們看來,以奧特曼為代表的勢力想要的,是個巨型印鈔機(jī),伊利亞們想要的,則是對人類負(fù)責(zé)任的“硅基智能”。

這很符合時下流行的輿論敘事:資本家只顧著逐利,科學(xué)家則心存良知。在這套敘事邏輯下,OpenAI內(nèi)訌會被輕易歸為“利益VS良知”之爭,奧特曼跟伊利亞各自站在黑白兩端。

以利益本位的視角去看待這其中的價值觀沖突,顯然有失偏頗。

毫無疑問,在AI存在諸多風(fēng)險(包括制造假新聞、AI武器等)的情況下,AI的發(fā)展需要拿捏好效率與安全的分寸,要避免只顧盡早變現(xiàn)不顧多重風(fēng)險的激進(jìn)商業(yè)化策略。

在“硅基VS碳基”的算力競爭越過圖靈測試奇點之前,用科技倫理約束牽制AI向失控的滑落,很有必要。

但不要因為認(rèn)同純粹的技術(shù)信仰,就貿(mào)然否定必要的商業(yè)化。指望技術(shù)創(chuàng)新只追求“造福人類”不追求商業(yè)化,只能在理想主義的特有語境中實現(xiàn)自洽,在現(xiàn)實中的可能性則幾乎為零。

技術(shù)創(chuàng)新不是搭建空中樓閣,它必須立于現(xiàn)實地基之上,而應(yīng)用場景和商業(yè)化能力就是地基。

沒有依托應(yīng)用而來的商業(yè)化,就沒有技術(shù)持續(xù)進(jìn)步——無論是技術(shù)從0到1的突破,還是從1到0.1再到1到10再到N的拓展,都需要資金支撐。而商業(yè)化能力就是反哺技術(shù)創(chuàng)新突破的“源頭活水”,缺乏應(yīng)用落地,缺乏商業(yè)變現(xiàn),技術(shù)創(chuàng)新也很難走遠(yuǎn)。

OpenAI走到今天,離不開伊利亞的技術(shù)領(lǐng)導(dǎo)力,馬斯克就說過,伊利亞是OpenAI成功的關(guān)鍵;更離不開奧特曼的商業(yè)運作能力,要是沒他,OpenAI的錢早就不夠燒了。

現(xiàn)在的問題是,伊利亞們是相對激進(jìn)的“左”,他想要的是近乎不摻雜“商業(yè)化淤泥”的“AI桃花源”;奧特曼們是比較溫和的“右”,他想要的是可持續(xù)發(fā)展的正常商業(yè)公司,在此前提下適度兼顧造福人類的愿景。

從伊利亞后來的反應(yīng)看,他對參與罷免奧特曼表現(xiàn)出了悔意。這或許表明,他意識到了:OpenAI的長遠(yuǎn)發(fā)展,離不開奧特曼的商業(yè)運作。這是理想主義者對現(xiàn)實的體認(rèn)。

經(jīng)此一事,更多人也許對尼采老師的那句話領(lǐng)會更深——

理想主義者是不可救藥的:如果他被扔出了他的天堂,他會再制造出一個理想的地獄。

而現(xiàn)實洪流,也總會為某些理想主義烈焰潑上一瓢冷水。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

OpenAI

  • 帕蘭泰爾和安杜里爾據(jù)悉與科技集團(tuán)聯(lián)手競標(biāo)五角大樓國防合同
  • OpenAI:正在測試推理模型o3和o3 mini

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

OpenAI內(nèi)斗的本質(zhì)是“左右之爭”

奧特曼們是比較溫和的“右”,他想要的是可持續(xù)發(fā)展的商業(yè)公司,在此前提下適度兼顧造福人類的愿景。伊利亞則是相對激進(jìn)的“左”,他想要的是近乎不摻雜“商業(yè)化淤泥”的“AI桃花源”。

文 | 數(shù)字力場 佘宗明

?哲學(xué)家卡爾·波普爾曾說過:烏托邦主義的吸引力,是因為沒能認(rèn)識到我們不可能在地上建造天國。

OpenAI首席科學(xué)家伊利亞·蘇茨克沃爾(Ilya Sutskever)卻用代碼敲出一句:不,我偏要。

幾天前,他跟OpenAI董事會幾名成員,對CEO山姆·奧特曼(Sam Altman)發(fā)起罷免投票,奧特曼就此出局,AI界的“911事件”就此釀成。

是大戲,就會一波三折九曲回環(huán)。OpenAI宮斗,就在幾天內(nèi)變成了連續(xù)?。?/p>

第一集,驚現(xiàn)政變:OpenAI董事會起意,將奧特曼掃地出門

第二集,內(nèi)部動蕩:OpenAI總裁跟著辭職,多名員工抗議變動

第三集,激烈博弈:臨時CEO站隊挺“奧”,董事會與奧特曼商談

第四集,談判破裂:奧特“反逼宮”敗北,改組董事會要求被拒

第五集,微軟入局:OpenAI新CEO上任,微軟宣布奧特曼加入微軟

第六集,風(fēng)云再起:超95%員工簽聯(lián)名信,要求董事會下臺

第七集,負(fù)隅頑抗:董事會尋求將OpenAI與對家合并,微軟不批

第八集,變局迭出:新CEO有意離開,奧特曼與董事會矛盾被曝

最新一集,王者歸來:奧特曼恢復(fù)原職,OpenAI董事會被重組

反轉(zhuǎn)反轉(zhuǎn)再反轉(zhuǎn),堪比3秒鐘一個過山車5秒鐘一個反轉(zhuǎn)的國產(chǎn)爽文微短劇,ChatGPT想破腦袋大概都編不出這劇情。

旁觀者說OpenAI里上演的是“權(quán)力的游戲”,OpenAI董事會表示100個不同意:這分明是“人民的名義”。

耐人尋味的是,這場政變中的焦點人物伊利亞,原本被視作站在奧特曼的對立面。

可沒多久后,伊利亞便在馬斯克家的X上發(fā)消息稱:“因為參與董事會的行動,我深感后悔。我無意傷害OpenAI?!眾W特曼讀完后,還給他點了一連串紅心。

這波內(nèi)訌后儼然重歸于好的舉動,把很多拿著“快意恩仇”劇本準(zhǔn)備對號入座的網(wǎng)絡(luò)編劇們給整不會了。

就在不少人嚷著“觀眾的乳腺也是乳腺”時,伊利亞還秀出了更具反轉(zhuǎn)意味的操作:聯(lián)合700多名OpenAI員工在公開信上簽字,稱如果不讓奧特曼復(fù)職,他們就離開公司,加入微軟與奧特曼共事。伊利亞還同意罷免自己的董事會席位。

而哼著“當(dāng)初是你想分開,分開就分開,現(xiàn)在又要用真愛,把我哄回來”的奧特曼,最終復(fù)刻“喬布斯時刻”——他又回來了。

在網(wǎng)上,不少人將這場政變歸因于宗教與世俗的PK,理想與現(xiàn)實的沖突。

在我看來,太陽之下無新鮮事,這事仍未脫離傳統(tǒng)的“左右之爭”框架。

伊利亞們在左,奧特曼們在右。

01

有人的地方,就有左中右。

改用漢娜·阿倫特的話說:如果人們不知道一個群體的政治光譜,不能區(qū)分不同群體的基本狀況,不同的價值取向和觀念心智,那么,他們也就不知道如何在很多領(lǐng)域中行事和表態(tài)。

就拿剛當(dāng)選阿根廷下任總統(tǒng)的“阿根廷版特朗普”哈維爾·米萊來說,雖然是左翼的民粹力量選上臺,可他廢除中央銀行、力推美元化、解散多個公共部門、對國有企業(yè)大規(guī)模私有化等主張,盡顯極右底色。

政治光譜存在于經(jīng)濟(jì)維度,也存在于技術(shù)領(lǐng)域。

以“公平,公平,還是公平”為口號的左翼,對前沿技術(shù)的態(tài)度往往是夕惕若厲,總是強(qiáng)調(diào)要把控風(fēng)險,“AI價值對齊”使他們的慣有主張,再往前數(shù)步,就可能滑向新勒德主義。

作為動能派的馬斯克,向來很難用“左右”來界定,但他在AI上的看法就接近于左翼——他經(jīng)常渲染AI威脅論,認(rèn)為硅基(機(jī)器)會毀滅碳基(人類)。

他之前計劃推出TruthGPT宣戰(zhàn)ChatGPT,很多人認(rèn)為他是眼紅OpenAI一枝獨秀、眼紅奧特曼搶了風(fēng)頭,但他更可能的動機(jī)是,對大規(guī)模AI應(yīng)用的擔(dān)憂和對OpenAI商業(yè)化運作方式的不滿。他之前退出OpenAI董事會,之后簽署呼吁暫停強(qiáng)AI研究的千人聯(lián)名信,都與此相關(guān)。

將效率優(yōu)先序前置的右翼,則往往會接入更多商業(yè)化思維,他們篤信技術(shù)進(jìn)步主義,認(rèn)為技術(shù)的問題就該在技術(shù)的發(fā)展中解決,更先進(jìn)的技術(shù)就是解決方案本身。

今年6月,全球頂級風(fēng)投公司 a16z掌舵者馬克·安德森就駁斥加強(qiáng)對AI監(jiān)管的合理性,認(rèn)為“AI最大的風(fēng)險是不以最大努力追求它?!?/p>

細(xì)究起來,這次OpenAI變局的始末里,也穿插著左右翼激烈博弈的脈絡(luò)。

02

猶記得,在ChatGPT剛問世時,許多人都對OpenAI獨特的公司治理架構(gòu)贊嘆不已——OpenAI創(chuàng)立時就定位為非盈利機(jī)構(gòu),致力于為全人類創(chuàng)造出安全有益的通用人工智能(AGI),其權(quán)力金字塔的塔尖立著董事會,董事會下面控制OpenAI的非營利母公司。

創(chuàng)始人自身不控股,大股東微軟沒有關(guān)鍵投票權(quán),這般設(shè)計確實太反常規(guī)。當(dāng)時很多人就由此反思:中國什么時候能出現(xiàn)自己的OpenAI?中國企業(yè)家何時能不只顧著低頭掙錢?

但現(xiàn)在看,它獨特的公司架構(gòu)確實太挑戰(zhàn)人性了,說得更苛刻些,就是反人性。

有掙錢的能力而不好好掙錢,除非是理想主義圣徒,一般人誰能經(jīng)受住這番誘惑?

某種程度上,OpenAI今天的內(nèi)訌,從它一開始背負(fù)起“非盈利”使命和“為了人類”愿景,充滿著烏托邦氣質(zhì)的時候,就已經(jīng)埋下了伏筆。

作為CEO的奧特曼是中間派偏右,他自己曾說,他在AI辯論中屬于中間派。

作為首席科學(xué)家的伊利亞是左翼,其光譜色號偏“深紅”,他以往偶爾在媒體中出鏡都是強(qiáng)調(diào)AI安全問題。

作為首席技術(shù)官(CTO)的米拉·穆拉蒂,立場偏中立,跟奧特曼雖不同頻卻也相近,此次風(fēng)波中,擔(dān)任臨時CEO的她力主重新聘用奧特曼,就說明了很多問題。

有意思的是,不少人此前將奧特曼被掃地出門跟喬布斯當(dāng)年被踢出蘋果作類比,但從擅長的能力區(qū)間看,奧特曼更接近于AI界的庫克,在融資、商業(yè)化、應(yīng)用生態(tài)探索等方面的能力尤為突出;伊利亞更像是管理能力和商業(yè)思維欠缺版的喬布斯,技術(shù)創(chuàng)新能力出類拔萃。

在OpenAI發(fā)展伊始,公司處于燒錢階段,還不具備盈利能力,這時候,各方都能被共同的技術(shù)信仰維系在一塊。他們可以對大模型不計成本地投入、對AGI了無掛礙地追求,正因如此,ChatGPT才會在同期產(chǎn)品中做到一覽眾山小。

此時的奧特曼,其能力更多的是用在為燒錢的OpenAI融資上,而不是讓OpenAI盈利上。能拉來微軟百億投資,能吸引馬斯克投錢進(jìn)來,離不開奧特曼的長袖善舞。

奧特曼背后站著微軟。

但非盈利組織的困境在于:很難做大。要想把規(guī)模做大,就必須走商業(yè)化路線,投資人不會一直為愛發(fā)電,企業(yè)不能一直“有情飲水飽”,這些都得靠盈利能力支撐;若不想把規(guī)模做大……很抱歉,當(dāng)下已長成超級獨角獸的OpenAI,已經(jīng)容不下這種“如果”了。

今天的OpenAI已非昔日可比,它面臨的,是做大做強(qiáng)跟非盈利之間的尖銳矛盾。

此時的奧特曼,必然會將能力用在掙錢上。就算他自己不想掙錢,他身后的投資人也會逼著他掙。

他摁下商業(yè)化按鈕,發(fā)力應(yīng)用生態(tài)、拓展應(yīng)用場景、拓寬盈利路徑,讓OpenAI回歸商業(yè)公司的商業(yè)化邏輯,算是順勢而為。

當(dāng)此之時,幾名合伙人之間的價值觀分歧會加速凸顯。在左邊的會覺得在右邊的急功近利,不顧AI風(fēng)險就將它推向市場;在右側(cè)的會覺得在左側(cè)的不切實際,技術(shù)突破若沒了商業(yè)化支撐只會是死路一條。

這就決定了,朝左的伊利亞們,跟中間靠右的奧特曼們,可以“共苦(共同打拼)”,卻很難“同甘(一塊賺錢)”。

畢竟,他們的使命,已經(jīng)出現(xiàn)了歧異。

03

若將OpenAI這場紛爭置于硅谷里左右翼思潮興起和博弈的背景下,也許能看得更真切。

近幾年,隨著AI技術(shù)迎來突破性進(jìn)展,硅谷兩個派別——EA(effective-altruism,即有效利他主義)陣營和“e/acc(即有效加速主義)”信徒的觀念PK也日趨激烈。

EA和e/acc的對峙,其實仍是保守派與激進(jìn)派之爭在技術(shù)發(fā)展上的映射。前者認(rèn)為包括AI在內(nèi)的技術(shù)應(yīng)該用來解決就業(yè)、疾病和貧困等社會問題。e/acc則相信技術(shù)進(jìn)步無法阻止,伴隨技術(shù)革新而至的是個美妙未來。

在AI領(lǐng)域,EA的代表性人物是“AI教父”、卷積神經(jīng)網(wǎng)絡(luò)理論領(lǐng)軍人物杰弗里·辛頓(Geoffrey Hinton)。他曾多次對外警告,AI會毀滅人類。

伊利亞正是辛頓的得意弟子,也是EA派新的扛旗者。

生于俄羅斯、在以色列長大、在多倫多大學(xué)學(xué)習(xí)、在斯坦福大學(xué)深造的伊利亞,起初曾加入谷歌人工智能團(tuán)隊Brain Team,但后來因為擔(dān)心AI變得比人類更聰明,而放棄了超高薪酬,跟奧特曼一塊創(chuàng)立了OpenAI??梢哉f,他不是受金錢驅(qū)動,是為了極致信仰才加入OpenAI。

伊利亞雖然是AGI的攻堅主力,可他對AI技術(shù)發(fā)展的失控從來都不無擔(dān)憂,對AI能力商業(yè)化后的風(fēng)險一直都抱以警惕。

以往接受采訪時,他就對ChatGPT帶來的假新聞、網(wǎng)絡(luò)暴力、AI武器等新問題眉頭緊鎖。

今年7月份,他就在OpenAI內(nèi)部推動了“超級對齊計劃”,旨在確保AI發(fā)展符合人類利益。

而OpenAI原董事會中的另外三名獨立董事,也都跟EA有關(guān)聯(lián)。這其中,海倫·托納就職過的機(jī)構(gòu)大多由EA信徒資助,她之前曾與奧特曼發(fā)生矛盾;塔莎·麥考利信奉的便是EA;董事會改組后唯一留下的前獨董、“美國版知乎”創(chuàng)始人亞當(dāng)·迪安杰洛開發(fā)的類ChatGPT產(chǎn)品Poe,也隱約透露著EA主張。

剛拿到OpenAI CEO體驗卡沒幾天就不得不退場的艾米特·謝爾,也是典型的EA信徒——他在X上就說,他希望減緩AI的發(fā)展速度,并且要與e/acc一派劃清界限。

奧特曼顯然不是他們的“價值同路人”。雖然他也提出過完善AI產(chǎn)品監(jiān)管,但他是OpenAI高層中率先主張商業(yè)化的人。雖然他沒旗幟鮮明地為e/acc站過臺,但有人懷疑他用小號為其張目,他帶領(lǐng)的OpenAI也成了e/acc信徒們的“憑欄處”。他在YC時期的老友、繼任CEO陳嘉興(Garry Tan),則用把e/acc加進(jìn)社交賬號名稱后綴的方式,擁護(hù)這套理論。

在OpenAI董事會中,跟奧特曼站在同條戰(zhàn)壕里的,是OpenAI原董事會主席兼總裁格雷格·布羅克曼。他這次就跟奧特曼同進(jìn)退,還將矛頭對準(zhǔn)了伊利亞。

奧特曼們跟伊利亞們的價值分歧,隨著OpenAI做大而日益顯現(xiàn)。

今年6月,奧特曼跟伊利亞兩人曾在美國特拉維夫大學(xué)同臺對談,當(dāng)主持人提到AI存在的三大風(fēng)險——工作崗位受到影響、黑客獲得超級智能和系統(tǒng)失控時,兩人就表現(xiàn)出了立場上的差異。

奧特曼傾向于描述AI樂觀的那面,伊利亞則主張“需要適當(dāng)?shù)慕Y(jié)構(gòu)來控制這項技術(shù)的使用”。

目前看,偏右的奧特曼,贏了OpenAI原董事會中偏左的幾人——這幾人未必想讓他回來,可員工和微軟不答應(yīng)。

04

回看此事,用ChatGPT拉開“AI大爆炸”序幕的OpenAI,最終卻出現(xiàn)內(nèi)爆,不免讓人有些唏噓。

這注定是OpenAI發(fā)展史上難以略過的節(jié)點性時刻,它充分表明:烏托邦里,終究容不下那些“世俗”的欲望。

早前OpenAI還很弱小時,矛盾隱性化,左中右尚能共存;等它成了AI領(lǐng)域的頂流,矛盾顯性化,左中右已無法兼容——引爆沖突的,不是利益紛爭,而是價值觀歧異。

如今奧特曼歸來,OpenAI員工、投資人和生態(tài)圈里的創(chuàng)業(yè)者大概會松口氣:他要是不在,OpenAI商業(yè)化進(jìn)展減緩,帶來的鏈?zhǔn)椒磻?yīng)會不容小覷。

結(jié)局雖定,爭議未息。在輿論場中,不少人在情感上站在了伊利亞一邊,認(rèn)為OpenAI政變背后是科學(xué)家創(chuàng)始人奮力抵抗的悲歌。在他們看來,以奧特曼為代表的勢力想要的,是個巨型印鈔機(jī),伊利亞們想要的,則是對人類負(fù)責(zé)任的“硅基智能”。

這很符合時下流行的輿論敘事:資本家只顧著逐利,科學(xué)家則心存良知。在這套敘事邏輯下,OpenAI內(nèi)訌會被輕易歸為“利益VS良知”之爭,奧特曼跟伊利亞各自站在黑白兩端。

以利益本位的視角去看待這其中的價值觀沖突,顯然有失偏頗。

毫無疑問,在AI存在諸多風(fēng)險(包括制造假新聞、AI武器等)的情況下,AI的發(fā)展需要拿捏好效率與安全的分寸,要避免只顧盡早變現(xiàn)不顧多重風(fēng)險的激進(jìn)商業(yè)化策略。

在“硅基VS碳基”的算力競爭越過圖靈測試奇點之前,用科技倫理約束牽制AI向失控的滑落,很有必要。

但不要因為認(rèn)同純粹的技術(shù)信仰,就貿(mào)然否定必要的商業(yè)化。指望技術(shù)創(chuàng)新只追求“造福人類”不追求商業(yè)化,只能在理想主義的特有語境中實現(xiàn)自洽,在現(xiàn)實中的可能性則幾乎為零。

技術(shù)創(chuàng)新不是搭建空中樓閣,它必須立于現(xiàn)實地基之上,而應(yīng)用場景和商業(yè)化能力就是地基。

沒有依托應(yīng)用而來的商業(yè)化,就沒有技術(shù)持續(xù)進(jìn)步——無論是技術(shù)從0到1的突破,還是從1到0.1再到1到10再到N的拓展,都需要資金支撐。而商業(yè)化能力就是反哺技術(shù)創(chuàng)新突破的“源頭活水”,缺乏應(yīng)用落地,缺乏商業(yè)變現(xiàn),技術(shù)創(chuàng)新也很難走遠(yuǎn)。

OpenAI走到今天,離不開伊利亞的技術(shù)領(lǐng)導(dǎo)力,馬斯克就說過,伊利亞是OpenAI成功的關(guān)鍵;更離不開奧特曼的商業(yè)運作能力,要是沒他,OpenAI的錢早就不夠燒了。

現(xiàn)在的問題是,伊利亞們是相對激進(jìn)的“左”,他想要的是近乎不摻雜“商業(yè)化淤泥”的“AI桃花源”;奧特曼們是比較溫和的“右”,他想要的是可持續(xù)發(fā)展的正常商業(yè)公司,在此前提下適度兼顧造福人類的愿景。

從伊利亞后來的反應(yīng)看,他對參與罷免奧特曼表現(xiàn)出了悔意。這或許表明,他意識到了:OpenAI的長遠(yuǎn)發(fā)展,離不開奧特曼的商業(yè)運作。這是理想主義者對現(xiàn)實的體認(rèn)。

經(jīng)此一事,更多人也許對尼采老師的那句話領(lǐng)會更深——

理想主義者是不可救藥的:如果他被扔出了他的天堂,他會再制造出一個理想的地獄。

而現(xiàn)實洪流,也總會為某些理想主義烈焰潑上一瓢冷水。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。