文 | 硅兔賽跑 Xuushan
編輯 | 蔓蔓周
特斯拉創(chuàng)始人兼CEO埃隆·馬斯克(Elon Musk)連續(xù)五年都在強(qiáng)調(diào)特斯拉超級(jí)計(jì)算機(jī)Dojo的重要性!
從2019年到2024年,五年時(shí)間里,馬斯克曾在公共場(chǎng)合23次提及Dojo對(duì)特斯拉自動(dòng)駕駛的作用。作為特斯拉定制的超級(jí)計(jì)算機(jī)Dojo,主要用于訓(xùn)練特斯拉的全自動(dòng)駕駛 (FSD)神經(jīng)網(wǎng)絡(luò)。
特斯拉認(rèn)為只要有足夠的數(shù)據(jù),足夠的計(jì)算能力以及更強(qiáng)的訓(xùn)練能力,F(xiàn)SD的自動(dòng)駕駛場(chǎng)景就可以從輔助駕駛轉(zhuǎn)向全自動(dòng)駕駛。
調(diào)查顯示,特斯拉在2024年第二季度全球市場(chǎng)共交付了44.3萬(wàn)輛汽車(chē),同比下降4.8%,這是特斯拉首次連續(xù)兩個(gè)季度出現(xiàn)銷(xiāo)量同比下滑。
面臨著電動(dòng)汽車(chē)銷(xiāo)量下滑,投資者希望特斯拉接下來(lái)能夠帶來(lái)一些“驚喜”,比如說(shuō)能夠?qū)崿F(xiàn)真正的無(wú)人駕駛。而在這其中,Dojo或許成為打開(kāi)技術(shù)大門(mén)的關(guān)鍵鑰匙。
外媒Techcrunch整理了五年以來(lái),馬斯克對(duì)Dojo發(fā)表的言論。馬斯克為什么覺(jué)得憑借Dojo可以從英偉達(dá)手里“搶生意”?超級(jí)計(jì)算機(jī)又將會(huì)如何加強(qiáng)特斯拉的AI能力?特斯拉的自動(dòng)駕駛布局是怎樣的?我們可以嘗試從這些言論中找到答案。
01 Dojo的產(chǎn)生:特斯拉自動(dòng)駕駛技術(shù)的底座支柱
在Dojo橫空出世之際,市場(chǎng)就對(duì)其抱有較高期待。摩根士丹利分析師Adam Jonas認(rèn)為Dojo可能為特斯拉市值增加高達(dá)5000億美元,因?yàn)樗谧詣?dòng)駕駛領(lǐng)域帶來(lái)“不對(duì)稱優(yōu)勢(shì)”。
在他看來(lái),Dojo可以為特斯拉節(jié)省高達(dá)65億美元的成本,并加速自動(dòng)駕駛技術(shù)和人形機(jī)器人的研發(fā)進(jìn)程。那么在5年前,Dojo是因何產(chǎn)生的?
1、2019年4月22日:特斯拉首次提及Dojo
在特斯拉的自動(dòng)駕駛?cè)丈?,特斯拉AI團(tuán)隊(duì)首次登臺(tái)講述自動(dòng)駕駛設(shè)備以及全自動(dòng)駕駛背后所支撐的AI技術(shù)。特斯拉分享了自己專為神經(jīng)網(wǎng)絡(luò)和自動(dòng)駕駛汽車(chē)設(shè)計(jì)的定制芯片信息。
在活動(dòng)期間,馬斯克透露Dojo是一臺(tái)用于訓(xùn)練AI的超級(jí)計(jì)算機(jī)。他還指出,未來(lái)特斯拉所有汽車(chē)都將配有自動(dòng)駕駛所必備的硬件,用戶只需要軟件更新就可以升級(jí)系統(tǒng),擁有自動(dòng)駕駛功能。
2、2020年2月2日:特斯拉宣傳Dojo功能
在社交媒體X上,馬斯克表示特斯拉將會(huì)擁有超過(guò)一百萬(wàn)輛聯(lián)網(wǎng)汽車(chē),這些汽車(chē)均配備了實(shí)現(xiàn)全自動(dòng)駕駛所需的傳感器和計(jì)算能力,并大力宣傳Dojo的功能。
“我們的訓(xùn)練超級(jí)計(jì)算機(jī)Dojo能夠處理大量視頻訓(xùn)練數(shù)據(jù),并高效運(yùn)行超空間陣列,該陣列擁有大容量、高參數(shù)以及超高寬帶的特性。稍后將詳細(xì)介紹?!?/p>
3、2020年8月14日:馬斯克預(yù)告Dojo發(fā)布時(shí)間
馬斯克在其社交媒體強(qiáng)調(diào),特斯拉正在開(kāi)發(fā)一款名為Dojo的神經(jīng)網(wǎng)絡(luò)超級(jí)計(jì)算機(jī),該設(shè)備可以處理大量真實(shí)視頻數(shù)據(jù),甚至比喻這臺(tái)超算設(shè)備為“野獸”。他預(yù)測(cè)Dojo距離初代產(chǎn)品發(fā)布至少還需要1年時(shí)間。
4、2020年12月31日:Dojo不是必需品,但重要
馬斯克表示Dojo不是必需品,但它能夠優(yōu)化自動(dòng)駕駛功能?!氨热祟愸{駛員更可靠是不夠的,Autopilot 的安全性要高于人類駕駛員10 倍以上?!?/p>
可以看到,在Dojo還尚未正式發(fā)布時(shí),特斯拉對(duì)Dojo就持有較高期待,將其視為自動(dòng)駕駛技術(shù)的重要支柱。
02 正式推出Dojo演示其AI能力
盡管Dojo的發(fā)布時(shí)間比預(yù)期更長(zhǎng),但超級(jí)計(jì)算機(jī)Dojo正式發(fā)布時(shí)還是受到了馬斯克和市場(chǎng)的高度重視。馬斯克視其為特斯拉AI業(yè)務(wù)體系的算力基礎(chǔ)設(shè)施,以及實(shí)現(xiàn)自動(dòng)駕駛的關(guān)鍵技術(shù)支撐。
5、2021年8月19日:特斯拉首次發(fā)布Dojo
特斯拉團(tuán)隊(duì)在其首個(gè)AI Day上宣布正式推出Dojo,并且推出了D1芯片。該芯片將和英偉達(dá)的GPU一起為超算Dojo提供計(jì)算能力。在活動(dòng)上,特斯拉還指出Dojo的AI集群可以容納3000個(gè)D1芯片。
6、2021年10月12日:公布Dojo技術(shù)白皮書(shū),特斯拉采用深度學(xué)習(xí)新算法
特斯拉發(fā)布了一份Dojo技術(shù)白皮書(shū),里面涉及算法指南,并且支持可配置浮點(diǎn)格式。白皮書(shū)內(nèi)提及了一種新型二進(jìn)制浮點(diǎn)算法的技術(shù)標(biāo)準(zhǔn),可以用于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。通過(guò)該算法,Dojo能夠僅靠軟件、或者僅靠硬件,以及軟硬件結(jié)合的方式實(shí)現(xiàn)各類控制組合。
7、2022年8月12日:特斯拉將逐步采用Dojo,減少GPU采購(gòu)
馬斯克表示特斯拉將“逐步”采用Dojo,并表示明年公司將不需要購(gòu)買(mǎi)那么多GPU。
8、2022年9月30日:實(shí)物演示Dojo能力,特斯拉已安裝首個(gè)機(jī)柜
在特斯拉的第二個(gè)AI Day上,特斯拉透露他們已安裝第一個(gè)Dojo機(jī)柜,并進(jìn)行了2.2兆瓦的負(fù)載測(cè)試。特斯拉表示每一個(gè)Dojo將會(huì)有25個(gè)D1芯片組成。
特斯拉還上臺(tái)演示了Dojo的能力,它可以通過(guò)穩(wěn)定擴(kuò)散模型來(lái)利用AI生成“火星上的Cybertruck”圖像。
特斯拉立下了將在2023年第一季度完成Dojo Exapod集群搭建的目標(biāo),計(jì)劃在帕洛阿爾托建造七臺(tái)Exapod。
相較于其他的超級(jí)計(jì)算機(jī),Dojo的上線節(jié)奏較快,并且很快對(duì)特斯拉的實(shí)際業(yè)務(wù)產(chǎn)生使用價(jià)值。但我們也能看到,早期,馬斯克對(duì)Dojo的預(yù)期過(guò)高,比如說(shuō)減少GPU采購(gòu)等方面。
03 高風(fēng)險(xiǎn)、高回報(bào),馬斯克重金押向Dojo
相較于前兩年,從2023年開(kāi)始,Dojo逐漸向人們展示作為一臺(tái)超級(jí)計(jì)算機(jī)能夠切實(shí)給企業(yè)帶來(lái)哪些效益,以及告知人們投入研發(fā)一臺(tái)超級(jí)計(jì)算機(jī)是一件“高風(fēng)險(xiǎn)、高回報(bào)”的投資。
9、2023年4月19日:Dojo被視為不可能成功的賭注
馬斯克在特斯拉第一季度財(cái)報(bào)發(fā)布會(huì)上告訴投資者,Dojo“有可能將培訓(xùn)成本提高至十倍以上”,并且“Dojo有可能成為一種可商業(yè)化的業(yè)務(wù),我們會(huì)像亞馬遜提供網(wǎng)絡(luò)服務(wù)一樣向其他公司提供這種服務(wù)”。
馬斯克還指出,他將 Dojo視為一種不太可能成功的賭注,但“值得一試”。
10、2023年6月21日:Dojo上線特斯拉數(shù)據(jù)中心
特斯拉AI官方賬號(hào)在社交媒體上表示自己的神經(jīng)網(wǎng)絡(luò)訓(xùn)練已經(jīng)應(yīng)用于用戶的車(chē)輛,貼文中列出了特斯拉當(dāng)前所需的計(jì)算能力和預(yù)計(jì)能夠提供計(jì)算能力的時(shí)間表。圖標(biāo)上透露出,Dojo將于2023 年7月開(kāi)始投入運(yùn)用。馬斯克當(dāng)天表示,Dojo已經(jīng)上線并在特斯拉數(shù)據(jù)中心運(yùn)行任務(wù)。
該公司還預(yù)測(cè),到2024年2月左右,特斯拉的計(jì)算能力將躋身全球前五。到2024年10月,特斯拉的計(jì)算能力將支持100百億億次浮點(diǎn)運(yùn)算。
11、2023年7月19日:計(jì)劃投入10億美元建設(shè)Dojo
特斯拉在第二季度財(cái)報(bào)中指出,該公司已開(kāi)始建設(shè)Dojo。馬斯克還表示,2024年特斯拉將會(huì)在Dojo上投入超過(guò)10億美元。
12、2023年9月6日:聯(lián)手英偉達(dá),解決AI計(jì)算難題
馬斯克在X上發(fā)帖稱,由于AI訓(xùn)練計(jì)算比較有限,現(xiàn)有的軟件系統(tǒng)管理特斯拉每天從汽車(chē)獲得1600億幀視頻數(shù)據(jù)極其困難,現(xiàn)階段英偉達(dá)和Dojo將聯(lián)手解決這個(gè)問(wèn)題。
Dojo的出現(xiàn),正好趕上了AI熱潮。Dojo的超算能力為處理和分析海量自動(dòng)駕駛數(shù)據(jù)提供了可能,也證明了特斯拉在自動(dòng)駕駛領(lǐng)域構(gòu)建軟硬一體化的技術(shù)能力。
04 擴(kuò)大Dojo規(guī)模,將在AI領(lǐng)域投入百億美元
Dojo的推出反映了特斯拉在AI算力競(jìng)賽中戰(zhàn)略布局的先手能力,為公司在全球自動(dòng)駕駛技術(shù)競(jìng)爭(zhēng)中贏得了先機(jī)。
13、2024年1月24日:Dojo系列路線圖披露
在特斯拉第四季度和全年財(cái)報(bào)電話會(huì)議上,馬斯克再次承認(rèn)Dojo是一個(gè)高風(fēng)險(xiǎn)、高回報(bào)的項(xiàng)目。他還表示,特斯拉正在尋求“英偉達(dá)和Dojo雙管齊下”?!癉ojo 正在發(fā)揮作用”,并且“正在開(kāi)展培訓(xùn)工作”。他指出,特斯拉正擴(kuò)大規(guī)模,并制定了“Dojo 1.5、Dojo 2、Dojo 3 等計(jì)劃”。
14、2024年1月26日:投資5億美元組建Dojo
兩天后,特斯拉宣布計(jì)劃斥資5億美元在布法羅打造一臺(tái)Dojo超級(jí)計(jì)算機(jī)。馬斯克在X上發(fā)帖稱,雖然 5 億美元是一筆大數(shù)目,但“僅相當(dāng)于英偉達(dá)10k H100 系統(tǒng)。特斯拉今年將在英偉達(dá)硬件上投入更多資金。目前,(特斯拉)在AI領(lǐng)域保持競(jìng)爭(zhēng)力的底線至少是每年數(shù)十億美元。”
15、2024年4月30日:訓(xùn)練模塊D2已投入生產(chǎn)
據(jù)IEEE Spectrum報(bào)道,在臺(tái)積電的北美技術(shù)研討會(huì)上,該公司表示Dojo的下一代訓(xùn)練模塊 — — D2 已經(jīng)投入生產(chǎn)。D2將所有的Dojo模塊放在一塊硅晶圓上,而不是連接25個(gè)芯片連在一起,制作一塊模塊。
16、2024年5月20日:Giga Texas工廠擴(kuò)建超算集群
馬斯克指出,Giga Texas工廠擴(kuò)建的后部將包括建設(shè)“超密集超級(jí)計(jì)算機(jī)集群”。Giga Texas,也就是特斯拉位于德克薩斯州奧斯汀的超級(jí)工廠,是特斯拉在美國(guó)的一個(gè)重要制造基地。
17、2024年6月:將在AI方面投入百億美元
馬斯克在X上發(fā)帖稱,由于超級(jí)工廠Giga Texas的南部擴(kuò)建工程尚未完成,所以沒(méi)有地方做AI訓(xùn)練,英偉達(dá)GPU芯片也就還放在倉(cāng)庫(kù)里。據(jù)介紹,等到此次擴(kuò)建工程完成,該工廠將“容納5萬(wàn)臺(tái)H100用于FSD訓(xùn)練”。
“特斯拉今年AI方向的投入約為100億美元,其中約一半用于內(nèi)部支出,主要是特斯拉設(shè)計(jì)的AI推理計(jì)算機(jī)和傳感器,這些設(shè)備都和我們所有的汽車(chē)上,此外還有Dojo。”
據(jù)馬斯克介紹,在構(gòu)建人工智能訓(xùn)練超級(jí)集群方面,英偉達(dá)硬件約占成本的2/3。他目前對(duì)特斯拉今年將有大約30億至40億美元的費(fèi)用付給英偉達(dá),以采購(gòu)相關(guān)硬件。
18、2024年7月:沒(méi)有適合特斯拉的新AI硬件
馬斯克今年7月在X上透露,目前的特斯拉汽車(chē)可能沒(méi)有適合該公司下一代AI模型的硬件。他說(shuō),如果不升級(jí)汽車(chē)推理計(jì)算機(jī),“下一代 AI 的參數(shù)數(shù)量增加約 倍是很難實(shí)現(xiàn)的”。
總體看來(lái),想要打造一臺(tái)用于垂直領(lǐng)域的超級(jí)計(jì)算設(shè)備并非一件易事,時(shí)間、資金、成本等等一些問(wèn)題導(dǎo)致Dojo的發(fā)展較為曲折。
05 合作與競(jìng)爭(zhēng)共存,特斯拉或憑借Dojo與英偉達(dá)“掰手腕”?
如今,馬斯克想要借助Dojo的超算能力進(jìn)一步拉開(kāi)特斯拉與其他企業(yè)在自動(dòng)駕駛領(lǐng)域的差距,甚至還想和英偉達(dá)“爭(zhēng)一爭(zhēng)”計(jì)算資源業(yè)務(wù)。
19、2024年7月23日:或通過(guò)Dojo與英偉達(dá)展開(kāi)競(jìng)爭(zhēng)
特斯拉第二季度財(cái)報(bào)電話會(huì)議上,馬斯克表示市場(chǎng)對(duì)英偉達(dá)的硬件需求非常大,不少客戶很難獲得 GPU。
“在此需求之下,我認(rèn)為我們需要在Dojo上投入更多精力,以確保我們擁有所需的訓(xùn)練能力,”馬斯克說(shuō)。“我們確實(shí)看到了通過(guò)Dojo與英偉達(dá)展開(kāi)競(jìng)爭(zhēng)的途徑?!?/p>
特斯拉投資者資料中曾有一張圖表,到2024年底,特斯拉AI訓(xùn)練能力大約和9萬(wàn)臺(tái)H100 GPU所提供的效果相等。
當(dāng)天晚些時(shí)候,馬斯克在X上發(fā)帖稱,Dojo 1到年底,將會(huì)與約8000臺(tái)H100 GPU提供等效的在線訓(xùn)練能力。他還展示了這臺(tái)超級(jí)計(jì)算機(jī)的照片,看上去,它似乎使用了與特斯拉Cyber trucks相同的類似不銹鋼外殼。
20、2024年7月30日:下一代車(chē)載計(jì)算平臺(tái)AI5 18個(gè)月后發(fā)布
馬斯克在回復(fù)某人的帖子時(shí)表示,下一代車(chē)載計(jì)算平臺(tái)AI5距離大批量生產(chǎn)還有約18個(gè)月的時(shí)間,該帖子聲稱要成立一個(gè)名為“特斯拉 HW4/AI4車(chē)主對(duì)AI5發(fā)布時(shí)落后感到憤怒”的俱樂(lè)部。
21、2024年8月3日:擁有10萬(wàn)+英偉達(dá)GPU,特斯拉大力投入AI
馬斯克在X上發(fā)帖稱,他參觀了“Giga Texas(又名 Cortex)的特斯拉超級(jí)計(jì)算集群”。他指出,該集群將由大約 100000 個(gè) H100/H200 Nvidia GPU 組成,并配備“用于 FSD 和 Optimus 視頻訓(xùn)練的海量存儲(chǔ)空間”。
可以看出,Dojo不但為自動(dòng)駕駛算法的訓(xùn)練和優(yōu)化提供了強(qiáng)大的計(jì)算支持,加速了從L2到L5級(jí)別自動(dòng)駕駛的演進(jìn),而且也為特斯拉提供新的AI競(jìng)爭(zhēng)優(yōu)勢(shì)。
特斯拉重金押注Dojo
通過(guò)歷年以來(lái)馬斯克發(fā)表關(guān)于Dojo的言論可以很清晰的看出,Dojo是馬斯克AI帝國(guó)的關(guān)鍵“基石”,其出現(xiàn)的過(guò)程也體現(xiàn)了馬斯克在自動(dòng)駕駛技術(shù)上的前瞻性和敏銳程度。
然而,特斯拉在Dojo上的發(fā)展并不太順,Dojo的后續(xù)發(fā)展并沒(méi)有達(dá)到特斯拉的預(yù)期,這也意味著特斯拉的自動(dòng)駕駛布局尚未完全成型。
但Dojo的量產(chǎn)和應(yīng)用,也將會(huì)推動(dòng)自動(dòng)駕駛技術(shù)將更快地從概念走向現(xiàn)實(shí),引入其他同賽道競(jìng)爭(zhēng)者在AI領(lǐng)域的的投入,也為未來(lái)智能交通變革奠定了基礎(chǔ)。