12月26日,界面新聞獨(dú)家獲悉,小米正在著手搭建自己的GPU萬(wàn)卡集群,將對(duì)AI大模型大力投入。小米大模型團(tuán)隊(duì)在成立時(shí)已有6500張GPU資源。 知情人士對(duì)界面新聞?dòng)浾弑硎?,該?jì)劃已經(jīng)施行數(shù)月之久,雷軍在其中扮演了重要的領(lǐng)導(dǎo)角色。“在AI硬件這件事情上,最核心的是手機(jī)而不是眼鏡,小米在這個(gè)領(lǐng)域不‘a(chǎn)ll in’是不可能的。”
【機(jī)會(huì)前瞻】
12月26日,界面新聞獨(dú)家獲悉,小米正在著手搭建自己的GPU萬(wàn)卡集群,將對(duì)AI大模型大力投入。小米大模型團(tuán)隊(duì)在成立時(shí)已有6500張GPU資源。雖然對(duì)此小米暫未置評(píng),但是小米對(duì)AI大模型的重視度提升此前已有信號(hào)。12月20日,據(jù)第一財(cái)經(jīng)報(bào)道,DeepSeek開(kāi)源大模型DeepSeek-V2的關(guān)鍵開(kāi)發(fā)者之一羅福莉?qū)⒓尤胄∶?,或供職于小米AI實(shí)驗(yàn)室,領(lǐng)導(dǎo)小米大模型團(tuán)隊(duì)。
小米作為具有應(yīng)用端優(yōu)勢(shì)的科技公司,AI布局較早,大模型戰(zhàn)略也被視為小米“人車(chē)家”戰(zhàn)略的重要支撐。2023年5月組建了AI實(shí)驗(yàn)室大模型團(tuán)隊(duì),擁有超過(guò)1200名相關(guān)人員,并計(jì)劃不斷挖掘AI相關(guān)的用戶場(chǎng)景。2023年8月,小米集團(tuán)公告顯示,AI是公司長(zhǎng)期投入的底層賽道,其60億參數(shù)的自研大模型在同參數(shù)量級(jí)中排名第一。11月,小米披露將AI大模型與小米澎湃OS深度融合,為用戶提供基于端側(cè)大模型的各類便利和智能功能。
小米集團(tuán)創(chuàng)始人雷軍曾公開(kāi)表示:“我們做大模型的思路可能和很多公司不太一樣,我們選擇主力突破的是輕量化和本地部署。”這一戰(zhàn)略選擇不僅基于成本考量,也符合小米用戶的使用習(xí)慣和技術(shù)需求。小米通過(guò)將AI推理場(chǎng)景轉(zhuǎn)移到端側(cè),即用戶的個(gè)人設(shè)備上,可以更接近用戶數(shù)據(jù),實(shí)現(xiàn)更有效的訓(xùn)練,同時(shí)顯著降低云端算力的開(kāi)支。
此次,小米大力投入搭建萬(wàn)卡集群投入大模型領(lǐng)域,也是大勢(shì)所趨。所謂萬(wàn)卡集群,即由一萬(wàn)張及以上的加速卡組成的高性能計(jì)算系統(tǒng),對(duì)于訓(xùn)練基礎(chǔ)大模型至關(guān)重要。這種集群的建設(shè)成本高達(dá)百億元,其中GPU采購(gòu)成本就達(dá)幾十億元。國(guó)際上,OpenAI、Meta等科技巨頭都在積極部署萬(wàn)卡集群;在國(guó)內(nèi),運(yùn)營(yíng)商、頭部互聯(lián)網(wǎng)大廠、大型AI研發(fā)企業(yè)等也紛紛入局,部分巨頭甚至已開(kāi)始邁向“十萬(wàn)卡集群”。