正在閱讀:

大模型的盡頭是電力?

掃一掃下載界面新聞APP

大模型的盡頭是電力?

AI行業(yè)的競爭從來不僅是技術(shù)的競爭,也是一場資源的競爭。

文|烏鴉智能說

在這場以大模型為名的千億美金級豪賭實驗,從來不缺少故事。從ChatGPT引爆那一刻起,AI行業(yè)的競爭從來不僅是技術(shù)的競爭,也是一場資源的競爭。到了今年,這場競爭從算力延伸到了電力。

在今年短短不到三個月的時間,黃仁勛、奧特曼和馬斯克分別在不同場景的演講里都表達(dá)了同一個觀點:AI的未來很缺電。

據(jù)《紐約客》當(dāng)時時間9日報道,荷蘭國家銀行數(shù)據(jù)專家Alex de Vries估計,OpenAI旗下聊天機器人ChatGPT每天消耗超過50萬千瓦時的電力,用于處理約2億個用戶請求,相當(dāng)于美國家庭每天用電量的1.7萬多倍。

更重要的是,在互聯(lián)網(wǎng)時代邁向AI時代的過程中,數(shù)據(jù)中心的耗電增長曲線將從線性增長變成幾何式上升。假設(shè)生成式AI被集成到谷歌的每一個搜索中,屆時意味著谷歌每年將會有29.2太瓦時的電力消耗(292億度電),相當(dāng)于2021年美國全社會總用電量的0.77%。

考慮到搜索只是一個AI應(yīng)用場景,后續(xù)隨著應(yīng)用場景的增加,人工智能行業(yè)的耗電量將出現(xiàn)巨大增長。??

/ 01 / 從缺硅到缺電

今年以來,在AI大佬的講話里,都有一個共同的主題:缺電。不久前,在一場公開演講里,英偉達(dá)創(chuàng)始人黃仁勛表示,“AI的盡頭是光伏和儲能,不要光想著算力,如果只想著計算機,需要燒掉14個地球的能源”。

OpenAI的創(chuàng)始人山姆·奧特曼也提出了類似的看法。奧特曼公開承認(rèn),人工智能行業(yè)正在走向能源危機。在瑞士達(dá)沃斯舉行的世界經(jīng)濟論壇年會上,奧特曼警告說,下一波生成型人工智能系統(tǒng)消耗的電力將遠(yuǎn)遠(yuǎn)超出預(yù)期,能源系統(tǒng)將難以應(yīng)對,未來AI的技術(shù)取決于能源,我們需要更多的光伏和儲能。

作為科技圈的大佬,馬斯克也成為了能源焦慮的吹風(fēng)人。不久前,馬斯克在博世互聯(lián)世界2024大會上預(yù)言,“接下來陷入短缺的將是電力,到明年(2025年),我們就沒有足夠的電力來運行所有的芯片了?!?/p>

這并非馬斯克第一次預(yù)測人工智能算力會面臨變壓器和電力供應(yīng)的短缺,2023年至今,馬斯克和其xAI團隊已至少三次提及過這一問題。去年8月,馬斯克就警告說,電力短缺造成的嚴(yán)重后果,可能會阻礙人工智能等能源密集型技術(shù)的發(fā)展。

有趣的是,上周騰訊科技發(fā)布的《朱嘯虎講了一個中國現(xiàn)實主義AIGC故事》里,當(dāng)談及未來5到10年能不能產(chǎn)生AGI,朱嘯虎同樣表達(dá)了對算力、能耗等資源的擔(dān)憂:

“從哲學(xué)角度看,智力級別的提升首先需要能量級別的提升。可控核聚變實現(xiàn)前,我不太相信地球有足夠的算力能夠?qū)崿F(xiàn)真正的AGI。幫人類降低90%的工作可能未來3到5年可以實現(xiàn),但最后的10%可能需要天量的算力和能耗,這也是為什么Sam Altman想融天量的資金!行百里者半九十?!?/p>

所有大佬都認(rèn)為AI的未來很缺電。那么,大模型的耗電量究竟有多瘋狂?

/ 02 / 單月耗電量大比拼!ChatGPT 等于23.7萬中國人

在AI行業(yè)的成本結(jié)構(gòu)里,電力成本是除了芯片成本外最核心的成本。一般來說,生成式AI的電力消耗主要來自兩方面:訓(xùn)練構(gòu)成AI系統(tǒng)核心的大型語言模型時所需的電力,以及大型語言模型執(zhí)行邏輯推論(Inference)運算時的能耗。

由人工智能初創(chuàng)公司 Hugging Face 搭建的BLOOM模型 ,有1760億參數(shù),光是前期訓(xùn)練它,就得花掉43.3萬度電。2022年,我國居民年人均用電量是948度電,BLOOM訓(xùn)練階段用的電就相當(dāng)于456個人一年的用電量。GPT-3的耗電量更夸張,訓(xùn)練一次需要128.7度電,相當(dāng)于 3000輛特斯拉同時跑 32 公里。

這還只是訓(xùn)練階段的用電量,越往后走推理才是用電量的大頭。據(jù)IDC預(yù)測,2023年AI服務(wù)器訓(xùn)練需求占比達(dá)41.5%,隨著大模型的應(yīng)用,該比例在2025年將降低至39.2%。

對于大模型在訓(xùn)練階段的用電量,晚點做過一個測算:

按ChatGPT日咨詢量2.7億次、月咨詢量接近80億次計算,已知 1 張 A100 GPU 推理 1 個單詞大約需要 0.35 秒。假設(shè)每個提問長度約30個字/單詞,則ChatGPT每天需要處理80億字咨詢量,用一張A100 GPU來跑需要約78萬小時,對應(yīng)每天需要約3.24萬張A100 GPU。

前述 3.24 萬張 A100 GPU 大約等同于 4000 臺英偉達(dá) DGX A100 服務(wù)器(搭載 8 張 A100 GPU),后者最大功率為 6.5 kW,單月耗電量約為 1872 萬 kWh。

每處理一次用戶請求的耗電量,相當(dāng)于 60 瓦的燈泡亮 140 秒。這樣一來,項目光是電費就得交近 200 萬美元。2022年中國居民人均生活用電約79kWh/ 月,ChatGPT 單月耗電量差不多跟 23.7萬中國人相當(dāng)。

如果生成式AI被進(jìn)一步采用,耗電量可能會更多。在互聯(lián)網(wǎng)時代,僅僅用于數(shù)據(jù)存儲的數(shù)據(jù)中心每年耗電增速和耗電占比數(shù)據(jù)基本維持線性增長。據(jù)統(tǒng)計,2022年全國數(shù)據(jù)中心總耗電量約2700億千瓦時,占全社會用電量的3.1%,超過兩座三峽水電站年發(fā)電量。

但到了AI時代,能耗變成了幾何式上升的趨勢。舉個例子,假設(shè)生成式AI被集成到谷歌的每一個搜索中,屆時谷歌就會大幅增加對電力的需求。

據(jù)SemiAnalysis 估算,在每次谷歌搜索中實施類似 ChatGPT的人工智能將需要51.28萬個英偉達(dá)A100 HGX服務(wù)器,總計410.26萬個GPU,如果每臺服務(wù)器的電力需求為6.5千瓦,意味著每年29.2太瓦時的電力消耗(292億度電),相當(dāng)于2021年美國全社會總用電量的0.77%。

考慮到搜索只是一個AI應(yīng)用場景,后續(xù)隨著AI應(yīng)用的增加,人工智能行業(yè)的耗電量將出現(xiàn)巨大增長。 荷蘭國家銀行數(shù)據(jù)科學(xué)家亞歷克斯·德弗里斯在一篇論文中估計,到2027年,整個人工智能行業(yè)每年將消耗85至134太瓦時(1太瓦時=10億千瓦時)的電力。

/ 03 / 為什么大佬押注核聚變?

怎么解決AI面臨的能源危機?大佬們很快找到了一個答案——核聚變。

據(jù)國際原子能機構(gòu)給出的定義,核聚變是模仿太陽的原理,使兩個較輕的原子核結(jié)合成一個較重的原子核,結(jié)合期間釋放出大量能量。與化石能源相比,聚變反應(yīng)不排放二氧化碳;并且與當(dāng)前通常意義上的核能——核裂變能相比,它既不會產(chǎn)生核廢料,輻射也極少。

近年來,核聚變研究取得了不少積極進(jìn)展。去年2月,設(shè)在英國牛津的歐共體聯(lián)合聚變中心(JET)實驗室科學(xué)家在實驗中產(chǎn)生了平均11兆瓦的功率輸出,足夠供應(yīng)1萬個家庭使用。

由于核聚變存在巨大的想象空間,引得不少大佬下注。作為AGI的堅定信徒之一,奧特曼目前總共投了兩家能源公司——Helion、Oklo。

其中,2021年奧特曼以個人名義豪擲3.75億美元,領(lǐng)投了核聚變公司Helion價值5億美元的E輪融資,并稱這是自己有史以來“最大的賭注”。除了阿爾特曼,Helion還獲得了“硅谷創(chuàng)投教父”彼得·蒂爾、Facebook聯(lián)合創(chuàng)始人達(dá)斯汀·莫斯科維茨、領(lǐng)英創(chuàng)始人里德·霍夫曼、eBay第一任總裁杰夫·斯科爾等人的6億美元投資。

公開資料顯示,Helion Energy是一家核聚變初創(chuàng)公司。他們正在開發(fā)一種磁慣性聚變技術(shù),通過非中子聚變產(chǎn)生氦 3 和聚變能,從而可以使用僅從水中提取的燃料產(chǎn)生低成本的清潔電能。

2023年5月,微軟宣布和Helion Energy簽署了購電協(xié)議,將于2028年向Helion購買其核聚變發(fā)電廠的50兆瓦電力。在這份購電協(xié)議中Helion表示, 2028 年前上線的核聚變裝置,在一年內(nèi)會把發(fā)電功率提升到50兆瓦以上,能夠撐起 40000戶家庭的供電。Helion首席執(zhí)行官大衛(wèi)·柯特利說,公司的目標(biāo)是有一天將成本降低到每千瓦時1美分,即1度電0.07元人民幣。

除了奧特曼外,貝索斯則向加拿大的核聚變能源初創(chuàng)公司General Fusion進(jìn)行了投資。據(jù)了解,General Fusion通過使用兩種混合聚變技術(shù)(磁性和慣性約束),在磁場中約束氫同位素等離子,然后利用高壓,使之產(chǎn)生高溫及高的密度。

有趣的是,在核聚變這條賽道,并沒有看到馬斯克的身影。原因是,馬斯克認(rèn)為,最好的能源問題終極方案,是利用太陽能(風(fēng)能本質(zhì)也是太陽能的一種),而不是不計成本去搞人造太陽。

從大模型開閉源到未來能源的方向,馬斯克又一次做出了與奧特曼不同的選擇,競爭還在繼續(xù)。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

大模型的盡頭是電力?

AI行業(yè)的競爭從來不僅是技術(shù)的競爭,也是一場資源的競爭。

文|烏鴉智能說

在這場以大模型為名的千億美金級豪賭實驗,從來不缺少故事。從ChatGPT引爆那一刻起,AI行業(yè)的競爭從來不僅是技術(shù)的競爭,也是一場資源的競爭。到了今年,這場競爭從算力延伸到了電力。

在今年短短不到三個月的時間,黃仁勛、奧特曼和馬斯克分別在不同場景的演講里都表達(dá)了同一個觀點:AI的未來很缺電。

據(jù)《紐約客》當(dāng)時時間9日報道,荷蘭國家銀行數(shù)據(jù)專家Alex de Vries估計,OpenAI旗下聊天機器人ChatGPT每天消耗超過50萬千瓦時的電力,用于處理約2億個用戶請求,相當(dāng)于美國家庭每天用電量的1.7萬多倍。

更重要的是,在互聯(lián)網(wǎng)時代邁向AI時代的過程中,數(shù)據(jù)中心的耗電增長曲線將從線性增長變成幾何式上升。假設(shè)生成式AI被集成到谷歌的每一個搜索中,屆時意味著谷歌每年將會有29.2太瓦時的電力消耗(292億度電),相當(dāng)于2021年美國全社會總用電量的0.77%。

考慮到搜索只是一個AI應(yīng)用場景,后續(xù)隨著應(yīng)用場景的增加,人工智能行業(yè)的耗電量將出現(xiàn)巨大增長。??

/ 01 / 從缺硅到缺電

今年以來,在AI大佬的講話里,都有一個共同的主題:缺電。不久前,在一場公開演講里,英偉達(dá)創(chuàng)始人黃仁勛表示,“AI的盡頭是光伏和儲能,不要光想著算力,如果只想著計算機,需要燒掉14個地球的能源”。

OpenAI的創(chuàng)始人山姆·奧特曼也提出了類似的看法。奧特曼公開承認(rèn),人工智能行業(yè)正在走向能源危機。在瑞士達(dá)沃斯舉行的世界經(jīng)濟論壇年會上,奧特曼警告說,下一波生成型人工智能系統(tǒng)消耗的電力將遠(yuǎn)遠(yuǎn)超出預(yù)期,能源系統(tǒng)將難以應(yīng)對,未來AI的技術(shù)取決于能源,我們需要更多的光伏和儲能。

作為科技圈的大佬,馬斯克也成為了能源焦慮的吹風(fēng)人。不久前,馬斯克在博世互聯(lián)世界2024大會上預(yù)言,“接下來陷入短缺的將是電力,到明年(2025年),我們就沒有足夠的電力來運行所有的芯片了?!?/p>

這并非馬斯克第一次預(yù)測人工智能算力會面臨變壓器和電力供應(yīng)的短缺,2023年至今,馬斯克和其xAI團隊已至少三次提及過這一問題。去年8月,馬斯克就警告說,電力短缺造成的嚴(yán)重后果,可能會阻礙人工智能等能源密集型技術(shù)的發(fā)展。

有趣的是,上周騰訊科技發(fā)布的《朱嘯虎講了一個中國現(xiàn)實主義AIGC故事》里,當(dāng)談及未來5到10年能不能產(chǎn)生AGI,朱嘯虎同樣表達(dá)了對算力、能耗等資源的擔(dān)憂:

“從哲學(xué)角度看,智力級別的提升首先需要能量級別的提升。可控核聚變實現(xiàn)前,我不太相信地球有足夠的算力能夠?qū)崿F(xiàn)真正的AGI。幫人類降低90%的工作可能未來3到5年可以實現(xiàn),但最后的10%可能需要天量的算力和能耗,這也是為什么Sam Altman想融天量的資金!行百里者半九十?!?/p>

所有大佬都認(rèn)為AI的未來很缺電。那么,大模型的耗電量究竟有多瘋狂?

/ 02 / 單月耗電量大比拼!ChatGPT 等于23.7萬中國人

在AI行業(yè)的成本結(jié)構(gòu)里,電力成本是除了芯片成本外最核心的成本。一般來說,生成式AI的電力消耗主要來自兩方面:訓(xùn)練構(gòu)成AI系統(tǒng)核心的大型語言模型時所需的電力,以及大型語言模型執(zhí)行邏輯推論(Inference)運算時的能耗。

由人工智能初創(chuàng)公司 Hugging Face 搭建的BLOOM模型 ,有1760億參數(shù),光是前期訓(xùn)練它,就得花掉43.3萬度電。2022年,我國居民年人均用電量是948度電,BLOOM訓(xùn)練階段用的電就相當(dāng)于456個人一年的用電量。GPT-3的耗電量更夸張,訓(xùn)練一次需要128.7度電,相當(dāng)于 3000輛特斯拉同時跑 32 公里。

這還只是訓(xùn)練階段的用電量,越往后走推理才是用電量的大頭。據(jù)IDC預(yù)測,2023年AI服務(wù)器訓(xùn)練需求占比達(dá)41.5%,隨著大模型的應(yīng)用,該比例在2025年將降低至39.2%。

對于大模型在訓(xùn)練階段的用電量,晚點做過一個測算:

按ChatGPT日咨詢量2.7億次、月咨詢量接近80億次計算,已知 1 張 A100 GPU 推理 1 個單詞大約需要 0.35 秒。假設(shè)每個提問長度約30個字/單詞,則ChatGPT每天需要處理80億字咨詢量,用一張A100 GPU來跑需要約78萬小時,對應(yīng)每天需要約3.24萬張A100 GPU。

前述 3.24 萬張 A100 GPU 大約等同于 4000 臺英偉達(dá) DGX A100 服務(wù)器(搭載 8 張 A100 GPU),后者最大功率為 6.5 kW,單月耗電量約為 1872 萬 kWh。

每處理一次用戶請求的耗電量,相當(dāng)于 60 瓦的燈泡亮 140 秒。這樣一來,項目光是電費就得交近 200 萬美元。2022年中國居民人均生活用電約79kWh/ 月,ChatGPT 單月耗電量差不多跟 23.7萬中國人相當(dāng)。

如果生成式AI被進(jìn)一步采用,耗電量可能會更多。在互聯(lián)網(wǎng)時代,僅僅用于數(shù)據(jù)存儲的數(shù)據(jù)中心每年耗電增速和耗電占比數(shù)據(jù)基本維持線性增長。據(jù)統(tǒng)計,2022年全國數(shù)據(jù)中心總耗電量約2700億千瓦時,占全社會用電量的3.1%,超過兩座三峽水電站年發(fā)電量。

但到了AI時代,能耗變成了幾何式上升的趨勢。舉個例子,假設(shè)生成式AI被集成到谷歌的每一個搜索中,屆時谷歌就會大幅增加對電力的需求。

據(jù)SemiAnalysis 估算,在每次谷歌搜索中實施類似 ChatGPT的人工智能將需要51.28萬個英偉達(dá)A100 HGX服務(wù)器,總計410.26萬個GPU,如果每臺服務(wù)器的電力需求為6.5千瓦,意味著每年29.2太瓦時的電力消耗(292億度電),相當(dāng)于2021年美國全社會總用電量的0.77%。

考慮到搜索只是一個AI應(yīng)用場景,后續(xù)隨著AI應(yīng)用的增加,人工智能行業(yè)的耗電量將出現(xiàn)巨大增長。 荷蘭國家銀行數(shù)據(jù)科學(xué)家亞歷克斯·德弗里斯在一篇論文中估計,到2027年,整個人工智能行業(yè)每年將消耗85至134太瓦時(1太瓦時=10億千瓦時)的電力。

/ 03 / 為什么大佬押注核聚變?

怎么解決AI面臨的能源危機?大佬們很快找到了一個答案——核聚變。

據(jù)國際原子能機構(gòu)給出的定義,核聚變是模仿太陽的原理,使兩個較輕的原子核結(jié)合成一個較重的原子核,結(jié)合期間釋放出大量能量。與化石能源相比,聚變反應(yīng)不排放二氧化碳;并且與當(dāng)前通常意義上的核能——核裂變能相比,它既不會產(chǎn)生核廢料,輻射也極少。

近年來,核聚變研究取得了不少積極進(jìn)展。去年2月,設(shè)在英國牛津的歐共體聯(lián)合聚變中心(JET)實驗室科學(xué)家在實驗中產(chǎn)生了平均11兆瓦的功率輸出,足夠供應(yīng)1萬個家庭使用。

由于核聚變存在巨大的想象空間,引得不少大佬下注。作為AGI的堅定信徒之一,奧特曼目前總共投了兩家能源公司——Helion、Oklo。

其中,2021年奧特曼以個人名義豪擲3.75億美元,領(lǐng)投了核聚變公司Helion價值5億美元的E輪融資,并稱這是自己有史以來“最大的賭注”。除了阿爾特曼,Helion還獲得了“硅谷創(chuàng)投教父”彼得·蒂爾、Facebook聯(lián)合創(chuàng)始人達(dá)斯汀·莫斯科維茨、領(lǐng)英創(chuàng)始人里德·霍夫曼、eBay第一任總裁杰夫·斯科爾等人的6億美元投資。

公開資料顯示,Helion Energy是一家核聚變初創(chuàng)公司。他們正在開發(fā)一種磁慣性聚變技術(shù),通過非中子聚變產(chǎn)生氦 3 和聚變能,從而可以使用僅從水中提取的燃料產(chǎn)生低成本的清潔電能。

2023年5月,微軟宣布和Helion Energy簽署了購電協(xié)議,將于2028年向Helion購買其核聚變發(fā)電廠的50兆瓦電力。在這份購電協(xié)議中Helion表示, 2028 年前上線的核聚變裝置,在一年內(nèi)會把發(fā)電功率提升到50兆瓦以上,能夠撐起 40000戶家庭的供電。Helion首席執(zhí)行官大衛(wèi)·柯特利說,公司的目標(biāo)是有一天將成本降低到每千瓦時1美分,即1度電0.07元人民幣。

除了奧特曼外,貝索斯則向加拿大的核聚變能源初創(chuàng)公司General Fusion進(jìn)行了投資。據(jù)了解,General Fusion通過使用兩種混合聚變技術(shù)(磁性和慣性約束),在磁場中約束氫同位素等離子,然后利用高壓,使之產(chǎn)生高溫及高的密度。

有趣的是,在核聚變這條賽道,并沒有看到馬斯克的身影。原因是,馬斯克認(rèn)為,最好的能源問題終極方案,是利用太陽能(風(fēng)能本質(zhì)也是太陽能的一種),而不是不計成本去搞人造太陽。

從大模型開閉源到未來能源的方向,馬斯克又一次做出了與奧特曼不同的選擇,競爭還在繼續(xù)。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。