文 | 洞見新研社 張未
英偉達(dá)看著供不應(yīng)求的訂單，有點(diǎn)著急。
增加供應(yīng)這句話，每發(fā)一次財(cái)報(bào)，英偉達(dá)都要再強(qiáng)調(diào)一次。
繼英偉達(dá)在第一季度宣布公司“正大幅增加供應(yīng)，以滿足不斷增長的需求”后，英偉達(dá)CEO黃仁勛在近期又表示，正準(zhǔn)備將其GPU的產(chǎn)量至少增加三倍。
具體來說，英偉達(dá)擴(kuò)充的是H100芯片的產(chǎn)量。2023年英偉達(dá)H100預(yù)計(jì)出貨量在50萬顆，但據(jù)英國《金融時(shí)報(bào)》報(bào)道，英偉達(dá)計(jì)劃明年出貨至少150萬顆H100處理器。
H100是英偉達(dá)于2022年推出的一款專為大型語言模型優(yōu)化的GPU，得益于“全民造?！钡内厔?shì)，推出至今長期賣斷貨，又被稱之為英偉達(dá)的“印鈔機(jī)”。
那么，宣稱增加三倍產(chǎn)量的H100，能為英偉達(dá)賺多少錢？
01 產(chǎn)量受制于人
要想知道H100究竟有多賺錢，只看兩點(diǎn)便可知。
一，H100在芯片市場(chǎng)中擁有絕對(duì)統(tǒng)治力。 當(dāng)今世界你第一時(shí)間想起的巨頭企業(yè)，都在搶購它。上到特斯拉、蘋果、微軟、谷歌等知名公司，下到研究大語言模型的初創(chuàng)企業(yè)，也有 Azure、GCP 和 AWS 等云服務(wù)供應(yīng)商（CSP），CoreWeave、Lambda 等大型私有云。
二是H100擁有超過90%的毛利率。
H100的物料成本主要有三部分：核心邏輯芯片、HBM內(nèi)存芯片、CoWoS封裝。
H100的核心邏輯芯片面積為814平方毫米，采用臺(tái)積電4N工藝制造（5nm+），以一塊報(bào)價(jià)為1.34萬美元的300mm晶圓，結(jié)合良率、損耗來看，大概能切割65顆，平均算下來每顆單價(jià)200美元左右；HBM內(nèi)存芯片來自SK海力士的HBM3內(nèi)存芯片，一共六顆，單顆容量為16GB，每GB為15美元，合計(jì)1500美元；雖CoWoS沒有公布其價(jià)格，但據(jù)分析師RobertCastellano結(jié)合臺(tái)積電財(cái)報(bào)推算，制造一顆H100需要723美元。
三大合計(jì)約2500美元（臺(tái)積電拿走約1000美元的情況下），算上除此以外的成本約3320美元左右。
也就是說英偉達(dá)的毛利率超過90%。
但英偉達(dá)想賺錢，還得看臺(tái)積電和SK海力士的臉色行事。
英偉達(dá)的H100確實(shí)在市場(chǎng)呈壟斷地位，說新一代“印鈔機(jī)”也無可厚非，但H100供不應(yīng)求，在明年第一季度之前都是售罄狀態(tài)。
要看臺(tái)積電臉色是因?yàn)?，英偉達(dá)受制于臺(tái)積電先進(jìn)的封裝技術(shù)—2.5D CoWos （Chip on Wafer on Substrate）。
CoWoS是一種2.5D/3D封裝技術(shù)，是將多個(gè)有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上，將其連接到系統(tǒng)PCB上。
CoWoS能將不同制程的芯片封裝在一起，可達(dá)到加速運(yùn)算但同時(shí)控制成本的目的。簡單來說，CoWoS有節(jié)省空間、減少功耗的優(yōu)勢(shì)
英偉達(dá)的H100、A100全部由臺(tái)積電代工，并使用臺(tái)積電的CoWoS先進(jìn)封裝技術(shù)，除了英偉達(dá)外，其他廠商也對(duì)臺(tái)積電的CoWoS有需求，為此CoWoS產(chǎn)能供不應(yīng)求。
有設(shè)備廠商估算，臺(tái)積電 2023 年 CoWoS 總產(chǎn)能逾 12 萬片，2024 年將沖上 24 萬片，其中，英偉達(dá)將取得 14.4 萬-15 萬片。
CoWoS產(chǎn)能不足的背景下，依靠CoWoS封裝的H100，自然被臺(tái)積電扼住了咽喉。
HBM（高帶寬存儲(chǔ)）是限制英偉達(dá)H100生產(chǎn)的另一個(gè)重要瓶頸。
HBM類似數(shù)據(jù)的“中轉(zhuǎn)站”，就是將每一幀、每一幅圖像數(shù)據(jù)保存到幀緩存區(qū)域中，等候GPU調(diào)用。
相比傳統(tǒng)內(nèi)存技術(shù)，HBM帶寬更高、功率更低、功耗更低、尺寸更小，能夠使AI服務(wù)器的傳輸速率和數(shù)據(jù)處理量大幅提升，因此HBM也成了AI服務(wù)器的標(biāo)配。
正如臺(tái)積電壟斷了先進(jìn)封裝一般，HBM的供應(yīng)也被SK海力士壟斷，市占率超過95%，也是目前唯一量產(chǎn)HBM3E（第三代HBM）的廠商。
無論是CoWoS還是HBM3，每年的產(chǎn)能都是固定的，除英偉達(dá)外，各大廠商需求也不少。AMD不僅大量采用HBM，其中MI300搭載的還是HBM3；傳言谷歌在下半年推出的TPU張量處理器，也將搭載HBM。
搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術(shù)，所以目前領(lǐng)先的GPU都有臺(tái)積電打包在CoWoS上，也就是說芯片的產(chǎn)能進(jìn)一步SK海力士和臺(tái)積電的制約，英偉達(dá)并非說加芯就能加芯。
02 臺(tái)積電沒有替代品 ?
為了不被捏住命門，也為了芯片代工的議價(jià)權(quán)，英偉達(dá)開始“削藩”尋找更多代工廠。
英偉達(dá)在 CoWoS 封裝等的關(guān)鍵制程已開放給其他供應(yīng)鏈代工廠。目前，英偉達(dá)正積極對(duì)接聯(lián)華電子，近日聯(lián)華電子將擴(kuò)充旗下硅中介層（前段CoW部分）產(chǎn)能，月產(chǎn)能將由目前的 3 千片擴(kuò)增至 1 萬片；封測(cè)廠Amkor、日月光投控旗下矽品則負(fù)責(zé)后段WoS封裝。
某種意義上來說，英偉達(dá)構(gòu)建的芯片帝國和臺(tái)積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術(shù)，是無可替代的存在。
所以扶持合作伙伴，并非短期有效解決措施，因?yàn)橛ミ_(dá)的核心芯片、產(chǎn)量，還是離不開臺(tái)積電的懷抱，否則英偉達(dá)今年由臺(tái)積電代工的芯片，怎么會(huì)占到臺(tái)積電年出貨量的40%左右？
好比遠(yuǎn)水救不了近火，擴(kuò)產(chǎn)能這件事沒有快速捷徑。
一方面，建造周期較長，芯片從制作到包裝都是的整個(gè)生態(tài)系統(tǒng)都是在臺(tái)積電周圍完成，如果另起爐灶，將制造業(yè)轉(zhuǎn)移尤為艱難。
另一方面，臺(tái)積電方也不會(huì)機(jī)會(huì)留給對(duì)手，對(duì)英偉達(dá)尋找替代工廠的曖昧態(tài)度，臺(tái)積電以積極擴(kuò)建產(chǎn)能做出了回應(yīng)。
從營收結(jié)構(gòu)來看，臺(tái)積電也不會(huì)把嘴邊的肥肉放跑。2022的CoWoS封裝已經(jīng)占總收入5%以上，且將以每年近20%的速率增長。
臺(tái)積電也是下了重金擴(kuò)產(chǎn)，斥資900億元新臺(tái)幣在竹科銅鑼園區(qū)設(shè)立先進(jìn)封裝廠，預(yù)計(jì)2026年底建廠完成，2027年第三季開始量產(chǎn)，而位于日本熊本的工廠已建成。
值得英偉達(dá)高興的是，至少在HBM上還有可選方案，不用等CoWoS的擴(kuò)建周期。三星表示將投資1萬億韓元擴(kuò)大HBM產(chǎn)能，并于今年推出HBM3產(chǎn)品；美光預(yù)計(jì)其相關(guān)HBM產(chǎn)品“將在2024財(cái)年貢獻(xiàn)有意義的收入，并在2025年貢獻(xiàn)大幅增加的收入”。
但把臺(tái)積電，看成英偉達(dá)的鐐銬，倒也不一定完全準(zhǔn)確。
在硬幣的另一面，產(chǎn)能短缺也絕非都是壞事，至少英偉達(dá)在全球缺芯的市場(chǎng)中，壟斷了市場(chǎng)，也讓自己的芯片單價(jià)水漲船高，售價(jià)3.6萬美元的H100，此前在Ebay上的平均售價(jià)高達(dá)4.5萬美元。
要是沒有這場(chǎng)缺芯潮，芯片的二手市場(chǎng)怎會(huì)有如此高溢價(jià)，英偉達(dá)也沒有底氣開出如此高利潤的售價(jià)。
03 加不了量就加價(jià)???????????????????
在產(chǎn)能制約下，英偉達(dá)損失了高達(dá)百億美元的收入。
據(jù)GPU Utils，保守估計(jì)，H100的供給缺口達(dá)到43.2萬張。按每個(gè) GPU 價(jià)格 3.5 萬美元計(jì)算，意味著英偉達(dá)痛失總價(jià)值高達(dá) 150 億美元的訂單。為了達(dá)到預(yù)期，英偉達(dá)采取的措施是推出更高端的芯片，提高收入和利潤。在產(chǎn)能有限的空間里、市場(chǎng)普遍對(duì)英偉達(dá)預(yù)期樂觀的背景下，英偉達(dá)利用近乎壟斷的地位，讓廠商為高端芯片買單，進(jìn)而提高收入和利潤。
比如，英偉達(dá)正準(zhǔn)備推出新一代GH2000 Grace Hopper超級(jí)芯片，將于2024年第二季投產(chǎn)。相比最熱門的H100芯片，該芯片內(nèi)存容量高出3.5倍，帶寬高出3倍。
把英偉達(dá)歷代產(chǎn)品對(duì)比來看，就知道英偉達(dá)的利潤一直在水漲船高。從配置成本來看，H100的前代產(chǎn)品A100的生產(chǎn)成本至少也要上千美金，售價(jià)1萬美元，而成本3300美元的H100如今售價(jià)高達(dá)3.6萬美元，利潤極有可能成倍數(shù)增長。
英偉達(dá)毛利率的提高也是證據(jù)。英偉達(dá)最近一個(gè)季度的毛利率為70.93%，對(duì)比去年的43.48%提升顯著。
至于英偉達(dá)的對(duì)手們，正在抓住那43.2萬張H100的缺口。AMD就推出MI300，對(duì)A100和H100發(fā)起挑戰(zhàn)。
但AMD的MI300和A100較量還好說，挑戰(zhàn)H100有點(diǎn)難，從搭載配置來看，MI300 搭載了4核1.2GHz處理器、Android5.1系統(tǒng)、1GB的RAM和8GB的RAM，對(duì)比來看H100搭載了4核1.4Ghz處理器、Android8.1系統(tǒng)、2GB 的RAM和16GB的RAM。誰勝誰負(fù)高下立判，更別說H100 T860的GPU。
至于英特爾，選擇了英偉達(dá)的弱勢(shì)出擊—在H100無法到達(dá)的地方，與其競爭。
無論未來芯片市場(chǎng)有何變局，未來如何，至少AI的風(fēng)現(xiàn)在不會(huì)滅，英偉達(dá)也仍在芯片領(lǐng)域中叱咤風(fēng)云。
目前英偉達(dá)可能只剩下甜蜜的煩惱：如何造更多的芯片，如何讓股價(jià)滿足分析師預(yù)期。
參考資料：
1、《英偉達(dá)H100加速卡物料成本僅3000美元，毛利率超90%！》—— 芯智訊
2、《瘋狂的H100》——硅基研習(xí)社
3、《誰卡了英偉達(dá)脖子》——遠(yuǎn)川研究所
4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.