在半導(dǎo)體寒冬中依靠AI突圍的英偉達(dá)芯片成為全球科技大廠瘋搶的對象，旗下的H100近期更被投行分析師曝出,，利潤率接近1000%,！在這款芯片已經(jīng)缺貨到明年的情況下，其給英偉達(dá)帶來的盈利更是驚人,。
H100利潤率達(dá)1000%
近日,，據(jù)《巴倫周刊》資深撰稿人Tae Kim最近在社交媒體上發(fā)布的帖子估計(jì)，其援引投行Raymond James數(shù)據(jù)稱,，英偉達(dá)制造一顆H100 GPU的成本為3320美元,，但向客戶給出的售價為2.5萬至3萬美元,。并且，Raymond估計(jì)的物料清單(BOM)也涵蓋高帶寬內(nèi)存(HBM),。
Tom`s Hardware隨后報導(dǎo),，這份報告意味著對英偉達(dá)來說，H100芯片的成本利潤率接近1,000%,。然而,，目前尚不清楚BoM（物料清單）成本分析有多深入：如果這是純粹的制造成本問題（在考慮良率的情況下平均每片晶圓和其他組件的價格），那么英偉達(dá)仍然需要支付相當(dāng)大的銷售費(fèi)用,。
舉例來說,，產(chǎn)品開發(fā)需要時間和資源，考慮到H100等產(chǎn)品的產(chǎn)品開發(fā)生命周期中的工程師和其他參與者,，在計(jì)算每款平均產(chǎn)品開發(fā)成本之前也必須考慮到英偉達(dá)的研發(fā)成本,。據(jù)Glassdoor稱，英偉達(dá)電子硬件工程師的平均年薪約為20.2萬美元,，這還只是單個人,，開發(fā)像H100這樣的芯片很可能需要多名專業(yè)工作者的數(shù)千小時的投入。所有這些也必須被考慮進(jìn)去,。
H100是目前訓(xùn)練大語言模型最需要的圖形處理器（GPU）,，因?yàn)樗鼘τ诖竽Ｐ偷耐评砗陀?xùn)練都是速度最快的，通常也是推理方面性價比最高的,。它可以應(yīng)用于各種AI場景,，如AI聊天機(jī)器人、推薦引擎,、視覺AI,、數(shù)據(jù)分析、高性能計(jì)算等,。
價格炒到4.5萬美元
此外,，值得注意的是，雖然H100給到客戶的報價是2.5萬至3萬美元,，但在其它渠道,，價格也被持續(xù)炒到新高。例如,，8月初eBay網(wǎng)站上H100的售價已經(jīng)高達(dá)4.5萬美元,，這較今年4月份4萬美元的價格漲幅超過10%,，而且貨源較上半年也顯著減少,。
近日還有消息稱，下一代GPT大模型GPT5需要5萬張英偉達(dá)最高配置的H100芯片,，全球市場對H100芯片的需求量達(dá)到43萬張,，英偉達(dá)的產(chǎn)能可能難以滿足如此大的算力需求,。
但研究機(jī)構(gòu)Gartner芯片分析師盛陵海表示：“目前GPU的缺口多大不好預(yù)估，需求是被炒起來的,，越是缺,，市場就越是要?！?/span>
對于供應(yīng)受限的原因,，花旗分析師Atif Malik表示，部分涉及先進(jìn)封裝及HBM,。其中臺積電 CoWoS先進(jìn)封裝產(chǎn)能明顯供不應(yīng)求,，但明年CoWoS產(chǎn)能有望倍增。
CoreWeave共同創(chuàng)辦人Brian Venturo也表示,，英偉達(dá)H100在2023年或都會缺貨,。對物流、資源有合理規(guī)劃的客戶,，目前預(yù)測的到貨時間點(diǎn)落在明年第1~2季,。
石油大國也加入搶芯
目前除了谷歌、Meta,、亞馬遜為首的互聯(lián)網(wǎng)大廠在瘋搶H100,，連石油大國也不例外。
據(jù)谷歌資料顯示,，目前已經(jīng)建成包含26000個H100的A3服務(wù)器,，還部署了數(shù)十臺TPU V4超級計(jì)算機(jī)，每臺擁有4096個TPU芯片,；亞馬遜官方資料顯示,，它們即將推出的EC2超級集群可以擴(kuò)展至20000個互聯(lián)的H100；Meta資料顯示,，亞馬遜云已經(jīng)擁有2000個DGX A100服務(wù)器,，配備了超過16000個A100 GPU，亞馬遜專家表示未來他們還會采購3萬片H100
沙特阿拉伯最近以4萬美元單價購入了至少3000塊英偉達(dá)H100 GPU芯片,。此外阿聯(lián)酋也同樣購買數(shù)千顆英偉達(dá)芯片，并將它們部署在阿布扎比馬斯達(dá)爾市的國有技術(shù)創(chuàng)新研究所內(nèi),，用于創(chuàng)建了名為“Falcon”的大型語言模型上,。
英偉達(dá)真的“不可替代”嗎？
在AI芯片極度供不應(yīng)求的背景下,，市場也在關(guān)注有望與英偉達(dá)一爭高下的AMD,。
AMD公司先前已經(jīng)宣布，預(yù)計(jì)將在年底前推出英偉達(dá)GPU的替代解決方案——MI300 AI芯片,。AMD首席執(zhí)行官蘇姿豐(Lisa Su)在公司財報電話會議上表示：“客戶對我們的人工智能解決方案表現(xiàn)出了濃厚的興趣,，我們已經(jīng)取得了重大進(jìn)展,。”
但由于業(yè)內(nèi)對于AMD的芯片是否能夠真正替代英偉達(dá)的產(chǎn)品仍持懷疑態(tài)度,，AMD財報公布后股價暴跌約6%,。
“AMD的人工智能芯片值得期待，但是到底有多少客戶會用現(xiàn)在還是未知數(shù),，而從行業(yè)角度來看,，多一種選擇總是好的?！币晃恍酒I(lǐng)域資深人士表示,。
在全球范圍內(nèi)，其他新興的人工智能芯片初創(chuàng)公司近期也宣布了不少融資消息,。由芯片行業(yè)資深人士凱勒（Jim Keller）領(lǐng)導(dǎo)的加拿大初創(chuàng)公司Tenstorrent正在開發(fā)對標(biāo)英偉達(dá)的人工智能芯片,，該公司近期從現(xiàn)代汽車集團(tuán)和三星投資基金等公司方面籌集了1億美元資金，估值達(dá)10億美元,。
人工智能初創(chuàng)公司d-Matrix創(chuàng)始人兼CEO謝思（Sid Sheth）認(rèn)為,，芯片的短缺可能還會迫使企業(yè)尋求其他創(chuàng)造性的方法來解決問題，比如開發(fā)能夠提高芯片生產(chǎn)效率的新技術(shù),。
