據(jù)華爾街日?qǐng)?bào)報(bào)道,用于AI的圖形處理器(GPU)幾乎全部由英偉達(dá)制造,,但隨著ChatGPT的爆發(fā),,對(duì)它們的需求激增遠(yuǎn)遠(yuǎn)超過(guò)了供應(yīng)。
這種情況限制了亞馬遜和微軟等云服務(wù)提供商向ChatGPT等客戶提供的處理能力,,AI開發(fā)人員需要服務(wù)器能力來(lái)開發(fā)和操作日益復(fù)雜的模型,,并幫助其他公司構(gòu)建AI服務(wù),。
OpenAI首席執(zhí)行官Sam Altman表示,由于處理器瓶頸,,如果使用ChatGPT的人少一些會(huì)更好,。
對(duì)于訓(xùn)練能夠生成原始文本和分析的大型人工智能模型的公司來(lái)說(shuō),獲得數(shù)萬(wàn)個(gè)先進(jìn)的GPU至關(guān)重要,。英偉達(dá)的高級(jí)GPU可以同時(shí)進(jìn)行大量計(jì)算,,這對(duì)于AI工作至關(guān)重要。
瑞銀分析師估計(jì),,較早版本的ChatGPT需要大約10000個(gè)GPU,,馬斯克估計(jì)更新的版本需要的GPU是原來(lái)的的三到五倍。
英偉達(dá)最近表示,,它正在擴(kuò)大供應(yīng)以滿足不斷增長(zhǎng)的需求,。英偉達(dá)CEO表示,該公司已經(jīng)提高了H100的產(chǎn)量,,這是其用于生成式AI的新型旗艦芯片,。
芯片成本各不相同,但英偉達(dá)的高級(jí)人工智能芯片被一些零售商以大約33000美元的價(jià)格出售,,盡管在高需求下,,它們可以在二級(jí)市場(chǎng)上獲得更高的價(jià)格。
根據(jù)人工智能投資者和初創(chuàng)公司的說(shuō)法,,初創(chuàng)公司正在縮小他們的人工智能模型,,以提高效率,購(gòu)買自己的帶有相關(guān)GPU的服務(wù)器,,或者轉(zhuǎn)向甲骨文等不太熱門的云提供商,,直到短缺得到解決。
OpenAI的一位發(fā)言人表示:“業(yè)界對(duì)GPU的需求非常強(qiáng)勁,?!痹S多AI創(chuàng)始人預(yù)計(jì)短缺至少會(huì)持續(xù)到明年。
創(chuàng)始人和投資者表示,,能夠獲得計(jì)算能力的公司仍需等待數(shù)周才能使用英偉達(dá)的GPU,。“即使你已經(jīng)預(yù)先支付了費(fèi)用,,這并不意味著GPU會(huì)在接下來(lái)的一天或一周內(nèi)到達(dá)你的手中,,你只需要等著?!盤erplexity AI的CEO阿拉文德·斯里尼瓦斯(Aravind Srinivas)如是說(shuō),,該公司開發(fā)了一款人工智能驅(qū)動(dòng)的對(duì)話式搜索工具。
服務(wù)器制造商及其直接客戶表示,他們需要等待六個(gè)月以上才能獲得英偉達(dá)最新的GPU,。
最大的服務(wù)器制造商之一AMD的CEO表示,,該公司GPU的延期交貨達(dá)到了有史以來(lái)的最高水平,該公司正在急于增加生產(chǎn)能力,。