腾众软件科技有限公司腾众软件科技有限公司

镇关西是谁,镇关西是谁打死的

镇关西是谁,镇关西是谁打死的 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用 <镇关西是谁,镇关西是谁打死的p>

  在持续已(yǐ)久(jiǔ)的(de)“AI热潮”中,各家争相(xiāng)推出的(de)大模(mó)型(xíng)、AI应用,都进一步推升(shēng)了对算(suàn)力(lì)狂(kuáng)热的需求。本周已有(yǒu)报道指出(chū)英伟(wěi)达后续(xù)对AI顶级规格(gé)芯(xīn)片需求明显看增,紧急向台积(jī)电追加预订先进封装产(chǎn)能。

  需(xū)求飙(biāo)涨(zhǎng)下,英伟(wěi)达(dá)GPU价格自然也是水涨船高(gāo)。据集微网消息,有代理商透露,英伟达A100价格从(cóng)去(qù)年12月开始上涨,截至(zhì)今年4月上(shàng)半月(yuè),其(qí)5个月价格累计涨(zhǎng)幅达到37.5%;同(tóng)期A800价格(gé)累计(jì)涨幅达(dá)20.0%。

  同时(shí),英伟达(dá)GPU交货(huò)周期(qī)也被拉(lā)长,之前拿(ná)货周期大约(yuē)为一个(gè)月,现在基(jī)本都需要三个(gè)月或更(gèng)长。甚至,部分新(xīn)订单“可能要到12月才能交(jiāo)付(fù)”。

  供需的(de)巨大鸿沟面前,在这一情形之下,众多客户(hù)也不得不“勒紧腰带(dài)”。上述文章指出,国内可用于训练(liàn)AI大模型的(de)A100大约有4万-5万(wàn)个,供应相(xiāng)当吃紧(jǐn),一些云服(fú)务厂(chǎng)商(shāng)已严格限制内部(bù)使用这些先进(jìn)芯片,以将(jiāng)其保留至需要强力运算的任(rèn)务。

  值得一提的(de)是,类似的事(shì)情在微软内部也早已发生(shēng)。3月(yuè)已有外媒(méi)报(bào)道指出,微(wēi)软内(nèi)部陷入AI服务(wù)器(qì)硬件短缺的窘境,不得不对AI硬件资源(yuán)采取“配额供给”机制,限制公司(sī)内部(bù)其他AI工具开发团队的资源用量。

  拉长时间线来看,有GPU业内人士指出,实际上从去年6月起镇关西是谁,镇关西是谁打死的(qǐ),英(yīng)伟达就已宣布上调A100价格(gé),涨(zhǎng)幅(fú)20%左右,渠道商在(zài)加(jiā)紧(jǐn)囤货。至于英伟(wěi)达(dá)A800,在ChatGPT火爆(bào)之前就已(yǐ)出现涨价,但反(fǎn)映到(dào)市(shì)场则(zé)有一定(dìng)的滞(zhì)后性(xìng),赶上ChatGPT爆火这(zhè)一时间点,更放大了这一现象(xiàng)。

  “英(yīng)伟达(dá)GPU涨价与ChatGPT有一定的关联性,且交货(huò)周(zhōu)期也(yě)受到(dào)了连(lián)带的影响,导致市(shì)场上出现了众多炒卡(kǎ)的行为(wèi)。”

  此外,在海外电(diàn)商平台上,英(yīng)伟达新旗舰级(jí)GPU H100的价格在4月(yuè)中旬就已炒到了超(chāo)过4万美元。

  随(suí)着(zhe)如今各家科技(jì)巨头争相(xiāng)推(tuī)出(chū)自(zì)家大模型,GPU需求量(liàng)仍在持(chí)续攀升。OpenAI指出,AI大模型要持续取得突破,所(suǒ)需(xū)要消(xiāo)耗的计算资(zī)源每3~4个月就要翻一倍,资金(jīn)也需要通过(guò)指数级增长获(huò)得匹配。

  据财通证(zhèng)券测算,2023/2024/2025年大模型有望为GPU市场贡献(xiàn)69.88/166.2/209.95亿美元增量。

  其中在训练(liàn)端(duān),以目前主流的训练端(duān)GPU英伟(wěi)达(dá)A100测算,假设(shè)ASP为1万美元(yuán),2023/2024/镇关西是谁,镇关西是谁打死的2025年全球(qiú)训练端GPU需(xū)求市场规(guī)模预计分别为0.74/2.00/4.07亿美元;

  在推理端,以目前英伟(wěi)达用于推理端(duān)计算的A10测算,假设ASP为(wèi)2800美元,2023/2024/2025年(nián)全球(qiú)推理端GPU需求市场规(guī)模预计分别为69.14/164.2/205.88亿美(měi)元。

  业内人士也表示,AI大模型训练成本之一是基础(chǔ)算力,大(dà)概(gài)需要384-3000块左右的A100才能基本满足要求,如果价格持续上涨,无论(lùn)是互联网、AI大厂、还是创(chuàng)业(yè)新贵,要追加的(de)投入都可能远超当初。

未经允许不得转载:腾众软件科技有限公司 镇关西是谁,镇关西是谁打死的

评论

5+2=