AI芯片供应似有缓和迹象:英伟达H100正被抛出 租用更容易

2024-02-27每日热点

  ①随着英伟达H100 GPU的交付周期大幅缩短,一些买家现在正试图转售这些处理器;②客户从大型云服务提供商处租用英伟达的H100 GPU变得更加容易了;③不过目前来看,人工智能芯片的需求仍然远远超过供应。

  财联社2月27日讯(编辑 周子意)越来越多的证据表明,人工智能芯片的供应紧张问题正有所缓和,一些购买了大量英伟达H100 80GB处理器的公司现在正试图转售这些处理器。

AI芯片供应似有缓和迹象:英伟达H100正被抛出 租用更容易

  目前,据悉用于人工智能(AI)和高性能计算(HPC)应用的英伟达H100 GPU的交付周期已从8-11个月大幅缩短至3-4个月。

  据报道,一些公司正在转售他们的H100 GPU或减少订单,因为这些芯片的稀缺性开始下降,并且维护这些尚未使用库存的成本也很高。此类情形与一年前相比出现重大转变,当时获得英伟达的Hopper GPU是一个重大挑战。

  目前人工智能处理器供应短缺的缓解还表现在,从AWS、谷歌云和微软Azure等云服务提供商租用英伟达的H100 GPU变得更加容易了。例如,AWS推出了一项新服务,允许客户安排更短时间的GPU租赁,解决了之前芯片可用性的问题,这导致获得人工智能芯片的等待时间在减少。

  尽管芯片可得性有所提高,交货时间也大大缩短,人工智能芯片的需求仍然远远超过供应。

  特别是那些自己开发并培训大型语言模型的公司仍然面临供应问题,很大程度上是因为他们需要的GPU数量过于庞大。这些公司在获得所需处理器或容量方面仍面临着几个月的延迟。

  也正因如此,英伟达H100和其他处理器的价格并没有下降,该公司也继续享有高利润率。

  不过,随着诸多英伟达处理器的替代品接连问世,例如AMD和AWS的处理器,该市场可能会迎来更加平衡的局面。还有一点原因是,各公司对人工智能处理器的支出也变得更加谨慎了。

  无论如何,就目前而言,市场对人工智能芯片的需求依然强劲,并且随着大型语言模型越来越大,对计算性能的需求也越来越高。

标签: 今日热榜

“AI芯片供应似有缓和迹象:英伟达H100正被抛出 租用更容易” 的相关文章

2023年中东地区智能手机厂商排名:小米第三 荣耀猛增

2023年中东地区智能手机厂商排名:小米第三 荣耀猛增

  【CNMO新闻】根据分析机构Canalys发布的最新数据,2023年第四季度,中东智能手机(不含土耳其)出货量达1220万部,同比大涨24%。2023年全年总出货量达到4250万部,相...

袁进辉新公司获创新工场、王慧文等5000万投资

袁进辉新公司获创新工场、王慧文等5000万投资

  文丨贺乾明   编辑丨程曼祺   OneFlow 创始人、光年之外联合创始人袁进辉近期宣布再次创业,成立新公...

索尼宣布PS5玩家可获得至少五个月的免费苹果Apple Music服务

索尼宣布PS5玩家可获得至少五个月的免费苹果Apple Music服务

  IT之家 11 月 16 日消息,索尼今天宣布与苹果达成了一项协议,玩家在 PS5 上登录 Apple Music的免费苹果Apple Music服务,就至少能够获得五个月的免费服务。...

美股一哥争夺战白热化:微软市值一度超越苹果

美股一哥争夺战白热化:微软市值一度超越苹果

  上周苹果接连被两家华尔街机构下调评级后,微软的市值已经在逼近苹果,挑战苹果的美股最高市值公司地位。   苹果的美股最高市值公司宝座岌岌可危。   美...

车主抱怨特斯拉Model 3电动汽车摄像头在寒冷天气下起雾问题

车主抱怨特斯拉Model 3电动汽车摄像头在寒冷天气下起雾问题

  IT之家 11 月 3 日消息,根据网友 r / teslamotors 反馈,特斯拉 Model 3 车型在寒冷天气下车主抱怨特斯拉Model 3电,位于后视镜上方、挡风玻璃上的 3...

华为、北汽联合打造的中大型轿车谍照曝光,消息称名为“享界”,售40万以上

华为、北汽联合打造的中大型轿车谍照曝光,消息称名为“享界”,售40万以上

  IT之家 3 月 6 日消息,博主“42 号车库”今天放出了多张华为、北汽联合打造的“界牌”新车谍照,其称双方合作的品牌名为“享界”(英文名为 STELATO),目标售价或在 40 万...