搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

2023-11-14每日热点

  快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。

  NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。

  此前曝料称,B100原计划2024年第四季度推出,但因为AI需求太火爆,已经提前到第二季度,现已进入供应链认证阶段。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

  NVIDIA表示,B100加速器可以轻松搞定1730亿参数的大语言模型,是现在H200的两倍甚至更多。

  虽然这不代表原始计算性能,但也足以令人望而生畏。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

  同时,B100还将带来更高级的HBM高带宽内存规格。

  回顾历史,Pascal P100、Ampere A100、Hopper H100、H200分别首发应用HBM2、HBM2e、HBM3、HBM3e。

  接下来的B100肯定赶不上HBM4(规范还没定呢),但必然会在堆叠容量、带宽上继续突破,大大超越现在的4.8TB/s。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

  Blackwell架构同时也会用于图形工作站和桌面游戏,传闻有GB202、GB203、GB205、GB206、GB207等不同核心,但是对于RTX 50系列,NVIDIA始终三缄其口,几乎肯定到2025年才会发布。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

  2024年就将是RTX 40 SUPER系列的天下了,明年初的CES 2025首发三款型号RTX 4080 SUPER、RTX 4070 Ti SUPER搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙、RTX 4070 SUPER。

标签: 今日热榜

“搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙” 的相关文章

网传滴滴司机收入超690亿元 回应:谣言

网传滴滴司机收入超690亿元 回应:谣言

  凤凰网科技讯 11月28日,多个用户昨晚表示滴滴App无法正常使用,有网友称“某司机收入超690亿元”,并晒出一张账户余额截图网传滴滴司机收入超6,滴滴官方表示经过核查,证实该图是PS...

今日最佳:鲁迅和伏地魔只有一场雪的距离

今日最佳:鲁迅和伏地魔只有一场雪的距离

     来源微博 @沙雕文案   学医救不了,学魔法可以今日最佳:鲁迅...

无惧制裁!华为自研超声波指纹专利公布:Mate 80可期

无惧制裁!华为自研超声波指纹专利公布:Mate 80可期

  快科技3月10日消息,智能手机进入全面屏时代后,屏下指纹解锁逐渐成为安卓手机的标配。   日前,数码博主“定焦数码”晒出华为一项超声波指纹识别专利的截图,称“既然专利...

今日最佳:看完就出不去了

今日最佳:看完就出不去了

     我的脑子到底都记住了啥?...

商用车市场迎来“双转型”浪潮!多家商用车企发布2024战略计划:新能源与全球化是

商用车市场迎来“双转型”浪潮!多家商用车企发布2024战略计划:新能源与全球化是

  根据中汽协最新数据,2023年,国内商用车实现谷底回弹,产销分别完成403.7万辆和403.1万辆,同比分别增长26.8%和22.1%。其中,新能源商用车产销在商用车整体产销中的占比分...

巴菲特巨亏近1000亿:苹果公司占了大部分

巴菲特巨亏近1000亿:苹果公司占了大部分

  快科技11月5日消息,日前亿:苹果公司占了大部分,巴菲特旗下伯克希尔-哈撒韦公司披露2023年第三季度财报。   财报显示,公司第三季度净亏损127.7亿美元(约合人...