我们需要更大的GPU!英伟达最新AI芯片成本能耗降低25倍

2024-03-19每日热点

  号称今年全球头号人工智能(AI)领域开发者大会的英伟达2024 GTC AI大会于美东时间3月18日周一拉开帷幕。今年是英伟达时隔五年首次让年度GTC重回线下,也是此前分析认为英伟达要“拿出点真家伙”的AI盛会。

  当地时间周一下午,英伟达创始人兼CEO黄仁勋在美国加州圣何塞SAP中心进行主题为“面向开发者的1#AI峰会”(1#AI Conference for Developers)演讲。黄仁勋介绍了运行AI模型的新一代芯片和软件。英伟达正式推出名为Blackwell的新一代AI图形处理器(GPU),预计将在今年晚些时候发货。

我们需要更大的GPU!英伟达最新AI芯片成本能耗降低25倍

  Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。

  另据媒体报道,英伟达CEO黄仁勋在GTC宣布,将在其企业软件订阅中增加一款名为NIM的新产品。NIM可以更容易地使用旧的英伟达GPU进行推理,并允许公司继续使用他们已经拥有的数亿个英伟达GPU。该产品将使新人工智能模型的初始训练推理所需的算力更少。该公司的策略是让购买英伟达服务器的客户注册英伟达企业版,每个GPU每年收取费用4500美元。黄仁勋表示,该软件还将帮助在配备GPU的笔记本电脑上运行人工智能,而不是在云服务器上运行。

  此外,英伟达CEO黄仁勋宣布推出下一代人工智能超级计算机,英伟达还发布6G研究云平台,以便用AI技术推进无线通信。

  据外媒报道,英伟达于周一宣布推出新一代人工智能芯片和用于运行人工智能模型的软件。该公司在美国圣何塞举行的开发者大会上宣布了这一消息,正值这家芯片制造商寻求巩固其作为人工智能公司首选供应商的地位。

  自OpenAI的ChatGPT于2022年末掀起人工智能热潮以来,英伟达的股价上涨了五倍,总销售额增长了两倍多。英伟达的高端服务器GPU对于训练和部署大型AI模型至关重要。微软和Meta等公司已经花费了数十亿美元购买这些芯片。

标签: 每日热点

“我们需要更大的GPU!英伟达最新AI芯片成本能耗降低25倍” 的相关文章

女子要求公交停车被拒后奔跑挡车

女子要求公交停车被拒后奔跑挡车

  12月12日,江西新余的清晨,阳光如丝绸般轻轻洒落,将街头巷尾装点得如诗如画。一辆公交车宛如一条巨龙,在道路上缓缓穿行,发出沉稳的轰鸣声。车厢内,乘客们有的低头沉醉在手机的世界里,有的...

90%以上从中国进口,韩国被尿素“卡脖子”了

90%以上从中国进口,韩国被尿素“卡脖子”了

  尿素是一种常见的有机化合物,由碳、氮、氧、氢组成,作为一种重要的化肥和化工原料,它在全球多个行业中都有着广泛的应用。韩国是工业发达国家,对于尿素的依赖程度非常高。但韩国的尿素市场长期以...

探秘华为Pura70:极致美学与强大性能的完美融合

探秘华为Pura70:极致美学与强大性能的完美融合

  美学设计与卓越工艺 华为Pura70的诞生,源于对美学与工艺的不懈追求。从外观到内部构造,每一个细节都体现了华为对于完美的追求。 我们不得不感叹于其外观设计的出色。Pura70采用...

熬夜要吃护肝片“护肝”?既没必要还可能导致副作用

熬夜要吃护肝片“护肝”?既没必要还可能导致副作用

  中新网2月10日电对于肝功能正常的人来说,偶尔熬夜不需要吃什么药物来“护肝”。药物的使用需要明确诊断,符合用药指征,肝功能正常的情况下,吃护肝药物既没有必要还可能导致副作用。要保护肝脏...

全网催的鄂伦春族同款帽子要来了 义乌回应:“马上安排”

全网催的鄂伦春族同款帽子要来了 义乌回应:“马上安排”

  1月9日,浙江金华。鄂伦春小哥送出珍贵的狍角帽,引发全网关注,网友纷纷喊话义乌,能不能给安排平替帽子。9日,义乌回应:“马上安排”。   ...

正月十五元宵节,提醒:1要吃,2要舞,3要猜,传统习俗不能忘

正月十五元宵节,提醒:1要吃,2要舞,3要猜,传统习俗不能忘

  时间过得可真快,马上就要到正月十五元宵节啦。正月十五元宵节也叫做“上元节”,同样也是家人团聚的日子。过了正月十五之后这正月里就没有什么大的节日。那么正月十五这天也是正月里的第二个传统节...