英伟达GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

2024-03-14每日热点

  快科技3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。

  2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。

  2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。

  如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。

  晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。

  乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。

  它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。

  用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。

  四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。

  WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。

标签: 今日热榜

“英伟达GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心” 的相关文章

宝马集团首次携氢能源产品亮相进博会

宝马集团首次携氢能源产品亮相进博会

     11月5日—10日,第六届中国国际进口博览会在上海举行。作为连续6年参展的跨国车企,宝马集团本次携五款新...

曝华为Mate 70首发全新麒麟5G平台:性能跨越式升级

曝华为Mate 70首发全新麒麟5G平台:性能跨越式升级

  快科技2月19日消息,博主厂长是关同学透露,华为Mate 70系列将会搭载全新麒麟5G平台,性能提升巨大。   他透露,跟Mate 60系列相比,华为Mate 70系...

Steam私密游戏3月5日正式上线,可向所有好友隐藏内容

Steam私密游戏3月5日正式上线,可向所有好友隐藏内容

  IT之家 3 月 5 日消息,Steam 游戏玩家可能或多或少都有一些不想让其他人看到的内容。从今日起,所有 Steam 用户都可以将某个游戏设为“私密游戏”了。...

外媒:欧盟各国就AI监管法案达成一致

外媒:欧盟各国就AI监管法案达成一致

     参考消息网2月4日报道 据德新社2月2日报道,欧盟成员国代表2日在布鲁塞尔投票支持一项很快将使人工智能(...

华为鸿蒙智行App正式上线:问界、智界已入驻

华为鸿蒙智行App正式上线:问界、智界已入驻

  快科技12月13日消息,华为官方宣布鸿蒙智行App正式发布,可在华为应用市场、App Store等各大应用市场下载。   ...

华为云联合哈尔滨工业大学申请专利 可AR巡检车间

华为云联合哈尔滨工业大学申请专利 可AR巡检车间

  3月12日,CNMO注意到,中钢集团武汉安全环保研究院有限公司、华为云计算技术有限公司、哈尔滨工业大学等申请的“一种AR车间巡检系统”专利公布。这一系统集成了AR技术、云计算以及专家远...