Meta新建两座数据中心集群:内含超4.9万块英伟达H100 GPU,专门训练L

2024-03-13每日热点

  IT之家 3 月 13 日消息,Meta 公司当地时间 12 日通过官方新闻稿公布了两座新的数据中心集群,该公司正希望通过英伟达的 GPU,在以 AI 为重点的开发中脱颖而出。

  据悉,这两座数据中心的唯一目的,是在消费者特定应用领域(IT之家注:包含声音或图像识别)中进行 AI 研究和大语言模型的开发,每个集群都包含了 24576 块英伟达 H100 AI GPU,将用于自家大语言模型 Llama 3 的训练。

  两座新建的数据中心集群都具有 400Gbps 互联功能,其中一个集群采用了 Meta 基于 Arista 7800 自主开发的 Fabric 解决方案,而另一个集群则采用了英伟达的 Quantum2 InfiniBand Fabric,以确保无缝互连体验。

  此外,集群基于 Meta 自家的开放式 GPU Grand Teton AI 平台,可通过提高主机到 GPU 的带宽和计算能力,充分利用现代加速器的功能。

  Meta 官方表示,这些集群的高性能网络结构的效率及关键存储决策、配合每个集群中的 H100 GPU,能够为更大、更复杂的模型提供支持,为通用人工智能产品开发、AI 研究的进步铺路。

  据IT之家1 月报道,Meta 首席执行官扎克伯格宣布公司正在建设庞大的基础设施。“预估到今年年底,我们将拥有大约 35 万片英伟达 H100 加速卡,如果算上其它 GPU 的话,其计算能力相当于 60 万片 H100。”

标签: 今日热榜

“Meta新建两座数据中心集群:内含超4.9万块英伟达H100 GPU,专门训练L” 的相关文章

比亚迪在印度推出第三款电动汽车 起售价近5万美元

比亚迪在印度推出第三款电动汽车 起售价近5万美元

  财联社3月6日电,比亚迪印度子公司副总裁Sanjay Gopalakrishnan当地时间3月5日在新德里表示,该公司在印度市场推出豪华电动轿车Seal,起售价410万卢比(约合494...

今年最火国产车!华为余承东亲自“督战”:问界新M7产能目标提至日均700台

今年最火国产车!华为余承东亲自“督战”:问界新M7产能目标提至日均700台

  快科技11月23日消息,据国内媒体报道称,为了保证问界新M7的产能,余承东亲自监督新车的生产。   按照赛力斯相关负责人的说法,今年9月M7的月产量是5000台,10...

华为与协和共研糖尿病无创检测专利

华为与协和共研糖尿病无创检测专利

  凤凰网科技讯(作者/李军)2月6日,天眼查App显示,华为技术有限公司、中国医学科学院北京协和医院“糖尿病风险检测方法、电子设备及系统”专利公布。   ...

6G,撑不起移动通信的未来

6G,撑不起移动通信的未来

  在MWC24现场,雷科技报道团已经见到了大量手机品牌,以及AI软硬件应用(可在雷科技点击“MWC现场”回顾)。不过,理论上来说通信才是MWC的第一主题,因为MWC全称是“世界移动通信大...

小鹏X9车型开启全国规模交付,售35.98-41.98万元

小鹏X9车型开启全国规模交付,售35.98-41.98万元

  IT之家 1 月 16 日消息,小鹏汽车官方今日宣布:小鹏 X9 全国规模交付正式开启。值得一提的是,小鹏 X9 此前已经在广州、杭州,深圳,佛山,长沙等地开启交付,今日起在全国范围内...

马斯克的Neuralink仍在为其人体临床试验招募患者,试验持续约6年

马斯克的Neuralink仍在为其人体临床试验招募患者,试验持续约6年

  IT之家 11 月 22 日消息,Neuralink 公司仍在为其人体临床试验招募患者,该试验名为 PRIME 研究。PRIME 是精确机器人植入脑机接口(Precise Roboti...