SHMT技术推动计算变革:不动硬件,速度翻番、能耗减半

2024-02-24每日热点

  IT之家 2 月 24 日消息,在第 56 届 IEEE / ACM 微体系结构国际研讨会上,美国加州大学河滨分校(UCR)的研究人员展示了一种全新的方法,可以实现计算速度翻番、能耗减半的效果。

  

SHMT技术推动计算变革:不动硬件,速度翻番、能耗减半

  研究人员表示这项技术理论上适用于从智能手机到数据中心服务器的任何处理器和加速器,但需要进一步地开发适配。

  加利福尼亚大学电气与计算机工程系副教授、本研究报告的共同作者曾宏伟(Hung-Wei Tseng)表示:

  你不需要增加新的处理器,可以在现有计算机平台上部署。这项技术的核心,是帮助你更合理高效地管理可用硬件资源。

  研究人员开发的平台打破了传统的编程模式,团队将其称为同步异构多线程(SHMT)。传统编程模式是在一段时间内,只向系统的一个计算组件(中央处理器、图形处理器、张量处理器或其他处理器或加速器)提供数据,而 SHMT 技术在所有组件之间同时并行执行代码。

  

传统、现代异构和

  

传统、现代异构和 SHMT 的并行化方法比较

  SHMT 采用质量感知工作偷取(QAWS)调度策略,保持平衡控制计算质量和工作负载,因此降低了资源调用。

  SHMT runtime 系统将创建一组虚拟操作(vOPS),并划分为一个或多个高级操作(HLOP),以便同时使用多个硬件资源。

  

根据所选政策加速

  

根据所选政策加速 SHMT 计算

  

传统计算与

  

传统计算与 SHMT 的活动和闲置消耗比较

  SHMT runtime 系统将 HLOPS 分配到任务队列,在目标硬件上运行。由于 HLOPS 与硬件无关,runtime 系统可根据需要将任务重定向到计算平台的一个或另一个组件。

  研究人员以他们创建的测试平台为例,展示了新软件库的有效性。他们创造了一种混合体,既可以被视为智能手机,也可以被视为一种个人电脑,甚至是服务器。

  

SHMT技术推动计算变革:不动硬件,速度翻番、能耗减半

  该测试平台基于一块带有 PCIe 接口的背板,一台搭载英伟达 Nano Jetson 模块组的“计算单元”,通过 M.2 Key E 插槽连接谷歌 Edge 加速器(TPU)。该模块带有四核 ARM Cortex-A57 处理器(CPU)和 128 个 Maxwell 架构图形内核(GPU)。

  本系统的主内存为 4 GB LPDDR4,频率为 1600 MHz,速度为 25.6 Gbps,用于存储一般数据。Edge TPU 模块额外包含 8 MB 内存,并使用 Ubuntu Linux 18.04 作为操作系统。

  在一个使用标准测试应用程序的简易异构平台上运行 SHMT 软件包的结果表明,与基本计算分配方法相比,采用最有效策略的 QAWS 框架的计算速度提高了 1.95 倍,消耗显著降低了 51%。

  这种方法如果应用于数据中心,可以在保持现有硬件不变的情况下,最大化性能收益。目前,所提出的解决方案尚未准备好付诸实施,但肯定会有很多人对此感兴趣。

标签: 今日热榜

“SHMT技术推动计算变革:不动硬件,速度翻番、能耗减半” 的相关文章

百度文心大模型落地吉利银河L6车型,支持AI对话功能

百度文心大模型落地吉利银河L6车型,支持AI对话功能

  IT之家 1 月 22 日消息,据 Apollo 智能驾驶消息,近日,百度 IDG 与吉利汽车合作的 AI 对话产品,在银河 L6 车型上成功量产。这是汽车行业首个基于大语言模型底座能...

卢伟冰:AI不是概念,无处不在的能力

卢伟冰:AI不是概念,无处不在的能力

  小米集团总裁、小米品牌总经理卢伟冰在MWC 2024世界移动通信大会上表示,手机名字加上“AI”并无意义。他强调,他认为AI是一种无处不在的能力,只有当用户感受不到...

对赌协议尚存,汇兴智造负债率高企、应收账款激增

对赌协议尚存,汇兴智造负债率高企、应收账款激增

  作者 | 左星月 编辑 | 胡芳洁   2月25日,一段“宾利司机行凶伤人”视频在网络流传,在视频中,一位路过的比亚迪司机停车劝架,获得网友点赞。2月25日下午,比亚...

Openai发布的Sora,送给A股800亿开年红包

Openai发布的Sora,送给A股800亿开年红包

  没想到今年第一个引爆科技圈的消息,还没等复工就刷了屏,复工后又直接推动相关企业市值爆拉,A股25家相关企业市值共计增长888.42亿元,两个交易日平均涨幅26.94...

爸爸衣服穿得太潮,女儿气得崩溃大哭:你就没有正常一点的衣服吗

爸爸衣服穿得太潮,女儿气得崩溃大哭:你就没有正常一点的衣服吗

  90后是什么样的一代人呢?他们这一代人普遍都是独生子女,恰逢互联网的飞速发展,他们思想开放,自信独立。    他们勇于追求梦想,敢于挑战...

苹果正研发GitHub Copilot竞品:Xcode AI可帮开发者生成代码

苹果正研发GitHub Copilot竞品:Xcode AI可帮开发者生成代码

  原标题:苹果正研发GitHub Copilot竞品:Xcode AI可帮开发者转换、调试、生成代码   IT之家 2 月 16 日消息,根据彭博社报道,苹果公司正研发...