1次训练用电2.4亿度,AI为什么那么耗电?

2024-04-12每日热点

  仅仅是GPT-4的GPU,一次训练就会用去2.4亿度电。AI为什么那么耗电?它们用掉的电都跑到哪里去了?有可能回收这些电转化成的能量吗?

  今天我们所说的人工智能(AI),主要指的是生成式人工智能。而其中一大部分,是基于大语言模型的生成式人工智能。

  它们需要大规模的数据中心来训练和推理。这些数据中心由大量服务器组成,服务器消耗的电能绝大部分转化成了热能,最后通过水冷系统释放出来。所以也可以说,AI的物理硬件是个巨大的“电热水器”。

  这个说法听起来好像有点奇怪。我们都知道,服务器是一种电子计算机,而计算机中处理的是信息。信息和能量又有什么关系呢?

  还真有。

  

  处理信息需要消耗能量

  1961年,在IBM公司工作的物理学家拉尔夫·兰道尔(Rolf Landauer)发表了一篇论文,提出了后来被称为“兰道尔原理”(Landauer's Principle)的理论。这一理论认为,计算机中存储的信息发生不可逆的变化时,会向周围环境散发一点点热量,其散发的热量和计算机当时所处的温度有关——温度越高,散发的热量越多。

  兰道尔原理连接起了信息和能量;更具体地说,连接到了热力学第二定律上。因为逻辑上不可逆的信息处理操作,也就意味着湮灭了信息,这会导致物理世界中熵的增加,从而消耗能量。

  这一原理自提出以来遭受过不少质疑。但是近十几年来,兰道尔原理已被实验证明。2012年,《自然》杂志发表了一篇文章,研究团队首次测量到了一“位”

  (bit)

  数据被删除时释放的微量热量。后来的几次独立实验,也都证明了兰道尔原理。

标签: 每日热点

“1次训练用电2.4亿度,AI为什么那么耗电?” 的相关文章

和Ming失之交臂后,TES转求Meiko,意图组建亚运会金牌下路

和Ming失之交臂后,TES转求Meiko,意图组建亚运会金牌下路

  最近一段时间,LPL的转会期正在如火如荼的进行中,不少俱乐部已经开始官宣交易了。而在LPL的众多队伍中,TES的动向尤为受人关注,本身他们队伍的流量就大,而且他们转会期开始就爆出了很多...

北大副教授“跨栏”进出校门引关注:保安骑自行车追来

北大副教授“跨栏”进出校门引关注:保安骑自行车追来

  北大副教授“跨栏”进出校门引关注   北京大学工学院副教授李植有关进出北大校门的文章在网络社交媒体上广为流传,大学校园该不该开放话题近几日再度称为社会舆论热议的话题。...

你最近睡得好吗?我国超3亿人存在睡眠障碍

你最近睡得好吗?我国超3亿人存在睡眠障碍

  3月21日是世界睡眠日,据中国睡眠研究会的数据显示,我国超过3亿人存在睡眠障碍。在长期失眠的困扰之下,睡个好觉成为许多人的迫切需求。   失眠的危害...

山火威胁加油站令人担心,消防连夜增湿

山火威胁加油站令人担心,消防连夜增湿

  3月17日晚,甘孜雅江,山火威胁加油站消防连夜增湿,据悉,康南加油站储有汽油50.6吨、柴油23.3吨。   ...

年轻人报复性挤爆“3.5分饭店” 发现了不少明珠蒙尘的餐厅

年轻人报复性挤爆“3.5分饭店” 发现了不少明珠蒙尘的餐厅

  “相信评分,不如相信自己的舌头。”据Vista看天下报道,近日,有关“评分低的店可能更好吃”的话题登上热搜,很多普通网友仿佛遇到知音一般,在评论区分享了自己在高分网红餐厅“踩雷”、爱吃...

为什么有人喝酒就脸红?只因一种特殊的基因突变

为什么有人喝酒就脸红?只因一种特殊的基因突变

  “喝酒脸红”族群这种特殊基因突变,即使少量喝酒,也易诱发中风、冠心病等心脑血管疾病!   酒桌上有一种人,一旦喝酒,就易脸红。而这种人身上有一种特殊的基因突变,可能“...