腾讯AI的能耗探索,在科技与绿色之间能否找到平衡点?

碳碳实时 2024-06-01 20:16:46

最近,腾讯AI实验室推出了一款名叫"Trans agents"的创新的多智能体框架,专门设计用于处理超长文学内容的翻译工作。

据报道,从CEO、初/高级编辑、真·翻译、本地化专家和校对(Proofreader)这些不同的职位,约有130名职位,而这些职位,都是由AI智能体代替的。

那什么是AI智能体呢?

一个以云为基础,以AI为核心,能够实现全方位感知、协同作业、精确判断和持续自我优化。它不单响应指令,更主动探索环境,学习经验,做出决策,仿若具有生命力的智能实体。

而在我们观察到AI智能体迅速反应的背后,我们往往忽视了算力的高速度与效率、模型的精确度与适应性,以及电力供应的稳定性与能耗效率。

01

AI究竟是怎么耗能的?

我们大脑思考时,大脑内的数百万个神经元会相互传递信息,并把大脑的指令传递到身体的各个部位。这些神经元在传递信息的过程中需要消耗能量。

AI亦是如此,AI大模型在训练和推理过程中需要巨大的计算力,这直接关联到电力消耗和热量产生。训练阶段,AI需要处理大量数据,通过不断调整模型参数来最小化预测误差。推理阶段,则需要使用训练好的模型对新数据进行处理和分析。

随着模型参数的增加,计算量呈指数级增长,导致能耗和发热量剧增。

这背后的物理原理是焦耳定律,即电路中产生的热量与电流的平方、电阻和通电时间成正比。现代芯片中晶体管的数量巨大,即使单个晶体管产生的热量微小,总体累积起来则是巨量的。

以OpenAI的GPT-4模型训练为例,一次训练需要使用大量的高性能GPU,这些GPU在运算过程中消耗的电能几乎全部转化为热能,需要巨大的电力和冷却系统支持。这种规模的能耗和热量产生,对电力系统的运行构成了极大挑战。

02

AI巨大能耗,微软有解决办法?

随着人工智能技术的快速发展,AI大模型已成为技术竞争的前沿,行业开始将注意力转向模型训练所需的能源领域。

作为Open AI的重要投资商,微软正积极寻求创新的能源解决方案以支持其大型数据中心的运行,特别是在处理AI大模型训练和推理所需的庞大电力需求方面。微软考虑采用核电作为能源供应,并为此特别在寻找“核技术首席项目经理”,领导小型模块化反应堆(SMR)和微反应堆的潜在整合工作。

AI大模型的训练和推理过程对电力的需求极为庞大。以Hugging face的BLOOM大模型为例,其训练过程需要消耗惊人的43.3万度电,这一电量相当于约2082个中国家庭一个月的用电量总和。

AI大模型:Hugging Face

Hugging Face是一个开源社区和平台,专注于自然语言处理(NLP)技术的研究和开发。Hugging Face的核心目标是提供便捷、高效的NLP工具和资源,以推动NLP技术的发展和应用。它通过提供一系列的工具和库,帮助开发者构建、训练和部署各种NLP模型。Hugging Face最著名的贡献是Transformer模型架构的开发和推广,该架构在NLP领域取得了巨大的成功。

微软与核聚变初创公司Helion签署了一项合作协议。以打造小型化、低成本、快速部署的核聚变反应器为主,双方探索使用核聚变技术为数据中心提供能源的可能性。在整合小型模块化反应堆(SMR)和微反应堆方面,微软将充分利用其技术实力和行业经验,确保这些先进核能技术的安全、高效运行。

03

中国电力系统具备承载力吗?

AI的广泛应用,从数据中心的算力需求到智能家居的普及,无不对电力供应提出了新的挑战。在我国当前的电力系统框架下,是否能够满足AI发展所带来的电力需求呢?

目前我国电力系统经过多年的发展,已经形成了以火电、水电、风电、太阳能等多种发电方式并存的多元化电力结构。火电作为传统的电力来源,提供了稳定的基载电力;而水电、风电和太阳能等可再生能源的快速发展,为电力系统增添了绿色、清洁的新动力。此外,“西电东送”等重大工程优化了电力资源的区域配置,提升了整体的电力供应能力。

AI技术的广泛应用,尤其是在大数据处理、云计算和深度学习等方面,对电力的需求呈现出爆发式增长。AI训练和运算需要大量的电力支持,这对现有的电力系统提出了新的考验。据估计,未来几年内,AI对电力的需求将占到全球电力消耗的一个显著比例。

国际能源署预测,未来几年全球对数据中心、AI的电力需求将大幅增长,增幅相当于德国的总电力需求。数据中心和输电网络的能耗已占全球的1.5%,碳排放与巴西相当。

中国作为全球算力大国,正在采取措施应对AI耗电问题。例如,在海南陵水,全球首个商用海底数据中心正在运行。利用海洋这一自然冷源,海底数据中心能有效减少制冷能耗,节约淡水资源,并支持高功率密度,从而提供强大的算力。

海底数据舱在海南陵水下水

以100个海底数据舱为例,与同等规模的陆地数据中心相比,海底数据中心每年可节省1.22亿千瓦时电力、6.8万平方米土地和10.5万吨淡水。目前,全球仅有中国和美国实现了海底数据中心的建设。

简而言之,面对AI耗电挑战,中国正通过技术创新和优化资源利用,推动绿色、高效的数据中心发展。海底数据中心的建设是其中的一项创新实践,为全球数据中心的可持续发展提供了新思路。

同时,设计适应AI负荷增长的未来电网将会是一大挑战。

04

写在最后

每一次的技术突破,生产力都将发生深刻变革。

腾讯发展大模型的核心战略是“产业实用”,去年发布大模型时,腾讯就强调“大模型的打造只是起点,把技术落地到产业场景、创造价值才是目标”。

腾讯的Trans agents仅是AI革命浪潮中的一隅。

面对AI智能体及其数据中心、算力中心日益增长的电力需求,我们必须投入更多精力在节能优化上,以支撑这场生产力的伟大变革。未来电网设计需兼顾智能化、高效能,确保电力供应稳定可靠,同时促进AI技术的持续发展与普及。

0 阅读:0