NVIDIA 推出低功耗 AI 芯片,改善计算效率
NVIDIA 最新发布的 AI 芯片 Grace Blackwell 采用基于 Arm 的 CPU,宣称可将生成式 AI 模型的运行功耗降低至上一代产品的 25 倍。
NVIDIA 芯片架构师 Vachani 表示:“与追求最大性能相比,为节省每一分电能,我们必须采用截然不同的设计理念。”
提高计算效率,应对 AI 能源危机
通过提高计算效率来减少功耗,即所谓的“每瓦更多工作量”,是应对 AI 能源危机的策略之一。然而,这还远远不够。
高盛的一份报告显示,ChatGPT 一次查询的能耗几乎是典型谷歌搜索的 10 倍。生成一张 AI 图像的耗能与给智能手机充电相当。
这个问题并非新鲜事。2019 年的估计表明,训练一个大型语言模型所产生的二氧化碳排放量相当于五辆燃气汽车的整个生命周期。
数据中心能耗飙升,引发排放问题
为满足海量功耗而建设数据中心的超大规模企业也面临排放量飙升的困境。谷歌最新的环境报告显示,2019 年至 2023 年间,温室气体排放量增长了近 50%,部分原因是数据中心的能耗,尽管其数据中心比典型的中心能效高 1.8 倍。微软的排放量从 2020 年到 2024 年也增长了近 30%,其中部分原因也是数据中心。
在堪萨斯城,Meta 正在建设一个专注于 AI 的数据中心,其电力需求如此之高,以至于关闭燃煤电厂的计划被搁置。
应对策略:优化供电,降低功耗
为了应对 AI 能耗难题,需要从多个方面采取措施:
- 强化电网基础设施,以应对数据中心的高需求
- 通过降温技术,降低服务器的功耗
- 采用可再生能源,如风能和太阳能,为数据中心供电
- 优化数据中心的设计和运营,以提高能源效率
通过这些措施,我们可以减轻 AI 能耗对环境的影响,并确保在这个激动人心的技术变革时代,不会牺牲可持续发展。”
原创文章,作者:星阁,如若转载,请注明出处:http://www.xgrl.net/n/202407290619543548.shtml