问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

突破性!AI新算法助力能耗降低95%或重新定义GPU设计

创作时间:
作者:
@小白创作中心

突破性!AI新算法助力能耗降低95%或重新定义GPU设计

引用
搜狐
1.
https://m.sohu.com/a/817750123_121798711/?pvid=000115_3w_a

在人工智能迅猛发展的今天,能耗问题越发严峻,尤其是随着大语言模型(LLM)的普及,对计算资源和电力的需求呈指数级增长。最近,来自麻省理工学院的一组研究人员,尤其是华人科学家罗鸿胤及其团队,提出了一种名为线性复杂度乘法(L-Mul)的新算法,声称可以将AI应用的能耗降低高达95%。这项创新不仅在理论上引人注目,更在实际应用上可能带来深远的影响。

目前,人工智能应用的计算需求已经达到了惊人的水平。例如,ChatGPT每天的能耗高达564兆瓦时,这足以供18,000个美国家庭使用。这一趋势使得科研人员担心,若不对AI应用的能耗进行控制,未来每年的能耗可能达到100太瓦时,甚至与比特币挖矿相当。尤其是考虑到AI技术的普及,即使是小型的模型也需要大量的计算能力,这直接导致了电力消耗的失控。

L-Mul算法的关键在于它采用了整数加法来替代传统的复杂浮点乘法(FPM),而FPM是当前大多数AI运算中最耗能的部分。操控大量浮点数以实现高精度运算的需求,使得这些应用在能源消耗上相当不划算。罗鸿胤的团队通过修改计算方式,找到了一种新的方法来实现同样的计算结果,却大幅降低了能耗。这一转变不仅可能使计算成本大幅下降,同时也为GPU等硬件设计带来了重新思考的契机。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号