摘要:研究人员开发了一种更有效的芯片,作为对大型模型人工智能应用(如Gemini和GPT-4)消耗的大量电力的解毒剂。...
俄勒冈州立大学工程学院的研究人员已经开发了一种更有效的芯片,作为对Gemini和GPT-4等大型语言模型人工智能应用所消耗的大量电力的解毒剂。
博士生Ramin Javadi说:“我们设计并制造了一种新的芯片,该芯片消耗了一半的能量。”他与电气工程学副教授Tejasvi Anand一起在波士顿举行的IEEE定制综合电路会议上介绍了这项技术。
“问题在于,传输单位所需的能量并未以与数据速率需求增加的速度相同的速度降低,”阿南德说,他指导OSU混合信号电路和系统实验室。 “这就是导致数据中心使用这么多功率的原因。”
Javadi说,新的芯片本身是基于AI原理,可减少用于信号处理的电力。
他说:“大型语言模型需要在有线,基于铜的数据中心的链路上发送和接收大量数据,这需要大量的能量。” “一种解决方案是开发更有效的有线通信芯片。”
Javadi解释说,当数据以高速发送时,它会在接收器处损坏,必须清理。大多数传统的有线通信系统都使用均衡器来执行此任务,而均衡器是相对饥饿的力量。
Javadi说:“我们正在使用芯片上的这些AI原则来以更智能,更有效的方式恢复数据,以训练片上分类器以识别和纠正错误。”
国防高级研究计划局,半导体研究公司和无处不在的连通性支持该项目,该项目在会议上赢得了Javadi最佳学生纸奖。
Javadi和Anand正在研究芯片的下一次迭代,他们期望这会带来进一步的能源效率。
版权声明:本站所有文章皆是本站原创,转载请以超链接形式注明出处!