新的AI芯片将大语言模型的能耗减少了一半
发布时间:2025-05-16 14:50
科学技术日报(记者Liu Xia)美国俄勒冈州立大学研究团队开发了一种新的AI芯片,该芯片已成功地将大语言模型的能源消耗降低了50%。该结果最近在波士顿举行的IEEE自定义集成巡回赛会议上发布。这在半导体领域取得了重大成功,预计将是解决大型语言模型高能消耗问题的“绿色钥匙”。目前,由于巨大的参数,由Google的“双子座”和OpenAI的GPT-4代表的大型语言模型不断增长,从而导致能源需求的迅速增长。研究小组指出,问题的关键在于基于铜的基于铜的数据传递数据的交付。高速数据交换不是贾斯提特会造成错误,而且会带来大量浪费能量。尽管传统的均衡器可以纠正错误,但它们本身就是“电动老虎”。一解决方案是生产更好的有线通信芯片。他们开发的新芯片可能会使用AI技术来识别和纠正在此处进行分类的培训,以更智能,更好的方式恢复数据,从而减少能耗。与传统设计相比,新芯片可以将大语言模型消耗的能量减少一半。研究团队开始开发下一代芯片,预计将带来更惊人的能源效率表现。尽管全球对AI计算能力的需求仍在继续,但该技术可能是绿色计算的重要驱动力。