英特尔全球首个全NPU支持的MLPerf Client基准测试成绩公布

2025-05-07 10:26:10   |   棠糖   |   1431

5月7日,英特尔宣布其成为全球首家在MLPerf Client v0.6基准测试中实现全NPU支持的企业,标志着客户端AI性能评估迈入新阶段。此次测试中,英特尔酷睿Ultra 200处理器凭借NPU(神经网络处理单元)和内置Arc GPU的协同加速,在端侧AI任务中展现出显著优势,性能超越竞争对手AMD。  

MLPerf Client是由MLCommons联盟(成员包括英特尔、AMD、微软、英伟达、高通等)开发的权威AI基准测试工具。此次发布的v0.6版本首次突破传统GPU中心化测试模式,新增针对专用NPU的标准化评估,为行业提供了更全面的AI性能衡量标准。  

英特尔客户端PC产品营销副总裁兼总经理丹尼尔・罗杰斯(Daniel Rogers)表示:“我们很荣幸能够引领行业,实现客户端PC平台的全NPU加速和领先GPU性能。这一成就不仅验证了英特尔在AI硬件架构上的创新,也为未来PC的智能化体验奠定了基础。”  

在基于Llama 2 7B大语言模型的测试中,英特尔酷睿Ultra 200处理器在以下关键指标中表现突出: NPU最快响应速度:首个词元(token)生成仅需1.09秒(首token延迟),创下NPU性能新纪录。NPU最高吞吐量:达到18.55 tokens/秒,远超人类平均阅读速度。GPU性能优势:在首token生成速度上超越竞品,展现多引擎协同的高效AI计算能力。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字、图片等内容的真实性、完整性、及时性本站不作任何保证或承诺,请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时发送相关信息至bireading@163.com,本站将会在48小时内处理完毕。

英特尔全球首个全NPU支持的MLPerf Client基准测试成绩公布

2025-05-07 10:26:10 浏览量: 1431 作者: 棠糖

5月7日,英特尔宣布其成为全球首家在MLPerf Client v0.6基准测试中实现全NPU支持的企业,标志着客户端AI性能评估迈入新阶段。此次测试中,英特尔酷睿Ultra 200处理器凭借NPU(神经网络处理单元)和内置Arc GPU的协同加速,在端侧AI任务中展现出显著优势,性能超越竞争对手AMD。  

MLPerf Client是由MLCommons联盟(成员包括英特尔、AMD、微软、英伟达、高通等)开发的权威AI基准测试工具。此次发布的v0.6版本首次突破传统GPU中心化测试模式,新增针对专用NPU的标准化评估,为行业提供了更全面的AI性能衡量标准。  

英特尔客户端PC产品营销副总裁兼总经理丹尼尔・罗杰斯(Daniel Rogers)表示:“我们很荣幸能够引领行业,实现客户端PC平台的全NPU加速和领先GPU性能。这一成就不仅验证了英特尔在AI硬件架构上的创新,也为未来PC的智能化体验奠定了基础。”  

在基于Llama 2 7B大语言模型的测试中,英特尔酷睿Ultra 200处理器在以下关键指标中表现突出: NPU最快响应速度:首个词元(token)生成仅需1.09秒(首token延迟),创下NPU性能新纪录。NPU最高吞吐量:达到18.55 tokens/秒,远超人类平均阅读速度。GPU性能优势:在首token生成速度上超越竞品,展现多引擎协同的高效AI计算能力。

,

Copyright ©2018 铋读网 All Rights Reserved.

京ICP备18051707号

京公网安备 11011302001633号