英特尔全球首个全NPU支持的MLPerf Client基准测试成绩公布
5月7日,英特尔宣布其成为全球首家在MLPerf Client v0.6基准测试中实现全NPU支持的企业,标志着客户端AI性能评估迈入新阶段。此次测试中,英特尔酷睿Ultra 200处理器凭借NPU(神经网络处理单元)和内置Arc GPU的协同加速,在端侧AI任务中展现出显著优势,性能超越竞争对手AMD。
MLPerf Client是由MLCommons联盟(成员包括英特尔、AMD、微软、英伟达、高通等)开发的权威AI基准测试工具。此次发布的v0.6版本首次突破传统GPU中心化测试模式,新增针对专用NPU的标准化评估,为行业提供了更全面的AI性能衡量标准。
英特尔客户端PC产品营销副总裁兼总经理丹尼尔・罗杰斯(Daniel Rogers)表示:“我们很荣幸能够引领行业,实现客户端PC平台的全NPU加速和领先GPU性能。这一成就不仅验证了英特尔在AI硬件架构上的创新,也为未来PC的智能化体验奠定了基础。”
在基于Llama 2 7B大语言模型的测试中,英特尔酷睿Ultra 200处理器在以下关键指标中表现突出: NPU最快响应速度:首个词元(token)生成仅需1.09秒(首token延迟),创下NPU性能新纪录。NPU最高吞吐量:达到18.55 tokens/秒,远超人类平均阅读速度。GPU性能优势:在首token生成速度上超越竞品,展现多引擎协同的高效AI计算能力。