Arm推出SME2技术 安卓手机AI性能将迎来飞跃
7月11日,芯片设计巨头Arm公司昨日(7月10日)发布官方博文,宣布推出可扩展矩阵扩展2(SME2)技术,旨在加速移动设备的AI工作负载,为生成式AI应用提供更强性能支持。Arm表示,该技术无需开发者修改代码即可集成至现有模型和应用中,未来将显著提升安卓手机的AI体验。
随着生成式AI的快速发展,移动设备上的AI应用已不再局限于传统的聊天机器人或语音助手,而是扩展到文本生成、图像/视频创作、数学推理、群聊摘要等复杂场景。为满足这些需求,Arm在2022年推出的SME(可扩展矩阵扩展)基础上,进一步升级至SME2,专注于优化矩阵数学运算,以提升AI推理效率。
Arm称,SME2能够实现移动端的实时AI推理,包括图片生成、自然语言处理(NLP)等任务。例如,在配备SME2的硬件上,Google的Gemma 3模型运行速度比未搭载该技术的硬件快6倍,可在单CPU核心上1秒内完成800字文本摘要(具体测试CPU型号未披露)。
此前,SME技术主要面向服务器和工作站级处理器,而SME2则通过优化可扩展性,使其能够部署在智能手机、平板电脑和笔记本电脑上。Arm透露,安卓系统已全面支持SME2,该技术已在Google的XNNPACK库中启用,并兼容llama.cpp、阿里巴巴MNN、微软ONNX等主流AI框架。
Arm的SME2技术有望进一步推动端侧AI的普及,减少对云端算力的依赖,同时提升隐私性和响应速度。随着生成式AI向移动端渗透,智能手机厂商可能会将SME2作为下一代旗舰芯片的重要卖点。