微软推出Windows 11设备端AI语言模型”Mu"
6月24日,微软公司今日正式宣布为Windows 11系统推出内置小型语言模型"Mu",这是继Phi-Silica后,微软在设备端人工智能领域的又一重要突破。这款专为NPU优化的3.3亿参数模型,将显著提升系统设置中的自然语言搜索体验,标志着Windows操作系统向智能化交互迈出关键一步。
据微软技术博客披露,Mu采用创新的编码器-解码器架构,相较传统解码器模型实现三大技术突破:1. 首token延迟降低47%;2. 解码速度提升4.7倍;3. 支持每秒超100个token的处理能力。通过权重共享技术,模型在保持3.3亿参数规模的同时,计算效率达到Phi-3.5-mini的十倍。该模型在Azure机器学习平台上基于NVIDIA A100 GPU完成训练,特别优化了对多词复杂查询的理解能力。
目前Mu模型已面向Windows预览体验计划的开发频道用户开放测试,主要功能包括:智能解析”清理磁盘空间”等自然语言指令;精准关联系统设置中的深层选项;保留传统关键词搜索的兼容性。值得注意的是,该功能现阶段仅限配备40 TOPS算力NPU的Copilot+PC设备使用,凸显微软"端云协同"的AI战略布局。
微软Windows产品负责人表示,未来将通过Windows DirectML API开放Mu模型能力,供第三方开发者调用。随着秋季Windows 11 24H2更新的临近,设备端AI有望成为各大OEM厂商的新卖点。