美团开源万亿参数大模型LongCat-2.0:专为Agentic Coding任务而生,五万卡国产算力集
7月6日,美团正式宣布,旗下万亿参数大模型LongCat-2.0全面开源。该模型总参数量达1.6万亿,平均激活约480亿参数,定位为面向真实Agentic Coding(智能体编程)任务而设计的专业级大模型。
在架构层面,LongCat-2.0引入了多项创新设计,包括LongCat稀疏注意力机制与N-gram Embedding,前者旨在提升长上下文处理效率,后者则强化了token级表示能力。结合动态激活策略,该模型在代码理解、生成以及执行等维度均实现了性能提升,尤其适合复杂的编程自动化场景。
官方介绍称,LongCat-2.0是业界首个在五万卡国产算力集群上完成推理验证的万亿参数模型。针对国产算力芯片在显存与带宽方面的客观限制,美团在模型架构、芯片适配到部署策略等多个层面进行了深度协同优化,确保万亿参数规模的大模型在存量硬件上同样能够稳定运行并保持高效推理速度。
本次开源同步提供了BF16、FP8及INT8等多精度版本,全面覆盖不同算力平台的部署需求。尤为值得关注的是,美团还将针对国产算力极致优化的推理成果一并开源。这意味着,即便开发者手中未配备最新一代算力硬件,也能基于现有设备将LongCat-2.0稳定跑起来,大幅降低了万亿参数模型的使用门槛。