阶跃Step 5 Preview大模型权重开放：600B参数、支持100万token上下文

10月15日，据报道，阶跃正式释放 Step 5 Preview 权重，本次开放 BF16 与 FP8 模型权重、技术博客，以及配套开源开发工具。

官方介绍，Step 5 Preview 面向长程 Agent 任务而设计，采用稀疏 MoE 架构，总参数量 600B、每 token 激活参数仅 27B，支持 100 万 token 上下文窗口，原生支持文本与视觉输入，在 AI 编程、软件工程、专业知识工作和金融等场景表现突出。近期，该模型在 OpenRouter 周调用量、日调用量榜单中均位居全球第二。

目前，模型权重已上线 Hugging Face 和 ModelScope，并提供面向多种芯片平台和推理框架的适配支持。开发者可以通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务，也可以使用 Transformers 进行离线推理，将模型接入自己的数据、工具和系统。

官方同步公开的技术博客介绍了模型的关键设计：92 层窄深架构为隐式多跳推理提供更深的计算路径；Sparse GQA 通过块级索引与稀疏计算合并，把百万 token 上下文下索引与 top-k 选择的开销降至原来的 1/8；训练在关键状态与参数上保留 FP32 精度，结合细粒度梯度裁剪，缓解深层网络中的激活异常增长与梯度尖峰；此外还包括百万级可验证环境，以及面向长程任务的强化学习。