据阶跃星辰消息,阶跃正式开放 Step 5 Preview 的 BF16 与 FP8 模型权重,并同步上线技术博客及配套开源开发工具。该模型面向长程 Agent 任务设计,总参数量为 600B、每 Token 激活参数为 27B,支持 100 万 Token 上下文和文本、视觉输入;近期在 OpenRouter 周调用量和日调用量榜单中均位居全球第二。
模型权重已上线 Hugging Face 和 ModelScope,并提供面向多种芯片平台及推理框架的适配支持。开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,也可使用 Transformers 离线推理,将模型接入自有数据、工具和系统。
同步发布的技术博客介绍了模型为支持更长、更复杂 Agent 任务所采用的架构与训练设计:
一是采用 92 层窄深架构,为隐式多跳推理提供更深的计算路径,同时控制参数规模与计算成本。
二是采用 Sparse GQA,通过块级索引与稀疏计算合并降低百万 Token 上下文的计算开销。其中,8 Token 块级索引可将索引与 top-k 选择开销降至原来的 1/8。
三是提升训练稳定性,在关键状态与参数上保留 FP32 精度,并结合细粒度梯度裁剪,以缓解深层网络中的激活异常增长和梯度尖峰。
四是构建百万级可验证环境,覆盖软件工程、科学推理、机器学习研发和专业知识工作,并持续校准任务难度、多样性及评估可靠性。
五是针对长程任务优化强化学习,将上下文压缩纳入端到端策略训练,使 Agent 学习整理任务状态并继续执行;同时通过更精细的奖励归因,提升长轨迹学习效果。
模型权重、技术博客及官方文档可通过以下链接获取:
Hugging Face:https://huggingface.co/stepfun-ai/Step-5-Preview
ModelScope:https://modelscope.cn/models/stepfun-ai/Step-5-Preview
技术博客:https://platform.stepfun.ai/blog/inside-step-5-preview
官方文档:https://platform.stepfun.ai/docs/en/guides/models/step-5-preview
原文:阶跃 Step 5 Preview 权重开放,技术博客同步上线(来源:阶跃星辰)
