阶跃星辰(StepFun)发布 Step 5 Preview 开放权重,Sparse MoE 架构总参数 600B、每 token 激活 27B,支持 1M token 上下文窗口和原生文本与视觉输入,主打长时程智能体任务如编码、软件工程和金融。
NVIDIA 补充了 GB300 上的推理吞吐和部署路径,读者可据此评估该开源权重模型的实际落地方式。
恭喜 StepFun 发布 Step 5 Preview 🙌 这是他们最大的开放权重发布。
这个 600B MoE 模型专为处理长达 24 小时的 agent 任务而构建。
该模型在 NVIDIA GB300 上使用 NVFP4,运行速度接近 8K tokens/sec/GPU。
@huggingface 上的 NVP4 checkpoint: https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4
使用 @SGL_project 部署 - https://docs.sglang.io/cookbook/autoregressive/StepFun/Step-5-Preview 或 @vLLM - https://recipes.vllm.ai/stepfun-ai/Step-5-Preview
使用 NeMo Automodel 进行后训练:https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/model-coverage/llm/stepfun-ai/step-5-preview.mdx
使用 NVIDIA NIM 通过单条命令运行它:https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental/-
Step 5 Preview 现已开放权重。 BF16 和 FP8 权重已在 Hugging Face 和 ModelScope 上线,同时还有我们的技术博客。 • 稀疏 MoE:总计 600B,每个 token 激活 27B • 1M token 上下文窗口 • 原生文本和视觉输入 • 为长时程智能体工作打造:编程、软件工程、专业知识工作和金融 前沿智能,开放权重。构建下一步。 Hugging Face:https://huggingface.co/stepfun-ai/Step-5-Preview ModelScope:https://modelscope.ai/models/stepfun-ai/Step-5-Preview GitHub:https://github.com/stepfun-ai/Step-5-Preview
原文
Step 5 Preview is now open weights. BF16 and FP8 weights are live on Hugging Face and ModelScope, together with our technical blog. • Sparse MoE: 600B total, 27B active per token • 1M-token context window • Native text and vision input • Built for long-horizon agentic work: coding, software engineering, professional knowledge work and finance Frontier intelligence, open weights. Build what's next. Hugging Face: https://huggingface.co/stepfun-ai/Step-5-Preview ModelScope: https://modelscope.ai/models/stepfun-ai/Step-5-Preview GitHub: https://github.com/stepfun-ai/Step-5-Preview
来源:NVIDIA AI · x.com