vLLM 官方博客(RSS)· NVIDIA Nemotron Team·· 2026-06-04精选AI 评分67
NVIDIA Nemotron 3 Ultra 在 vLLM 获 Day-0 支持
Announcing Day-0 Support for NVIDIA Nemotron 3 Ultra on vLLM
AI 导读
NVIDIA 宣布 Nemotron 3 Ultra 在 vLLM 上获得 Day-0 支持。该开源模型采用混合 Transformer-Mamba 潜在 MoE 架构,总参数 550B、激活 55B,上下文最长 1M tokens,支持 NVFP4 与 BF16 精度,面向长时程自主智能体工作流。
推荐理由
官方给出架构细节、显存配置和 vLLM 部署命令,读者可以直接照此在自有环境里跑通该模型。
来源:vLLM 官方博客(RSS) · vllm.ai