NVIDIA Blog(RSS)· Vishal Ganeriwala·· 16 天前AI 评分40
NVIDIA 如何用 DSX 最大化 AI 工厂产出:从兆瓦到 Token
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA 在 AI Infra Summit 上公布 DSX MaxLPS 的首个部署验证结果:Lambda 在五机架 19 节点 HGX B200 集群上,用与 16 节点满功耗相同的电力预算跑出 24% 的集群 token 吞吐提升,从约 400 万 tokens/秒升至 500 万,每瓦性能提升 23%。
来源:NVIDIA Blog(RSS) · blogs.nvidia.com