跳到正文
NVIDIA Blog· Gerardo Delgado·· 8 小时前精选AI 评分65

NVIDIA 在 GTC Berlin 公布本地 AI 硬件与软件多项更新

Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents

AI 导读

NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线布局:RTX Spark 面向 Windows PC 个人智能体,DGX Spark 新增 64GB 版本并支持最多八台集群,DGX Station 提供 748GB 一致性内存和最高 20 petaflops 性能,Windows 版 DGX Station 预计 12 月上市。

推荐理由

原文汇总了 GTC Berlin 上本地 AI 硬件与软件的多项更新,读者可据此了解 RTX Spark、DGX Spark 和 DGX Station 的最新进展。

正文 · AI 翻译

在柏林 GTC 大会上,NVIDIA 展示了其全套本地 AI 硬件产品线。RTX Spark于上周发布,为 Windows PC 上的个人代理提供支持;DGX Spark支持开发者在 Linux 上构建和扩展应用;DGX Station服务于在 Linux 上运行前沿工作负载的企业团队,Windows 版本将于 12 月推出。

公告包括:

  • Underdog 桌面代理现已支持 RTX Spark
  • DGX Spark 64GB 将于 10 月 23 日星期五上市
  • NVIDIA Sync 将支持八台 DGX Spark,并于本月添加模型启动器
  • 10 月 DGX Spark 软件更新新增 Wi-Fi 助手并更新 DGX Spark Skills
  • DGX Station 通过七项新集成提升可管理性
  • DGX Station for Windows 将于 12 月推出,支持众多制造应用和代理框架
  • DGX Station 上推出三个新的机器人开源参考工作流
  • NVIDIA Cloud Functions 即将以早期访问形式登陆 DGX Station
  • Recursive Flint,一款新的本地编码模型,现可用于 NVIDIA 本地硬件
  • 首日支持新的 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 AI 模型
  • 为 llama.cpp 和 vLLM 推理引擎带来新的加速,以及一批为本地 AI 硬件优化的新检查点集合。

在下方了解更多这些本地 AI 公告,并查看柏林 GTC 大会上的演示和会议。

阅读 NVIDIA 在欧洲的所有公告

RTX Spark 将个人代理带入 Windows PC

RTX Spark 是 PC 的新起点——运行个人代理、加速内容创作,以及 1440p 100 帧每秒的游戏,配备高达 128GB 统一内存和 1 petaflop AI 算力。

以下是早期评测者自 10 月 16 日发布以来对该平台的评价:

“认真创作者的梦想机器……” — CGMag

“为 AI 的未来而设计……” — The Verge

“一台极其强大、令人惊讶地便携且高效的机器……” — PCMag

Underdog,一款为完全本地、私密 AI 打造的新桌面代理应用,也将其体验带到了 RTX Spark。凭借其 Husky 模型专用推理引擎,Underdog 完全在设备上运行模型,因此个人代理可以完成工作,而用户数据永远不会离开 PC。Underdog 现已可供下载。

为了更好地让开发者和爱好者构建和定制本地代理,许多 RTX Spark 笔记本电脑都带有解锁的引导加载程序。

在 GTC 主题演讲中,NVIDIA 创始人兼 CEO 黄仁勋展示了运行在 RTX Spark 上的 AI 代理如何使用 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 训练Hugging Face 的 Microduck 机器人。

ASUS、Dell Technologies、HP、Lenovo、Microsoft 和MSI 笔记本电脑现已上市,Acer 即将推出。

了解有关 RTX Spark 的更多信息,并通过最新的 RTX Spark 操作手册 开始使用。

DGX Spark 为开发者提供构建空间

全新的 DGX Spark 64GB 系统 —— 可运行包括 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 在内的模型 —— 将于 10 月 23 日(周五)起由合作伙伴陆续推出。

当工作负载需要更大容量时,开发者可以通过内置的 NVIDIA ConnectX-7 网络和 NVIDIA Sync Cluster Assistant 连接多台 DGX Spark 系统。这使用户能够运行 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等高级编码模型。

如今,DGX Spark 在手动配置下支持最多八台设备的集群,从而实现更大的模型、更长的上下文、并发智能体和分布式开发。它非常适合小团队共享单一集群作为后端,每位开发者针对同一模型运行并发会话,提供 1TB 统一内存 —— 足以运行 GLM 5.3 等前沿级模型。

通过 DGX Spark 集群操作手册 开始使用。

NVIDIA Sync Model Launcher 也将于本月晚些时候推出。它简化了在单台 DGX Spark 或集群上访问本地 AI 的过程。只需点击几下,Model Launcher 就会下载适合该配置的模型和容器,并将模型连接到 OpenCode。它会自动加载 DGX Spark Skills,用于故障排除、设备维护、访问官方文档及其他工作流指导。

10 月的 DGX Spark 软件更新带来了全新的 Wi-Fi Assistant,让用户在 DGX Spark 以设备模式运行时可以切换网络。此外,DGX Spark Skills 通过 OpenCode 将故障排除和设备维护方面以工作流为重点的指导直接引入 NVIDIA Sync。

DGX Spark 系统可直接从 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 购买。

DGX Station 将前沿智能带到桌面

对于更大的团队,DGX Station 提供 748GB 一致内存和高达 20 petaflops 的 AI 性能,使开发者能够运行 GLM 5.3 等高级模型,并以可与云模型相媲美的速度为 30 多名用户提供服务。为扩展规模,NVIDIA Sync 现已支持 DGX Station,简化了两个基于 Linux 的系统之间的连接。

与 Absolute Security、Splunk by Cisco、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium 的新集成让 IT 团队能够通过企业设置、管理和合规流程来管理 DGX Station 系统,帮助加快审批并降低部署风险,同时最大限度缩短首次 token 生成时间。

借助即将推出的基于 Windows 的系统,开发者可以构建工作流,利用专业应用程序,在 NVIDIA RTX PRO GPU 上运行,并由在 NVIDIA GB300 系统上运行其大型语言模型(LLM)的智能体进行操作——全部在一台机器内完成。

DGX Station for Windows预计将于 12 月由系统制造商合作伙伴推出,将本地 AI 扩展到企业已在使用的应用程序和操作环境中。工程师可以在 Windows 原生软件中运行本地模型和智能体,并访问同一系统上的 AI 模型、工具和智能体。

DGX Station for Windows 将支持来自 nTop、Dassault Systèmes、 Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera 的制造应用程序,用于 AI 引导的设计、仿真、验证和工程自动化。用户将能够使用 Hermes Agent、Perplexity 或 Aible 在本地运行智能体,以在企业环境中实现智能体控制。

同样的本地、可控计算模式也延伸到机器人领域。DGX Station 为机器人团队提供专用计算资源,用于后训练、仿真和评估,缩短迭代周期,无需等待共享基础设施。

NVIDIA 发布了三个开源参考工作流,将 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 引入 NVIDIA DGX Station。开发者可以使用它们通过强化学习优化 GR00T 1.7 模型,训练灵巧操作技能,并为合成数据生成后训练 Cosmos 世界模型。

NVIDIA Cloud Functions 即将以早期访问形式登陆基于 Linux 的 DGX Station。团队可以在共享目录中注册本地模型端点,并通过一个 OpenAI 兼容的入口点访问它们。 

开发者可以在不更改应用程序代码的情况下升级端点背后的模型,而团队成员无需直接访问机器即可使用共享模型。这将一台 DGX Station 转变为团队的本地可控推理服务。  

DGX Station 将本地迭代带入 AI 工厂开发。在 GTC Berlin 的展台上,NVIDIA 正在预览 DSX OS 在 DGX Station 上运行,以在完整基础设施可用之前模拟 AI 工厂运营。另一个演示将展示 DGX Station 系统为 30 多名软件开发人员驱动本地 token 工厂。

DGX Station 系统今日起由 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro 和 Exxact 发货。面向 Windows 的 DGX Station 系统预计将于今年晚些时候由 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和 Supermicro 开始发货。 

推出 Recursive Flint——一款为 RTX Spark 优化的全新本地编码模型

今天,前沿 AI 实验室 Recursive Superintelligence 发布了 Recursive Flint,这是一款为快速、准确的编码而构建的本地 LLM。作为一款拥有 400 亿参数的 混合专家模型,每个 token 激活 25 亿参数,Recursive Flint 提供快速推理,并在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等智能体编码基准测试中表现出色。

Recursive Flint 使用 Recursive 的 Eureka Machine 构建,这是一个用于大规模自动化 AI 研究的系统。它自动化了完整的研究循环:提出想法、实现想法、运行实验以验证想法,并利用结果决定下一步尝试什么——创建专用内核,在不改变模型权重的情况下,将 Flint 在 RTX Spark 上的生成速度提升了 55%。

开发者可以在 Hugging Face 上以 Apache 2.0 许可证下载开放权重,并在 RTX Spark 和 DGX Spark 系统以及 GeForce RTX 和 RTX PRO GPU 上运行该模型。开发者还可以使用 NeMo Automodel 对模型进行后训练,以进行监督微调和低秩适配(即 LoRa),还可以使用 NeMo RL 进行组相对策略优化。 

新模型支持 Day-Zero

NVIDIA 还新增了对 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B 以及 FLUX.3 Klein 扩散模型的 day-zero 模型支持。 

Nemotron Bolt E4B 4GB 将自然对话和多轮智能体技能压缩到仅 4GB 内存中,可在 NVIDIA GeForce RTX GPU、NVIDIA Jetson 设备以及 RTX 和 DGX Spark 上驱动快速本地语音助手、互动游戏角色和嵌入式界面。Bolt E4B 4GB 将于 10 月 23 日(周五)发布。 

Black Forest Labs 的 FLUX 3 Image Klein 是一款 560 亿参数的开源权重图像模型,用于生成和编辑。NVIDIA 优化版本使其能够在显存低至 8GB 的 GeForce RTX GPU 上运行,并可在 RTX 5090 GPU 上约四秒内生成一张 100 万像素图像。

MiniMax M3.1 Flash 是一款为 NVIDIA DGX Station 和 DGX Spark 构建的新开放模型,将长上下文 AI 带到桌面端。Liquid AI 的 LFM2.5-24B-A2B 是一款开放权重推理模型,每个 token 仅激活其 240 亿参数中的 20 亿,使其快到足以直接在 PC 上运行私密、支持工具调用的 AI 智能体。

此外,NVIDIA 发布了一组新的模型检查点集合,针对本地 AI 硬件的 RAM 效率进行了优化,使前沿级开源模型能够在运行后仍留有足够内存用于 KV 缓存。每个检查点都经过量化,同时保持接近全精度的准确率,首批包括可在单台 DGX Spark 128GB 或 RTX PRO 6000 上运行的 Qwen3.8-Flash-Next-FP4-Local,以及可在两套系统上运行的 GLM-5.3-Flash-FP4-Local。

开发者可以在第零天就使用NeMo AutoModel在 DGX Spark 和 RTX Spark 上进行后训练,并提供了Nemotron Bolt E4B、Flux 3 Image Klein等示例配方。 

加速 AI 推理

NVIDIA 继续与 llama.cpp 和 vLLM 开源社区合作,以加速本地硬件上的代理式工作负载。

在 llama.cpp 中,针对 Qwen 3.8 Flash Next 新增的基于 MTP 的投机解码支持,使 NVIDIA RTX PRO 6000 Blackwell 上的端到端代理式任务速度最高提升 1.4 倍。

在 vLLM 中,更快的投机解码以及针对 Qwen 线性注意力层的新 FlashInfer 预填充内核,使 DGX Spark 上使用 Qwen3.8 27B 的代理式任务速度最高提升 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量最高提升 1.2 倍。

查看NVIDIA 的本地 AI 推理配方,试用这些最新优化。

在X、Instagram、TikTok和Facebook上关注 NVIDIA RTX Spark——并通过订阅NVIDIA 本地 AI 新闻通讯获取最新信息。在LinkedIn和 X上关注 NVIDIA Workstation。 

请参阅 关于软件产品信息的声明。 

阅读 NVIDIA 在欧洲的所有公告

来源:NVIDIA Blog · blogs.nvidia.com