跳到正文
热点事件持续更新

NVIDIA 开源 Nemotron 3.5 Bolt 74B-A9B 模型

2 篇报道2 个报道来源18 小时前更新

先了解这件事

AI 综述

NVIDIA 发布 Nemotron 3.5 Bolt,一款 74B-A9B 开源多模态模型,据 NVIDIA 称可把 74B 参数压进 24GB 显存,在与应用并行运行的同时兼顾智能与速度,并针对 RTX Spark 优化、面向本地 Agent 场景。 ModelScope 称该模型已上线,总参数 74B、每 token 激活 9B,经原生 2-bit 量化后可在 24GB 显存内本地推理,其中 24GB IQ2 变体用于本地推理,BF16 用于后训练和自定义量化,另有 LiLiCorr 变体用于投机解码;许可为 OpenMDW License Agreement v1.1,支持商用与非商用。 上述参数规模、显存占用、运行方式和量化条件均为发布与上线方的说法,实测性能数据尚未披露。

AI 根据报道生成 · 17 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. ModelScope 魔搭
    NVIDIA Nemotron 3.5 Bolt 74B-A9B 开源多模态模型上线 ModelScope,可量化至 24GB 本地推理

    NVIDIA Nemotron 3.5 Bolt 开源多模态模型上线 ModelScope,总参数 74B、每 token 激活 9B,原生 2-bit 量化后可在 24GB 显存内本地推理。

  2. NVIDIA RTX Spark
    NVIDIA 发布 Nemotron 3.5 Bolt:74B 参数模型可在 24GB 显存本地运行

    NVIDIA 发布 Nemotron 3.5 Bolt,将 74B 参数压缩进 24GB 显存,可在与应用并行运行的情况下兼顾智能与速度。该模型针对 RTX Spark 优化,面向本地 Agent 场景。

本事件热度走势

可比范围当前
19
可比范围峰值
3110月16日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。