跳到正文
热点事件持续更新

Recursive SI 发布本地编码模型 Flint,多框架首日支持

7 篇报道7 个报道来源38 分钟前更新

先了解这件事

AI 综述

Recursive SI 发布首个本地编码模型 Flint,采用 Apache 2.0 开放权重并已上架 Hugging Face,可本地运行,或在 opencode、pidotdev 免费试用。模型为 40B MoE、约 2.5B 激活参数、262K token 上下文窗口;LM Studio 称本地运行约需 24GB 内存。 LM Studio 称发布首日已支持运行 Flint;vLLM 随后宣布 Day-0 支持,提供镜像 vllm/vllm-openai:flint 并合并仓库支持(#62938)。vLLM 称其 Flint 内核针对单张 Blackwell GPU(TP=1、BF16 KV cache),最多 8 个请求时走低延迟路径,其他配置回退到标准层。NVIDIA 称 Flint 用 GB300 NVL72 训练,NVFP4 检查点可在 RTX Spark、DGX Spark 和 RTX PRO 6000 Blackwell 上本地运行。 性能方面,Recursive SI 称 Flint 由自动化研究系统 Eureka Machine 从零构建、用时不到 4 个月,MacBook Pro 上达 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,比同类模型快至多 2 倍;Cline 称其在 Terminal-Bench 2.1 上得 54.9%。Hugging Face 联创 Thomas Wolf 称,该模型将 lm_head 量化到 4bit 后仅比 bf16 低 0.7 个百分点。这些数据均来自发布方或第三方说法,未获独立验证。

AI 根据报道生成 · 25 分钟前更新

事件进展

4 个进展

  1. 10月22日 01:59 · 1 篇报道
    Cline转发Flint模型Terminal-Bench成绩
    Cline:Flint 本地模型 Terminal-Bench 达 54.9%
  2. 10月22日 00:46 · 1 篇报道
    LM Studio 首日支持 Flint 模型
    LM Studio:Recursive 发布本地编码模型 Flint,LM Studio 首日支持
  3. 10月22日 00:29 · 4 篇报道
    Recursive SI发布首个本地编码模型Flint
    NVIDIA RTX Spark:Recursive 发布首个开源模型 Flint 40B MoE,NVIDIA 祝贺其用 GB300 NVL72 训练
  4. 10月21日 08:00 · 1 篇报道
    vLLM 首发支持 Flint 模型推理
    vLLM 官方博客:vLLM 提供 Recursive Flint 40B MoE 模型的 Day-0 支持

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Rohan Paul
    Recursive 发布 40B MoE 本地编码模型 Flint,Apache 2.0 开放权重

    Recursive 发布首个模型 Flint,一个 40B mixture-of-experts 本地编码模型,由其自动化研究系统 Eureka Machine 构建,权重以 Apache 2.0 许可开放在 Hugging Face。

  2. Thomas Wolf
    Thomas Wolf 点评 Recursive 发布的本地编码模型 Flint:lm_head 量化到 4bit 仍接近 bf16

    Richard Socher 发布 Recursive 首个模型 Flint,一个由 Eureka Machine 自动研究系统构建的快速本地编码模型,MacBook Pro 上可达 125+ tokens/sec,RTX Spark 上 150+ tokens/sec,号称比同类模型快至 2 倍,4 个月内从零构建,开放权重已上架 Hugging Face。Thomas Wolf 转发并点评称,该模型把通常建议保持高精度的 lm_head 量化到 4bit 且只比 bf16 低 0.7 个百分点,结果令人印象深刻。

  3. Cline
    Flint 本地模型 Terminal-Bench 达 54.9%

    我们即将见证本地模型能力的一次突破。 Flint 在 Terminal-Bench 2.1 上以约 2B 激活参数取得 54.9% 的成绩。这领先于所有其他小型 MoE,并超过三个密集 ~30B 模型中的两个。 它仅需约 24GB 内存,在 MacBook Pro 上运行速度达 125+ tok/s。

  4. NVIDIA RTX Spark精选
    Recursive 发布首个开源模型 Flint 40B MoE,NVIDIA 祝贺其用 GB300 NVL72 训练

    Recursive(@Recursive_SI)发布首个模型 Flint,一个 40B MoE 快速本地编码模型,由其自动化研究系统 Eureka Machine 构建,从零开始不到 4 个月完成,训练使用 NVIDIA GB300 NVL72。官方称速度最高可达同类模型的 2 倍,MacBook Pro 上 125+ tokens/sec,RTX Spark 上 150+ tokens/sec。开放权重已上线 Hugging Face(https://huggingface.co/RecursiveSI/flint-nvfp4-gguf),可在 RTX Spark、DGX Spark 和 RTX PRO 6000 Blackwell 上本地运行,也可在 @opencode 或 @pidotdev 免费试用。NVIDIA RTX Spark 账号转发祝贺并给出本地运行入口。

  5. LM Studio
    Recursive 发布本地编码模型 Flint,LM Studio 首日支持

    Recursive 发布首个模型 Flint,一个用 Eureka Machine 自动研究系统从零训练的快速本地编码模型,LM Studio 首日即可运行。模型为 40B MoE、2.5B 激活参数,262K token 上下文窗口,Apache 2.0 开源权重已上架 Hugging Face。官方称在 MacBook Pro 上达 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,比同类模型快至 2 倍,本地运行约需 24GB,也可在 opencode 或 pidotdev 免费试用。

  6. Richard Socher
    Recursive_SI 发布首个本地编码模型 Flint,权重已在 Hugging Face 开放

    Recursive_SI 发布首个模型 Flint,一个快速本地编码模型,由其自动化研究系统 Eureka Machine 从零构建,用时不到 4 个月。MacBook Pro 上达 125+ tokens/sec,RTX Spark 上 150+ tokens/sec,号称比同类模型快至多 2 倍。开放权重已上架 Hugging Face,可本地运行,也可在 opencode 或 pidotdev 免费试用。

10月21日
  1. vLLM 官方博客精选
    vLLM 提供 Recursive Flint 40B MoE 模型的 Day-0 支持

    vLLM 宣布 Day-0 支持 Recursive 的 Flint 模型,提供内置支持的 Docker 镜像 vllm/vllm-openai:flint,支持正在合并(#62938)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。