Recursive SI 发布本地编码模型 Flint,多框架首日支持
先了解这件事
Recursive SI 发布首个本地编码模型 Flint,采用 Apache 2.0 开放权重并已上架 Hugging Face,可本地运行,或在 opencode、pidotdev 免费试用。模型为 40B MoE、约 2.5B 激活参数、262K token 上下文窗口;LM Studio 称本地运行约需 24GB 内存。 LM Studio 称发布首日已支持运行 Flint;vLLM 随后宣布 Day-0 支持,提供镜像 vllm/vllm-openai:flint 并合并仓库支持(#62938)。vLLM 称其 Flint 内核针对单张 Blackwell GPU(TP=1、BF16 KV cache),最多 8 个请求时走低延迟路径,其他配置回退到标准层。NVIDIA 称 Flint 用 GB300 NVL72 训练,NVFP4 检查点可在 RTX Spark、DGX Spark 和 RTX PRO 6000 Blackwell 上本地运行。 性能方面,Recursive SI 称 Flint 由自动化研究系统 Eureka Machine 从零构建、用时不到 4 个月,MacBook Pro 上达 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,比同类模型快至多 2 倍;Cline 称其在 Terminal-Bench 2.1 上得 54.9%。Hugging Face 联创 Thomas Wolf 称,该模型将 lm_head 量化到 4bit 后仅比 bf16 低 0.7 个百分点。这些数据均来自发布方或第三方说法,未获独立验证。
AI 根据报道生成 · 25 分钟前更新
事件进展
4 个进展
- 10月22日 01:59 · 1 篇报道Cline转发Flint模型Terminal-Bench成绩Cline:Flint 本地模型 Terminal-Bench 达 54.9%
- 10月22日 00:46 · 1 篇报道LM Studio 首日支持 Flint 模型LM Studio:Recursive 发布本地编码模型 Flint,LM Studio 首日支持
- 10月22日 00:29 · 4 篇报道Recursive SI发布首个本地编码模型FlintNVIDIA RTX Spark:Recursive 发布首个开源模型 Flint 40B MoE,NVIDIA 祝贺其用 GB300 NVL72 训练
- 10月21日 08:00 · 1 篇报道vLLM 首发支持 Flint 模型推理vLLM 官方博客:vLLM 提供 Recursive Flint 40B MoE 模型的 Day-0 支持
报道时间线
沿着报道,了解事件的不同侧面。
- Rohan PaulRecursive 发布 40B MoE 本地编码模型 Flint,Apache 2.0 开放权重
Recursive 发布首个模型 Flint,一个 40B mixture-of-experts 本地编码模型,由其自动化研究系统 Eureka Machine 构建,权重以 Apache 2.0 许可开放在 Hugging Face。
- Thomas WolfThomas Wolf 点评 Recursive 发布的本地编码模型 Flint:lm_head 量化到 4bit 仍接近 bf16
Richard Socher 发布 Recursive 首个模型 Flint,一个由 Eureka Machine 自动研究系统构建的快速本地编码模型,MacBook Pro 上可达 125+ tokens/sec,RTX Spark 上 150+ tokens/sec,号称比同类模型快至 2 倍,4 个月内从零构建,开放权重已上架 Hugging Face。Thomas Wolf 转发并点评称,该模型把通常建议保持高精度的 lm_head 量化到 4bit 且只比 bf16 低 0.7 个百分点,结果令人印象深刻。
- ClineFlint 本地模型 Terminal-Bench 达 54.9%
我们即将见证本地模型能力的一次突破。 Flint 在 Terminal-Bench 2.1 上以约 2B 激活参数取得 54.9% 的成绩。这领先于所有其他小型 MoE,并超过三个密集 ~30B 模型中的两个。 它仅需约 24GB 内存,在 MacBook Pro 上运行速度达 125+ tok/s。
- NVIDIA RTX Spark精选Recursive 发布首个开源模型 Flint 40B MoE,NVIDIA 祝贺其用 GB300 NVL72 训练
Recursive(@Recursive_SI)发布首个模型 Flint,一个 40B MoE 快速本地编码模型,由其自动化研究系统 Eureka Machine 构建,从零开始不到 4 个月完成,训练使用 NVIDIA GB300 NVL72。官方称速度最高可达同类模型的 2 倍,MacBook Pro 上 125+ tokens/sec,RTX Spark 上 150+ tokens/sec。开放权重已上线 Hugging Face(https://huggingface.co/RecursiveSI/flint-nvfp4-gguf),可在 RTX Spark、DGX Spark 和 RTX PRO 6000 Blackwell 上本地运行,也可在 @opencode 或 @pidotdev 免费试用。NVIDIA RTX Spark 账号转发祝贺并给出本地运行入口。
- LM StudioRecursive 发布本地编码模型 Flint,LM Studio 首日支持
Recursive 发布首个模型 Flint,一个用 Eureka Machine 自动研究系统从零训练的快速本地编码模型,LM Studio 首日即可运行。模型为 40B MoE、2.5B 激活参数,262K token 上下文窗口,Apache 2.0 开源权重已上架 Hugging Face。官方称在 MacBook Pro 上达 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,比同类模型快至 2 倍,本地运行约需 24GB,也可在 opencode 或 pidotdev 免费试用。
- Richard SocherRecursive_SI 发布首个本地编码模型 Flint,权重已在 Hugging Face 开放
Recursive_SI 发布首个模型 Flint,一个快速本地编码模型,由其自动化研究系统 Eureka Machine 从零构建,用时不到 4 个月。MacBook Pro 上达 125+ tokens/sec,RTX Spark 上 150+ tokens/sec,号称比同类模型快至多 2 倍。开放权重已上架 Hugging Face,可本地运行,也可在 opencode 或 pidotdev 免费试用。
- vLLM 官方博客精选vLLM 提供 Recursive Flint 40B MoE 模型的 Day-0 支持
vLLM 宣布 Day-0 支持 Recursive 的 Flint 模型,提供内置支持的 Docker 镜像 vllm/vllm-openai:flint,支持正在合并(#62938)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。