#开源生态
#开源生态
今日 1 条
Sakana AI@SakanaAILabsAI 评分3535
xAI:News(网页)AI 评分4242 xAI 支持在 OpenClaw 中使用 Grok,SuperGrok 与 X Premium 订阅可直接登录
xAI 宣布即日起 SuperGrok 或 X Premium 订阅用户可在开源、本地优先的智能体 OpenClaw 中登录使用 Grok 模型,所有订阅档位均可接入。
Sakana AI:Blog(网页)AI 评分5959 Sakana AI 发布 Fugu Max 与 Fugu Ultra v2 编排模型
Sakana AI 发布 Fugu Max 和 Fugu Ultra v2 两个编排架构版本,通过 OpenAI 兼容 API 即日可用,已有用户改一行参数即可升级。
Berkeley RDI:Blog(AI 安全与评测)AI 评分6363 Berkeley 团队发布 OpenSage:自编程 Agent 生成引擎 ADK
UC Berkeley 等机构团队发布 OpenSage,一个让 AI 自动生成 Agent 拓扑、合成管理工具并控制分层记忆的 Agent Development Kit。
MiniMax:Blog(网页)精选AI 评分7272 MiniMax 发布 M2.7:SWE-Pro 得分 56.22%,展示模型自进化工作流
MiniMax 发布 M2.7 模型,已在 MiniMax Agent 和 API 平台全面可用。该模型在 SWE-Pro 得分 56.22%(接近 Opus 4.6),VIBE-Pro 55.6%,Terminal Bench 2 57.0%,GDPval-AA ELO 1495 为开源模型最高,MM Claw 准确率 62.7%。
推荐理由:官方给出了各基准的具体分数和自进化工作流细节,读者可以据此与同档模型做直接比较。
LMSYS:Blog(Chatbot Arena 团队)精选AI 评分6262 SGLang 发布 dLLM 框架并 Day-0 支持 LLaDA 2.0
SGLang 团队与蚂蚁集团 DeepXPU 团队宣布在 SGLang 内实现 Diffusion LLM(dLLM)框架,并 Day-0 支持 LLaDA 2.0。
推荐理由:原文给出 SGLang 支持 Block Diffusion LLM 的实现思路和实测吞吐数据,读者可据此评估 dLLM 推理方案的可用性。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5959 LMSYS SpecForge 团队联合 Ant、Meituan 等发布 SpecBundle Phase 1 及 SpecForge v0.2
LMSYS SpecForge 团队与 Ant、Meituan、Nex-AGI、EigenAI 合作发布 SpecBundle Phase 1,为 Llama。
LMSYS:Blog(Chatbot Arena 团队)精选AI 评分6363 SGLang-Diffusion 发布两个月:速度较初版提升至 2.5 倍,新增 ComfyUI 集成与 LoRA 支持
LMSYS Chatbot Arena 团队复盘 SGLang-Diffusion 自 2025 年 11 月初发布两个月来的进展,当前版本(docker tag: lmsysorg/sglang:dev-pr-17247)比初版快最多 2.5 倍,在 NVIDIA GPU 上较其他方案最高快 5x。
推荐理由:官方复盘发布两个月来的优化成果,速度较初版提升至 2.5 倍,并新增 ComfyUI 集成和 LoRA 支持,读者可评估是否迁移现有图像视频生成工作流。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5252 Novita AI 分享 GLM4-MoE 生产部署优化:基于 SGLang 将 TTFT 最高降低 65%
Novita AI 发布基于 SGLang 部署 GLM4-MoE 模型的端到端推理优化方案,TTFT 最高降低 65%,agentic coding 负载下 TPOT 提升 22%,结果在 H200 集群 TP8、FP8 配置下验证。
LMSYS:Blog(Chatbot Arena 团队)AI 评分3434 SGLang RL 团队实现 INT4 QAT 端到端流程:约 1TB 模型单张 H200 完成 rollout
SGLang RL 团队联合 InfiXAI、蚂蚁 Asystem & AQ Infra、slime、RadixArk 团队,在 slime 框架上落地了 INT4 QAT 端到端流程,训练用 fake quantization、推理用 W4A16,实现与 BF16 全精度相当的训练-推理一致性与稳定性。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4343 千问(Qwen)联合 AMD 在 MI300X 上优化 Qwen3 与 Qwen3-VL 推理延迟
千问 C 端基础设施工程团队与 AMD AI 框架团队基于 SGLang,在 AMD Instinct MI300X 系列 GPU 上对 Qwen3-235B 与 Qwen3-VL-235B 完成极致延迟优化。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4141 AMD Instinct GPU 迎来 Miles 强化学习框架 ROCm 支持
Miles 强化学习框架现已支持 AMD Instinct GPU(含 MI300/350 系列),可在 ROCm 上原生运行大规模 RL 后训练。Miles 基于 SGLang 与 Slime 生态,支持 GRPO/PPO、Ray 编排及 Megatron-LM 集成,并提供预构建容器。在单节点 8 卡 MI300X 上,团队用 GRPO 训练了 Qwen3-30B-A3B。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4040 SGLang 在 NVIDIA GTC 2026 的活动回顾:五场活动、三天
SGLang 团队回顾了在 NVIDIA GTC 2026 的三天五场活动,包括黄仁勋 GTC 主题演讲中 SGLang 出现在 NVIDIA AI 生态幻灯片上,以及 Ying Sheng 参与的"开源 AI 现状"圆桌。
LMSYS:Blog(Chatbot Arena 团队)精选AI 评分6868 SGLang 与 Miles 发布对 DeepSeek-V4 的 Day-0 推理与 RL 训练支持
LMSYS 的 SGLang 与 Miles 团队宣布对 DeepSeek-V4(1.6T Pro、284B Flash)提供 Day-0 推理和 RL 训练支持,是首个在发布日同时服务与训练该模型的开源栈。
推荐理由:LMSYS 团队详述了为 DeepSeek-V4 混合稀疏注意力等新架构所做的推理与 RL 训练优化,附基准数据。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4141 SGLang 推出基于 RDMA 的 P2P 权重更新机制,1T 参数 Kimi-K2 传输从 53 秒降至 7.2 秒
SGLang 为 RL 工作负载引入基于 RDMA 的 P2P 权重更新机制,作为传统 NCCL broadcast 的补充,兼容所有主流开源模型。
LMSYS:Blog(Chatbot Arena 团队)精选AI 评分7272 SGLang 和 Miles 实现 NVIDIA Nemotron 3 Ultra Day-0 支持
SGLang 和 Miles 宣布对 NVIDIA Nemotron 3 Ultra 提供 Day-0 支持。该模型为开源 MoE 混合 Transformer-Mamba 架构,总参数 550B、激活 55B,上下文最长 1M tokens,支持 NVFP4 与 BF16 权重,面向长程自主智能体优化。
推荐理由:原文给出架构、部署配置和 RL 训练细节,读者可以据此评估该模型在长程智能体场景的可用性。
LMSYS:Blog(Chatbot Arena 团队)AI 评分2626 LMSYS 公布 2026 博士奖学金首位获得者 Will Lin
LMSYS 宣布 2026 博士奖学金首位获得者为 Will Lin,表彰其对开源 AI 基础设施的持续贡献,奖学金最高 5 万美元用于学费。Will Lin 是 UC San Diego 六年级博士生,主导开源扩散生成框架 FastVideo,该项目已获 3.7k+ GitHub stars,并被 NVIDIA Dynamo 集成为后端。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5050 MOSS-TTS-Local-Transformer-v1.5 在 SGLang-Omni 上实现端到端流式服务
MOSS-TTS-Local-Transformer-v1.5 已在 SGLang-Omni 上实现端到端服务,与 MOSI 和 OpenMOSS 团队合作完成。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4848 SGLang 为 GLM-5.2 NVFP4 智能体负载提速:8xB300 上突破 500 TPS
SGLang 团队为 GLM-5.2 NVFP4 检查点优化推理,在 8xB300(bs=1)上实现超过 500 TPS,两周内完成。默认开启的 Spec V2 重叠调度带来 11% 端到端 TPS 提升,IndexShare MTP 让草稿步成本在长上下文下最多降低约 1.9 倍。
LMSYS:Blog(Chatbot Arena 团队)AI 评分3232 SGLang 量化栈重构:分离 checkpoint 解析与硬件内核执行
SGLang 提出基于 Scheme 的量化架构重构(issue #15194),将量化路径拆分为 Quant Config、Linear/MoE Method、Scheme、Kernel 四层,使 checkpoint 格式与硬件后端可独立演进。
LMSYS:Blog(Chatbot Arena 团队)AI 评分4242 Miles 实现 Blackwell 原生 MXFP8 与 NVFP4 强化学习方案
Miles 团队在 Miles 中实现了两种 Blackwell 原生 RL 方案:端到端 MXFP8,以及面向 MoE 专家的 per-token NVFP4,覆盖 checkpoint 转换、Megatron 训练、SGLang rollout 与实时权重更新。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5454 RadixArk 与 Google Cloud 合作将 SGLang 完整能力带入 TPU
RadixArk 与 Google Cloud 宣布合作,把开源推理框架 SGLang 带到 Google TPU 上。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5555 SpecForge v0.3.0 发布:解耦式投机解码训练栈与 SpecBundle 开源草稿模型
LMSYS SpecForge 团队发布 SpecForge v0.3.0,将目标模型推理与草稿模型训练解耦,统一支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino、DSpark 等多种投机解码算法,并用 YAML 单一入口配置拓扑。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5858 SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning
SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning,这是一款可定制的开源模型,总参数 30B、每 token 仅激活 3B,上下文最长 100 万 token,由 Nemotron 3 Ultra 蒸馏而来。
LMSYS:Blog(Chatbot Arena 团队)精选AI 评分6363 SGLang 与 Miles 为 Qwen3.8-2.4T-A95B 提供 Day-0 支持
SGLang 团队宣布与 Qwen、阿里百炼、NVIDIA 和 AMD 合作,在 SGLang 和 Miles 中于发布当日支持 Qwen3.8-2.4T-A95B,这是千问最大的开源模型,总参数 2.4T、每 token 激活 95B。
推荐理由:原文给出 Qwen3.8 混合注意力架构的推理支撑细节和实测性能数字,读者可据此评估新模型在自建推理栈上的部署可行性。
LMSYS:Blog(Chatbot Arena 团队)AI 评分5050 Miles v0.1 发布:面向前沿后训练的全栈生产级系统
RadixArk 发布 Miles v0.1,一个面向前沿后训练的全栈生产级系统,是首个 Miles 版本的继任者。它基于 slime 设计,用 SGLang 做 rollout、NVIDIA Megatron-LM 或 FSDP 做训练,支持全异步 RL、三种评估模式和可插拔智能体环境,并附带智能体编码与终端任务的端到端配方。
Liquid AI 模型与工程博客(网页)AI 评分3030 Liquid AI 官方 FAQ:LFM 模型不提供自托管 API,开源权重与 LEAP 平台部署说明
Liquid AI 表示目前不提供自托管 API,其 LFM 模型可通过 playground(免费限速)和 OpenRouter(付费更高限额)使用,全部模型可在 Hugging Face 直接下载。多数模型支持通过 LEAP 平台定制与部署,并提供本地推理与定制两套软件栈。年营收不超过 $10M 的组织可获商业使用豁免,超过则需联系销售团队定制定价。
Liquid AI 模型与工程博客(网页)AI 评分1717 Liquid AI 黑客松:用 LFM2.5 等模型挑战端侧 AI
Liquid AI 公布其黑客松系列活动回顾与日程,开发者围绕 Liquid Foundation Models 构建端侧应用。已举办的 6 场活动覆盖东京、旧金山及线上,涉及 LFM2.5、LFM2.5-VL、LFM2-VL 与 LEAP,可在 AMD Ryzen AI PC、AMD NUC 及 iOS、Android 应用上部署。目前日历上暂无新黑客松,可留邮箱等待通知。
Liquid AI 模型与工程博客(网页)精选AI 评分6565 Liquid AI 发布端侧基础模型 LFM2,含 0.35B、0.7B 和 1.2B 三个版本
Liquid AI 发布新一代 Liquid Foundation Models(LFM2),定位市场上最快的端侧生成式 AI 基础模型,采用混合架构,包含 10 个双门控短程卷积块和 6 个分组查询注意力块。
推荐理由:官方博客给出了 LFM2 的架构细节、CPU 推理对比和训练方法,读者可以据此评估它在端侧部署中的实际取舍。
Liquid AI 模型与工程博客(网页)精选AI 评分6767 Liquid AI 发布端侧 MoE 模型 LFM2-8B-A1B:8.3B 总参数、1.5B 激活
Liquid AI 发布 LFM2-8B-A1B,这是其首个端侧 MoE 模型,总参数 8.3B、每 token 激活 1.5B,以约 1.5B 级模型的计算量获得更高的模型质量。
推荐理由:官方详细给出 MoE 架构参数、多基准评测和 CPU/GPU 推理数据,读者可据此评估端侧部署的实际表现。
Liquid AI 模型与工程博客(网页)AI 评分5353 Liquid AI 发布 LFM2-ColBERT-350M 多语言晚交互检索模型
Liquid AI 发布 LFM2-ColBERT-350M,一个基于 LFM2 骨干的晚交互检索模型,支持用一种语言存储文档、用其他语言查询检索。在扩展的 NanoBEIR 多语言基准上,其跨语言检索能力显著优于 150M 参数的 GTE-ModernColBERT-v1,尤其在德语、阿拉伯语、韩语和日语上;尽管模型体积更大,查询和文档编码吞吐与对方相当。
Liquid AI 模型与工程博客(网页)AI 评分6464 Liquid AI 发布 LFM2.5 端侧模型家族
Liquid AI 发布 LFM2.5-1.2B 模型家族,称其为迄今最强的边缘 AI 版本,预训练从 10T 扩展到 28T tokens,并大规模引入强化学习后训练。
Liquid AI 模型与工程博客(网页)AI 评分6161 Liquid AI 发布 LFM2-24B-A2B 开放权重 MoE 模型
Liquid AI 发布 LFM2-24B-A2B 的早期 checkpoint,总参数 24B、每 token 激活约 2.3B,是迄今最大的 LFM2 模型,开放权重已上线 Hugging Face。
Liquid AI 模型与工程博客(网页)精选AI 评分6666 Liquid AI 发布 LFM2.5-8B-A1B 端侧 MoE 模型,128K 上下文主打工具调用
Liquid AI 发布 LFM2.5-8B-A1B 端侧 MoE 模型,上下文窗口从 32,768 扩展到 128K tokens,预训练从 12T 增至 38T tokens,词表翻倍到 128,000 以提升非拉丁文字的编码效率。
推荐理由:官方详细给出上下文、训练管线和实测基准,读者可以据此评估这款端侧 MoE 模型是否适合本地 Agent 工作流。
Liquid AI 模型与工程博客(网页)AI 评分5353 Liquid AI 发布 LFM2.5-ColBERT-350M 与 LFM2.5-Embedding-350M 双向检索模型
Liquid AI 发布两款 350M 参数多语言检索模型 LFM2.5-ColBERT-350M 和 LFM2.5-Embedding-350M,是 LFM 家族首批双向模型,支持 11 种语言的跨语言搜索。
Liquid AI 模型与工程博客(网页)AI 评分5454 Liquid AI 发布 LFM2.5-Encoder-230M 与 350M 双向编码器,长上下文 CPU 推理提速
Liquid AI 发布基于 LFM2 混合架构的双向编码器 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M,支持 8,192 token 上下文,面向分类、自然语言理解和 token 级任务微调,模型已上线 Hugging Face。
Fireworks AI(网页)AI 评分3939 Fireworks 推出 FireRouter with Opus:常规轮次路由至开源模型,保留 Claude Opus 5.5
Fireworks 发布 FireRouter with Opus,将常规轮次路由到开源模型、仅在需要的轮次保留 Claude Opus 5.5,单次会话成本降低 57%,并支持缓存感知路由。
Fireworks AI(网页)AI 评分6060 Fireworks 开放 Kimi K3 LoRA 无服务器训练私测,约 20 步 RL 成本约 $65
Fireworks 宣布 Kimi K3 支持其 Serverless Training 的 Multi-LoRA 服务与训练,进入私测阶段。K3 是总参数约 2.8T 的 MoE 模型,原文称其为首个达到 3T 规模的开源权重模型。
Fireworks AI(网页)精选AI 评分8383 Kimi K3 开源发布并上线 Fireworks:2.8T 参数、Day-0 推理与训练支持
月之暗面的 Kimi K3 以开源权重发布,共 2.8T 总参数、104B 激活参数、896 专家、1M 上下文,并在 Fireworks 上线 Day-0 推理与训练。
推荐理由:原文汇总了 K3 的参数规格、多项第三方基准成绩和与 Opus 5 的成本对比,读者可据此评估开源模型在自有工作流中的可行性。
Fireworks AI(网页)精选AI 评分6565 Meta Muse Glimmer 30B 上线 Fireworks,面向常驻 Agent 场景
Meta 发布 Muse Glimmer 30B 开源模型(Apache 2.0),并已在 Fireworks 提供 serverless 和按需部署。
推荐理由:原文给出 Muse Glimmer 的架构细节、基准对比和推荐参数,读者可据此评估它是否适合长期运行的多轮 Agent 工作流。