vLLM 发布 MiniMax M3 day-0 支持，覆盖 1M 上下文与多模态推理服务
vLLM 宣布对 MiniMax M3 家族的 day-0 支持，涵盖 MiniMaxAI/MiniMax-M3 与 MiniMax-M3-MXFP8 两个检查点，支持 1M token 上下文和图像、视频多模态输入。
推荐理由：vLLM 团队自己拆解了 day-0 支持背后的 MSA 内核、缓存和部署细节，读者可以按需套用其部署配方。
推理能力
全部主题模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
最新精选
第 81–100 条 · 共 103 条vLLM 官方博客（RSS）精选AI 评分7575
Google DeepMind：Blog（RSS）精选AI 评分7676 Google DeepMind 发布开源实验模型 DiffusionGemma，GPU 文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，基于文本扩散方法，在专用 GPU 上实现最高 4 倍的文本生成提速。该模型为 26B 总参数的 MoE，推理时仅激活 3.8B 参数，量化后可装入 18GB 显存，单张 NVIDIA H100 上超过 1000 tokens 每秒，RTX 5090 上超过 700 tokens 每秒。
推荐理由：官方给出具体吞吐数字、显存占用和质量取舍，读者可据此判断它适不适合本地交互式工作流。
vLLM 官方博客（RSS）精选AI 评分7575 vLLM 原生支持 Google DeepMind 26B 扩散语言模型 DiffusionGemma
Google DeepMind 与 vLLM 团队合作，将 26B 参数、基于 Gemma4 的离散扩散语言模型 DiffusionGemma 接入 vLLM，这是 vLLM 首个原生支持的 dLLM。
推荐理由：原文详解了扩散语言模型的解码机制和 vLLM 的 ModelState 接入方案，并给出 H200 上的吞吐数据，对推理工程实践有直接参考价值。
Andrej Karpathy@karpathy精选AI 评分7676引用Claude@claudeaiFable 5 is state-of-the-art on nearly all tested benchmarks, with exceptional performance in software engineering, knowledge work, scientific research, and vision. The longer and more complex the task, the larger Fable 5’s lead over our other models.
推荐理由：作者补充了基准之外的第一手使用感受，指出长难题求解能力跃升和安全护栏偏敏感，可作选型参考。
vLLM 官方博客（RSS）精选AI 评分6767 NVIDIA Nemotron 3 Ultra 在 vLLM 获 Day-0 支持
NVIDIA 宣布 Nemotron 3 Ultra 在 vLLM 上获得 Day-0 支持。该开源模型采用混合 Transformer-Mamba 潜在 MoE 架构，总参数 550B、激活 55B，上下文最长 1M tokens，支持 NVFP4 与 BF16 精度，面向长时程自主智能体工作流。
推荐理由：官方给出架构细节、显存配置和 vLLM 部署命令，读者可以直接照此在自有环境里跑通该模型。
Ethan Mollick：One Useful Thing（RSS）精选AI 评分6868 Ethan Mollick 谈选择保持人类思考，AI 使用应有意而非默认依赖
Ethan Mollick 撰文讨论 AI 无处不在的写作与认知投降风险，指出无脑依赖 AI 会削弱思考与学习。他引用土耳其约千名高中生的实验，用普通 ChatGPT 做作业的学生考试成绩反而低于无 AI 组；而台北十所高中近千名学生的 Python 课程中，AI 导师个性化出题让学生在无 AI 期末考试中高出 0.15 个标准差，相当于六到九个月额外学业。
推荐理由：作者结合多项实验研究和自身写作经验，分析了默认依赖 AI 如何导致认知投降，并给出学习场景下避免捷径的具体做法。
Together AI 研究与产品博客（RSS）精选AI 评分6868 Together AI 解析 DeepSeek-V4 服务化：百万 token 上下文为何是推理系统工程问题
Together AI 发文解析 DeepSeek-V4 的服务化挑战，认为其核心变化是在 token 轴压缩 KV cache 的混合注意力设计（CSA、HCA、SWA），使模型支持 1M token 上下文窗口。
推荐理由：原文基于 Together 在 HGX B200 上的实际 bring-up，给出 KV cache 布局和缓存策略如何决定 DeepSeek-V4 长上下文吞吐的具体经验。
OpenAI：Alignment 研究博客（RSS）精选AI 评分6666 OpenAI 调查 RL 训练中意外评分 CoT 的后果
OpenAI 报告其自动检测系统发现多个已发布模型在 RL 训练中意外受到有限的 CoT 评分，涉及 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini，GPT-5.5 未受影响。
推荐理由：OpenAI 自曝已发布模型在 RL 中出现过意外 CoT 评分，并给出检测系统与影响分析，读者可了解其监控性保护实践。
Together AI 研究与产品博客（RSS）精选AI 评分7474 DeepSeek-V4 Pro 上线 Together AI，Serverless 支持 512K 上下文
Together AI 宣布 DeepSeek-V4 Pro 上线，提供 Serverless Inference（512K 上下文）与 Dedicated 部署（完整 1M 上下文、预留容量）。
推荐理由：原文给出部署形态、定价与基准数字，读者可以据此评估在 512K 上下文上运行 DeepSeek-V4 Pro 的实际成本与路径。
Google DeepMind：Blog（RSS）精选AI 评分8686 Google DeepMind 发布 Gemma 4 开源模型，含 E2B、E4B、26B MoE 和 31B 四个尺寸
Google DeepMind 发布 Gemma 4 开源模型，主打高级推理与智能体工作流，采用 Apache 2.0 许可，提供 E2B、E4B、26B MoE 和 31B Dense 四个尺寸。
推荐理由：官方给出四个尺寸、榜单排名、上下文长度和开放许可等具体信息，读者可以据此判断选型与部署空间。
Mistral AI：News（网页）精选AI 评分7070 Mistral 发布开源模型 Mistral Small 4，统一推理、多模态与编码能力
Mistral 发布 Mistral Small 4，首个将 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一到单一模型的开源版本，采用 Apache 2.0 许可证。
推荐理由：官方发布文给出完整架构参数、性能对比和部署门槛，可以了解这款统一推理与多模态的开源模型是否适配自己的场景。
Mistral AI：News（网页）精选AI 评分6161 Mistral 发布开源 Lean 4 证明代码智能体 Leanstral
Mistral 发布 Leanstral，一个面向 Lean 4 的开源代码智能体，权重以 Apache 2.0 许可开放，同时在 Mistral Vibe 中以 agent 模式提供，并通过免费 API 端点 labs-leanstral-2603 开放。
推荐理由：原文给出 FLTEval 分数和与 Claude 系列的成本对比，读者可据此评估它在形式化证明工程中的性价比。
Noam Shazeer@NoamShazeer精选AI 评分7676推荐理由：作者本人官宣发布，说明新模型如何在更低延迟和成本下保留 Pro 级推理能力及可用入口。
Mistral AI：News（网页）精选AI 评分8080 Mistral 发布 Mistral 3 系列：含 Mistral Large 3 与 Ministral 3 小模型，全部 Apache 2.0 开源
Mistral 发布新一代模型系列 Mistral 3，包括 Mistral Large 3（41B 激活、675B 总参数的 MoE 模型）和 Ministral 3 的 3B、8B、14B 三种小模型，全部以 Apache 2.0 许可开源。
推荐理由：官方发布了完整模型规格、开源许可和部署路径，读者可以据此评估这批开源模型在自己的场景中是否可用。
Thinking Machines Lab：官方博客（RSS）精选AI 评分6464 Thinking Machines Lab 发布 On-Policy Distillation 方法：以更低成本逼近 RL 训练效果
Thinking Machines Lab 发布 On-Policy Distillation 博客，提出用教师模型对学生模型自采样轨迹逐 token 计算反向 KL 奖励，把 RL 的 on-policy 优势与蒸馏的密集反馈结合。
推荐理由：文章给出可复现的 on-policy distillation 配方和成本对比数据，读者可以据此判断它能否替代或补充现有 RL 与 SFT 训练流程。
Thinking Machines Lab：官方博客（RSS）精选AI 评分6666 Thinking Machines Lab 解析 LLM 推理非确定性的真正成因并发布批不变 kernel
Thinking Machines Lab 的 Horace He 发文指出，LLM 推理非确定性的主因不是并发加浮点误差，而是服务器负载变化导致 batch size 变化，使非批不变的 kernel 输出随批次改变。
推荐理由：原文指出 LLM 推理不确定性的真正根源是批大小变化而非并发原子加，并给出可复现的批不变 kernel 方案。
Mistral AI：News（网页）精选AI 评分7171 Mistral AI 发布首个推理模型 Magistral，含开源 24B 版本
Mistral AI 发布首个推理模型 Magistral，分为 Magistral Small（24B 参数，Apache 2.0 开源）和 Magistral Medium（企业版）两个版本。
推荐理由：官方发布同时给出开源小模型和 AIME 等基准分数，读者可以据此比较两个版本的能力与部署选择。
Lilian Weng：Lil'Log（RSS）精选AI 评分8080 Lilian Weng 长文解析 LLM 驱动的自主智能体系统
Lilian Weng 在博客发布长文，系统阐述以 LLM 为核心控制器的自主智能体架构，将其拆解为规划、记忆、工具使用三大组件。
推荐理由：文章把 LLM 智能体系统拆解为规划、记忆、工具使用三大组件，梳理了 ReAct、Reflexion 等代表方法与共同局限，便于建立整体认知框架。
Lilian Weng：Lil'Log（RSS）精选AI 评分7272 Lilian Weng 长文综述 Prompt Engineering：从零样本、CoT 到自动提示设计与 Toolformer
Lilian Weng 在 Lil'Log 发表 Prompt Engineering 长文，系统介绍不更新模型权重、靠提示引导大语言模型行为的方法。
推荐理由：Lilian Weng 系统梳理了从 few-shot 到 CoT、自洽采样和 Toolformer 的提示词方法，附带示例选择与偏差校准的可迁移经验。
Lilian Weng：Lil'Log（RSS）精选AI 评分7070 Lilian Weng 长文解读可控神经文本生成的主要方法
Lilian Weng 在 Lil'Log 发表长文，系统梳理如何引导无条件预训练语言模型生成可控内容，涵盖解码策略（温度采样、top-k、nucleus sampling。
推荐理由：文章系统梳理了在不改动语言模型权重与微调两条路线下的主要可控文本生成方法，并给出各自优劣与适用场景。