vLLM 宣布对月之暗面 Kimi K3 提供 Day-0 高效支持。Kimi K3 是 2.8 万亿参数的 MoE 多模态模型，每 token 激活 896 个专家中的 16 个，基于 Kimi Delta Attention 与 Attention Residuals，支持 1M token 上下文窗口。
推荐理由：vLLM 官方详述 Kimi K3 的服务适配与内核优化，读者可以据此了解 2.8T 混合 MoE 的生产部署配方和性能数据。
Berkeley AI Research 提出 ABBEL 框架，将 LLM 智能体的摘要以自然语言"信念状态"形式隔离并监督其信息内容，替代完整交互历史作为工作上下文。在协作编程基准 CollabBench 上，采用重建式信念评分的 ABBEL-rec-BG 将自摘要模型与全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值上下文 token 长度也低于全上下文设置。
DaoCloud 团队在 3 台 8 卡 B300 服务器（共 24 GPU）上以 4 Prefill + 1 Decode 分离拓扑部署 GLM-5.2-NVFP4，在 mean TTFT ≤ 2.5s、mean TPOT ≤ 20ms 的 SLA 下，将 16K 输入的 mean TPOT 从约 40ms 优化到约 17ms。
Google Research 发表 SymptomAI 论文，在 13,917 名参与者中测试基于 Gemini Flash 2.0 的五版实验性症状问诊智能体，所有诊断仅供研究分析。
推荐理由：原文给出 n=13,917 的随机对照研究设计和临床专家盲评结果，并展示了诊断与 Fitbit 生理信号的关联分析。
十字路口播客访谈生数科技张金涛，介绍月初发布的实时交互视频模型 Vidu S1：上传一张照片即可与 AI 角色实时视频通话，生成速度超过播放速度，实现 540P、25–42 FPS，支持无限时长并可在消费级显卡上运行。
Sebastian Raschka 撰文讲解推理模型如何支持多档推理力度（reasoning effort）设置。
Marc Andreessen 🇺🇸@pmarcaAI 评分5555AI has helped resolve an important question in statistics. In the area of multiple hypothesis testing, the goal of controlling the false discovery rate (FDR) has been introduced in a seminal paper by Benjamini and Hochberg (1995). They also introduced a method (the Benjamini-Hochberg or BH method) and proved it controls the FDR. This method has been widely adopted in modern high-throughput science, including in genomics, astronomy, economics, etc. The paper has has garnered more than 130,000 citations to date. However Benjamini and Hochberg showed FDR control only when the data for the individual tests are *independent*. In practice, these data are often dependent; a good example is data on genetic variants due to linkage disequilibrium. Later work has focused on extending the validity of the BH procedure, e.g., to a form of positive dependence by Benjamini and Yekutieli (2001). The question of when the BH procedure controls the FDR has remained open. Over the last twenty years, many authors, including Reiner-Benaim (2007), Kim and van de Wiel (2008), Benjamini (2010), Sarkar (2023), Sarkar and Zhang (2025), have conjectured that the BH procedure controls the FDR for two-sided tests using any correlated Gaussian data. These authors have presented both theoretical and empirical evidence supporting, but not directly showing, the conjecture. With the help of AI (specifically GPT-5.6 Sol Pro), I have settled the question in the negative: The Benjamini-Hochberg procedure does *not* generally control the false discovery rate at the desired level for correlated two-sided Gaussian tests. This was done by exhibiting a Gaussian factor model for which, at a nominal level alpha=0.01, the false discovery rate is proved to be FDR>0.0104. There is a lot of interesting commentary to be made: 1. This result should be of interest to everybody in the field of statistics. Emmanuel Candes of Stanford University once called the false discovery rate and the Benjamini-Hochberg procedure "one of the two most important developments in statistics after 1950" (the other being James-Stein shrinkage). The present conjecture is probably the most central question about FDR/BH that was unresolved to date. 2. GPT-5.6 one-shot the problem after 90 minutes of reasoning, whereas with 5.5 I was not able to solve it even after iterating with multiple parallel agents for perhaps 20 hours. So the capability improvement is quite real. Exciting times to live in! 3. The argument is not especially surprising, but it does combine an asymptotic approach (standard for FDR analysis, see e.g., Genovese and Wasserman, Efron, etc) with a numerical certificate in a way that would be pretty non-standard in the field. Once we have the specific example, then straightforward simulations also support that the false discovery rate is indeed higher than the nominal value (see attached fig). 4. The current degree of violation over the nominal level is relatively small (0.104 vs 0.1). So the importance of this result is mainly conceptual. The practical implications remain to be determined. Overall, an exciting development! Preprint is available here (https://faculty.wharton.upenn.edu/wp-content/uploads/2017/06/bh.pdf) and will be on arxiv tonight; supporting code is here (https://github.com/dobriban/BH).
Thinking Machines Lab 发布多模态 MoE 模型 Inkling，Together AI 在发布当天通过 Serverless 提供托管推理，支持 1M 上下文窗口和 OpenAI 兼容 API。
推荐理由：原文给出 Inkling 的架构细节、参数规模和初步评测数据，读者可以据此判断其推理与多模态能力是否适合接入。
Thinking Machines 在 Hugging Face 上发布开源多模态模型 Inkling，共 975B 总参数、41B 激活参数，支持 1M 上下文，原生接收图像、文本和音频输入，训练数据为 45 万亿 token，并同时发布 276B 总参数、12B 激活参数的 Inkling-Small。
推荐理由：文章给出了 Inkling 的架构细节、各档位 VRAM 需求和多条部署路径，便于读者评估在自己的硬件上运行哪种变体。
vLLM 通过 V1 的公开 connector 接口接入 TileRT 作为专用 decode 引擎，随 TileRT 0.1.5 发布，prefill、调度、前缀缓存与 API 均保持原生 vLLM 不变。
vLLM 与 AMD Quark 团队展示了在 AMD Instinct MI355X GPU 上训练和部署 EAGLE3 投机解码的完整流程，覆盖 Kimi-K2.5 与 MiniMax-M2.5，并用 InferenceX 做基准测试。
Google DeepMind BlueShift 负责人 Adam Brown 在播客中深入浅出讲解广义相对论，从爱因斯坦“最快乐的思想”出发，解释引力为何是弯曲时空的产物而非一种力，并讲解黑洞为何无法被用来提取无限能量。节目最后还讨论了 AI 距离从零重新发现广义相对论还有多远。
Hugging Face 宣布 vLLM 的 transformers 建模后端现在达到甚至超过 vLLM 原生实现的吞吐速度，模型作者无需移植代码即可用 --model-impl transformers 获得 vLLM 级推理性能。
推荐理由：官方给出了与 vLLM 原生实现对比的具体吞吐数字和使用方法，读者可以据此判断是否切换到自己已有的 transformers 模型工作流。
Import AI 464 期报道：Fable 在 RTX PRO 6000 Blackwell 上写出 CUDA megakernel，相比优化 PyTorch 基线取得 18.71X 加速。
Lilian Weng 在 Lil'Log 发表长文，梳理 harness 工程研究如何服务于递归自我改进（RSI）。
推荐理由：作者系统梳理了 harness 工程与递归自我改进的关系，并给出可迁移的设计模式、优化路径和七大未解瓶颈。
美团发布 LongCat-2.0，一个总参数 1.6 万亿、每 token 激活约 480 亿的 MoE 大语言模型，训练与部署完全基于 AI ASIC 超节点，预训练消耗超过 35 万亿 token。
美团 LongCat 团队发布 LongCat-2.0，总参数 1.6 万亿、每 token 激活约 480 亿的 MoE 大语言模型，权重以 MIT 协议开源。
Mistral AI 发布 Apache-2.0 协议的 Leanstral 1.5，总参数 119B、激活 6B，专注 Lean 4 形式化证明工程。
Dwarkesh Patel 发布与 3Blue1Brown 主理人 Grant Sanderson 的播客对谈，讨论 AI 在数学领域的快速进展及其对其他领域的预示。两人探讨了 IMO 表现、黎曼假设的可能证明形态、概念性突破的百年验证周期、AI 连接不同数学领域的潜力，以及现实任务为何难以纳入 RL 环境，并谈到数学家未来可能转向策展与解释角色。
Together AI 宣布其 9 篇论文入选 ICML 2026（7 月 6 日至 11 日，首尔，展位 B714），覆盖从智能体到 GPU kernel 的全栈研究。
Nous Research 在 GitHub 开源 speculators，一个用于构建、评估和存储 LLM 推理投机解码算法的统一库，面向 vLLM。该库将投机解码算法的开发、评测与存储整合到同一套工具中。
vLLM Semantic Router 团队推出 Micro-Agent 能力，把单次模型 API 调用变成服务层内有界的多模型协作，用户仍只调用一个模型名 vllm-sr/auto。
Dwarkesh Patel 撰文提出，实验室押注 RLVR 在数千环境中训练可通向 AGI，但仅在会话内学习不够，真正的下一个范式是让 AI 从部署后的真实经验中持续学习并回写到权重。
推荐理由：作者用计算机使用进度慢的例子说明可验证性之外还需可反复模拟性，并给出把部署经验蒸馏回权重的可能路径。
DeepSeek 在 GitHub 发布 DeepSpec，一个用于训练和评测投机解码（speculative decoding）算法的全栈代码库。该仓库同时覆盖算法训练与效果评测两个环节，面向投机解码这一推理加速方向提供完整实现。
Google Research 将在 COLM 2026 发表的论文 Thinking to Recall 发现，开启链式推理能让 Gemini-2.5（Flash 和 Pro）与 Qwen3-32B 检索到关闭推理时几乎无法召回的简单事实。
vLLM 宣布对 MiniMax M3 家族的 day-0 支持，涵盖 MiniMaxAI/MiniMax-M3 与 MiniMax-M3-MXFP8 两个检查点，支持 1M token 上下文和图像、视频多模态输入。
推荐理由：vLLM 团队自己拆解了 day-0 支持背后的 MSA 内核、缓存和部署细节，读者可以按需套用其部署配方。
Google DeepMind 发布实验性开源模型 DiffusionGemma，基于文本扩散方法，在专用 GPU 上实现最高 4 倍的文本生成提速。该模型为 26B 总参数的 MoE，推理时仅激活 3.8B 参数，量化后可装入 18GB 显存，单张 NVIDIA H100 上超过 1000 tokens 每秒，RTX 5090 上超过 700 tokens 每秒。
推荐理由：官方给出具体吞吐数字、显存占用和质量取舍，读者可据此判断它适不适合本地交互式工作流。
Google DeepMind 与 vLLM 团队合作，将 26B 参数、基于 Gemma4 的离散扩散语言模型 DiffusionGemma 接入 vLLM，这是 vLLM 首个原生支持的 dLLM。
推荐理由：原文详解了扩散语言模型的解码机制和 vLLM 的 ModelState 接入方案，并给出 H200 上的吞吐数据，对推理工程实践有直接参考价值。
Andrej Karpathy@karpathy精选AI 评分7676Fable 5 is state-of-the-art on nearly all tested benchmarks, with exceptional performance in software engineering, knowledge work, scientific research, and vision. The longer and more complex the task, the larger Fable 5’s lead over our other models.
推荐理由：作者补充了基准之外的第一手使用感受，指出长难题求解能力跃升和安全护栏偏敏感，可作选型参考。
vLLM 社区发布开源 RL 后训练框架 vime（Apache 2.0），基于 slime 的训练栈和数据生成设计，将 Megatron 训练与 vLLM 推理接入同一条解耦管线。
Ahead of AI 发布 2026 年 1 月至 5 月的 LLM 研究论文精选清单，按架构与模型设计、高效训练与扩展、推理效率与 KV Cache、稀疏注意力与长上下文、推理与测试时计算、强化学习与 RLVR、智能体系统与工具使用、编码智能体与软件工程、扩散语言模型、模型评估与基准等类别整理。
NVIDIA 宣布 Nemotron 3 Ultra 在 vLLM 上获得 Day-0 支持。该开源模型采用混合 Transformer-Mamba 潜在 MoE 架构，总参数 550B、激活 55B，上下文最长 1M tokens，支持 NVFP4 与 BF16 精度，面向长时程自主智能体工作流。
推荐理由：官方给出架构细节、显存配置和 vLLM 部署命令，读者可以直接照此在自有环境里跑通该模型。
Intel 的 AutoRound 训练后量化算法已完整集成进 vLLM-Omni，支持 W4A16 量化并实现"一次量化、直接部署"流程。Qwen3-Omni-30B-A3B 的 checkpoint 从 66 GB 降至 25 GB，体积减少最多 62%，其 W4A16 版本在 OmniBench 上得分略优于 BF16 参考，文生图质量漂移仅约 1.3%。
Together AI 详细解析其为 MiniMax M3 做的生产级推理优化，M3 支持 1M token 上下文窗口、原生多模态和 MiniMax Sparse Attention（MSA）架构，MSA 使 prefill 提速超过 9x、decode 提速超过 15x。
Fuli Luo@_LuoFuliAI 评分4747小米 MiMo-V2.5 与 MiMo-V2.5-Pro 基于 Hybrid SWA 架构，将 KVCache 存储压缩至 Full Attention 的约 1/7。
Fuli Luo@_LuoFuliAI 评分6161MiMo 宣布 API 降价，Input (Cache Hit) 最高降 99%，Input (Cache Miss) 和 Output 降 60%-80%。
Ethan Mollick 撰文讨论 AI 无处不在的写作与认知投降风险，指出无脑依赖 AI 会削弱思考与学习。他引用土耳其约千名高中生的实验，用普通 ChatGPT 做作业的学生考试成绩反而低于无 AI 组；而台北十所高中近千名学生的 Python 课程中，AI 导师个性化出题让学生在无 AI 期末考试中高出 0.15 个标准差，相当于六到九个月额外学业。
推荐理由：作者结合多项实验研究和自身写作经验，分析了默认依赖 AI 如何导致认知投降，并给出学习场景下避免捷径的具体做法。
Jack Clark 发布 Import AI 458，收录他在牛津大学 HAI Lab 的 2026 Cosmos 演讲及一篇关于正面奇点的虚构故事。
Together AI 发布面向编码智能体的高并发推理基准，用 4×NVIDIA B200 在 Kimi K2.5 上对比 Together Inference Engine、TensorRT-LLM 与 SGLang。
