Sebastian Raschka 解读近期 LLM 架构进展：Gemma 4 的 KV 共享、mHC 与压缩注意力

Sebastian Raschka 梳理 2026 年 4 至 5 月主要开源权重 LLM 的架构变化，核心主题是长上下文效率。

Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目

Google DeepMind 与新加坡政府达成国家 AI 合作，在新加坡推出医疗、科研、教育和气候等领域的新项目。合作探索 AI 辅助临床的"三方照护"模式，用 AlphaFold 和 Google Earth 推进东南亚传染病研究与疫情防控，并向新加坡中小学至初级学院全体教育工作者提供 Gemini for Education。

剑桥大学教授用 Google Co-Scientist 寻找跨物种传播疾病的分子开关

剑桥大学 Clare Bryant 教授使用 Google Co-Scientist 研究流感等病原体跨物种传播时引发脓毒症等重症的分子开关。Co-Scientist 生成并排序了一批假说，其中优先锁定了一个她此前未关注的蛋白，并逐步将假说细化到具体氨基酸。Bryant 团队正构建含氨基酸突变的细胞系验证，原本需两到三年的实验工作有望在六个月内完成。

Google DeepMind Co-Scientist 如何助力 Calico 探索衰老生物学

Calico Life Sciences 的 Matt Onsum 与 Katherine Labbé 正使用 Google DeepMind 的 Co-Scientist 整合衰老生物学中零散的研究发现，并将其转化为可验证的假设。

Google Co-Scientist 加速肝病机制发现

爱丁堡大学团队用 Google Co-Scientist 研究 MASH 肝病，系统整合肝脏生物学与药理学证据，提出将 NLRP3 炎症小体作为连接炎症与代谢的分子桥梁这一新假设，并经实验验证。该假设或为靶向联合疗法铺路，也解释了 resmetirom 为何仅对少数符合条件的患者有效。

Google Co-Scientist 如何连接 MIT 与波士顿儿童医院实验室，探索 ALS 新疗法

Google Co-Scientist 帮助 MIT 机械工程师 Ritu Raman 快速梳理 ALS 相关矛盾文献，将想法转化为可检验假设并按可行性与风险收益排序。

Google DeepMind 报道 Stanford 团队用 Co-Scientist 找到抗肝纤维化的重定位药物

Stanford 医学院遗传学家 Gary Peltz 团队在 Advanced Science 发表研究，用 Google DeepMind 的 Co-Scientist 从现有药物文献中筛选可重定位治疗肝纤维化的候选药物。

Google DeepMind复盘WeatherNext如何帮助NHC提前五天预测飓风Melissa牙买加登陆

Google DeepMind发文复盘，其AI气象模型WeatherNext帮助美国国家飓风中心（NHC）提前五天以80%置信度预测飓风Melissa将以五级强度登陆牙买加，三天前置信度升至接近100%。

Google DeepMind 发布 Gemini 3.5，率先推出 3.5 Flash

Google DeepMind 发布 Gemini 3.5 模型系列，首发的 3.5 Flash 已在 Gemini 应用、Search AI Mode、Google Antigravity、Gemini API 和 Gemini Enterprise 上线。

Google DeepMind 发表 Co-Scientist 多智能体科学假设生成系统，并通过 Hypothesis Generation 开放研究者注册

Google DeepMind 在 Nature 发表 Co-Scientist 研究，推出基于 Gemini 的多智能体系统，通过生成、辩论和进化假设来加速复杂科学问题研究，并将在未来几周通过 labs.google/science 向个人研究者开放。

Google DeepMind 回顾 AlphaEvolve 一年跨领域影响：覆盖基因组学、电网、量子计算与商业应用

Google DeepMind 发布 AlphaEvolve（基于 Gemini 的编码智能体）一年来的影响汇总。

Google Research 如何通过全球合作与开放资源推动科学影响

Google Research 公布其开放科学资源进展：十余年积累的开源工具与开放数据集已服务全球超 25 万名研究者和开发者。

Sierra 发布 𝜏-voice 基准：在真实音频条件下评测实时语音智能体

Sierra 联合普林斯顿发布 𝜏-voice 基准，将 𝜏-bench 的 278 个客服任务与全双工语音、环境噪声、电话压缩等真实音频条件结合，统一评测任务完成与对话动态。

Google DeepMind 发布 AI co-clinician 医疗协作智能体研究

Google DeepMind 宣布 AI co-clinician 研究计划，探索在医生临床监督下辅助患者照护的 AI 智能体。在 98 个真实初级保健问题的盲评中，该系统在 97 例中零关键错误，优于两种医生广泛使用的 AI 系统；在 OpenFDA RxQA 开放式用药问答上超越其他前沿模型。

Google Research 展示科学家使用 Empirical Research Assistance 的四个方向

Google Research 介绍了科学家及学术合作者使用 Empirical Research Assistance（ERA）开展研究的四个方向。公共卫生方面，团队将 COVID-19 住院预测扩展到流感和 RSV，并每周实时向 CDC 相关项目提交预报，在流感与 COVID-19 公开排行榜上处于或接近榜首。

Google DeepMind 与韩国科学技术信息通信部达成合作，将设立首尔 AI Campus

Google DeepMind 宣布与韩国科学技术信息通信部（MSIT）建立新合作，属于其 National Partnerships for AI 计划的一部分。

Google Photos Auto frame 上线 3D 视角重排功能，可改变照片拍摄视角

Google 宣布其新方法已在 Google Photos 的 Auto frame 功能中上线，用 ML 模型估计 3D 点图和相机参数，再用生成式扩散模型补全新视角下原先未拍到的内容，实现拍摄后的视角重排。方法分 3D 场景与相机估计、生成式修补两阶段，可自动调整人像构图并校正广角前置镜头的透视畸变，对含人物的合格照片提供单次操作的备选 rendition。

Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

Google DeepMind 发布 Decoupled DiLoCo（分布式低通信）架构，将训练拆分到异步解耦的计算岛（learner units），隔离硬件故障让其他部分继续训练。

Google Research 发布 ReasoningBank 框架，让智能体从成功与失败经验中学习

Google Research 在 ICLR 论文中提出智能体记忆框架 ReasoningBank，可从成功和失败经验中蒸馏结构化推理记忆用于测试时自我进化，并开源了代码。

Google DeepMind 与埃森哲、贝恩、BCG、德勤、麦肯锡合作加速企业 AI 转型

Google DeepMind 宣布与 Accenture、Bain & Company、BCG、Deloitte、McKinsey 合作，推动前沿 AI 在企业的大规模落地。合作包含三大支柱：共建行业专属 AI 能力、让合作伙伴提前使用 Gemini 系列等前沿模型、以及对接 DeepMind 领导层与客户 CEO 和董事会。目前仅 25% 的组织成功将 AI 规模化投入生产。

Sierra 开源多语言语音转写评测基准 μ-Bench

Sierra 开源 μ-Bench，包含五种语言 locale、五家 provider、来自 250 段真实 8 kHz 电话录音的 4,270 条人工标注语料。

Google Research 提出 Simula：基于机制设计的合成数据生成框架

Google Research 提出推理优先的合成数据生成框架 Simula，将数据集构建重构为机制设计问题，通过全局多样化、局部多样化、复杂化和双评审质量检查四个步骤，独立控制覆盖度、复杂度与质量。

Google Research 用 AI 合成神经元加速脑图谱重建，MoGen 将误差降低 4.4%

Google Research 提出 MoGen 神经元形态生成模型，用合成神经元形状增强 PATHFINDER 重建模型的训练数据，将小鼠轴突重建误差降低 4.4%，主要来自合并错误的减少。

Google DeepMind 发布 Gemini 3.1 Flash TTS，新增 audio tags 精细语音控制

Google DeepMind 发布文本转语音模型 Gemini 3.1 Flash TTS，提升语音质量、表现力与可控性。

Google 推出 Vantage：用生成式 AI 评估未来技能

Google 发布研究实验 Vantage，通过生成式 AI 在模拟环境中创建对话，评估高中和大学生的未来技能，现已上线 Google Labs 并开放英文注册。Vantage 与纽约大学合作开发，由 Executive LLM 动态引导对话、AI Evaluator 依据评分标准打分，188 名 18-25 岁美国测试者的研究显示其评分与人类专家一致。

Google DeepMind 发布 Gemini Robotics-ER 1.6，强化机器人具身推理

Google DeepMind 发布 Gemini Robotics-ER 1.6，相比 Gemini Robotics-ER 1.5 和 Gemini 3.0 Flash 提升了空间与物理推理能力，包括指向、计数、成功检测和多视角理解。

Google Research 发布 ConvApparel：测量并弥合用户模拟器的真实感差距

Google Research 推出 ConvApparel 数据集，包含服装购物领域超 4000 段人机多轮对话、近 15000 轮交互，用于量化 LLM 用户模拟器与真实人类的真实感差距。

Google 推出 PaperVizAgent 与 ScholarPeer 两个学术 AI 智能体

Google 发布两个学术智能体框架：PaperVizAgent 用于生成论文配图，ScholarPeer 用于自动同行评审。PaperVizAgent 由检索、规划、风格、可视化和评审五个智能体协作，在 0-100 分评测中总分 60.2，超过 GPT-Image-1.5、Nano-Banana-Pro、Paper2Any 等基线，是唯一超过 50.0 人类基线的框架。

Google Research 发布评估 LLM 行为倾向与人类对齐的框架

Google Research 提出一个评估 LLM 行为倾向的框架，将 IRI、ERQ 等标准化心理问卷改编为情境判断测试（SJT），在 25 个 LLM 上比较模型与人类标注者的行为分布。

Google DeepMind 发布 Gemma 4 开源模型，含 E2B、E4B、26B MoE 和 31B 四个尺寸

Google DeepMind 发布 Gemma 4 开源模型，主打高级推理与智能体工作流，采用 Apache 2.0 许可，提供 E2B、E4B、26B MoE 和 31B Dense 四个尺寸。

Ethan Mollick 谈 Claude Dispatch 与 AI 界面的力量

Ethan Mollick 撰文指出，AI 能力被聊天机器人界面拖累，一篇让金融从业者用 GPT-4o 做估值任务的研究发现，AI 输出的大量文本增加了认知负荷，抵消了部分生产力收益。

Google Research 研究：AI 基准测试需要多少标注者才够？

Google Research 在《Forest vs Tree: The (N, K) Trade-off in Reproducible ML Evaluation》中研究了标注条目数与每条目标注者数的权衡，发现常用的每条目 1、3、5 名标注者往往不足，可靠结果常需超过 10 名。

Google DeepMind 推出由 Gemini 驱动的 AI 指针交互

Google DeepMind 发布 AI 指针实验方案，让指针借助 Gemini 理解所指内容与用户意图，并提出保持流、看即说、用 this/that、像素变实体四条交互原则。用户已可在 Google AI Studio 和 Gemini in Chrome 中通过指向加语音操作网页，Googlebook 将推出 Magic Pointer。

Noam Shazeer@NoamShazeerAI 评分6868

Google 发布 Gemini 3.1 Flash Live，主打生产级可靠性，供开发者和企业构建能大规模完成复杂任务的语音优先智能体。模型在 ComplexFuncBench Audio（多步函数调用）和 Scale AI 的 AudioMultiChallenge（长程推理，支持打断）上领先，原生多语言，已支撑 Search Live 的推出。

Google 推出 Vibe Coding XR：用 Gemini 和 XR Blocks 加速 AI + XR 原型开发

Google 发布 Vibe Coding XR 工作流，结合 Gemini 的长上下文推理与基于 WebXR、three.js、LiteRT.js 的 XR Blocks 框架，可将自然语言在 60 秒内转化为可运行的 Android XR 应用。

Google Research 推出 TurboQuant：用极致压缩重新定义 AI 效率

Google Research 发布压缩算法 TurboQuant，在零精度损失下大幅压缩模型体积，可同时用于 KV cache 压缩与向量搜索。它结合 PolarQuant 与 QJL 两种方法：前者通过随机旋转与极坐标量化消除传统量化每块数据需全精度存储常数的内存开销，后者仅用 1 bit 残差纠偏。

Google Research 推出 S2Vec：用自监督嵌入学习城市建成环境

Google Research 发布自监督框架 S2Vec，将道路、建筑、商业设施等建成环境特征栅格化为多层图像，再用掩码自编码（MAE）学习通用嵌入向量。在 US-wide 人口密度、收入中位数等社会经济预测的零样本地理外推任务中，S2Vec 通常是最佳单一模型，与图像嵌入做多模态融合后效果普遍优于任一单模态；但在树木覆盖、海拔等环境任务上仍需改进。

Sierra 发布 𝜏³-Bench，将智能体评测扩展到知识库与实时语音

Sierra 发布 𝜏³-Bench，在 𝜏-Bench 基础上新增 𝜏-Knowledge 和 𝜏-Voice 两个评测域，并合并社区对原有领域的修正。

Google Research 在 The Check Up 展示医疗 AI 进展：从个性化健康到临床落地

Google Research 在 The Check Up 活动上公布多项医疗 AI 进展，包括与 Fitbit 合作研究的 Personal Health Agent（PHA），可整合数据科学家、领域专家与健康教练角色提供长期健康支持。

Google Research 在 Nature Cancer 发表两项 AI 乳腺癌筛查研究

Google Research 与 NHS 合作的 AIMS 研究在 Nature Cancer 发表两项研究，评估 AI 乳腺癌检测系统。