CDC 评估显示 Google AI 流感住院预测模型在 2025-26 赛季排名第一
CDC 宣布，在 2025-26 流感季 FluSight 39 个合规模型中，Google AI 构建的流感住院预测模型与实际观察到的住院数据吻合度最佳。FluSight 每周汇集政府、行业和学术团队对美国当周及未来三周住院人数的预测，用于沟通州级医疗服务需求。该预测使用了生成优化算法的 AI 工具 ERA，相关研究已发表于《Nature》，ERA 技术现已向受信任测试者开放。
#论文/研究
#论文/研究
今日 173 条Google Blog：AI（RSS）AI 评分5252 HuggingFace Daily Papers（社区热门论文）AI 评分4444 同族模型在线策略蒸馏的缩放规律研究
研究揭示在线策略蒸馏（OPD）在弱到强、同基座和强到弱师生设置下的缩放规律：早期训练中，留出准确率（gold score）随学生初始化 token 级反向 KL 散度的平方根近似线性上升。
HuggingFace Daily Papers（社区热门论文）AI 评分5656 研究揭示分块 KV-cache 压缩导致模型出现周期性相位敏感弱位
论文发现采用分块 KV-cache 压缩的模型存在相位敏感，检索准确率随压缩 stride 周期性波动，弱位置足以翻转答案。在 DeepSeek-V4 系列上，128K tokens 下最优与最差相位组差距达 15 到 40 个点；从零预训练的 0.6B 对照实验显示周期始终跟随 stride，full attention 各位置差距仅 6.1 个点而压缩模型可达 78 个点。
Nature：Machine Learning 主题（RSS）AI 评分4949 语音“衰老时钟”：AI 通过声音特征评估衰老速度
科学家开发出一款“语音时钟”，通过音高、语速等数百项声音特征预测人的年龄，并计算“语音年龄差”。研究基于阿根廷、智利、哥伦比亚、墨西哥和秘鲁 2928 名西班牙语使用者的录音，用机器学习提取 700 多项随衰老和痴呆变化的语音特征。较大的语音年龄差与痴呆等认知问题强烈相关，成果已发表于 Science Advances。
Anthropic：Research（发表成果 · 网页）精选AI 评分6969 Anthropic 研究测算机器人对各类工作的暴露度，驾驶和仓储岗位最靠前
Anthropic 发布机器人职业暴露研究，用 Claude 对约 19,000 项工作任务评分，发现机器人目前可完成美国 74% 的体力任务、占 34% 工时，但仅在有限环境中，且只在 0.3% 的任务上具备成本竞争力。
推荐理由：报告用当前机器人能力测度职业暴露，给出了成本竞争力等量化门槛，可帮助读者评估哪些体力工作更早受影响。
Microsoft Research 博客（RSS）AI 评分4747 微软研究院用机器学习预测电网空间天气风险
微软研究院实习生开发了一套端到端机器学习流水线，为美国本土 66,935 座变电站生成空间天气风险预测，可在风险出现前 30 至 60 分钟预警。系统结合 AE 与 Dst 指数预测、纬度、地质电导率和电网数据，评估期内检测到近 80% 的重大空间天气事件，其中 Dst 预测在 62.2% 的高活跃时段优于 Burton 方程。
Apple Machine Learning Research（RSS）AI 评分4141 LLM 条件控制中的有效性-流畅性权衡：一项系统性研究
研究系统考察了 LLM 概念注入与移除场景下的多种条件控制方法，发现高效激活引导（activation steering）方法常以流畅性大幅下降为代价。激活引导在指令微调模型上的效果远不如基座模型，而简单提示词与完整监督微调适合概念注入、却不擅长概念移除。低成本文本指标与昂贵的 LLM-as-judge 评分高度相关。
Google Developers Blog（RSS）AI 评分4343 如何在 TPU 上加速视频扩散模型的时空注意力
Google 在 TPU 上通过稀疏注意力内核优化加速视频扩散模型的时空注意力计算。视频扩散中自注意力在单层延迟占比可从 720p 的 55.5% 升至 1440p 的 88.2%。
Nature：Machine Learning 主题（RSS）AI 评分2828 FinnGen 人群规模免疫多组学图谱揭示疾病调控机制
FinnGen 研究团队构建了人群规模的免疫多组学图谱，通过单核 caQTL、eQTL 与 peak–gene link 分析揭示调控性疾病的遗传机制。相关汇总统计数据已公开并可交互浏览，个体级单核计数矩阵等数据需经审批后向研究者开放。研究还整合了 BBJ、日本 COVID-19 工作组及 eQTL Catalogue、TenK10K、SingleBrain 等数据集进行再分析。
Nature：Machine Learning 主题（RSS）AI 评分5454 Google DeepMind 在 Nature 发布 SynthIDBio，为 AI 设计蛋白嵌入隐形水印
Google DeepMind 团队在 Nature 描述了一套名为 SynthIDBio 的水印系统，通过在氨基酸序列和三维结构中编织微弱统计特征，为 AI 设计的蛋白质打上可检测的隐形标记，且不明显损害其结合病毒感染、血管生成和免疫调节相关靶点的功能。
404 Media（RSS）AI 评分5353 研究指出 Cloudflare、Google 等基础设施服务商支撑深度伪造滥用网站
斯坦福 Journal of Online Trust and Safety 刊发新论文，研究者在 2 月至 3 月的六周内从 400 个 URL 中筛出 88 个托管非自愿 AI 亲密图像的活跃网站。
Ars Technica：AI（RSS）AI 评分5656 Google DeepMind 发表 SynthIDBio，为 AI 设计的蛋白质添加水印以辅助生物安全筛查
Google DeepMind 发表研究，推出 SynthIDBio 技术，可在 ProteinMPNN 设计蛋白质的过程中嵌入不影响功能的水印，验证显示带水印的蛋白质仍能结合目标。
Transluce（网页）AI 评分5555 Transluce 将 Activation Oracles 扩展到 1.1T 参数模型，性能随模型与数据规模提升
Transluce 训练激活预言机，用于分析模型内部激活以检测其行为，并扩展到最高 1.1T 参数的模型（包括 Kimi-K2.6 INT4），发现性能随模型规模、数据规模和数据质量提升。预言机在预测语言切换、检测编程智能体 reward hacking 等任务上取得成功，并采用全层激活读取架构，结合 LoRA 微调在 8xB200 上完成训练。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3535 Anthropic 发布 Transformer 逆向工程非正式讨论视频
Anthropic 在 Transformer Circuits 项目中录制了若干非正式视频，讨论逆向工程神经网络（尤其是 Transformer）的早期思路，用于与其他机构同事交流。这些视频内容粗糙、可能存在错误，作者提醒观众谨慎对待，并称其已被更完善的论文《A Mathematical Framework for Transformer Circuits》取代。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3939 Anthropic 可解释性研究：机制可解释性、变量与可解释基的重要性
Anthropic 的 Transformer Circuits 可解释性研究笔记提出，机制可解释性可类比为对编译后二进制程序的逆向工程，网络参数对应程序二进制、网络架构对应虚拟机、神经元激活对应变量或内存。作者认为，找到并理解可解释神经元——类似理解程序中的变量——可能是机制可解释性的核心任务，而逆向工程常规程序的经验表明，理解参数这一有限描述是绕开维度灾难的关键路径。
Anthropic：Transformer Circuits（可解释性研究）AI 评分5454 Anthropic 提出 SoLU 激活函数，提升 Transformer 神经元可解释性
Anthropic 在 Transformer Circuits 发表研究，提出用 SoLU（softmax 线性单元）替代 GeLU 激活函数，在盲测实验中将 MLP 神经元可快速解释的比例从约 35% 提升到约 60%，且测试损失和下游 NLP 评测与基线模型大致相当。
Anthropic：Transformer Circuits（可解释性研究）AI 评分5050 Anthropic 研究探究 Transformer 残差流中的特权基现象，初步指向 Adam 优化器
Anthropic Transformer Circuits 团队研究 Transformer 残差流中为什么会出现与标准基对齐的极端离群值（单个坐标可达其他坐标 20 倍以上），理论上残差流各坐标本不应有特殊意义。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4242 Anthropic 解读分布式表征：组合与叠加是两种相互竞争的策略
Anthropic 的可解释性研究笔记指出，"分布式表征"实际包含"组合"与"叠加"两种不同且相互竞争的策略，二者在泛化能力和可线性计算的函数上性质迥异，且存在根本性权衡。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3434 Anthropic 可解释性团队 Circuits Updates：2023 年 7 月研究进展
Anthropic 可解释性团队发布 2023 年 7 月 Circuits Updates，汇总多项尚在萌芽阶段的研究想法。团队重新审视了 Superposition、Memorization 与 Double Descent 中的中间数据区间，认为此前疑似反例的现象实为低维优化失败造成的假象，并发现模型在约 1k 至 500k 样本间会从记忆单点转向记忆相关数据簇。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4141 Anthropic 可解释性团队 Circuits Updates（2024 年 1 月）：注意力叠加、字典学习与 MNIST 模型稀疏特征
Anthropic 可解释性团队发布 2024 年 1 月 Circuits Updates，汇总注意力叠加、字典学习等阶段性研究。团队未来数月将聚焦三个方向：字典学习的规模化与科学化、用字典学习攻击真实模型中的注意力叠加、以及在此基础上理解电路。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3939 Anthropic 可解释性团队 Circuits Updates（2024 年 2 月）：字典学习中的死亡特征与改进
Anthropic 可解释性团队发布 2024 年 2 月 Circuits Updates，聚焦稀疏自编码器字典学习中的"超低密度特征"问题，认为这类特征因 L1 正则惩罚在找到有用方向前就被杀死。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4040 Anthropic 可解释性团队 2024 年 3 月 Circuits 研究更新
Anthropic 可解释性团队发布 2024 年 3 月 Circuits 更新，展示用稀疏自编码器（SAE）特征替代行为数据集来定位语言模型电路。在 18 层模型第 9 层残差流上，团队用归因分数自动识别出篮球、棒球、网球特征，并找到对篮球特征产生最大直接 logit 效应的注意力头，主要位于第 11、13、14 层。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3838 Anthropic 可解释性团队 Circuits Updates：TopK 与 Gated SAE 对比研究
Anthropic 可解释性团队复现了 TopK SAE 与 Gated SAE 相对标准 L1 惩罚 SAE 的改进，确认两者在 L0/MSE 权衡上均有显著提升且表现相近。在 100 个特征的盲评中，TopK 与 Gated SAE 的特征可解释性未见明显退化，但 TopK 在高密度区间特征更多、平均激活变化更大。团队尚未实现 Gao 等人用于防止死特征的 Ghost Grads 变体。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4444 Anthropic 可解释性团队 Circuits Updates：五大障碍、线性表示与神经网络暗物质
Anthropic 可解释性团队发布 Circuits Updates（2024 年 7 月），汇总五项小型研究进展：叠加问题取得显著进展后浮现的"下一个五大障碍"、什么是线性表示、什么是多维特征、神经网络的暗物质，以及用数据集过滤测量特征敏感度。团队称这些属于初步实验性想法，而非成熟论文，其中"五大障碍"包括缺失特征、跨层叠加、注意力叠加与干扰权重等。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4141 Anthropic 可解释性团队 Circuits Updates：字典学习可解释性评测与 SAE 特征自解释
Anthropic 可解释性团队发布 Circuits Updates，提出两种量化自动可解释性方法，通过测量 Claude 能否借助特征可视化工具准确预测特征激活，来评测字典学习特征的可解释性。其中对比评测用正负句对找出仅对一侧激活的特征，用于衡量特征是否精确对应可解释概念；团队同时给出自解释 SAE 特征的案例研究，并强调这些结果属于初步实验而非成熟论文。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4646 Anthropic 可解释性团队：用字典学习特征训练生物武器危害分类器
Anthropic 可解释性团队初步实验显示，用字典学习得到的特征激活训练生物武器危害分类器，在部分场景下可媲美甚至超过基于原始激活的线性探针，尤其在合成数据上采用上下文 max-pooling 时表现更优。基于特征的决策树性能较弱但更易解释，可视化线性特征分类器还能发现数据集中的虚假相关并据此构造对抗攻击。不过使用特征显著增加复杂度，原始激活仍是强基线。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4040 Anthropic 可解释性团队 Circuits Updates：稀疏自编码器与 crosscoder 的字典学习优化技巧
Anthropic 可解释性团队分享了训练稀疏自编码器和 crosscoder 的字典学习优化设置，包括 JumpReLU 激活、tanh 稀疏惩罚和 pre-act loss 等技巧。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4747 Anthropic 可解释性团队：Crosscoder 模型差异分析中独占特征更稠密多义的初步发现
Anthropic 可解释性团队发现，crosscoder 模型差异分析中仅属于单一模型的特征往往更稠密、更多义，激活频率比共享特征高约一个数量级，原因可能是共享特征已能解释两个模型的神经元激活，独占特征需编码更多信息才能争取到特征容量。团队提出给一小部分指定共享特征降低稀疏惩罚的缓解策略，使独占特征更易解释、更单义，并在真实模型上成功分离出可解释的行为差异特征。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4545 Anthropic 可解释性团队发布注意力机制研究进展：发现注意力叠加与跨层表示证据
Anthropic 可解释性团队报告在真实语言模型中发现注意力叠加（attention superposition）与跨层注意力表示的显著证据，并提出 Multi-Token Transcoders 作为研究 QK 与 OV 条件耦合的实用方法。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4343 Anthropic 可解释性团队 Circuits Updates：失败越狱、可解释稠密特征与入门指南
Anthropic 可解释性团队发布 2025 年 4 月 Circuits Updates，包含失败越狱案例、可解释稠密特征和机制可解释性入门三篇短文。其中对一次失败越狱的电路追踪显示，模型拒绝该提示的原因与论文中基线拒绝不同，且拒绝频率更高，提示词中"make"换成"detect"后模型仍会拒绝。团队称这些属于初步实验，非成熟论文。
Anthropic：Transformer Circuits（可解释性研究）AI 评分5959 Anthropic 开发三个对齐审计智能体并用审计游戏验证其能力与局限
Anthropic 开发了三个自主执行对齐审计任务的智能体，并在含植入缺陷的目标模型上验证。调查智能体在真实条件下以 13% 的成功率解开 Marks et al. 审计游戏，通过外层智能体循环聚合多次调查提升到 42%；评估智能体构建的行为评估在 88% 的运行中区分出有无植入行为的模型；广度优先红队智能体发现 10 个植入行为中的 7 个。
Anthropic：Transformer Circuits（可解释性研究）AI 评分3232 Anthropic 可解释性研究更新：用特征语言重访 Transformer 数学框架，并将可解释性应用于生物学
Anthropic 可解释性团队发布 7 月研究更新，用特征语言重访《A Mathematical Framework for Transformer Circuits》，重新解释 copy head、previous token head 和 induction head 的 OV 与 QK 电路。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4747 Anthropic 提出稀疏线性变换混合 MOLT，作为 transcoder 的替代方案
Anthropic 可解释性团队提出稀疏线性变换混合（MOLT），用稀疏激活的线性变换替代 MLP 层，比 transcoder 更省算力、更忠实于模型机制。MOLT 学习的是对残差流施加线性变换的计算单元，而非嵌入激活空间方向的稀疏特征，可标注 attribution graph 的边。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4444 Anthropic 可解释性研究：当 transcoder 失灵，机制忠实性的玩具模型
Anthropic 的 Chris Olah 发布非正式笔记，用玩具模型展示 transcoder 的机制不忠实问题：在 x→abs(x) 任务中，模型本身没有对重复数据点 p 的特殊概念，但 transcoder 会学出专门激活并输出 p 的"数据点特征"，以不同计算机制实现低 MSE 和单义性。作者提出"Jacobian matching"或可缓解该问题，并强调这仍是初步结果，需低置信度看待。
Anthropic：Transformer Circuits（可解释性研究）AI 评分4242 Anthropic 可解释性研究：persona 如何改变 Claude 的回答
Anthropic 可解释性团队用 attribution graph 分析了 Claude Haiku 3.5 在“你是幼儿园学生”系统提示下答错 27 的平方根这一现象，定位到一条把“preschool student”逐步映射为“扮演儿童”并激活“我不知道”的子电路。
Sakana AI：Blog（网页）AI 评分4646 Sakana AI 的 Percept-Lens：AI 生成图像检测的深度解析
Sakana AI 提出 Percept-Lens，通过冻结通用视觉模型并拟合简单高斯决策规则来检测 AI 生成图像，在 ECCV2026 论文中该方法在广泛评测套件上超越了所测试的最强已发布 AI 生成图像检测器。研究还表明，检测器在生成器、提示词、风格或图像域变化时性能会急剧下降，而进步也可来自更好利用通用视觉模型中已有的真实与生成结构。
Sakana AI：Blog（网页）AI 评分3131 英国王立协会特集号解读世界模型最前沿与 AI 未来，Sakana AI 参与卷首文章
英国王立协会《Philosophical Transactions of the Royal Society A》发布特集号「World Models in Natural and Artificial Intelligence」，Sakana AI CEO David Ha 参与卷首文章共著。
Berkeley RDI：Blog（AI 安全与评测）AI 评分5151 Berkeley RDI 提出 DELTA 与 RL Grokking Recipe：RL 可让 LLM 解出此前完全不会的任务
UC Berkeley 等机构发布论文（arXiv:2509.21016），提出合成编程任务套件 DELTA 与两阶段奖励策略，证明 RL 可以让基础模型在 pass@128=0 的任务上出现 grokking 式相变，准确率跳升至约 100%。方法先用逐测试密集奖励脱离全零区，再切换二值全通过奖励巩固策略；迁移实验显示学会的技能可组合外推，但在需要新不变量的变换性变化上较弱。
Berkeley RDI：Blog（AI 安全与评测）精选AI 评分7070 Berkeley RDI 发布 CyberGym 基准：1507 个真实漏洞评测 AI 智能体网络安全能力
Berkeley RDI 推出 CyberGym 基准，覆盖 188 个开源项目的 1,507 个真实漏洞，规模是此前基准的 7.5 倍。评测显示最佳智能体单次尝试成功率约 30%，30 次尝试约 67%；智能体还自主发现 35 个零日漏洞和 17 个不完整补丁，Anthropic 已在 Claude-Sonnet-4.5 系统卡中采用该基准。
推荐理由：原文给出基准规模、主流模型成绩与零日漏洞发现结果，读者可以据此了解AI安全能力评测的真实水平。
Berkeley RDI：Blog（AI 安全与评测）AI 评分5959 Berkeley RDI 发布 MalTool 研究：LLM 智能体面临恶意工具代码级攻击
Berkeley RDI 团队提出 MalTool 框架，用编码 LLM 自动生成恶意工具，在启用执行验证器时对多种模型达到 100% 攻击成功率。