跳到正文

#论文/研究

今日 173 条
9月30日周三
  1. METR:Research(网页)47

    METR 发布 SHUSHCAST 原型评估:监测 AI 智能体隐蔽执行副任务的能力

    METR 公布原型评估 SHUSHCAST 的初步结果,测试监测器能否发现 AI 智能体在主线任务掩护下隐蔽执行副任务。以 GPT-5 为智能体时,监测器可访问推理轨迹使捕获率提升超 50 个百分点,而对 Claude Sonnet 4.5 效果小得多,部分原因可能是其推理轨迹经过摘要处理。无推理轨迹时,智能体与监测模型的时间跨度比似乎可预测副任务蒙混过关的概率。

  2. METR:Notes(网页)61

    METR 桌演:模拟使用约 200 小时时长 AI 工作两小时

    METR 研究者进行了一场 2 小时桌面推演,三名研究员模拟拥有约 200 小时时长 AI(预计 12-18 个月后的水平),其他条件保持在 2026 年 2 月。参与者估计相比现有模型约有 3-5 倍提升,并发现优先级排序、组织管理和人类反馈成为主要瓶颈,长任务适合安排在夜间由智能体完成。

  3. METR:Notes(网页)51

    METR 分析建模假设对时间视界结果的影响

    METR 研究者 Alexander Barry 检验不同建模选择对时间视界(time horizon)估计的影响。多数合理替代模型会降低近期模型的 50% 时间视界估计(如替代拟合可使 Opus 4.6 下降最多 35%、80% 上升最多 100%),但基本仍落在很宽的置信区间内;修正任务长度噪声可能使前沿模型 50% 结果下降约 30%(不确定性 0–60%)。

  4. METR:Research(网页)66

    METR 将重新设计开发者生产力实验,因 AI 选择效应致新数据不可靠

    METR 宣布重新设计其开发者生产力实验,认为 2025 年 8 月启动的二次研究中因开发者拒绝无 AI 工作而出现选择效应,使数据无法可靠反映 AI 工具的生产力影响。

    推荐理由:原文解释了为何 AI 更广泛采用带来的选择效应使其实验结果不可靠,并给出初步数据与后续研究设计思路。

  5. METR:Research(网页)70

    METR 发布前沿 AI 风险试点评估报告,Anthropic、Google、Meta 和 OpenAI 参与

    METR 自 2026 年 2 月起开展试点评估,测试前沿 AI 开发商内部使用的 Agent 的错位风险,Anthropic、Google、Meta 和 OpenAI 参与。

    推荐理由:报告给出多家前沿实验室参与的真实评估结果,读者可以据此了解当前模型在开放式任务和红队测试中的实际能力边界。

  6. METR:Notes(网页)68

    METR 分析 LLM 是否加速了漏洞、数学与算法发现

    METR 研究人员检视漏洞、数学和算法发现的公开时间序列,判断 LLM 是否加速了整体发现率。漏洞发现明显加速,如 cURL CVE 从 2025 年的 9 个增至 2026 年 6 月 24 日前的 36 个(其中 15 个标注 AI);数学发现有所加速但难以客观衡量,arXiv 数学提交部分领域 12 个月内翻倍;算法优化未见明显加速。

    推荐理由:原文汇总多个公开时间序列,比较 AI 对不同领域发现速度的影响,提供了可核查的数据和方法。

  7. Liquid AI 模型与工程博客(网页)46

    LFM-1B-Math:小模型能否成为简洁推理者?

    Liquid AI 基于 1.3B 的 LFM 模型提出一套后训练方案,通过约 4.5M 样本的 SFT 加短程强化学习,得到 LFM-1.3B-Math,在有限回复预算下实现较强数学推理。SFT 采用 3e-4 学习率、训练 3 个 epoch(约 1000 亿 token),首轮即提升平均性能 36%,后两轮再增 7.6%。该模型无需数学专用预训练,面向边缘设备等资源受限部署。

  8. Nature:Machine Learning 主题(RSS)44

    Ataraxos:面向不完全信息博弈的可扩展决策 AI

    针对棋盘战争游戏 Stratego 设计的 AI 系统 Ataraxos,为强化学习与搜索在不完全信息下的结合建立了一套有效设计模式。该成果发表于 Nature,指向战略决策领域长期追求的目标:在大量隐藏信息条件下仍能实现可扩展的决策。

  9. Epoch AI:研究、数据与评测52

    Epoch AI 上线 AI 芯片销售数据集并提供 CSV 下载

    Epoch AI 的 AI chip sales 数据页追踪并估算主要 AI 芯片的销量与出货量,以及估算的总算力、成本和功耗。数据主要来自公司财报评论、分析师估算和媒体报道,提供按芯片类型、组织和按芯片时间线的 CSV 及 ZIP 打包下载,更新至 Aug. 27, 2026,并附 H100e 算力口径等常见问题说明。

  10. Epoch AI:研究、数据与评测29

    Epoch AI 如何识别与标注 ML 硬件数据集

    Epoch AI 通过标注知名 AI 模型训练所用的芯片来识别 ML 硬件,并补充了虽未见于这些系统训练记录、但依据描述、支持的数值格式或同族关系可判定为 ML 用途的硬件。该数据集为每块芯片记录数据手册信息,涵盖算力、裸片面积等,并借助新闻报道或硬件价格档案补充发布时价格;并非所有硬件都有完整或适用的信息,因此部分字段常为空。

  11. Epoch AI:研究、数据与评测44

    Epoch AI 的 Epoch Capabilities Index(ECI)能力指数如何构建

    Epoch AI 的 Epoch Capabilities Index(ECI)是一个综合指标,用超过 50 个基准的分数生成单一通用能力量表,模型在更难基准上表现越好,ECI 分数越高。其领域版 ECI 沿用通用 ECI 的基准难度与斜率、仅重新拟合 LLM 能力参数,Cyber ECI 因纳入通用 ECI 之外的网络安全基准而更新频率更低。ECI 代码已在公开仓库发布。

  12. Epoch AI:研究、数据与评测47

    Epoch AI 发布 AI 公司数据集:追踪前沿模型公司的营收、融资与算力支出

    Epoch AI 上线"AI companies"数据集,追踪处于 AI 前沿的基座模型公司的营收、融资、员工数、算力支出和使用量数据,来源为公司披露、高管表态与媒体报道。数据集于 2026 年 9 月 29 日更新,提供全量 ZIP 及算力支出、融资轮次、员工、营收、使用量等分项 CSV,可通过 Python 直接读取。

  13. Epoch AI:研究、数据与评测51

    Epoch AI 发布 AI 芯片所有权分布数据集与开放研究项目

    Epoch AI 上线 AI chip owners 探索器,基于公司披露和第三方分析师估算全球 AI 算力在主要公司和客户类别间的分布,数据于 2026 年 5 月 12 日更新。该项目追踪的是芯片所有权而非使用情况,多数前沿 AI 开发者的训练和推理芯片并非自有;数据、方法论及按设计商、芯片类型划分的 CSV 数据集均公开可下载。

  14. Epoch AI:研究、数据与评测32

    Epoch AI 发布 AI 模型数据集,收录具有历史意义的模型

    Epoch AI 上线 AI 模型数据集,收录文献综述、Papers With Code、高被引论文及顶会论文等来源的模型,覆盖发布时达到 SOTA、引用超 1000 次或月活超百万的模型。数据集提供 notable、large-scale、frontier 及全量模型四类 CSV 下载,最新更新于 2026 年 9 月 30 日,并附参数规模、数据集大小与训练算力的测算文档。

  15. Cognition 模型 / Devin 博客(网页)56

    Cognition 发布测量 Devin 等效工程工时的估算系统

    Cognition 构建了一套自动估算 Devin 会话相当于多少有效人工工程工时的系统,并用 AI 智能体审查每个会话、换算成美元价值,已随客户投入运行。系统基于 126 位用户、258 个会话的人工标注数据训练,在 233 个held-out会话上达到 rlog 0.74,且经对数空间校准后刻意偏保守低估;单项估计噪声约 2-3 倍,但聚合后误差相互抵消。

  16. CMU:Machine Learning Blog28

    CMU 在 NeurIPS 2025 展示 156 篇论文

    卡内基梅隆大学(CMU)研究者在 12 月 2 日至 7 日于圣迭戈举行的第 39 届 NeurIPS 2025 上展示 156 篇论文。口头报告包括提出 Encoder–Attender–Decoder 框架研究触觉处理的 ConvRNN、缓解标签平滑表征坍缩的 MaxSup,以及单步生成模型 MeanFlow(ImageNet 256×256 单次函数评估 FID 3.43)。

  17. Cohere Labs:官方研究博客42

    Cohere Labs 探讨 AI 将如何改变工作方式

    Cohere Labs 发布“Future(s) of Work”研究专题,探讨 AI 对工作方式的影响,并指出当前关于未来工作的讨论存在证据不足的问题。该专题推出 Agentic Task Ecosystem(ATE)数据集,基于 7 个目录中的 123,000 个公开 MCP 服务器,分析了 694,000+ 个可执行工具,将 AI 工具映射到真实职业任务。

  18. Anthropic:Research(发表成果 · 网页)60

    Anthropic 开放 Claude 真实使用数据,支持外部研究者独立开展研究

    Anthropic 试点让 Stanford SALT Lab、Oxford 和 METR 三个外部团队通过隐私保护工具 Anthropic Insights,独立分析约 25 万段 2026 年 4-5 月的 Claude.ai 或 Claude Code 对话,并公开各项目汇总数据和意向表单。

    推荐理由:原文披露外部研究机构用 Anthropic Insights 独立分析 Claude 用量的初步结果和运行经验,还公开了汇总数据,适合想跟进真实 AI 使用研究的读者。