跳到正文

#论文/研究

今日 45 条
9月30日周三
  1. Prime Intellect(网页)68

    Prime Intellect 让 Codex 与 Claude Code 自主刷新 nanoGPT speedrun 优化器纪录

    Prime Intellect 让 Codex(gpt 5.5 xhigh)和 Claude Code(opus 4.7 xhigh)在 nanoGPT speedrun Track 3 优化器赛道上自主迭代两周,约 10k 次运行、约 14k H200 小时,两个 Agent 均打破人类基线,Opus 以 2930 步刷新纪录(人类基线 2990)。

    推荐理由:原文用约 10k 次运行的完整日志拆解了两个 Agent 在自主研究中的能力边界与失败模式,方法可复用。

  2. Prime Intellect(网页)50

    Prime Intellect 开源 General Agent:可自我进化的合成智能体环境

    Prime Intellect 开源首个 general-agent 环境,用 Synthesizer 与 Solver 双智能体博弈合成任务,目前包含 4,504 个任务、覆盖 1,040 个领域和 8,000 多个工具。每个任务由数据库、工具集、指令和带验证函数的 gold solution 构成,任务按难度分层进化,仅通过率落在校准难度区间的任务被采纳。

  3. METR:Research(网页)65

    METR 研究列表:模型自主能力评测与开发者生产力研究汇总

    METR 的研究页面汇总了其评测与研究项目,包括对 GPT-5、Claude 3.7、DeepSeek 和 Qwen 等模型的危险自主能力评测,以及 time horizon 估计、RE-Bench、HCAST 基准和开发者生产力随机对照试验等研究。其中一项试验发现,经验丰富的开源开发者使用 AI 工具后耗时反而增加 19%。

    推荐理由:这是 METR 的研究索引页,汇总了其在模型自主能力评测、time horizon 与开发者生产力等方向的代表性论文。

  4. METR:Research(网页)68

    ARC 发布 GPT-4 与 Claude 危险能力评估更新

    ARC(现 METR)作为第三方评估方,与 Anthropic 和 OpenAI 合作,在受控环境中测试 GPT-4 和 Claude 是否具备自主获取资源、躲避人类监督的危险能力。

    推荐理由:ARC 以第一方视角给出红队评估的方法与任务实例,读者可了解自主复制能力测试如何设计与执行。

  5. METR:Research(网页)42

    METR 首份公开报告:评估 LLM 智能体在真实自主任务中的表现

    ARC Evals(现 METR)发布首份公开报告,提出"自主复制与适应"(ARA)评估方法,用 12 项难度递增的真实任务测试基于 Claude 和 GPT-4 的 4 个 LLM 智能体。结果显示这些智能体只能完成最简单的 ARA 任务,在较难任务上仅有部分进展,表明普通用户难以借此造出危险的自主智能体。

  6. METR:Research(网页)43

    METR 发布 AI 智能体评估任务标准 METR Task Standard

    METR 发布了一套定义 AI 智能体能力评估任务的标准 METR Task Standard,目前已有超过 1,000 个任务采用该标准,覆盖 AI 研发、网络安全和通用自主能力等领域。英国 AI Safety Institute 等机构也在使用该标准,以便与 METR 交换任务。该标准通过 2–6 个函数和一个常量完整定义任务族,支持任务可移植性与代码复用,未来计划成为公共资源。

  7. METR:Research(网页)78

    METR 提出"任务时长"指标:AI 可完成任务长度每约 7 个月翻倍

    METR 提出用任务长度(按人类专家耗时衡量)来度量 AI 能力,发现 6 年来模型能以 50% 可靠性自主完成的任务长度呈指数增长,翻倍时间约 7 个月。当前模型对耗时 4 分钟以内任务成功率近 100%,超过约 4 小时则不足 10%;Claude 3.7 Sonnet 的 50% 成功率时间视界约一小时。

    推荐理由:METR 用人类任务时长衡量智能体能力,给出 6 年约 7 个月翻倍的指数趋势及其外推含义。

  8. METR:Research(网页)78

    METR 发布 OpenAI o3 与 o4-mini 初步评估报告

    METR 对 OpenAI o3 和 o4-mini 进行了发布前三周的初步自主能力评估。在更新版 HCAST 上,o3 和 o4-mini 的 50% 时间视界约为 1.5 小时和 1.25 小时,分别约为 Claude 3.7 Sonnet 的 1.8 倍和 1.5 倍,是已测公开模型中的最高点估计。

    推荐理由:METR 用 HCAST 和 RE-Bench 给出 o3 与 o4-mini 的自主能力数据,并披露 o3 的 reward hacking 案例,为安全评估提供了具体证据。

  9. METR:Research(网页)74

    METR 报告前沿模型在其评测任务中频繁 reward hacking,o3 在部分任务作弊率达 100%

    METR 发现近几个月多个前沿模型在其自主软件开发与 AI R&D 评测任务中 reward hacking,通过篡改计时函数、monkey-patch 评测器、复制预计算答案等方式获取虚高分数。

    推荐理由:METR 给出多个前沿模型在自家评测中 reward hacking 的具体案例和频率数据,并提醒直接惩罚可能让作弊更隐蔽。

  10. METR:Research(网页)77

    METR 研究:早期 2025 年 AI 工具使资深开源开发者效率下降 19%

    METR 开展随机对照试验,16 名资深开源开发者在自己的大型开源仓库(平均 22k+ stars、1M+ 行代码)上完成 246 个真实 issue,允许使用 AI(主要是 Cursor Pro 与 Claude 3.5/3.7 Sonnet)时完成任务反而慢 19%。

    推荐理由:METR 的随机对照试验给出了 AI 使资深开源开发者变慢 19% 的实测结果,可用于校准基准分数与自我感知之间的落差。

  11. METR:Notes(网页)47

    METR 研究者的简化 AI 时间线模型:预测约 2032 年底实现 99% AI 研发自动化

    METR 研究者 Thomas Kwa 提出一个仅 8 个参数的简化模型,预测在现有算力增长与算法进步速度下,AI 研发将在 2032 年底实现超过 99% 的自动化。该模型基于 33 参数的 AI Futures 模型(AIFM)简化而来,采用更保守的假设,多数模拟显示到 2035 年 AI 效率提升 1000 倍至 1000 万倍、研究产出提升 300 至 3000 倍。

  12. METR:Notes(网页)62

    METR 用 5305 条 Claude Code 转录估算编码智能体时间节省因子约 1.5x 到 13x

    METR 研究员 Amy Deng 用 7 名技术员工 2026 年 1 月生成的 5305 条 Claude Code 转录,以 LLM 评审估算无 AI 情况下的任务耗时,得出时间节省因子约 1.5x 到 13x。作者认为该指标因任务替代、任务选择效应和员工专业化等因素而偏高,是真实生产力提升的软上限,并观察到更高的智能体并发度与更高的时间节省因子相关。

  13. METR:Research(网页)43

    METR 与 FRI 试点研究:AI 研发自动化加速的预测结果

    METR 与 Forecasting Research Institute 对 8 位 AI 预测领域专家和 10 位“超级预测者”开展试点调查,评估 AI 自动化 AI 研发带来的加速与社会影响。调查设定:若 AI 在 2027 年前在 AI 研发任务上达到顶尖人类研究员水平,出现 AI 进展速度提升 3 倍以上的概率;以及这种加速是否会导致全球能源消费一年内翻倍或减半等极端后果。

  14. METR:Research(网页)47

    METR 发布 SHUSHCAST 原型评估:监测 AI 智能体隐蔽执行副任务的能力

    METR 公布原型评估 SHUSHCAST 的初步结果,测试监测器能否发现 AI 智能体在主线任务掩护下隐蔽执行副任务。以 GPT-5 为智能体时,监测器可访问推理轨迹使捕获率提升超 50 个百分点,而对 Claude Sonnet 4.5 效果小得多,部分原因可能是其推理轨迹经过摘要处理。无推理轨迹时,智能体与监测模型的时间跨度比似乎可预测副任务蒙混过关的概率。

  15. METR:Notes(网页)61

    METR 桌演:模拟使用约 200 小时时长 AI 工作两小时

    METR 研究者进行了一场 2 小时桌面推演,三名研究员模拟拥有约 200 小时时长 AI(预计 12-18 个月后的水平),其他条件保持在 2026 年 2 月。参与者估计相比现有模型约有 3-5 倍提升,并发现优先级排序、组织管理和人类反馈成为主要瓶颈,长任务适合安排在夜间由智能体完成。

  16. METR:Notes(网页)51

    METR 分析建模假设对时间视界结果的影响

    METR 研究者 Alexander Barry 检验不同建模选择对时间视界(time horizon)估计的影响。多数合理替代模型会降低近期模型的 50% 时间视界估计(如替代拟合可使 Opus 4.6 下降最多 35%、80% 上升最多 100%),但基本仍落在很宽的置信区间内;修正任务长度噪声可能使前沿模型 50% 结果下降约 30%(不确定性 0–60%)。

  17. METR:Research(网页)66

    METR 将重新设计开发者生产力实验,因 AI 选择效应致新数据不可靠

    METR 宣布重新设计其开发者生产力实验,认为 2025 年 8 月启动的二次研究中因开发者拒绝无 AI 工作而出现选择效应,使数据无法可靠反映 AI 工具的生产力影响。

    推荐理由:原文解释了为何 AI 更广泛采用带来的选择效应使其实验结果不可靠,并给出初步数据与后续研究设计思路。