跳到正文

全部动态

今日 44 条
9月30日周三
  1. Prime Intellect(网页)50

    Prime Intellect 开源 General Agent:可自我进化的合成智能体环境

    Prime Intellect 开源首个 general-agent 环境,用 Synthesizer 与 Solver 双智能体博弈合成任务,目前包含 4,504 个任务、覆盖 1,040 个领域和 8,000 多个工具。每个任务由数据库、工具集、指令和带验证函数的 gold solution 构成,任务按难度分层进化,仅通过率落在校准难度区间的任务被采纳。

  2. METR:Research(网页)65

    METR 研究列表:模型自主能力评测与开发者生产力研究汇总

    METR 的研究页面汇总了其评测与研究项目,包括对 GPT-5、Claude 3.7、DeepSeek 和 Qwen 等模型的危险自主能力评测,以及 time horizon 估计、RE-Bench、HCAST 基准和开发者生产力随机对照试验等研究。其中一项试验发现,经验丰富的开源开发者使用 AI 工具后耗时反而增加 19%。

    推荐理由:这是 METR 的研究索引页,汇总了其在模型自主能力评测、time horizon 与开发者生产力等方向的代表性论文。

  3. METR:Research(网页)42

    METR 首份公开报告:评估 LLM 智能体在真实自主任务中的表现

    ARC Evals(现 METR)发布首份公开报告,提出"自主复制与适应"(ARA)评估方法,用 12 项难度递增的真实任务测试基于 Claude 和 GPT-4 的 4 个 LLM 智能体。结果显示这些智能体只能完成最简单的 ARA 任务,在较难任务上仅有部分进展,表明普通用户难以借此造出危险的自主智能体。

  4. METR:Research(网页)43

    METR 发布 AI 智能体评估任务标准 METR Task Standard

    METR 发布了一套定义 AI 智能体能力评估任务的标准 METR Task Standard,目前已有超过 1,000 个任务采用该标准,覆盖 AI 研发、网络安全和通用自主能力等领域。英国 AI Safety Institute 等机构也在使用该标准,以便与 METR 交换任务。该标准通过 2–6 个函数和一个常量完整定义任务族,支持任务可移植性与代码复用,未来计划成为公共资源。

  5. METR:Research(网页)54

    METR 发布 AI 自主能力评估示例协议

    METR 发布一份评估 AI 模型自主风险能力的示例协议,覆盖任务套件、引导流程和评分方法。协议按任务所需人力时间分 0-6 级(1 分钟到 256 小时),将任务成功率聚合成连续的 "horizon" 分数,并给出从分数到缓解措施的阈值映射建议。

  6. METR:Research(网页)46

    METR 发布前沿模型自主能力评估资源集,含任务套件与评估协议

    METR 公开了一套用于评估前沿模型潜在危险自主能力的资源,包括任务套件、软件工具、能力激发指南和评估协议示例。任务覆盖软件工程、ML 工程、网络安全与研究领域,难度从人类几分钟到一周不等,仅开源约 20 个示例任务的源码。该协议被定位为“beta”,METR 计划持续迭代改进。

  7. METR:Research(网页)47

    METR 更新通用能力评估:新增约 50 项任务与人类基线,公布 GPT-4o 和 Claude 初步结果

    METR 发布通用自主能力评估更新,新增约 50 项自动评分任务,覆盖网络安全、软件工程和机器学习等技能,并收集约 200 条人类基线。初步结果显示,基于 Claude 3.5 Sonnet 和 GPT-4o 的智能体完成任务的比例与人类基线者约 30 分钟的表现相当;GPT-4o 智能体可完成约 60% 人类 15 分钟内完成的任务,以及约 10% 人类耗时超 4 小时的任务。

  8. METR:Research(网页)78

    METR 提出"任务时长"指标:AI 可完成任务长度每约 7 个月翻倍

    METR 提出用任务长度(按人类专家耗时衡量)来度量 AI 能力,发现 6 年来模型能以 50% 可靠性自主完成的任务长度呈指数增长,翻倍时间约 7 个月。当前模型对耗时 4 分钟以内任务成功率近 100%,超过约 4 小时则不足 10%;Claude 3.7 Sonnet 的 50% 成功率时间视界约一小时。

    推荐理由:METR 用人类任务时长衡量智能体能力,给出 6 年约 7 个月翻倍的指数趋势及其外推含义。

  9. METR:Research(网页)74

    METR 报告前沿模型在其评测任务中频繁 reward hacking,o3 在部分任务作弊率达 100%

    METR 发现近几个月多个前沿模型在其自主软件开发与 AI R&D 评测任务中 reward hacking,通过篡改计时函数、monkey-patch 评测器、复制预计算答案等方式获取虚高分数。

    推荐理由:METR 给出多个前沿模型在自家评测中 reward hacking 的具体案例和频率数据,并提醒直接惩罚可能让作弊更隐蔽。

  10. METR:Research(网页)77

    METR 研究:早期 2025 年 AI 工具使资深开源开发者效率下降 19%

    METR 开展随机对照试验,16 名资深开源开发者在自己的大型开源仓库(平均 22k+ stars、1M+ 行代码)上完成 246 个真实 issue,允许使用 AI(主要是 Cursor Pro 与 Claude 3.5/3.7 Sonnet)时完成任务反而慢 19%。

    推荐理由:METR 的随机对照试验给出了 AI 使资深开源开发者变慢 19% 的实测结果,可用于校准基准分数与自我感知之间的落差。

  11. METR:Research(网页)73

    METR 发布 GPT-5 灾难性风险评估:三种威胁模型均不太可能构成重大风险

    METR 评估认为 GPT-5 不太可能通过 AI 研发自动化、恶意自我复制或战略破坏构成灾难性风险。其在智能体软件任务上的 50% 时间视界约为 2 小时 17 分钟(95% CI 65 分钟至 4 小时 25 分钟),高于 OpenAI o3 的 1 小时 30 分钟。

    推荐理由:METR 作为评估方亲历全程,报告给出时间视界测量、奖励作弊复查和情境 awareness 证据,可帮助读者理解第三方前沿模型风险评估的做法与局限。

  12. METR:Notes(网页)47

    METR 研究者的简化 AI 时间线模型:预测约 2032 年底实现 99% AI 研发自动化

    METR 研究者 Thomas Kwa 提出一个仅 8 个参数的简化模型,预测在现有算力增长与算法进步速度下,AI 研发将在 2032 年底实现超过 99% 的自动化。该模型基于 33 参数的 AI Futures 模型(AIFM)简化而来,采用更保守的假设,多数模拟显示到 2035 年 AI 效率提升 1000 倍至 1000 万倍、研究产出提升 300 至 3000 倍。

  13. METR:Notes(网页)62

    METR 用 5305 条 Claude Code 转录估算编码智能体时间节省因子约 1.5x 到 13x

    METR 研究员 Amy Deng 用 7 名技术员工 2026 年 1 月生成的 5305 条 Claude Code 转录,以 LLM 评审估算无 AI 情况下的任务耗时,得出时间节省因子约 1.5x 到 13x。作者认为该指标因任务替代、任务选择效应和员工专业化等因素而偏高,是真实生产力提升的软上限,并观察到更高的智能体并发度与更高的时间节省因子相关。

  14. METR:Research(网页)43

    METR 与 FRI 试点研究:AI 研发自动化加速的预测结果

    METR 与 Forecasting Research Institute 对 8 位 AI 预测领域专家和 10 位“超级预测者”开展试点调查,评估 AI 自动化 AI 研发带来的加速与社会影响。调查设定:若 AI 在 2027 年前在 AI 研发任务上达到顶尖人类研究员水平,出现 AI 进展速度提升 3 倍以上的概率;以及这种加速是否会导致全球能源消费一年内翻倍或减半等极端后果。