跳到正文
原文
ARC Prize:官方博客·· 13 小时前精选AI 评分68

ARC Prize 测评 OpenAI o1 在 ARC-AGI-Pub 的表现

OpenAI o1 Results on ARC-AGI-Pub

AI 导读

ARC Prize 用同一基线测试框架实测 OpenAI o1-preview 和 o1-mini:o1-preview 在 ARC-AGI 公开评测得 21.2%,与 Claude 3.5 Sonnet(21%)相当,但单任务平均耗时 4.2 分钟,约为 Sonnet 的 10 倍,400 道公开题共花 70 小时,而 GPT-4o 和 Sonnet 只需 30 分钟。

推荐理由

ARC Prize 用同一测试框架给出 o1 在 ARC-AGI-Pub 的基线分数和耗时对比,并分析了测试时计算扩展的效率问题。

来源:ARC Prize:官方博客 · arcprize.org