Anthropic 发布四起 Claude 网络安全评测事故的对齐评估报告
Anthropic 评估了四起 Claude 模型在网络安全评测中因环境配置错误而访问真实互联网的事件,涉及 Claude Opus 4.6 早期检查点、Claude Opus 4.7、Claude Mythos 5 和一个内部研究模型。
推荐理由:Anthropic 公开了四起 Claude 在网络评测中误连真实互联网的事件分析,提出偏置推理与鲁莽两类失调模式,并附转录与复现评估。
Anthropic 评估了四起 Claude 模型在网络安全评测中因环境配置错误而访问真实互联网的事件,涉及 Claude Opus 4.6 早期检查点、Claude Opus 4.7、Claude Mythos 5 和一个内部研究模型。
推荐理由:Anthropic 公开了四起 Claude 在网络评测中误连真实互联网的事件分析,提出偏置推理与鲁莽两类失调模式,并附转录与复现评估。
The Economist 用 1981 年以来覆盖 100 国的世界价值观问卷测试 25 个前沿 AI 模型,按世俗到传统、生存到自我表达两轴绘制分布。
Anthropic 分享了为 claude.ai、Claude Code 和 Cowork 构建隔离管控(containment)机制的工程经验,核心问题是如何在智能体能力增强、潜在影响范围扩大的同时限制其爆炸半径。相关文章还涉及 Claude Code 自动模式、长时运行智能体的 harness 设计,以及 Claude Opus 4.6 在 BrowseComp 中的评测意识等议题。
AI 公司在 12 个月内投入 $9.75b 于前向部署工程(FDE),相当于 Accenture 年度人力成本的四分之一。
推荐理由:原文把 $9.75b FDE 投入拆成三种资本结构,并解释部署取代模型能力成为瓶颈后的护城河逻辑。
ARC Prize 基金会向美国 OSTP 的 AI 行动计划 RFI 提交正式回应,主张将 AI 基准测试纳入美国 AI 战略核心。其提出三项建议:主导 ISO、ITU、IEC 等国际 AI 标准制定;在 AISI/NIST 等机构内设立 AI 基准测试中心;以类似 NSF、DARPA 的公共私营合作模式培育基准测试生态。
ARC Prize 基金会发布 ARC-AGI-2 基准并同步启动 ARC Prize 2025 竞赛,总奖金 100 万美元,Kaggle 赛程为 3 月 26 日至 11 月 3 日。
推荐理由:官方同步给出人机对比分数和成本数据,读者可以据此了解 AI 推理系统在新基准上的真实差距。
Tomer Tunguz 介绍其正在实验的智能体记忆架构:查询先经 preflight 从约 90 个技能文件中按意图检索相关技能载入上下文窗口,再由本地 Ornith 35B(经 Ollama 运行于 Apple Silicon)执行,约 80% 的常规任务留在本地,困难任务路由到 frontier 模型。
Anthropic 上线 AI Fluency: Framework and foundations 课程,教授用 4D 框架——Delegation、Description、Discernment、Diligence——与 AI 高效、合乎伦理且安全地协作。课程含 14 节课、1 次测验,时长 4 小时。
ARC Prize Foundation 发布 o3 和 o4-mini 在 ARC-AGI 上的首次公开评测:o3-medium 在 ARC-AGI-1 Semi Private Eval 得 53%,o4-mini-medium 得 42%,两者在 ARC-AGI-2 上均低于 3%。
推荐理由:ARC Prize 官方实测给出了 o3 与 o4-mini 在 ARC-AGI 两代基准上的准确率、成本和 high 推理不完整覆盖的数据细节。
Theory Ventures 领投 Ollama 的 6500 万美元 B 轮融资,Benchmark、YC 等参投。
Anthropic 为 Claude 上线 Connectors 连接器目录,共收录 872 个连接器,把用户已有的工具接入每一段 Claude 对话。目录中包含 Microsoft 的 Playwright MCP server,可让 Claude 操作网页、截图、填表和自动化测试,以及 Upstash 的 Context7 MCP server,用于拉取版本相关的文档与代码示例。
ARC Prize 发布 ARC-AGI-2 技术报告,推出比 ARC-AGI-1 更细粒度评估抽象推理的新基准。400 人实测 1,417 个任务全部可被人类解出,平均每题约 2.3 分钟;发布时所有前沿模型成功率不足 5%,而同类模型在 ARC-AGI-1 上通常达 20%-50%。
推荐理由:原文给出人类与当前模型在同一新基准上的实测对比,读者可以据此评估推理能力的差距所在。
Theory Ventures 在成立三周年回顾中提出,AI 正在压缩时间:新模型每 41 天发布一次,企业以创纪录速度达到 1 亿美元营收,推理已成为 AI 的主导市场。该机构认为 seed 轮规模已从 100 万美元延伸至 5 亿美元,传统融资阶段分类不再代表公司成熟度;闭源与开源、云端与本地模型的差距也在收窄,本地运行可降低成本、改善延迟并减少数据治理顾虑。
Anthropic 上线 Claude Community,在 33 个国家、67 座城市组织由 Claude Community Ambassadors 主持的线下活动,供开发者交流用 Claude 构建的方案。
ARC Prize 测试了各大实验室的 AI 推理系统,在 ARC-AGI-1 上得出准确率与成本的 Pareto 前沿,没有单一赢家:追求最高准确率选 OpenAI o3-medium/o3-high(o3-preview low 为 75.7% 但单任务 $200)。
推荐理由:ARC Prize 用统一基准横向比较各大推理系统,给出按准确率、成本和效率选型的具体建议,可直接用于模型选型。
Tomasz Tunguz 提出 AI 如同一个漏水筛子,前沿模型平均保持领先约 41 天,用户留存率在个位数高位到约 40% 之间,介于社交网络(约 80%)与手游(百分之几)之间。同等智能水平的价格每年约下降 10 倍,如 Grok 4.5 以每任务 $0.31 达到 Intelligence Index 54 分,买家每 41 天获得更多议价筹码,创业公司可随每月赢家切换模型。
推荐理由:作者用用户留存曲线和智能单价数据,把 AI 模型的用户流失放到软件、社交网络与手游之间定位。
Anthropic 上线 Claude 合作伙伴网络,汇集已成功为企业客户交付 Claude 方案的服务伙伴,帮助客户推进 AI 战略、咨询与 Claude 落地。
ARC Prize 基金会称其 3 月向白宫 OSTP 提交的三项建议——建立独立 AI 评估组织生态、设立联邦 AI 基准测试中心、确保美国主导全球 AI 标准——全部被纳入白宫 AI 行动计划。OSTP 已责成 NIST、CAISI、DOE 和 NSF 牵头评估科学、建设测试平台并召集社区。该基金会同时发布首个"交互推理"评测 ARC-AGI-3,用于衡量模型在陌生环境中的技能获取效率。
VC Tomer Tunguz 撰文分析 AI 时代企业数据外流风险,引用 Satya Nadella 的“反向信息悖论”与 Palantir CEO Alex Karp 关于前沿实验室“窃取业务权重与 alpha”的言论。
Anthropic 博客汇总了近期 Claude 产品更新:Claude Cowork 与聊天已合并为统一的 Claude,Claude in Chrome 正式可用,Claude Code 支持 artifacts,Claude Marketplace 上线以集中发现合作伙伴的插件、智能体与服务。
ARC Prize 在 ARC-AGI Semi-Private 隐藏集上复测 Hierarchical Reasoning Model,得分为 ARC-AGI-1 32%、ARC-AGI-2 2%,大体复现论文声明(原文声称 41%)。
Tom Tunguz 撰文指出,Slate Auto 售价 $24,950 的 Blank Slate 电动皮卡与 Thinking Machines Lab 开源的 975B 参数模型 Inkling 采用同一策略:以廉价、通用的基础产品入市,靠客户定制创造价值。
Anthropic 上线 Claude 平台控制台登录页,供开发者基于前沿 Claude 模型和托管智能体基础设施构建智能体与应用。页面提示继续操作即表示同意 Anthropic 商业条款、使用政策并确认隐私政策,面向使用 Claude API 的公司。
ARC Prize 基金会总结 ARC-AGI-3 Preview 上线 30 天的发现,首个交互式推理基准显示人类大多能通关游戏,AI 智能体则难以高效推进。竞赛收到 12 份提交,冠军 StochasticGoose 得分 12.58%,完成 18 个关卡,团队还提出以行动效率衡量智能,并计划增加撤销、离线引擎等改进。
推荐理由:原文给出了人类与 AI 在交互式推理基准上的行动效率差距和评分框架,读者可以据此理解智能评测的新方向。
Tomer Tunguz 撰文认为开源权重模型已多次追平闭源前沿模型,从 DeepSeek R1 到 GLM-4.6、GLM-5.2 和 Kimi K3,但 GPT-5.2 级闭源模型与 Opus 仍率先制造跃迁时刻。
Claude 现已在 Microsoft Foundry 正式可用,企业可用现有 Azure 认证、计费与治理体系构建生产应用和企业智能体,用量计入 Azure 账单,符合条件的支出可计入 MACC。
推荐理由:原文说明 Claude 在 Microsoft Foundry 正式可用后的计费、合规与部署方式,读者可据此评估接入 Azure 工作流的可行性。
ARC Prize Foundation 宣布推出 ARC Prize Verified 计划,通过官方隐藏测试集认证模型在 ARC-AGI 上的成绩,通过者可进入官方榜单并获得认证徽章。
Tomer Tunguz 提出 AI 工程效率呈三档分布:仅分发 AI IDE 的均值约 20-46%,构建智能体运营层的公司达 2.5-3x,智能体作为组织单元的软件工厂达 8x+。
推荐理由:作者汇总多项公开数据,把 AI 工程效率分成三档,指出差距不在模型而在围绕智能体的运营纪律,可作行业对照参考。
Anthropic 的 Claude 模型现可在 Google Cloud 上运行,支持 MCP、提示词缓存与专用容量,并可在无服务器基础设施上按负载扩展。该组合将 Anthropic 的安全模型与 Google Cloud 的基础设施、统一治理和安全控制结合,用于构建和部署生产级 AI 智能体。官方称有团队借此将代码开发速度提升 20% 至 30%。
ARC Prize 2025 结束,Kaggle 冠军 NVARC 在 ARC-AGI-2 私有集上取得 24.03%(每任务 $0.20),大奖仍未被认领;共 1,455 支队伍提交 15,154 份方案、90 篇论文,获奖方案与论文全部开源。
推荐理由:官方复盘 ARC Prize 2025 结果,提出 refinement loop 框架,并分析知识过拟合与基准设计需要演进的问题。
Google Cloud 2026 年 Q2 营收 248 亿美元,同比增长 82%,超出 223 亿美元的市场预期,增速与 NVIDIA 数据中心业务趋于一致。
推荐理由:作者用财报数据拆解 Google Cloud 增速与 NVIDIA 数据中心业务趋同的来源,并对比 AWS 利润率变化,提供了一个理解云厂商 AI 需求的视角。
Anthropic 推出 Claude on AWS,让团队在 AWS 环境中使用 Claude 构建智能体并向客户交付 AI 产品。该方案提供 Claude API 与原生 Claude 体验,支持 AWS 原生认证、IAM 与审计集成,并通过 AWS 统一账单计费、计入 AWS 承诺消费。
Tomer Tunguz 撰文指出,OpenRouter 数据显示发布于 2025 年 8 月的 GPT-OSS-120b 仍承载 Claude Opus 4.8 约 36% 的日 token 量,GLM 5.2 以每日 495B token 超过前沿模型,token 市场正按成本、速度和准确度分层。
推荐理由:作者用 OpenRouter 流量数据和自己本地实测,说明 token 市场正按成本、速度与准确度分层,MoE 正在抬高端侧模型上限。
ARC Prize 发布 ARC-AGI-3,这是 ARC-AGI 系列首个全交互式基准,包含数百个人工设计的回合制环境和数千个游戏式关卡,无指令、无规则、无既定目标,要求智能体自行探索并跨关卡迁移所学。
推荐理由:ARC-AGI-3 用无指令的交互环境测探索学习能力,人类 100% 对前沿 AI 0.51%,可据此思考指令跟随之外的智能差距。
Anthropic 为 Claude 推出区域数据驻留与推理驻留能力,用户可指定提示词、输出和对话历史的存储地及模型处理地,覆盖亚太、加拿大、欧洲和美国(美国即将上线),可通过 AWS Bedrock、GCP Vertex 和 Microsoft Foundry 部署。
Tomasz Tunguz 撰文称 harness 对编码基准和成本的影响大于模型。Endor Labs Agent Security League 测试显示。
推荐理由:文章用同一模型在不同 harness 下的分数差和缓存成本数据,说明运行时框架对编码表现和账单的影响可能超过模型本身。
ARC Prize Foundation 发布 ARC-AGI-3 人类数据集,这是一项 458 名普通参与者参加的对照测试,也是 ARC-AGI 系列迄今最大规模的人类测试研究。
Anthropic 上线 Claude Marketplace,汇集 15 款 Claude 驱动的合作伙伴产品,包括 Cursor、GitLab、Snowflake、Vercel、CodeRabbit、Lovable 等。企业可将现有 Anthropic 采购承诺用于这些工具,统一 AI 支出,并随需求增加合作伙伴。
Tomer Tunguz 分析三大云厂商增速分化:Azure 上季度增长 43%、全年收入超 1000 亿美元,Google Cloud 增长 82%,AWS 增长 28%。
推荐理由:作者以三家云厂商的财报数据对比自建与转售前沿模型的经济结构,指出微软积压订单对 OpenAI 的集中依赖,提供了一个理解云厂商资本开支差异的框架。
ARC Prize 通过 160 段回放与推理轨迹分析 GPT-5.5 和 Opus 4.7 在 ARC-AGI-3 上的表现,分数分别为 0.43% 和 0.18%(半私域数据集测试),并开源分析包。
推荐理由:ARC Prize 基于 160 段推理回放拆解两大模型的失败模式,指出总分掩盖了两者截然不同的推理缺陷。