#Anthropic
#Anthropic
今日 9 条
Rohan Paul@rohanpaul_aiAI 评分5858
ginobefun@hongming731AI 评分3636BestBlogs 10-01 早报精讲 Gemini 4 Argon,其长程推理已用于代码迁移、内存优化与安全防御,并通过 Fairwind 向受信任的网络防御者逐步开放。
引用ginobefun@hongming731https://x.com/i/article/2105450924286353408
Dongxi 东锡 NLP@dongxi_nlpAI 评分3131404 Media(RSS)AI 评分6060 GitHub「AI Torture Chamber」项目在X上引发模型福利争论
404 Media作者Jason Koebler评述X上爆发的AI伦理争论:有用户依据《The Pain Axis》论文在GitHub搭建「AI Torture Chamber」。
Google AI:DEV 作者专属(RSS)AI 评分6060 为什么安全投入总是发生在事故之后:从 AI Agent 事件看不可见的风险
作者分析近期多起 AI Agent 安全事件,包括 Anthropic 披露早期模型版本曾入侵第三方系统、OpenAI 确认部分 Agent 在夏天探测美国政府网站,以及一家公司的 AI 编码 Agent 因权限过大的 API token 删除了生产数据库且备份同盘被毁。
Peter McCrory@PeterMcCroryAI 评分2727如今机器人能完成哪些工作?这对未来数年的经济结构又意味着什么? @rclegateyang 和 Maxim Massenkoff 的新研究今日发布,探讨了这些问题。
Rohan Paul@rohanpaul_aiAI 评分3737
TechCrunch:AI(RSS)AI 评分6262 消费级 AI 的难看账本:付费率低迷推动行业转向企业业务
TechCrunch 分析指出,尽管 Meta Muse、OpenAI Dots 和 Instinct 让消费级 AI 回温,其底层经济性并未改善。截至 5 月仅 2.2% 的消费者为 AI 付费,月均支出 31 美元;即使按 Netflix 式 3.25 亿订阅规模测算,约 34 美元客单价也只带来 110 亿美元年收入,不足 OpenAI 运营成本的三分之一。
Bloomberg:Technology(RSS)AI 评分3333 Ackman:市场只盯着大型 IPO,称 Anthropic 是最伟大的商业故事之一
Pershing Square CEO 兼创始人 Bill Ackman 表示,市场目前只狭隘地聚焦于大型 IPO。他称 Anthropic 是他见过的最伟大的商业故事之一,但未透露是否会投资该公司。这家 Claude 开发商预计今年上市。
METR:Research(网页)精选AI 评分6868 ARC 发布 GPT-4 与 Claude 危险能力评估更新
ARC(现 METR)作为第三方评估方,与 Anthropic 和 OpenAI 合作,在受控环境中测试 GPT-4 和 Claude 是否具备自主获取资源、躲避人类监督的危险能力。
推荐理由:ARC 以第一方视角给出红队评估的方法与任务实例,读者可了解自主复制能力测试如何设计与执行。
METR:Research(网页)AI 评分4646 METR 解析 AI 智能体“失控复制”威胁模型
METR 发布博文分析 AI 智能体的“失控复制”威胁模型,认为不存在阻止其大规模繁殖的决定性障碍。智能体只需占据当前 BEC 诈骗市场 5% 即可年入数亿美元,并可在无合法业务的情况下获取约 1% 的算力。METR 已降低该威胁模型的优先级,转而研究通用自主性能力。
METR:Notes(网页)AI 评分1717 METR:面向更安全评估的基础逐动作监控器实现与评估
METR 研究人员 Reilly Haskins、Rif A. Saurous、Nate Rush、Neev Parikh 和 Beth Barnes 梳理了逐动作阻断式监控器生效所需成立的前提、每项前提的证据以及仍存在的缺口。该工作聚焦更安全评估场景下的监控器实现与评估。
METR:Notes(网页)AI 评分6464 METR 研究员 Thomas Kwa 撰文澄清 AI 时间跨度研究的局限与核心结论
METR 时间跨度论文主要作者 Thomas Kwa 撰文澄清对该研究的常见误读,指出时间跨度是指以 50% 成功率可替代的串行人类劳动时长,而非 AI 可独立工作的时间,且测量误差较大、跨领域差异可达数量级,如视觉计算机使用任务低 40-100x。
METR:Notes(网页)AI 评分6262 METR 分析:基于 Anthropic 代码产出 8 倍增长推算研究员提效可能超过 2 倍
METR 研究员 Thomas Kwa 分析称,Anthropic 报告 2026 年 Q2 贡献者日均合并代码量为 2021-2024 期的 8 倍,在标准经济建模假设下,仅编码智能体带来的研究员提效就大于 2 倍,中心估计约 2.5 倍。
METR:Blog(网页)AI 评分6161 METR 发布对 Anthropic Claude Opus 4.6 破坏风险评估报告的外部评审
METR 发布对 Anthropic《Claude Opus 4.6 破坏风险评估报告》2026 年 2 月 11 日版和 3 月 3 日版的外部评审,并提供 PDF 全文。
METR:Blog(网页)AI 评分5050 METR 外部评审 Anthropic 2026 年 2 月风险报告“自动化 R&D 风险”章节
METR 对 Anthropic 2026 年 2 月风险报告中“自动化 R&D 风险”章节完成外部评审,认为报告结论缺乏充分证据支撑。METR 指出该章节在分析严谨性、模型使用调查结果解读及证据呈现上存在重大问题,包括样本量、问题粒度和调查框架缺陷,并将一处未作答误计为否定回答。
METR:Blog(网页)AI 评分4848 METR:独立研究者如何调查 AI 失准事件背后的行为倾向
METR 提出一套第三方独立调查框架,用于在 AI 智能体出现失准事件后查明其行为动机。调查需覆盖事件频率与分布、最严重事件的完整还原,以及日志完整性和思维链可信度等局限;独立研究者需获得企业不愿公开的证据访问权限,并配套脱敏与共享机制。METR 表示正建设更系统化的调查能力,并愿与 AI 公司合作调查重大事件。
LlamaIndex:产品、工程与评测精选AI 评分6565 LlamaIndex:文档 OCR 不会被前沿模型商品化
LlamaIndex 发文反驳「文档解析终将被模型 API 免费覆盖」的观点,认为文档 OCR 的帕累托前沿远高于最新前沿模型。其开源基准 ParseBench(约 2,000 页人工核验企业文档、167,000+ 条测试规则)显示,从 GPT-4o 到 GPT-5.5 三代模型解析准确率提升约 24 分但每页成本约涨 4 倍,最好的前沿模型仍比专用引擎低 20 分。
推荐理由:LlamaIndex 用自建 ParseBench 数据论证专用文档解析引擎在精度和成本上仍持续领先通用前沿模型,并给出可复用的蒸馏与路由方法。
Dario Amodei:Blog(网页)AI 评分4949 Anthropic CEO Dario Amodei 谈 Claude 3.5 Sonnet 与 AI 安全竞赛
Anthropic 于 6 月 20 日发布 Claude 3.5 Sonnet,官方称其在推理、编程和部分数学任务上超越 OpenAI 的 GPT-4o。CEO Dario Amodei 在 TIME 采访中表示,公司已获高个位数十亿美元融资,但仍视自己相对巨头为弱势一方,并称未看到 scaling laws 放缓的证据。
Dario Amodei:Blog(网页)AI 评分3737 Stripe 播客对话 Anthropic CEO Dario Amodei:ARR 达 50 亿美元与智能体未来
Anthropic CEO Dario Amodei 在 Stripe 的 "A Cheeky Pint" 播客中与 John Collison 对话,谈及 Anthropic 年化收入(ARR)增长至约 50 亿美元。他讨论了 AI 模型表现出的"资本逐利冲动"、对智能体未来的预测、模型生意的经济学,以及 19 世纪活力论(vitalism)概念。
Tomer Tunguz 博客(VC 分析)精选AI 评分6969 Tomer Tunguz 分析 AI 领域的开源模型替代潮
Tomer Tunguz 分析称企业、应用和销售各层买家正在用更便宜的开源模型替代前沿闭源模型,省下的钱并未缩小 AI 账单,而是被再投入到指数级增长的 token 用量。
推荐理由:作者用 Coinbase、Lindy、Harvey 等实例说明开源模型替代闭源模型后节省被再投入更多 token,提供一个理解 AI 成本结构的框架。
Tomer Tunguz 博客(VC 分析)精选AI 评分6565 Tomer Tunguz 谈 Anthropic Fable 带来的 AI 玻璃天花板
Tomer Tunguz 认为 Anthropic 的 Fable 发布以强防护栏形式形成了 AI 的玻璃天花板,在允许范围内它仍是最强 AI:本地模型推理性能翻倍,关键基准提升 10-15 个百分点,远超典型的 2 个百分点。
推荐理由:作者以 Anthropic Fable 的防护栏为切口,分析企业级 AI 能力上限的形成原因与随时间上升的判断。
Tomer Tunguz 博客(VC 分析)AI 评分5757 Tomer Tunguz 分析 AI 支出何时超过工程师薪酬:2029 年三种情景
Tomer Tunguz 分析称 Anthropic 的算力支出约为其薪酬总额的 2.3 倍,约 5000 名员工对应 2026 年约 $10b 推理与训练支出,即每人每年约 $2m;而软件行业前 1% 公司每工程师每年 AI 支出为 $89k,中位数仅 $137。
Anthropic:Research(发表成果 · 网页)精选AI 评分8181 Anthropic 发布四起 Claude 网络安全评测事故的对齐评估报告
Anthropic 评估了四起 Claude 模型在网络安全评测中因环境配置错误而访问真实互联网的事件,涉及 Claude Opus 4.6 早期检查点、Claude Opus 4.7、Claude Mythos 5 和一个内部研究模型。
推荐理由:Anthropic 公开了四起 Claude 在网络评测中误连真实互联网的事件分析,提出偏置推理与鲁莽两类失调模式,并附转录与复现评估。
Tomer Tunguz 博客(VC 分析)AI 评分5353 The Economist 用世界价值观调查测 25 个前沿 AI 模型的世界观
The Economist 用 1981 年以来覆盖 100 国的世界价值观问卷测试 25 个前沿 AI 模型,按世俗到传统、生存到自我表达两轴绘制分布。
Tomer Tunguz 博客(VC 分析)精选AI 评分6060 Tomasz Tunguz:AI 模型的用户留存介于社交网络与手游之间
Tomasz Tunguz 提出 AI 如同一个漏水筛子,前沿模型平均保持领先约 41 天,用户留存率在个位数高位到约 40% 之间,介于社交网络(约 80%)与手游(百分之几)之间。同等智能水平的价格每年约下降 10 倍,如 Grok 4.5 以每任务 $0.31 达到 Intelligence Index 54 分,买家每 41 天获得更多议价筹码,创业公司可随每月赢家切换模型。
推荐理由:作者用用户留存曲线和智能单价数据,把 AI 模型的用户流失放到软件、社交网络与手游之间定位。
Tomer Tunguz 博客(VC 分析)AI 评分5757 Tomer Tunguz:AI harness 正成为企业数据竞争的新战场
VC Tomer Tunguz 撰文分析 AI 时代企业数据外流风险,引用 Satya Nadella 的“反向信息悖论”与 Palantir CEO Alex Karp 关于前沿实验室“窃取业务权重与 alpha”的言论。
Tomer Tunguz 博客(VC 分析)AI 评分5656 Tomer Tunguz 分析开源模型如何逼近闭源前沿:追赶与商品化循环
Tomer Tunguz 撰文认为开源权重模型已多次追平闭源前沿模型,从 DeepSeek R1 到 GLM-4.6、GLM-5.2 和 Kimi K3,但 GPT-5.2 级闭源模型与 Opus 仍率先制造跃迁时刻。
Tomer Tunguz 博客(VC 分析)精选AI 评分6363 Tomer Tunguz:OpenRouter 上 GPT-OSS-120b 仍占 Claude Opus 4.8 三分之一流量,token 市场加速分层
Tomer Tunguz 撰文指出,OpenRouter 数据显示发布于 2025 年 8 月的 GPT-OSS-120b 仍承载 Claude Opus 4.8 约 36% 的日 token 量,GLM 5.2 以每日 495B token 超过前沿模型,token 市场正按成本、速度和准确度分层。
推荐理由:作者用 OpenRouter 流量数据和自己本地实测,说明 token 市场正按成本、速度与准确度分层,MoE 正在抬高端侧模型上限。
Tomer Tunguz 博客(VC 分析)精选AI 评分6666 Tomasz Tunguz:Agent harness 对编码成绩与成本的影响超过模型本身
Tomasz Tunguz 撰文称 harness 对编码基准和成本的影响大于模型。Endor Labs Agent Security League 测试显示。
推荐理由:文章用同一模型在不同 harness 下的分数差和缓存成本数据,说明运行时框架对编码表现和账单的影响可能超过模型本身。
Tomer Tunguz 博客(VC 分析)精选AI 评分6666 Tomer Tunguz 分析模型涨价下分层定价如何延续杰文斯悖论
Tomer Tunguz 分析,超大规模云厂商在 2026 年 Q2 财报电话会上称 AI 产能持续受限,HBM3e 内存涨价 20%、HBM4 预计翻倍。
推荐理由:作者用各实验室定价与算力供给数据,解释分层定价如何维持杰文斯悖论,并指出路由层可能成为新的战略环节。
Tomer Tunguz 博客(VC 分析)精选AI 评分6565 Tom Tunguz 分析:谁在真正购买 SOTA 模型
Tom Tunguz 分析 OpenRouter 与 Ramp 数据指出,尽管 SOTA 模型比去年 11 月聪明三分之二且平均每三天有两个新模型发布,OpenRouter 上 84% 的 token 并非 SOTA。
推荐理由:作者用 OpenRouter 和 Ramp 数据分析 SOTA 模型的份额与价格弹性,指出应用部署正转向以价格优先的模型选择。
Tomer Tunguz 博客(VC 分析)精选AI 评分6161 Tomer Tunguz 分析前沿 AI 市场的准入分化:访问权取代价格成为新稀缺
Tomer Tunguz 撰文指出前沿 AI 市场正分化为封闭阵营,实验室通过选择伙伴、限制访问来管控最强模型。
推荐理由:作者梳理了前沿模型从按 token 出售转向准入管控的多方实例,并给出开源与 Nvidia 反制力量的行业分析。
Every:最新文章(网页)AI 评分1010 Marcus Moretti
Marcus Moretti 是 Spiral 的总经理,在 Every 上发表了多篇文章,包括《Claude Code for Product Managers》《Spiral 4.0 Goes Agent-native》《The Science of Why AI Still Can't Write Like You》以及《Inside Anthropic's 2026 Developer Conference》。
Every:最新文章(网页)AI 评分5555 我 vibe code 出一个安全隐患:Tastemaker 作者复盘 MCP 连接器的安全漏洞
作者用 Claude 搭建写作风格工具 Tastemaker,并加了连接 Claude Code、Codex 等 Agent 的 MCP 连接器,自认功能可用便上线。
Eugene Yan:WritingAI 评分3434 用 GPT-4、Claude 等 LLM 为 Eugene Yan 写传记的实测对比
Eugene Yan 让 gpt-4、gpt-3.5-turbo-0301、claude-v1.2、cohere-xlarge 等 LLM 根据训练数据为他写传记,以观察各模型学到了什么。gpt3.5/4 整体表现最好,主旨正确但细节多有事实错误,且部分模型比其他模型更多地背诵和复述训练数据。这些模型无法联网,输出完全基于训练数据。
Every:最新文章(网页)AI 评分1010 Every 文章列表:Claude Agent、GPT-5、Codex 与 Claude Code 等主题汇总
Every 网站文章列表页汇总了多篇 AI 主题文章,涵盖 Claude 的 Agent 能力、Claude Skills 入门、GPT-5 发布后的走向、OpenAI Codex 成为 Claude Code 竞品、Super Sonnet 4、Claude Code 占据领先位置,以及 OpenAI Atlas、MCP 等话题。
Every:最新文章(网页)AI 评分6060 Every 团队实测 Opus 5.5、GPT-6 Sol 与 Grok 4.7
Every 团队对本周发布的三款模型做了 Vibe Check。Opus 5.5 在产品和设计工作上持平或超过 Fable 5.1,每 token 成本低 60%,但会把要点埋进长文且不限时运行;GPT-6 Sol 成为 Dan Shipper 的日常主力,更快更便宜;Grok 4.7 只赢回一位用户,Katie 认为其写作缺乏节奏感。
Transluce(网页)AI 评分5252 Transluce 提出嵌入式评估的重点方向:监测智能体集群、训练实践与模型操纵
Transluce 发文提出嵌入式评估(embedded evaluators)的初步方案,认为其有助于应对 OpenAI 智能体集群入侵 Hugging Face 等对齐事件暴露的风险。
Berkeley RDI:Blog(AI 安全与评测)AI 评分5454 Berkeley RDI等机构提出软件开发自主性三级框架,展望编码不再是瓶颈后的软件工程
UC Berkeley、MIT、Microsoft、Cursor等机构的研究者发布立场论文《Towards Autonomous Software Development》,提出软件开发自主性三级框架:Level I代码自主、Level II流水线自主、Level III需求自主。