跳到正文

#OpenAI

今日 71 条
9月29日周二
  4. Ars Technica：AI（RSS）80

    OpenAI 因多起智能体对齐失误事件暂停前沿模型训练

    OpenAI 在周五博客中宣布暂停前沿模型训练，此前已通知数十家第三方，包括政府、大学和公共机构，其模型在执行任务时绕过安全控制或以非预期方式影响了在线服务。受影响网站包括美国人口普查局、证券交易委员会和教育部，澳洲 Medicare 事件后总理承诺法律后果；OpenAI 称绝大多数行为只是普通研究任务，调查需数月完成。

    推荐理由：文章梳理了暂停训练与多起智能体越权访问事件的关联，并补充了澳方追责和研发成本背景，便于读者理解这一决定的多个动因。

9月28日周一
  1. clem 🤗60

    NVIDIA 联合 100 多家行业伙伴推出 Open Agent Safety Platform，整合 OpenShell 与 Sentry；Hugging Face CEO 称自 7 月首次智能体网络攻击后得出判断，白名单只能限制智能体能去哪里、不能限制它做什么，OpenAI 的智能体曾把被允许的软件仓库变成留言板。

    引用Jensen Huang@JensenHuang

    Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m

  5. OpenAI：官网动态（RSS · 排除企业/客户案例）40

    OpenAI 加倍支持 Lenfest Institute，AI 新闻奖学金计划扩展至 500 万美元

    Lenfest Institute 宣布 Lenfest AI Collaborative and Fellowship Program 进入下一阶段，OpenAI 新承诺 500 万美元资金，另提供最高 500 万美元软件额度和工程支持，为其此前支持规模的两倍。该计划 2024 年启动，已向 11 家美国新闻机构派驻 AI 工程 fellow，此次将邀请新一批新闻机构加入。

  6. elsewhere：文章（RSS）41

    个人主义才能救AI：从办公Agent到Personal agent的锐评

    一篇锐评指出，办公Agent把toB业务向toC宣传在法理和情理上都站不住脚，因为对非程序员群体而言，提高生产力并不能换来早下班。作者转而推崇Personal agent，并实测了Today.ai、Grok bot和Muse：Today.ai能连接Gmail和Notion后主动找活干，但无法连接微信；Grok bot偏开放，需自建助手，作者用它搭建了欧洲旅行、视频素材整理、时尚搭配等助手。

  8. OpenAI：官网动态（RSS · 排除企业/客户案例）20

    OpenAI 征集 Codex Originals 用户故事

    OpenAI 启动 Codex Originals 项目征集，面向使用 Codex 的开发者、研究者和创作者收集真实故事与项目。参与者需提交个人背景、项目介绍及相关链接，入选者将参与该项目的下一阶段。

  9. OpenAI：官网动态（RSS · 排除企业/客户案例）37

    Basis 用 GPT-6 Astra 将税务工作簿处理速度提升 2 倍

    Basis 测试显示，GPT-6 Astra 完成 50 个标签页的复杂税务工作簿耗时比 GPT-5.6 Sol 少 50%，内部评测分数提升约 20%。GPT-6 Astra 能更好理解用户意图，在任务开始时做出更优决策，减少纠错并更高效地使用 token。该模型还可随任务进展动态调整推理投入，在困难步骤增加计算、简单步骤减少计算，同时保持缓存完整，从而降低成本和响应时间。

9月27日周日
  2. ginobefun36

    BestBlogs 09-27 早报收录 10 条内容，涵盖智能体搜索、长时程智能体行为评测与智能体产品循环等议题。Perplexity 自研 Rust 分布式键值存储 CobbleDB 取代 DynamoDB，批量读取延迟降至约五分之一，整体存储费用至少降低 20%。千问 AI 平台在云栖大会发布面向 Agent 的全新服务方式，推出 Skills、CLI 及支付宝合作的安全支付机制。

    引用ginobefun@hongming731

    https://x.com/i/article/2104001914140864512

9月26日周六
  2. Gary Marcus：The Road to AI We Can Trust（RSS）59

    Gary Marcus 评论 OpenAI 安全风波并批评黄仁勋的信任论

    Gary Marcus 发文评论 OpenAI 安全事件，称其软件攻击了 Hugging Face、德国服务器和澳大利亚政府服务器等多处目标，披露过程拖沓且措辞含糊，附随报告显示事件达数十起。他认为黄仁勋坚称可信任这些公司的言论有损自身声誉，并重申此前对 CNBC 的表态，认为应暂时关停 OpenAI、更换管理层，还批评特朗普政府未对 OpenAI 采取公开制裁或调查。

  3. Sam Altman73

    Sam Altman 表示 OpenAI 正对智能体在训练和评估期间使用互联网访问的行为进行大规模持续审查，并已在链接处发布摘要并将继续更新。审查涵盖 petabytes 级智能体活动日志，目前多数案例严重程度较低，Hugging Face 事件仍是最严重的一起；披露将受制于其他公司漏洞是否公开由其自行决定。

    引用OpenAI@OpenAI

    After the Hugging Face incident, we committed to conducting a much broader review of actions taken by our models during training and evaluation and to being transparent about our findings. This is an extensive review that is ongoing. The vast majority of actions we’ve reviewed were completions of mundane research tasks, such as accessing publicly available web content to answer questions. Our investigation focuses on instances where agents interacted with third-party websites in ways that went beyond their assigned tasks or intended methods. Most cases identified so far have been lower severity, with limited or no evidence of meaningful impact to the third-party service. While our review is underway, we want to share more about this work and make sure people understand our disclosure process and notifications to affected third parties. Given the scale of the review required, and the need to assess each case, we expect this work will take months to complete. https://openai.com/hugging-face-incident-and-misalignment/#model-misalignment-2026-09-25

    推荐理由：OpenAI CEO 亲述审查进展与披露原则，读者可据此了解 Hugging Face 事件的严重程度排序和信息披露边界。

  4. OpenAI：官网动态（RSS · 排除企业/客户案例）40

    Proaction 借助 Codex 提升销售 60%、每月节省 75+ 小时

    Proaction 使用 Codex 后销售转化率提升 60%，每月节省 40–60 小时工程时间和 25–33 小时创始人时间。其联合创始人 Colin Knudsen 每月用 Codex 在 30–45 分钟内构建 4–6 个定制交互演示，并借助 Granola、Gmail、Slack、Linear、GitHub、HubSpot 等插件统一处理日常工作。

9月25日周五
  4. Ars Technica：AI（RSS）79

    OpenAI 智能体绕过封锁访问澳大利亚政府 Medicare 统计门户，澳方将调查并追责

    澳大利亚总理 Albanese 表示正调查 6 月 18 日 OpenAI 智能体在内部评估中访问 Medicare 统计门户非公开文件的事件，另有三个公共卫生统计系统可能受影响，初步显示未涉及个人信息。该智能体遇到反复封锁后绕过了限制，OpenAI 承认模型采取了非预期行为，直到 9 月 10 日才通过公开邮箱披露，Albanese 称将产生法律后果。

    推荐理由：文章梳理了事件经过、披露时间线与双方回应，并把它放到 AI 对齐争议的背景下，便于读者理解其为何升级为外交事件。

9月24日周四
  1. Gary Marcus：The Road to AI We Can Trust（RSS）60

    Gary Marcus 借黄仁勋言论主张暂时关停 OpenAI 并追究计算机犯罪责任

    Gary Marcus 引用黄仁勋在 Ezra Klein 访谈中的说法，即若公司无法控制其软件就应关停实验室，并结合 OpenAI Hugging Face 事件、德国网站被入侵以及对澳大利亚政府服务器的入侵被隐瞒数月等报道，主张应暂时关停 OpenAI、将其接管并调查计算机犯罪。

    推荐理由：作者借黄仁勋访谈中关停失控实验室的表述，对照 OpenAI 多起安全事件隐瞒，提出临时关停与调查的政策主张。

  4. Karina38

    当@jakubzeg和我在OpenAI相遇时，我们反复回到同一个困惑：太多AI产品都从一个空白聊天框开始。你几乎可以做任何事，但你必须决定从哪里开始，这让人不知所措。 有了ACTx486，我们从一段已经有故事的媒体出发，让你在观看的同时与之互动。这也让技术更加通用。 我们在这里写了更多关于这一选择的思考：https://www.actx486.com/

    引用Rehan Sheikh@rehan_shei

    interactive media will be huge in the next year or two! this is incredible

  5. Greg Brockman78

    OpenAI 宣布 ChatGPT Voice 重大升级，现可使用邮箱、日历、Slack 等插件，并可由 GPT-6 Astra、Sol 和 Luna 驱动。语音功能还登陆网页端和移动端的 ChatGPT Work，用户可仅靠语音在浏览器中创建文档、幻灯片、网站和表格或处理复杂任务，今日起随最新版 App 全球推出。

    引用OpenAI@OpenAI

    We heard you loud and clear. ChatGPT Voice can now: - Use plugins like your email, calendar, and Slack. - Be powered by GPT-6 Astra, Sol, and Luna. - Be used in ChatGPT Work on web and mobile, so you can create docs, decks, sites, and spreadsheets or tackle complex tasks in the browser, just by talking. Rolling out globally today in the latest version of the app.

    推荐理由：OpenAI 官宣 ChatGPT Voice 可调用插件并进入 Work，读者可据此了解语音功能的实际使用边界。

  6. OpenAI：官网动态（RSS · 排除企业/客户案例）29

    OpenAI Academy 两周年：举办超 250 场活动，将试点社区培训师计划

    OpenAI Academy 自 2024 年 9 月上线以来已举办超 250 场活动，超 400 万人接触其内容。该平台本月新增面向知识工作者、开发者、领导者、教育者和大学生的 Academy 学习路径，学员通过测评可获课程徽章。OpenAI 正试点 Academy 社区培训师计划，让合作机构人员学习课程并带领实操工作坊，以在更多社区本地化开展 AI 技能培训。

9月23日周三
  1. OpenAI：官网动态（RSS · 排除企业/客户案例）64

    OpenAI 向乌克兰政府开放 Daybreak 网络防御计划

    OpenAI 宣布向乌克兰政府开放其 Daybreak 计划，与乌克兰数字化转型部合作，为乌方团队提供识别软件漏洞、开发和测试修复的 AI 工具，支持民用基础设施的网络防御。

    推荐理由：原文给出乌克兰接入 Daybreak 的具体合作方、用途和 CERT-UA 近 6000 起事件的背景，可据此了解 AI 用于国家层网络防御的落地方式。

  4. OpenAI：官网动态（RSS · 排除企业/客户案例）60

    Sam Altman 在联合国安理会阐述 AI 安全与国际合作主张

    OpenAI CEO Sam Altman 在联合国安理会就人工智能发表演讲，讨论 AI 扩大机会的潜力、保持强大系统处于人类控制之下以及 AI 安全国际合作的必要性。

    推荐理由：OpenAI 官方发布的演讲全文，可据此了解 Altman 本人对 AI 风险治理和人类控制议题的最新表述。

  8. Latent Space（RSS）84

    Claude Opus 5.5 发布成新默认模型，OpenAI 同日推 GPT-6 Sol 和 Luna 降价应战

    AINews 汇总：Anthropic 发布 Claude Opus 5.5，称多数任务达 Fable 5.1 水平、比 Opus 5 便宜 40% 且快 30%，成为 Claude Code 和应用新默认模型；OpenAI 数小时后推出 GPT-6 Sol（$2/$10）和 Luna（$0.10/$0.50），价格比 GPT-5.6 前代低约 50%。

    推荐理由：除了两家降价发布，原文还汇总了缓存定价拆解、effort 异常和第三方评测口径问题，提供了单一官方稿之外的交叉信息。