OpenAI 在对前沿模型训练环境的红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞，攻击者可通过恶意压缩数据在受影响系统上执行代码，无需创建用户账号。
原文披露红队演练中发现 Brotli 未认证远程代码执行漏洞，并说明修复与下游软件更新路径，读者可据此排查自身依赖。
在这次红队演练中，我们还发现了一个漏洞，可在 Brotli 中实现未经身份验证的远程代码执行。Brotli 是一个被广泛部署的压缩库，被许多软件所包含，例如 Node.js、Bun 和 Envoy。
该漏洞可以让攻击者通过发送或回复恶意压缩数据，在受影响系统上运行自己的代码，而无需创建任何用户账户。也就是说，一个接受压缩输入的未修补服务器可能被恶意客户端接管，而一个接受压缩输入的未修补客户端（例如“curl --compressed”）可能被恶意服务器接管。
这个根本原因问题实际上已在二月份于 Brotli 源代码中修复，但当时并不知道它会导致安全漏洞，而且 Brotli 之后也没有再发布新版本。由于 Brotli 内置于其他软件中，任何包含该库的软件都需要同样进行更新，随后该软件的用户也需要更新。我们向 Brotli 以及 Node.js 等其他下游项目披露了该漏洞，后者已发布或正在发布安全更新，Brotli 也发布了新的版本并公布了 CVE。
有关补丁和缓解措施的更多细节见下：
https://patchtheplanet.org/brotli
在过去几个月里，我们大幅强化了研究训练环境的安全性。我们移除了所有前沿模型在训练期间的实时互联网访问，并为它们构建了一个离线的世界作为替代——一个缓存的网络版本，让它们仍然可以学习浏览、搜索和使用应用程序。 9月20日，在一个模型利用 DNS 配置错误找到了走出这个离线世界的方法后，我们暂停了前沿训练，以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队，并让它们寻找我们研究环境中的弱点。 虽然它们没有找到任何能够轻易利用、同时又能向我们的监控隐藏自身活动的通往互联网的路径，但它们确实发现了零日漏洞、虚拟机逃逸，以及用于智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御，并为开源软件贡献了修复方案。 在强化了我们的隔离架构后，我们于10月1日恢复了前沿 RL 训练和推理。我们预留了大量算力用于持续的红队测试，并将高算力红队测试纳入我们用来判断前沿训练和评估能否安全推进的安全案例中。 https://openai.com/index/securing-our-frontier-model-training-environment/
原文
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. https://openai.com/index/securing-our-frontier-model-training-environment/
来源：OpenAI · x.com