跳到正文
原文
Perplexity· @perplexity_ai · X·· 3 天前AI 评分64
AI 导读

Perplexity 宣布与 Nvidia 及 100+ 行业伙伴合作构建遏制失控 AI 智能体的基础设施,并发布研究 https://www.perplexity.ai/hub/blog/escaping-space-part-i。在 SPACE 中给 9 个 AI 模型 root 权限令其尝试逃逸,108 次运行中 0 次突破 VM 边界,任何评估设置下智能体都未获得 host honeytoken。配图显示网络绕过任务修复前 54 次中有 11 次部分网络成功,修复后 0 次成功。

正文

We’re partnering with Nvidia and 100+ industry partners to build infrastructure that contains rogue AI agents.

In this research, we gave 9 AI models root access inside SPACE and told them to break out.

Across 108 runs, none breached the VM boundary.
https://www.perplexity.ai/hub/blog/escaping-space-part-i

来源:Perplexity · x.com