跳到正文
热点事件持续更新

PI3D:3D环境中的提示注入攻击

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者提出 PI3D,一种针对 3D 环境中多模态大语言模型(MLLM)的提示词注入攻击,其方式是在物理环境中放置带文字的物体,而非编辑数字图像。 据研究者称,该攻击需解出物体的有效位姿(位置与朝向),在诱导模型执行注入任务的同时保持摆放的物理合理性。实验显示,PI3D 在多样相机轨迹下对多个 MLLM 有效,且现有防御不足以可靠抵御。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.AI
    PI3D 论文提出针对 3D 环境中多模态大模型的提示词注入攻击

    研究者提出 PI3D,一种针对 3D 环境中多模态大语言模型(MLLM)的提示词注入攻击,通过在物理环境中放置带文字的物体而非数字图像编辑实现。攻击需求解物体的有效位姿(位置与朝向),在诱导模型执行注入任务的同时保持摆放的物理合理性。实验显示 PI3D 在多样相机轨迹下对多个 MLLM 有效,且现有防御不足以可靠抵御。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。