跳到正文
热点事件持续更新

REPRO:单卡7B模型驱动的自动红队测试框架

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Abrar Alotaibi 与 Moataz Ahmed 提交论文,提出纯黑盒框架 REPRO,用压缩开源 7B 反思模型在单块消费级 GPU 上驱动进化优化来发现对抗提示词,并引入语义交叉与基于 Thompson 采样的贝叶斯策略选择。 据论文称,在其协议下 REPRO 对所有被测目标单轮达到 100% 攻击成功率,每个行为中位消耗 24 次目标查询。作者同时说明,优化中给候选打分的评判模型也产生所报告的 ASR,且搜索一旦被接受即停止,因此该指标反映的是搜索在迭代预算内是否成功,而非固定预算下的成功率;所有基线数据取自各自原论文,评判模型、预算和模型版本均不同,所以论文将其定位为同一协议下的模型覆盖清单,而非直接对比排名。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    REPRO:面向自动化 LLM 红队测试的反思式进化提示词优化器

    研究提出纯黑盒框架 REPRO,靠单个消费级 GPU 上的压缩开源 7B 反思模型驱动进化优化来发现对抗提示词,引入语义交叉与基于 Thompson 采样的贝叶斯策略选择两项机制。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。