热点事件持续更新

GRPO 红队研究：攻防协同训练方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

微软的 Blake Bullwinkel 等人发布论文，探索用 GRPO 训练语言模型的攻击方与防御方。方法通过多个基于 LLM 评判的奖励通道并用 GDPO 计算优势，以避免单一通道主导，并采用从攻击方单轮、多轮训练到攻防交替协同训练的课程。结果显示，攻击效果强且可迁移；协同训练的防御方在保持通用效用的同时达到有竞争力的安全性。消融实验识别了影响安全与效用平衡的关键组件，并发现 GRPO 会在训练中令攻击方多样性坍缩。

AI 根据报道生成 · 1 小时前更新

最新进展10月9日 12:00

用 GRPO 实现语言模型的自适应红队攻防

报道时间线

沿着报道，了解事件的不同侧面。

10月9日

12:00
arXiv：cs.CL
用 GRPO 实现语言模型的自适应红队攻防
研究探索用 GRPO 训练语言模型的攻击方与防御方，通过多个基于 LLM 评判的奖励通道并用 GDPO 计算优势以避免单一通道主导。方法采用从攻击方单轮、多轮训练到攻防交替协同训练的课程，产出攻击效果强且可迁移，协同训练的防御方在保持通用效用的同时达到有竞争力的安全性。消融实验识别了影响安全与效用平衡的关键组件，并发现 GRPO 会在训练中令攻击方多样性坍缩。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。