研究者提出拒绝门控解码RGD
热点事件持续更新
研究者提出拒绝门控解码RGD
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Phillip Howard 等作者提出拒绝门控解码（RGD）：先跑一段短贪心探测，复用提示词的 KV 缓存，一旦与一组学习到的拒绝前缀不兼容就退出——兼容则返回贪心回答，不兼容则丢弃探测结果、从原始提示词采样。作者称，该方法在高温采样下保留模型的贪心解码拒绝响应，同时让其他提示词从原始高温分布采样。 在 7 个模型和 3 个基准数据集上、T=2.0 时，RGD 将贪心拒绝保持率从直接采样的 91.9% 提升至平均 98.3%，非拒绝请求的中位延迟仅增加 2.2–4.3%，并保持至少 98.1% 的贪心非拒绝样本走高温采样路径。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
拒绝门控解码：高温采样下保持 LLM 拒绝行为报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.AI拒绝门控解码：高温采样下保持 LLM 拒绝行为
研究者提出拒绝门控解码（RGD），一种顺序解码方法，可在高温采样下保留模型的贪心解码拒绝响应，同时让其他提示词从原始高温分布中采样。在 7 个模型和 3 个基准数据集上、T=2.0 时，RGD 将贪心拒绝保持率从直接采样的 91.9% 提升至平均 98.3%，非拒绝请求的中位延迟仅增加 2.2-4.3%，并保持至少 98.1% 的贪心非拒绝样本走高温采样路径。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。