跳到正文
热点事件持续更新

PACT:扩散语言模型RL后训练新方法

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

针对扩散语言模型强化学习后训练中的“轨迹盲”问题,Vaibhav Singh 和 Eugene Belilovsky 提出 PACT(Potential-Anchored Consistency of Transitions)方法:联合学习策略与为每个中间状态打分的标量势函数,并用一致性损失匹配已揭示 token 的策略-参考对数概率比与势函数变化。据其论文,该方法无需序列似然估计或重要性比裁剪。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    PACT:沿生成路径对扩散语言模型做 RL 后训练

    针对扩散语言模型 RL 后训练中的"轨迹盲"问题,研究者提出 PACT(Potential-Anchored Consistency of Transitions),联合学习策略与为每个中间状态打分的标量势函数,并用一致性损失匹配已揭示 token 的策略-参考对数概率比与势函数变化,无需序列似然估计或重要性比裁剪。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。