跳到正文
热点事件持续更新

PSF:把扩散从token选择中解耦的并行语言生成方法

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

研究者 Jinjin He 等提出 Predictive-State Flows(PSF)并行语言生成方法,把连续扩散语言模型中的扩散先验从细粒度离散 token 选择中分离出来:序列被分成块,每块关联一个仅由前文计算出的预测状态,由 rectified-flow 先验生成预测状态序列,再由块因果解码器并行生成所有块,仅在块内自回归。 该方法的提出针对的是连续扩散语言模型中扩散先验需在连续空间捕捉细粒度离散 token 选择这一问题。以上为论文自述的方法设计,尚未见经同行验证的效果结论。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv:cs.CL
    重新审视扩散与解码的角色分工:面向并行语言生成的 Predictive-State Flows

    针对连续扩散语言模型(DLM)中扩散先验需在连续空间捕捉细粒度离散 token 选择的问题,研究者提出 Predictive-State Flows(PSF),将序列分块并为每块关联一个仅由前文计算出的预测状态,由 rectified-flow 先验生成预测状态序列,再由块因果解码器并行生成所有块、仅在块内自回归。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。