离散扩散语言模型实现属性分时控制

研究者对四种离散扩散语言模型（124M-8B 参数）训练稀疏自编码器，发现不同属性在去噪过程中按不同时间表定型：在 MDLM 上主题在前 2% 去噪步骤内确定，情感则需约 20% 过程逐步浮现。 基于此，Hanhan Zhou、Shamik Roy、Rashmi Gangadharaiah 提出自适应调度机制，将干预集中在各属性活跃形成阶段。作者称，在四种模型的七项单属性与多属性控制任务中，该方法在控制力与生成质量权衡上均优于均匀干预和区间限制基线。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。