HaloBlock：扩散大语言模型解码新方法

Zhaohui Zheng 等作者提出 HaloBlock，一种面向扩散大语言模型（dLLM）推理的难度感知自适应 halo 解码机制，源代码已公开。该方法通过双向累积熵刻画块解码难度，并在每个块两侧自适应分配双向 halo 区域，以缓解边界上下文不连续问题。 据作者称，在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 上，数学推理与代码生成基准测试均显示准确率提升和更高推理效率。这些结论来自作者的基准测试结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。