研究：约束解码的LLM性能下降源于提示词与格式不等价

一项新研究按格式、有效性、推理三类约束，对四个模型家族共十一个开源模型做因果消融实验，重新审视约束解码对 LLM 性能的影响。作者称，约束解码造成的性能下降主要来自提示词与输出格式不等价，而非解码器层面的掩码。 研究还称，有效性约束能消除无效答案、提升可靠性与可提取性；推理约束在强制有益轨迹时能提升推理能力与准确率。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。