arXiv 论文提出预填充决策模型读出稳定性估计器

一篇提交至 arXiv 的论文提出，受 Jev 模型启发的 prefill-only 决策模型每次调用比同规模生成式语言模型便宜一到两个数量级，其首次前向传播的缓存分布可决定候选菜单变动后的准确率。作者 Ran Li、Lei Chen 称，该估计器无需标签和二次前向传播，在七个模型家族、十个数据集和两类任务上误差在 4.2 分以内。 论文给出的一个结果是：在精选 5 候选菜单上，0.8B 模型在 CLINC150 达到 95.4%，高于 4B 模型在全部 150 标签上的 80.0%。上述数据与结论均出自论文，尚未经独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。