语言规则压缩提示词，无需模型前向计算

Jianfei Ma 等作者的论文提出一种提示词压缩方法：压缩阶段完全不做语言模型前向传播，只用 CPU 侧处理，通过离线进化搜索组合词汇、句法、语义和篇章规则。该论文将发表于 EMNLP 2026。 在短文本、多文档推理和对话记忆问答数据集上，其表现与近期先进提示词压缩策略相近。方法在轻中度压缩下效果最好，压缩率升高后性能下降，所用规则也从 token 裁剪转向句子抽取。 作者称，该方法无需在压缩时用语言模型打分，推理成本最多可降。上述效果为论文报告结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。