LlamaIndex 解读 LongLLMLingua 提示词压缩

2026年10月2日，LlamaIndex 团队发布文章，介绍 LongLLMLingua 如何通过提示词压缩改进 RAG 并降低成本。据该报道，其流程分几步：先用基于困惑度的 Question-aware 粗粒度压缩做重排，再用对比困惑度做 token 级细粒度压缩，随后把最相关文档重排到提示词开头，最后用子序列匹配恢复被截断的关键信息。报道称这一方法用于缓解 Lost in the Middle 问题并降低 RAG 成本。目前该事件仅有这一篇报道，尚无后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。