Google AI:DEV 作者专属(RSS)· gj0xv·· 3 小时前AI 评分54
laya-compactor 本地压缩 RAG 上下文,实测削减约 70% token 且答案基本不变
Cutting 70% of RAG context tokens and keeping the answers identical (measured)
AI 导读
作者发布本地免费工具 laya-compactor,在单次前向传播中对检索批次打分并按 token 预算裁剪文档,只保留原文不重写。
来源:Google AI:DEV 作者专属(RSS) · dev.to