跳到正文
原文
Google AI:DEV 作者专属(RSS)· gj0xv·· 3 小时前AI 评分54

laya-compactor 本地压缩 RAG 上下文,实测削减约 70% token 且答案基本不变

Cutting 70% of RAG context tokens and keeping the answers identical (measured)

AI 导读

作者发布本地免费工具 laya-compactor,在单次前向传播中对检索批次打分并按 token 预算裁剪文档,只保留原文不重写。

来源:Google AI:DEV 作者专属(RSS) · dev.to