HuggingFace Daily Papers（社区热门论文）·2026-10-01 12:39· 2 小时前AI 评分41

Galahad：为 vLLM、SGLang 和 llama.cpp 打造字节级精确记忆层，让 LLM 阅读成为一次性成本

Working Around the Compute Ceiling: Byte-Exact Memory in Galahad Makes LLM Reading a One-Time Cost LLM Reading a One-Time Cost

AI 导读

Galahad 是面向 vLLM、SGLang 和 llama.cpp 的记忆层，通过 Taliesin 保存文本块的 KV 状态、Blaise 按需传递文档片段，让模型对已读内容不再重复计算。