研究者提出前缀缓存保留优化模型PCR

研究者 Shivam Gupta 发布论文，提出 Prefix-Certificate Retention（PCR），一种针对静态、分组、访问重置超时的精确有限轨迹形式化方法，用于前缀缓存语言模型服务的内存-时间优化。 该方法将可用前缀收益建模为以超时阈值和前置命中证书为前置条件的节点，把最大权闭合问题归约为一次最小割，图规模与块查找次数和超时选择数线性相关。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。