JointServe多模型Agent服务系统论文发布

Daijin Hu 等人提交的论文提出 JointServe，一个面向显存受限 GPU 的多模型智能体服务系统。其核心做法是把权重分片和 KV 块都视为竞争同一内存预算的驻留对象，通过调用意图预取、部分 k* 驻留和抢占式传输调度来提前准备模型。 目前该工作以 arXiv cs.LG 预印本形式发布，尚未见独立复现或对比评测结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。