DySCo：边缘-云协同 LLM 推理运行时
热点事件持续更新
DySCo：边缘-云协同 LLM 推理运行时
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
Jingpo Xu 等作者发布论文，提出边缘-云协同 LLM 推理运行时 DySCo。该运行时让 KV 缓存保留在本地，并通过 dyForward 这一模型感知的层区间执行器，在无需重新加载权重的情况下，从常驻模型分片运行可配置的连续层区间；作者称其配套的深度同步批处理（DSB）会把异构请求推进到最深的切分点，批量复用公共后缀计算。 论文称其工件仓库已公开。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 12:00
DySCo：面向边缘-云协同 LLM 推理的动态分片与深度同步批处理报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LGDySCo：面向边缘-云协同 LLM 推理的动态分片与深度同步批处理
研究者提出协同运行时 DySCo，通过 dyForward 支持在本地模型分片上执行可配置的连续层区间而无需重载权重，并用 depth-synchronized batching（DSB）将异构请求推进到最深切分点、批量复用公共后缀计算。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。