LMSYS:Blog(Chatbot Arena 团队)·· 15 小时前精选AI 评分64
SGLang 与 Miles 发布 DeepSeek-V4.1 的 Day-0 支持
Blog SGLang and Miles Add Day-0 Support for DeepSeek-V4.1 DeepSeek-V4.1 introduces several architecture choices that shape the serving stack. Low-ratio compression and sliding-window attention (SWA). Each layer maintains an fp8 sliding-window cache for its ... SGLang and Miles Teams September 10, 2026
AI 导读
SGLang 和 Miles 团队发布对 DeepSeek-V4.1 的 Day-0 支持,解析其低比率压缩、滑动窗口注意力(SWA)、流形超连接(mHC)和 Engram 记忆等架构对推理栈的影响。
推荐理由
原文拆解了 DeepSeek-V4.1 新架构对推理栈的影响,并给出 SGLang 与 Miles 的 Day-0 支持方案和实测数字。
来源:LMSYS:Blog(Chatbot Arena 团队) · lmsys.org