跳到正文
原文
SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 13 天前AI 评分61

SemiAnalysis 实测 DeepSeek-V4.1-Flash Engram 的 DRAM/SSD 卸载:HBM 带宽比容量更关键

Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading

AI 导读

SemiAnalysis 研究了 DeepSeek-V4.1-Flash 的 Engram 多 token 查找机制,其表可卸载到主机 DRAM,同质量下降低 HBM 需求。

来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com