SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 13 天前AI 评分61
SemiAnalysis 实测 DeepSeek-V4.1-Flash Engram 的 DRAM/SSD 卸载:HBM 带宽比容量更关键
Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading
AI 导读
SemiAnalysis 研究了 DeepSeek-V4.1-Flash 的 Engram 多 token 查找机制,其表可卸载到主机 DRAM,同质量下降低 HBM 需求。
来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com