Lafa 分块流语言模型扩展至 8B 参数

研究者提出 Lafa（Large flow language model），一种可扩展至 8B 参数的分块流语言模型：前缀使用因果注意力，块内为双向异步流。作者称，以不到 30B token 训练出 0.5B、7B、8B 三个规模，在指令遵循、推理和编码上的质量与自回归模型相当或更高，并可蒸馏为 flow map，实现单步或少步生成。 作者还称，其自推测解码方案使同等质量下的吞吐量达到自回归模型的 2.54 倍。这些质量与速度结论均为论文作者的表述，报道未给出独立验证结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。