SketchSSM 提出近似状态读取方法

Omin Kwon 等作者发布论文提出 SketchSSM：在保留全状态写入的同时，用紧凑草图近似线性注意力的状态读取。其做法是低秩状态加权查询近似，论文称离线固定的基向量可用于近似未来查询。 据该论文，这一方法把状态访问流量降低约 10 倍，并在四个 decode benchmark 上匹配 FP32 全状态基线的平均精度。上述精度与流量结果均出自论文自述。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。