Memorizon：训练超越上下文窗口的世界模型

2026年10月2日，HuggingFace Daily Papers 收录社区热门论文 Memorizon，提出一种让流式世界模型训练突破上下文窗口限制的方法。该工作针对流式世界模型难以在超出上下文窗口的长跨度上接受监督的问题：训练样本可覆盖任意长度跨度，但只对最后 k 个 chunk 计算损失；每个被评分 chunk 通过相机共视性检索各自的 top-K latent，并组成共享 bank，bank 上限为 kK，从而使序列长度保持有界。目前该报道为该事件的首条记录，尚无后续进展或相互矛盾的说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。