跳到正文
原文
arXiv:cs.CL(计算语言学,全量分类)· Jingxuan Wu, Yuzhe Yang, Yiqiao Huang, Chengzhi Liu, Qingni Wang, Chengxuan Qian, Shutong Wu, Jiawei Zhang, Xin Eric Wang·· 1 天前AI 评分39

MemFold:通过 On-Policy 优化为长上下文个性化学习紧凑软记忆

MemFold: Learning Compact Soft Memory for Long-Context Personalization via On-Policy Optimization

AI 导读

MemFold 将查询条件下的文本记忆压缩为 K 个连续向量作为读者记忆接口,并用任务结果的组相对奖励与置信门控的 on-policy 蒸馏训练读者自身 rollout,教师模型在推理时完全移除。

来源:arXiv:cs.CL(计算语言学,全量分类) · arxiv.org