研究:激活引导记忆干净使用率至多15%
热点事件持续更新
研究:激活引导记忆干净使用率至多15%
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
一篇提交至 arXiv 的预注册研究测试了在冻结大模型旁用无训练激活引导充当记忆的能力,实验在 Qwen3.5-2B 和 9B 上进行,由四个模型家族担任评判。作者 Vedant Jumle 称,这种记忆具选择性,约 98% 无关回复不变,但事实仅在最后几层以“该说的词”形式存储,干净使用率至多 15%,而上下文内提示可达 96-98%。 研究还发现,偏好只在狭窄的强度窗口内迁移,写入偏好时减去的参照项决定其概念还是方向能存活;除非减去相反项,存储的厌恶会被回忆成喜欢。这些结果划定了激活引导作为记忆的适用边界,尚属预注册论文阶段。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
激活引导作为记忆时能留下什么:Qwen3.5 上的预注册研究报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.AI激活引导作为记忆时能留下什么:Qwen3.5 上的预注册研究
研究在冻结 LLM 旁以无训练激活记忆测试技能记忆假设,在 Qwen3.5-2B 和 9B 上开展预注册实验,由四个模型家族担任评判。结果显示记忆具选择性(约 98% 无关回复不变),但事实仅在最后几层以“该说的词”存储,干净使用率至多 15%,而上下文内为 96-98%;偏好只在狭窄强度窗口内迁移,且写入偏好时减去的参照决定其概念还是方向存活,除非减去相反项,存储的厌恶会被回忆成喜欢。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。