热点事件持续更新
伯克利论文揭示LLM注意力漂移致更新失败
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月2日,X用户Rohan Paul发布伯克利新论文内容:LLM常能察觉用户偏好或截止时间已变,却仍沿用旧值,原因是注意力持续漂回上下文中的旧提及。在5个开源模型中,无需重训练、仅将注意力引导至最新值即可修复大部分此类错误。GPT-5.6 Sol在长智能体日志上仅答对40题中的9题,给出当前状态后则40题全对。论文建议智能体追踪可变信息时,直接把当前状态写进提示词,而非让模型翻查历史。
AI 根据报道生成 · 2 小时前更新
最新进展10月2日 20:56
伯克利论文发现LLM更新失败源于注意力漂回旧值,直接写入当前状态可修复。报道时间线
沿着报道,了解事件的不同侧面。
10月2日
- X:Rohan Paul (@rohanpaul_ai)伯克利论文:LLM 更新失败与注意力漂移
伯克利新论文发现 LLM 常能察觉用户偏好或截止时间已变,却仍沿用旧值,因为注意力持续漂回上下文中的旧提及。在 5 个开源模型中,无需重训练、仅将注意力引导至最新值即可修复大部分此类错误;GPT-5.6 Sol 在长智能体日志上仅答对 40 题中的 9 题,给出当前状态后则 40 题全对。论文建议智能体追踪可变信息时,直接把当前状态写进提示词,而非让模型翻查历史。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。