跳到正文
热点事件持续更新

伯克利论文揭示LLM注意力漂移致更新失败

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月2日,X用户Rohan Paul发布伯克利新论文内容:LLM常能察觉用户偏好或截止时间已变,却仍沿用旧值,原因是注意力持续漂回上下文中的旧提及。在5个开源模型中,无需重训练、仅将注意力引导至最新值即可修复大部分此类错误。GPT-5.6 Sol在长智能体日志上仅答对40题中的9题,给出当前状态后则40题全对。论文建议智能体追踪可变信息时,直接把当前状态写进提示词,而非让模型翻查历史。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. X:Rohan Paul (@rohanpaul_ai)
    伯克利论文:LLM 更新失败与注意力漂移

    伯克利新论文发现 LLM 常能察觉用户偏好或截止时间已变,却仍沿用旧值,因为注意力持续漂回上下文中的旧提及。在 5 个开源模型中,无需重训练、仅将注意力引导至最新值即可修复大部分此类错误;GPT-5.6 Sol 在长智能体日志上仅答对 40 题中的 9 题,给出当前状态后则 40 题全对。论文建议智能体追踪可变信息时,直接把当前状态写进提示词,而非让模型翻查历史。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。