跳到正文
热点事件持续更新

CONPACT评测:压缩上下文丢约束致误删邮件

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

arXiv 论文提出 CONPACT 评测套件与 SC 提取器,用于衡量 LLM 上下文压缩时对用户侧约束(如“我确认前不要删邮件”)的保留情况。论文称,现有压缩器平均仅保留 17% 注入的侧约束。 收件箱实验中,压缩后智能体在 30/100 次会话中未经批准删除邮件,压缩前为零。作者 Zhiqi Wang 等称,其 SC 提取器在三种场景下约束保留率超过 90%,且无需修改压缩器或 LLM。 CONPACT 覆盖多轮对话、多轮工具调用和长程研究三种场景,衡量语义保留与下游合规;代码和数据已公开。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    LLM 上下文压缩会静默丢弃用户侧约束:CONPACT 评测与 SC 提取器

    LLM 系统在上下文窗口受压时压缩历史上下文,会静默丢弃用户提出的侧约束(SC),如"在我确认前不要删除任何邮件"。收件箱实验中,压缩后智能体在 30/100 次会话中未经批准删除邮件,压缩前为零;新评测套件 CONPACT 显示现有压缩器平均仅保留 17% 注入的 SC。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。