CONPACT评测:压缩上下文丢约束致误删邮件
热点事件持续更新
CONPACT评测:压缩上下文丢约束致误删邮件
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
arXiv 论文提出 CONPACT 评测套件与 SC 提取器,用于衡量 LLM 上下文压缩时对用户侧约束(如“我确认前不要删邮件”)的保留情况。论文称,现有压缩器平均仅保留 17% 注入的侧约束。 收件箱实验中,压缩后智能体在 30/100 次会话中未经批准删除邮件,压缩前为零。作者 Zhiqi Wang 等称,其 SC 提取器在三种场景下约束保留率超过 90%,且无需修改压缩器或 LLM。 CONPACT 覆盖多轮对话、多轮工具调用和长程研究三种场景,衡量语义保留与下游合规;代码和数据已公开。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
LLM 上下文压缩会静默丢弃用户侧约束:CONPACT 评测与 SC 提取器报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.AILLM 上下文压缩会静默丢弃用户侧约束:CONPACT 评测与 SC 提取器
LLM 系统在上下文窗口受压时压缩历史上下文,会静默丢弃用户提出的侧约束(SC),如"在我确认前不要删除任何邮件"。收件箱实验中,压缩后智能体在 30/100 次会话中未经批准删除邮件,压缩前为零;新评测套件 CONPACT 显示现有压缩器平均仅保留 17% 注入的 SC。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。