COMPASS：定位语言模型推理能力的引导方法
热点事件持续更新
COMPASS：定位语言模型推理能力的引导方法
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Pratyay Dutta、Kowshik Thopalli 和 Vivek Narayanaswamy 发布论文，提出推理时激活引导方法 COMPASS：用 logit 空间归因分数找出可干预的注意力头，再沿“答案正确性”方向引导其激活，只需逐头激活统计量。作者称，在三个模型家族和多个数学基准上，COMPASS 优于其对比的激活引导基线，GSM8K 准确率平均提升 16 个百分点，并以少 20%–70% 的生成 token 接近思维链（CoT）准确率。 论文称，该方向在多数注意力头的激活中可解码，但只有少数头能被有效干预；干预无需重新拟合即可迁移到未见基准，消融实验显示正确性方向与携带它的少数关键头缺一不可。这些性能数字均为论文报告的结果。
AI 根据报道生成 · 3 小时前更新
最新进展10月7日 12:00
COMPASS：在语言模型中定位推理能力所在报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.AICOMPASS：在语言模型中定位推理能力所在
COMPASS 是一种推理时激活引导方法，通过 logit 空间归因分数识别可干预的注意力头，并沿“答案正确性”方向引导其激活。在三个模型家族和多个数学基准上，它相较激活引导基线表现更优，GSM8K 准确率平均提升 16 个百分点，并以少 20-70% 的生成 token 接近 CoT 准确率。干预无需重新拟合即可迁移到未见基准，消融实验表明正确性方向与少数关键注意力头缺一不可。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月7日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。