跳到正文
热点事件持续更新

LIFT:用似然干预训练LLM忠实推理

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Anand Swaroop 等作者发布论文,提出链式思维忠实性训练方法 LIFT。该方法自动给每个推理步骤打分:用领域匹配但不相关的事实替换该步骤,测量答案对数概率的下降,再在高分 CoT 轨迹上微调,同时优化忠实性与准确率。 论文称,LIFT 在 Mistral-7B-Instruct、Qwen3-8B 和 Qwen3-4B-Instruct 三个模型及三个基准上提升了忠实性,准确率与仅针对准确率微调的模型相当。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    LIFT:基于似然的干预忠实度训练,提升 LLM 的 CoT 推理忠实性

    LIFT 通过用领域匹配但不相关的事实替换推理步骤、测量答案对数概率下降来自动为每个推理步骤打分,并在干预成功破坏推理的高分 CoT 轨迹上微调,同时优化忠实性与准确率。该方法在 Mistral-7B-Instruct、Qwen3-8B 和 Qwen3-4B-Instruct 三个模型及三个基准上提升了忠实性,准确率与仅针对准确率微调的模型相当。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。