跳到正文
热点事件持续更新

多目标对齐干扰与COVER方法提出

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Yining Lu、Meng Jiang 发表论文，系统研究多目标 LLM 对齐中的跨目标干扰：标量化训练在提升部分目标时会损害其他目标。 作者推导出局部协方差定律，称目标改善与否取决于其奖励与标量化得分的协方差符号，据此提出单侧控制器 COVER，仅当协方差低于阈值时上调目标权重。 实验显示，COVER 能缓解干扰；在目标已共同改善时，其表现与线性标量化相当。

AI 根据报道生成 · 1 小时前更新

最新进展10月7日 12:00
多目标对齐中的跨目标干扰：LLM 标量化训练的失败模式与 COVER 方法

报道时间线

沿着报道，了解事件的不同侧面。

10月7日
  1. arXiv：cs.LG
    多目标对齐中的跨目标干扰：LLM 标量化训练的失败模式与 COVER 方法

    研究首次系统分析了 LLM 多目标对齐中的跨目标干扰现象：标量化训练在提升部分目标时会损害其他目标。作者推导出局部协方差定律，说明目标改善与否取决于其奖励与标量化得分的协方差符号，并据此提出单侧控制器 COVER，仅当协方差低于阈值时上调目标权重。实验显示 COVER 能缓解干扰，且在目标已共同改善时与线性标量化表现相当。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。