跳到正文
热点事件持续更新

RIDE:在表示空间外推RL诱导变化

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

研究者提出一种名为 RIDE(RL-Induced Direction Extrapolation)的策略蒸馏方法,不再只在输出空间模仿,而是把强化学习相对基座检查点的内部表示偏移方向本身作为外推目标:在每一层、每个 token 位置计算教师与其 RL 前检查点的残差,再让学生的隐藏状态回归到沿该残差方向超越教师的位置。 据论文,RIDE 在覆盖不同规模、架构和预训练来源的四个基座/RL 教师组合上均接近或超过 RL 训练的教师,且是唯一均值达标的方法,并持续优于输出空间外推。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.LG
    RIDE:在策略蒸馏中直接外推 RL 诱导的表示残差

    研究者提出 RIDE(RL-Induced Direction Extrapolation),将强化学习相对于基座检查点的内部表示偏移方向作为外推目标,在每一层和每个 token 位置把学生隐藏状态回归到沿该残差方向超越教师的位置。该方法在覆盖不同规模、架构和预训练来源的四个基座/RL 教师组合上均接近或超过 RL 训练的教师,且是唯一均值达标的方法,并持续优于输出空间外推。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。