跳到正文
热点事件持续更新

arXiv 论文提出 horizon loss 训练方法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Ian Osband 在 arXiv 发布论文,提出 horizon loss:把交叉熵视为“耐心的准确率”,按剩余学习量截断总误差,使训练后期从交叉熵平滑过渡到精确策略梯度。 论文称,在 MNIST 以及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16 时,该方法在固定学习率下提升 top-1 准确率,且标签噪声越大增益越明显。这些效果均为论文中的说法。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    规划学习:horizon loss 如何改进交叉熵与精确策略梯度

    研究提出 horizon loss,将交叉熵视为"耐心的准确率",把总误差按剩余学习量截断,从而在训练后期从交叉熵平滑过渡到精确策略梯度。在 MNIST 及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16,该方法在固定学习率下提升 top-1 准确率,且标签噪声越大增益越明显。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。