arXiv 论文提出 horizon loss 训练方法
热点事件持续更新
arXiv 论文提出 horizon loss 训练方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Ian Osband 在 arXiv 发布论文,提出 horizon loss:把交叉熵视为“耐心的准确率”,按剩余学习量截断总误差,使训练后期从交叉熵平滑过渡到精确策略梯度。 论文称,在 MNIST 以及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16 时,该方法在固定学习率下提升 top-1 准确率,且标签噪声越大增益越明显。这些效果均为论文中的说法。
AI 根据报道生成 · 1 小时前更新
最新进展10月5日 12:00
规划学习:horizon loss 如何改进交叉熵与精确策略梯度报道时间线
沿着报道,了解事件的不同侧面。
10月5日
- arXiv:cs.LG规划学习:horizon loss 如何改进交叉熵与精确策略梯度
研究提出 horizon loss,将交叉熵视为"耐心的准确率",把总误差按剩余学习量截断,从而在训练后期从交叉熵平滑过渡到精确策略梯度。在 MNIST 及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16,该方法在固定学习率下提升 top-1 准确率,且标签噪声越大增益越明显。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。