研究首探粒子喷注生成缩放定律

Oz Amram 等作者发表研究，首次探索粒子喷注生成任务中是否存在缩放定律，并复现了模型规模的对数缩放行为。 团队发现，切片 Wasserstein 距离与下一 token 预测验证损失单调相关，据此认为该验证损失可作为物理性能的良好代理指标。 数据集规模和计算量的缩放行为明显较弱，作者引入可学习窗口概念分析，认为自回归预测在喷注组分上比语言模型更早饱和。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。