LOOM：留一法梯度匹配优化LLM微调数据选择

1. 12:00
   arXiv：cs.LG

   LOOM：用留一法梯度匹配实现 LLM 微调的在线数据选择

   针对在线批次选择中样本内梯度匹配反而偏向噪声样本、难以超越全批次训练的问题，研究者提出 LOOM——在 Adam 预条件子度量下于常规反向传播中计算 Gram 矩阵，去掉对角线后按梯度信噪比加权贪心选子集，无需留出数据。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。