跳到正文
热点事件持续更新

BulkBoost两带谱重加权对标Freon

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一项 arXiv 机器学习领域论文提出 BulkBoost 两带谱重加权框架,用于 Muon 优化器的谱重加权:以 split-minibatch 梯度差校准 Marchenko–Pastur 噪声边界,将奇异模分为边界以下的 bulk 与边界以上的 spike,两组共享同一增益重新加权。作者 Meher Chaitanya、Tianyi Zhou、Aristides Gionis 称,该框架含固定秩和噪声校准两个变体,无需细粒度谱塑形即可媲美 Freon。上述为论文主张,实际效果尚待验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv:cs.LG
    Muon 是否需要细粒度谱塑形?两波段重加权即可媲美 Freon

    研究提出 BulkBoost 两波段谱重加权框架,用 split-minibatch 梯度差校准 Marchenko–Pastur 噪声边界,将奇异模分为边界以下的 bulk 与以上的 spike 并共享同一增益重新加权。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。