热点事件持续更新
FourierQK 揭示频率坍缩注意力规律
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日,arXiv cs.LG 分类发布 FourierQK 研究。该工作通过受控消融实验,考察滤波器形状、可容许性与泄漏-覆盖定律。报道称,DC 与 Nyquist 分量对频率坍缩注意力有害,验证值约为 2.0;最优单尺度带宽为 σ ≈ 2 bins,中心位于段落尺度(约 70 tokens),较 BASE-DOT 提升 Δ = +1.15 nats。目前该事件仅有这一篇报道,尚无后续进展或不同说法。
AI 根据报道生成 · 1 小时前更新
最新进展10月3日 12:00
FourierQK 通过消融实验给出最优带宽 σ≈2 bins,较 BASE-DOT 提升 1.15 nats。报道时间线
沿着报道,了解事件的不同侧面。
10月3日
- arXiv:cs.LG(机器学习,全量分类)FourierQK:滤波器形状、可容许性与泄漏-覆盖定律
FourierQK 通过受控消融实验发现,DC 与 Nyquist 分量对频率坍缩注意力有害(val ≈ 2.0),最优单尺度带宽为 σ ≈ 2 bins、中心在段落尺度(约 70 tokens),较 BASE-DOT 提升 Δ = +1.15 nats。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。