arXiv：Transformer长度泛化的精确解体积研究
热点事件持续更新
arXiv：Transformer长度泛化的精确解体积研究
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yijia Jessica Zhu 与 David Chiang 在 arXiv 提交论文《Exact-Solution Volume and Length Generalization in Transformers》，提出用「归一化精确解体积」（NESV）衡量 Transformer 解在更长输入上的可泛化性——该指标指在限定参数区域内，能在所有长度为 n 的输入上取得精确解的参数占比。 论文对固定宽度单层 Transformer 在四个任务上给出渐近界：FIRST 为 Θ(1)，MAJORITY 为 Θ(1/(n log n))，INDEX 为 Θ(1/n³)，PARITY 为 0。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
Transformer 的精确解体积与长度泛化研究报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LGTransformer 的精确解体积与长度泛化研究
研究者提出归一化精确解体积（NESV）指标，用于衡量 Transformer 解在更长输入上的可泛化性，并对固定宽度单层 Transformer 在 FIRST、MAJORITY、INDEX、PARITY 四个任务上给出渐近界，分别为 Θ(1)、Θ(1/(n log n))、Θ(1/n³) 和 0。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。