Transformer掩码扩散模型获统计保证
热点事件持续更新
Transformer掩码扩散模型获统计保证
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Jingda Wu 与 Changxiao Cai 发表论文，为基于 Transformer 的掩码扩散模型（MDM）建立了端到端统计保证：当数据分布可被隐马尔可夫树混合良好近似时，并行解掩码调度能在 KL 散度下以 ε 精度采样，所需训练样本为 Õ(LK_par/ε)。 其中 K_par 是序列长度 L、词表大小 V、隐藏状态数与混合分量数的多项式。论文称该样本复杂度由数据分布的潜在结构决定。
AI 根据报道生成 · 1 小时前更新
最新进展10月12日 12:00
基于 Transformer 的掩码扩散模型可证明学习具有潜在结构的分布报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv：cs.LG基于 Transformer 的掩码扩散模型可证明学习具有潜在结构的分布
研究证明基于 Transformer 的掩码扩散模型（MDM）能以受潜在结构约束的样本复杂度学习结构化分布，当数据分布可由隐马尔可夫树混合良好近似时，并行解掩码调度可在 KL 散度下实现 ε 精度采样，所需训练样本为 Õ(LK_par/ε)，其中 K_par 是 L、V、隐藏状态数与混合分量数的多项式。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。