免训练ViT Token压缩框架提出
热点事件持续更新
免训练ViT Token压缩框架提出
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
研究者 Vatsal、Soumil Malhotra、Priyanshu Chahal、Sanjeev Kumar 发表论文，提出免训练 Token 压缩框架 Prune-and-Merge ViT，面向现成的 Vision Transformer 模型，将基于 class attention 的剪枝与基于相似度的合并结合，以减少 token 冗余。 在预训练的 ViT 和 DeiT 上，作者称该方法在保持鲁棒性的同时降低了计算量，准确率优于现有 token 减少方法；论文同时引入 RAD 与 PFR 两项指标评估鲁棒性，并称分析显示混合 token 压缩未引入类幻觉行为。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
Prune-and-Merge ViT：无需训练的 Vision Transformer token 压缩报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AIPrune-and-Merge ViT：无需训练的 Vision Transformer token 压缩
研究者提出 Prune-and-Merge ViT，一个面向现成模型的免训练框架，结合基于 class attention 的剪枝与基于相似度的合并来压缩 token 冗余，并引入 RAD 与 PFR 两项指标评估鲁棒性。在预训练的 ViT 和 DeiT 上，该方法在保持鲁棒性的同时计算量降低，准确率优于现有 token 减少方法，分析显示混合 token 压缩未引入类幻觉行为。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。