reViT：单块循环达到全深度编码器精度

Adrian Bulat、Yassine Ouali、Georgios Tzimiropoulos 发布 reViT 循环视觉 Transformer 方法：将单个 Transformer 块循环复用，并把每个循环深度的 FFN 表示为小型共享专家库的凸组合，由归一化深度坐标编程。作者称，该方法在相近推理 FLOPs 下可达到全深度视觉编码器的精度，且无需中间特征蒸馏。 这意味着循环复用单一模块不必依赖逐层蒸馏，也能逼近常规全深度模型的精度；目前结论来自论文作者的声明。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。