跳到正文
热点事件观察中

SpecSlot:像素空间生成Transformer的槽位化分词

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

研究者提出像素空间 rectified-flow Transformer 模型 SpecSlot,把每个空间锚点扩展为多个 slot,各 slot 负责互不重叠的 DCT 系数频带;只有最低频 slot 参与全局注意力,其余 slot 局部交互。作者称,这样能在不增加全局注意力序列长度的前提下提升输出细节。 该方法的提出者与实验验证者为 Jiongfan Yang 等作者。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. HuggingFace Daily Papers
    SpecSlot:面向像素空间生成式 Transformer 的角色耦合 token 化方法

    研究者提出像素空间 rectified-flow Transformer 模型 SpecSlot,将每个空间锚点扩展为多个 slot,各 slot 负责互不重叠的 DCT 系数频带,仅最低频 slot 参与全局注意力,其余 slot 局部交互,从而在不扩大全局序列的前提下提升频谱细节。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。