跳到正文
热点事件持续更新

Screw Attention:在 Transformer 内引入刚体代数

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者 Aly Magassouba 发布论文,提出 Screw Attention——一种将 token 间关系建模为空间变换而非图边的 Transformer 层。消息沿相对位姿传递,注意力分数只看坐标系不变量,单层即可表达刚体力学速度递推。 论文称代码与训练好的策略将会发布。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.AI
    Screw Attention:在 Transformer 内引入刚体代数

    研究者提出 Screw Attention,一种将 token 间关系建模为空间变换而非图边的 Transformer 层,消息沿相对位姿传递、注意力分数只看坐标系不变量,单层即可表达刚体力学速度递推。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。