跳到正文
热点事件持续更新

研究者提出推理时动态排序Transformer层的LoL架构

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Sean McLeish等研究者提出 Library of Layers(LoL)架构,让 Transformer 在推理时动态调整各层的执行顺序,以应对当前任务。 该架构仅用一个超参数控制全局 transformer 块库的大小,从而在参数复用与稀疏性之间平滑切换。目前报道只介绍了架构设计与这一控制方式,未给出实验结果或效果数据。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. HuggingFace Daily Papers
    Library of Layers(LoL):在推理时自适应排序 Transformer 层

    研究者提出 Library of Layers(LoL)架构,可在推理时动态调整 Transformer 层的执行顺序,仅用一个超参数控制全局 transformer 块库大小,在参数复用与稀疏性之间平滑切换。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。