跳到正文
热点事件持续更新

SuPER-Mamba:免训练Mamba长上下文路由框架

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Zhetong Zhang 与 Gayan K Kulatilleke 提出 SuPER-Mamba,一个免训练框架,用模型自身的 Surprisal 信号为预训练 Mamba 模型做长程状态路由。该框架通过 Local Pooling 聚合相邻响应,并优先更新 Global-Channel,无需查询相关打分或额外训练。 上述为作者在论文中提出的方法说明,报道未给出实验验证结果或与其他方法的效果对比。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    SuPER-Mamba:面向 Mamba 长上下文路由的 Surprisal 优先化框架

    SuPER-Mamba 是一个免训练框架,利用模型自身的 Surprisal 信号为预训练 Mamba 模型做长程状态路由,通过 Local Pooling 聚合相邻响应并优先更新 Global-Channel,无需查询相关打分或额外训练。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。