SuPER-Mamba:免训练Mamba长上下文路由框架
热点事件持续更新
SuPER-Mamba:免训练Mamba长上下文路由框架
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Zhetong Zhang 与 Gayan K Kulatilleke 提出 SuPER-Mamba,一个免训练框架,用模型自身的 Surprisal 信号为预训练 Mamba 模型做长程状态路由。该框架通过 Local Pooling 聚合相邻响应,并优先更新 Global-Channel,无需查询相关打分或额外训练。 上述为作者在论文中提出的方法说明,报道未给出实验验证结果或与其他方法的效果对比。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
SuPER-Mamba:面向 Mamba 长上下文路由的 Surprisal 优先化框架报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.AISuPER-Mamba:面向 Mamba 长上下文路由的 Surprisal 优先化框架
SuPER-Mamba 是一个免训练框架,利用模型自身的 Surprisal 信号为预训练 Mamba 模型做长程状态路由,通过 Local Pooling 聚合相邻响应并优先更新 Global-Channel,无需查询相关打分或额外训练。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。