跳到正文
热点事件持续更新

研究:Mamba 检索弱于 Transformer 非因状态容量

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

一项由 Nir Yarden、Amit Ben-Artzy、Roy Schwartz 发表的研究认为,Mamba 在上下文检索上落后于 Transformer,原因并非其固定大小的循环状态容量不足。研究称,在查询先于上下文的 query-first 检索设置下,Mamba 仍显著落后,指向状态容量之外的深层机制。这一结论针对 Mamba 与 Transformer 在上下文检索任务上的对比,论文发布于 arXiv 计算语言学分类。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.CL
    为什么 Mamba 的检索能力不及 Transformer:研究揭示与状态容量无关的深层原因

    Mamba 在上下文检索上落后 Transformer 的原因并非其固定大小的循环状态容量不足:在查询先于上下文的 query-first 检索设置下,Mamba 仍显著落后。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。