研究：Transformer拒答机制呈组件与维度稀疏性
热点事件持续更新
研究：Transformer拒答机制呈组件与维度稀疏性
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Vincent Siu 等作者发表论文称，在四个开源权重模型上，Transformer 的拒答引导并非弥散编码，而是集中于稀疏、可识别的组件与维度。他们将拒答激活引导分解为组件级干预后发现，拒答方向集中于仅占上游组件 28–48% 的稀疏子集，可保留 88–101% 的引导效果。 在这些组件内部，有效引导进一步集中在约 50% 的残差流维度，可保留 85–98% 的效果。作者表示已公开全部代码与原始实验结果，论文被 COLM 2026 接收。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
Transformer 拒答机制中的组件与维度稀疏性报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LGTransformer 拒答机制中的组件与维度稀疏性
研究将拒答激活引导分解为组件级干预，在四个开源权重模型中发现拒答方向集中于仅占上游组件 28–48% 的稀疏子集，仍保留 88–101% 的引导效果。在这些组件内，有效引导进一步集中在约 50% 的残差流维度，保留 85–98% 的效果，表明拒答由结构化、可识别的机制组装而成，而非弥散编码。代码与原始实验结果已公开，论文被 COLM 2026 接收。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。