热点事件持续更新
Anthropic提出SoLU激活函数提升模型可解释性
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年9月30日，Anthropic 在 Transformer Circuits（可解释性研究）发布研究，提出用 SoLU（softmax 线性单元）替代 Transformer 中的 GeLU 激活函数。报道称，在盲测实验中，MLP 神经元可被快速解释的比例从约 35% 提升到约 60%，同时测试损失和下游 NLP 评测与基线模型大致相当。目前该研究处于发布阶段，尚未见后续复现或应用进展的报道。
AI 根据报道生成 · 12 小时前更新
最新进展9月30日 23:28
Anthropic 提出 SoLU 替代 GeLU，盲测中可解释神经元比例从约35%升至约60%。报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- Anthropic：Transformer Circuits（可解释性研究）Anthropic 提出 SoLU 激活函数，提升 Transformer 神经元可解释性
Anthropic 在 Transformer Circuits 发表研究，提出用 SoLU（softmax 线性单元）替代 GeLU 激活函数，在盲测实验中将 MLP 神经元可快速解释的比例从约 35% 提升到约 60%，且测试损失和下游 NLP 评测与基线模型大致相当。
本事件热度走势
当前热度 7·可比范围峰值 10（10月1日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。