Anthropic：Transformer Circuits（可解释性研究）·· 13 小时前AI 评分44
Anthropic 可解释性团队 Circuits Updates：五大障碍、线性表示与神经网络暗物质
Circuits Updates — July 2024 A collection of small updates: five hurdles, linear representations, dark matter, pivot tables, feature sensitivity.
AI 导读
Anthropic 可解释性团队发布 Circuits Updates（2024 年 7 月），汇总五项小型研究进展：叠加问题取得显著进展后浮现的"下一个五大障碍"、什么是线性表示、什么是多维特征、神经网络的暗物质，以及用数据集过滤测量特征敏感度。团队称这些属于初步实验性想法，而非成熟论文，其中"五大障碍"包括缺失特征、跨层叠加、注意力叠加与干扰权重等。
来源：Anthropic：Transformer Circuits（可解释性研究） · transformer-circuits.pub