arXiv研究提出神经网络模块化三层级框架

arXiv 上一篇 cs.AI 论文提出神经网络模块化的层级嵌套框架，分为单元级、正交和线性三个层次，并用选择性消融对视觉模型、语言模型和多任务 RNN 做因果评估。此前研究常以单个神经元判断网络是否模块化，作者 Shreya Saha、Benjamin Bergen 和 Meenakshi Khosla 称这一结论需要修正。 结果显示，缺乏单元级模块化的网络在子空间层面常表现清晰的功能模块化：视觉与语言模型中，内容与风格、句法与语义虽共享重叠神经元群，但在子空间消融下可分离；在多任务 RNN 中也能恢复出任务间的双重分离。 这些子空间还与脑区活动存在差异化对齐。上述功能分离为消融实验下的观察结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。