MIT 研究者用程序合成解释注意力头

MIT 研究者 Amiri Hayes、Belinda Z Li 和 Jacob Andreas 提出一种用程序合成解释 Transformer 语言模型注意力头行为的方法：先在随机训练样本上计算注意力矩阵，再提示预训练语言模型生成能复现这些注意力模式的 Python 程序，并按程序在留出输入上的预测效果重排序。 该工作以预印本形式发布于 arXiv（cs.LG），目标是让注意力头的行为以可执行程序的形式呈现。报道未给出该方法在解释忠实度或下游任务上的验证结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。