PRISM：预测并修复模型合并崩溃

研究者提出一种方法，用专家任务向量在专家间的方差（干扰度）预测大语言模型合并是否会坍缩，并据此推出修复算子 PRISM：先平均任务向量，再按各层干扰度做软阈值处理。 在四个模型家族、22 组合并配置中，只有破坏性合并会超过该分数阈值。作者称，无需数据或调参，PRISM 能让全部 5 个破坏性合并保持在阈值之上、与基座模型的评估噪声相当，而普通平均至少低 14.4 分甚至完全坍缩。 PRISM 仅在超过阈值时启用；低于阈值的 15 个无害合并仍用普通平均。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。