研究提出 ESD/ESM 多任务模型合并框架

Longhua Li 等研究者发表论文，提出数据感知的多任务模型合并框架 ESD、ESM 与 ESM++，用于把多个共享 checkpoint 微调模型中的任务知识聚合到一起。 按照论文说法，ESD 依据 proxy data 上的激活偏移识别每个任务的 essential subspace，ESM 按输出偏移特征值加权任务更新方向并跨任务正交化以减少任务间干扰，ESM++ 再动态集成低秩任务残差专家。论文称这一框架的目标是在保留关键任务知识的同时降低干扰。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。