TADrop：按张量分布自适应稀疏化改进模型合并

研究者提出即插即用稀疏器 TADrop，用于改进模型合并：它不再对所有参数张量统一使用一个全局稀疏率，而是根据每个张量的幅度分布，用尺度不变的分位数比例独立确定该张量的保留率。 据作者称，TADrop 默认无需数据即可运行；若有小验证集，也可选择做模块级校准。该方法由 Yingfeng Luo 等作者以论文预印本形式发布在 arXiv 上。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。