免训练剪枝框架P2P：减55%算力保94%精度

Rahul Chowdhury等作者发布免训练视觉语言模型推理加速框架 Patch-to-Prune（P2P），通过验证引导的前向与反向层扫描，找出解码器中可用固定中性代理激活向量替换视觉 token 投影输出的区域，在不改变序列长度、token 顺序、位置信息、注意力掩码和残差路径的前提下剪枝计算。 作者称，在 3% 精度容差下，P2P 保留约 94% 的稠密模型精度，同时减少 55% 的 FLOPs。该框架受机制可解释性启发，将激活修补从诊断工具转为推理时的计算旁路。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。