论文提出验证重试恢复压缩模型能力

一篇论文提出用“验证式重试”在内存受限的本地部署中恢复模型能力：让更小或更压缩的模型并行生成多个候选，再用公开或模型自生成的测试筛选输出。 在四个代码生成基准上，7B Qwen 模型八次并行尝试在 MBPP+ 上基本追平 32B 模型，其余三个基准上超过它，同时模型内存约为其 1/4、速度最高快 6 倍、能耗更低（Nvidia GPU 实测）。论文同时说明，具体收益取决于硬件配置和问题设定，且需在少量重试预算内仍能触达正确解。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。