递归自训练使代码LLM性能退化
热点事件持续更新
递归自训练使代码LLM性能退化
1 篇报道1 个报道来源22 小时前更新
先了解这件事
AI 综述
一项 arXiv 论文研究了代码 LLM 的递归自训练风险：AI 生成的代码进入代码仓库后可能又成为训练数据，形成自我训练循环。作者对比了三种递归微调机制——无审查、编译与静态检查等外生门控审查、以及基于困惑度和二值自评分的 AI 自门控审查，在多个代码 LLM 和 benchmark 上，三种机制的表现均低于各自起点。 其中 AI 自门控审查早期看似有效，后期却进入“橡皮图章”状态：接受分数上升，而 benchmark 正确率下降。该结论来自 Xinyuan Song、Zekun Cai、Liang Zhao 的论文。
AI 根据报道生成 · 46 分钟前更新
最新进展10月15日 12:00
AI 审查自身代码：代码 LLM 的递归自训练崩溃报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AIAI 审查自身代码：代码 LLM 的递归自训练崩溃
研究对比了代码 LLM 的三种递归微调机制：无审查、编译与静态检查等外生门控审查、以及基于困惑度和二值自评分的 AI 自门控审查。在多个代码 LLM 和 benchmark 上，所有递归机制的表现均低于各自起点；AI 自门控早期看似有效，后期却进入"橡皮图章"状态——接受分数上升而 benchmark 正确率下降。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。