热点事件持续更新
少样本微调可破坏LLM安全层修复
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日，arXiv cs.LG发布一项研究，测试对LLM安全行为的定位与修复能否抵御攻击变化，覆盖四个模型家族六个checkpoint。研究发现，将模型冻结至可复现的拒绝恢复深度后，100个有害样本仍使全部六个checkpoint的拒绝率接近零。在Llama-3.1-8B上，常规训练会削弱修复，攻击者分散更新即可破解，基于良性微调校准的谱检测器也漏检多数修复失败。研究结论为拒绝行为可定位，但破坏会转移。
AI 根据报道生成 · 2 小时前更新
最新进展10月3日 12:00
研究显示100个有害样本可使六个checkpoint拒绝率接近零。报道时间线
沿着报道，了解事件的不同侧面。
10月3日
- arXiv：cs.LG（机器学习，全量分类）拒绝行为可定位，破坏却会转移：少样本微调下的安全层研究
研究测试了对 LLM 安全行为的定位与修复能否抵御攻击变化，覆盖四个模型家族六个 checkpoint。冻结至可复现的拒绝恢复深度后，100 个有害样本仍使全部六个 checkpoint 的拒绝率接近零；在 Llama-3.1-8B 上，常规训练会削弱修复，攻击者分散更新即可破解，基于良性微调校准的谱检测器也漏检多数修复失败。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。