TRACE：仅凭权重审计有害SFT痕迹
热点事件持续更新
TRACE：仅凭权重审计有害SFT痕迹
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Ziqun Bao 等作者在 arXiv 论文（arXiv:2610.07518）中提出仅基于权重的审计方法 TRACE，用于检测大模型检查点更新中由有害合规 SFT 留下的痕迹。该方法将未知检查点更新相对于固定的有害与无害参考原型进行定位，并把这个几何关系转换为连续的有害目标分数。 论文称，有害合规 SFT 会在检查点更新空间中留下连续且依赖目标的痕迹：坐标 s_H 在四个 7-8B 模型上与有害目标组成的 Spearman 相关为 0.986-0.992，且在更大模型规模上保持。该结果来自论文作者的测量，尚未经独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
TRACE：从 LLM checkpoint 更新中检测有害 SFT 痕迹的权重审计方法报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LGTRACE：从 LLM checkpoint 更新中检测有害 SFT 痕迹的权重审计方法
arXiv 论文（arXiv:2610.07518）发现有害合规 SFT 会在 checkpoint 更新空间中留下连续、依赖目标的痕迹，坐标 s_H 在四个 7-8B 模型上与有害目标组成呈 0.986-0.992 的 Spearman 相关，且在更大模型规模上保持。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。