跳到正文
热点事件持续更新

SPACE:几何校准的SFT后处理方法

1 篇报道1 个报道来源16 小时前更新

先了解这件事

报道摘要

研究者提出 Geometric Calibration 视角与 SPACE(Subspace Projection for Adapted Checkpoint Enhancement)方法,通过将 SFT 更新中位于 pre-SFT 权重主成分空间的分量选择性回退、保留正交补部分,缓解监督微调导致的域外能力退化。

摘自 arXiv:cs.AI

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    几何校准:SPACE 无需训练即可缓解 SFT 的域外能力退化

    研究者提出 Geometric Calibration 视角与 SPACE(Subspace Projection for Adapted Checkpoint Enhancement)方法,通过将 SFT 更新中位于 pre-SFT 权重主成分空间的分量选择性回退、保留正交补部分,缓解监督微调导致的域外能力退化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。