研究者提出SoFT软目标微调方法
热点事件持续更新
研究者提出SoFT软目标微调方法
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Huihao Jing 等研究者提出软目标微调方法 SoFT，用于在监督微调中平衡能力习得与原有能力保留：为每个示范 token 设定最低目标概率，同时对 Base 模型分布做最小 KL 改动，并用领域特定梯度预算控制这一平衡，为每条轨迹确定概率阈值。 据该研究，在混合领域推理与智能体任务上，SoFT 在所比较方法中整体表现最佳，分布内能力获取与分布外泛化均有提升。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
SoFT：面向可泛化 LLM 微调的软目标方法报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AISoFT：面向可泛化 LLM 微调的软目标方法
研究者提出软目标微调（SoFT），在监督微调中为每个示范 token 设定最低目标概率，同时对 Base 模型分布做最小 KL 改动，以平衡能力习得与原有能力保留。该方法用领域特定梯度预算控制这一平衡，并为每条轨迹确定概率阈值。在混合领域推理与智能体任务上，SoFT 在所比较方法中取得最佳整体表现，分布内能力获取与分布外泛化均有提升。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。