研究提出模型生物多目标训练验证框架

Xilin Wang 等人发表论文，主张为可解释性研究中用于植入后门、谄媚等行为的"模型生物"建立多目标验证框架，即除植入目标行为外，还须考察通用能力保持（参数知识、聊天质量）与输出自然性（CoT 与激活）。作者称现有公开模型生物套件在训练后聊天质量与 CoT 自然性明显退化，单一目标训练不足。 他们提出基于模型融合的多目标训练方法。在临床推理人口统计偏差模型生物套件上，DPO 训练比监督微调更接近基座模型，该方法也能更好保留能力与自然性；其验证指标还能预测可解释性方法恢复植入行为的效果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。