文本中心后训练提升全模态推理

Ziyang Cheng 等作者提交论文，提出以文本为中心的全模态后训练范式：纯文本训练承担主要推理优化，再用减少数据的原生音视频强化学习精修感知。 论文称，在最佳纯文本配置下，先监督微调再强化学习，使 Qwen2.5-Omni-7B 九项推理得分的几何均值较基座模型提升 25.83%，且 GPU 小时数比完整原生音视频路线少 56.6%。完全由纯文本 LLM 合成数据训练时，该几何均值提升 21.01%，构建与训练均不使用音视频数据。 精修阶段输入 token 比全量音视频强化学习少约 90%，感知恢复到基座水平以上，并保留最佳纯文本流程 93.5% 的推理增益。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。