EchoDistill：噪声到干净自蒸馏提升音频语言模型鲁棒性

Kaiwen Luo 等作者提交论文预印本，提出 EchoDistill——一种面向大型音频语言模型（LALMs）抗噪后训练的噪声到干净自蒸馏框架。该方法在后期训练中以干净音频作为特权信息，让噪声输入的学生模型对齐干净条件下的语义。 据作者称，推理时仅保留学生模型，不增加额外推理开销。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。