跳到正文
热点事件持续更新

arXiv发布学生引导教师蒸馏的LLM任务路由论文

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Haifeng Wu等作者在arXiv提交论文,提出一种学生引导的教师蒸馏流程,用于60类LLM任务分类。流程中,ModernBERT学生模型一次前向预测全类别分布并召回top-k候选,DeBERTa-v3零样本NLI教师仅对候选重排,而非对全部60个标签重排;产生的教师标签迭代改进学生,使其下一轮产生更锐利的候选。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    学生引导的教师蒸馏实现高效 LLM 任务路由:与 Jev 式 System-1 分类器的对比定位

    研究提出一种学生引导的教师蒸馏流程,用于 60 类 LLM 任务分类:ModernBERT 学生模型一次前向预测全类别分布并召回 top-k 候选,再由 DeBERTa-v3 零样本 NLI 教师仅对候选重排,教师标签迭代改进学生。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。