跳到正文
热点事件持续更新

研究者提出PiS优化半监督学习

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Haorong Han等研究者提出 Pioneer Student(PiS)辅助分支,用于改善主流半监督学习(SSL)方法中的 Teacher-Student(T-S)框架。该分支在独立参数空间中运行,并定期将积累的知识回传给 T-S 模型,研究者称其可作为通用即插即用模块使用。 研究者指出 T-S 框架存在两类优化问题:参数耦合导致师生严格同步,以及标注与无标注损失的梯度更新不一致,使共享参数过早收敛到由标注主导的局部极小值。PiS 即为同时应对这两个问题而提出。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv:cs.LG
    Pioneer Student(PiS):解耦 Teacher-Student 半监督学习的优化方案

    研究者提出 Pioneer Student(PiS),一个在独立参数空间中运行的辅助分支,可定期将积累的知识回传给 Teacher-Student 模型,作为通用即插即用模块改善主流半监督学习(SSL)方法。该工作指出 T-S 框架存在参数耦合导致师生严格同步、以及标注与无标注损失梯度更新不一致使共享参数过早收敛到标注主导局部极小值两类优化问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。