跳到正文
原文
arXiv:cs.LG(机器学习,全量分类)· Aleksei Leonov, Nikita Kornilov, Zhenhe Zhang, Evgeny Burnaev, Iaroslav Koshelev, Alexander Korotin·· 1 天前AI 评分35

逆蒸馏:IDU 统一框架实现多步匹配模型的数据遗忘与蒸馏

Data Unlearning via Inverse Distillation

AI 导读

Inverse Distillation Unlearning(IDU)将多步匹配模型蒸馏为一步生成器的同时,抑制指定训练子集的输出。该方法只需预训练的全数据教师模型和遗忘集数据,无需保留训练样本、额外特征提取器或分类器。在 MNIST 和 CIFAR-10 上,IDU 在 flow-matching 与 score-based 扩散设置下大幅降低遗忘类别的生成频率,同时保持保留类别的生成质量。

来源:arXiv:cs.LG(机器学习,全量分类) · arxiv.org