跳到正文
热点事件持续更新

论文用范畴框架分类382种参数高效微调方法

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Xiaoyu Li 等作者发布 arXiv 论文,将参数高效微调(PEFT)方法视为从预训练权重出发的权重空间映射,并按七个坐标对 138 篇论文中的 382 种方法进行分类,附 403 条模拟箭头和 485 项障碍。 论文称证明了若干结论,包括零初始化 LoRA 在所述秩与奇偶条件下起始于锥的顶点,且不存在精确初始化能让 LoRA 达到超过自身两倍的更新秩。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv:cs.LG
    参数高效微调的范畴图谱:锥、轨道与规范

    一篇 arXiv 论文将参数高效微调方法视为从预训练权重出发的权重空间映射,并按七个坐标对 138 篇论文中的 382 种方法进行分类,附 403 条模拟箭头和 485 项障碍。论文证明了若干结论,包括零初始化 LoRA 在所述秩与奇偶条件下起始于锥的顶点,且不存在精确初始化能让 LoRA 达到超过自身两倍的更新秩。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。