热点事件持续更新
TACO 优化器降低 LLM 全参微调内存
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日，中佛罗里达大学等机构研究者在 arXiv 发表论文（arXiv:2610.02199），提出 TACO（Ternary Absolute-max Column-wise One-sparse）优化器。该优化器在二维权重矩阵的每一列选取最大幅值元素的符号，在维度归一化 1→1 算子范数下计算精确最速下降方向，保留一阶梯度，同时使优化器状态内存几乎可忽略，从而大幅降低 LLM 全参微调的优化器状态内存。目前报道仅涉及论文发布，尚无后续实验验证或应用进展。
AI 根据报道生成 · 2 小时前更新
最新进展10月3日 12:00
arXiv 论文提出 TACO 优化器，大幅降低 LLM 全参微调的优化器状态内存。报道时间线
沿着报道，了解事件的不同侧面。
10月3日
- arXiv：cs.LG（机器学习，全量分类）TACO 优化器论文：大幅降低 LLM 全参微调的优化器状态内存
中佛罗里达大学等机构研究者在 arXiv 论文（arXiv:2610.02199）中提出 TACO（Ternary Absolute-max Column-wise One-sparse）优化器，通过在二维权重矩阵每列选取最大幅值元素的符号，在维度归一化 1→1 算子范数下计算精确最速下降方向，保留一阶梯度并使优化器状态内存几乎可忽略。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。