arXiv:cs.AI(全量分类)· Jinhao Zhang, Zeyu Liu, Zicheng Yan, Yunquan Zhang, Daning Cheng, Song Tang·· 1 天前AI 评分35
人类可读文本对 LLM 微调是必要的吗?DASA 用连续嵌入替代文本
Is Human-Readable Text Necessary for Effective LLM Fine-Tuning?
AI 导读
研究提出 Desired-Update-Aligned Synthetic Data(DASA),用冻结参考模型的激活梯度反馈优化连续合成输入嵌入,直接用于下游微调,无需人类可读文本形式。
来源:arXiv:cs.AI(全量分类) · arxiv.org