跳到正文
热点事件持续更新

规则引导LLM重构框架回收低质量指令数据

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

研究者提出一种规则引导的 LLM 重构框架,用于回收低质量指令样本。该方法从 123,786 条低分样本中重构出 54,888 条训练样本,用于监督微调(SFT)数据筛选。 在三个 7B/8B 基础 LLM 上,重构数据的下游平均表现高于低分源数据集以及所有评估过的数据选择基线;样本量远少于约 300K 的全量数据集,却取得更高平均分。逐步消融显示,规则引导重构是相较直接融合的最大提升来源。 人工审查发现,该方法在源整合与答案忠实度方面仍有局限。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.CL
    用规则引导的 LLM 重构回收低质量指令数据

    研究提出规则引导的 LLM 重构框架,从 123,786 条低分样本中构建出 54,888 条训练样本,用于监督微调 SFT 数据筛选。在三个 7B/8B 基础 LLM 上,重构数据的下游平均表现高于低分源数据集及所有评估过的数据选择基线,且样本量远少于约 300K 的全量数据集却取得更高平均分。逐步消融显示规则引导重构是相较直接融合的最大提升来源,人工审查则发现源整合与答案忠实度仍有局限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。