跳到正文
热点事件持续更新

DeepSeek-R1 蒸馏至 Qwen2.5-7B 的数学竞赛实验

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Gaurab Baral 等作者发表案例研究,把 DeepSeek-R1 的思维链(Chain-of-Thought)知识蒸馏到较小的 Qwen2.5-7B 模型,训练语料取自 John O'Bryan 数学竞赛 2011-2025 年的历史题目,并在 Apple Silicon 上用 MLX 框架做 LoRA 微调。研究考察的是这一蒸馏微调过程及其对 Qwen2.5-7B 的影响。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.CL
    DeepSeek-R1 到 Qwen2.5-7B 的知识蒸馏:John O'Bryan 数学竞赛案例研究

    研究将 DeepSeek-R1 的 Chain-of-Thought 知识蒸馏到 Qwen2.5-7B,基于 John O'Bryan 数学竞赛 2011-2025 年历史题目构建训练语料,在 Apple Silicon 上用 MLX 框架进行 LoRA 微调。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。