跳到正文
热点事件持续更新

研究量化对巴伐利亚语等语言能力的鲁棒性

1 篇报道1 个报道来源20 小时前更新

先了解这件事

报道摘要

研究用 BAVGROUND 基准测试 14 个 7B–10B 开源指令模型的训练后量化,该基准将 206 道选择题对齐到巴伐利亚语、标准德语和英语。8-bit GPTQ 表现接近 BF16 并基本保留三种语言的相对表现,而 4-bit 量化稳定性明显更差,平均准确率下降约 1.4–1.5 个百分点,并改变 11.9–16.0% 的 BF16 决策。

摘自 arXiv:cs.AI

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    轻量却语言公平?巴伐利亚语、德语与英语之间的量化鲁棒性研究

    研究用 BAVGROUND 基准测试 14 个 7B–10B 开源指令模型的训练后量化,该基准将 206 道选择题对齐到巴伐利亚语、标准德语和英语。8-bit GPTQ 表现接近 BF16 并基本保留三种语言的相对表现,而 4-bit 量化稳定性明显更差,平均准确率下降约 1.4–1.5 个百分点,并改变 11.9–16.0% 的 BF16 决策。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。