离线语音AI架构与量化基准首次端到端评测

Sunday Afariogun、Odunolaoluwa Jenrola、Zeinab Nezami 提交论文，首次对一套面向非洲语言的语音优先离线AI技术栈做端到端基准评测，覆盖模块化架构、低成本硬件参考清单，以及针对 2-5B 参数指令微调模型的可复现量化与基准测试流程。 评测在两个硬件层级上完成：NVIDIA Jetson Orin NX（TierB）与 Raspberry Pi 5（TierA）。论文称主要发现是 Q4_K_M 量化在两个层级上都是体积与质量的最佳折中：gemma-4-E2B-it 在 TierB 上以 Q4_K_M 达到 28.8t/s 解码吞吐和 89.2% 主题分类准确率；TierA 上三个模型均运行在 16GB 内存预算内。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。