IBM 发布 Granite Speech 5.0 系列语音模型更新
Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster
IBM 发布 Granite Speech 5.0 系列更新:新模型 granite-speech-5.0-2b,以及修订版 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus,均采用 Apache 2.0 许可。
官方一次更新三个语音模型,给出 WER、RTFx 和说话人指标的具体变化,便于按场景选型。
我们很高兴分享 IBM Granite Speech 系列的三个更新:一个新语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版本 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的全部范围:高精度的转录和翻译、在边缘设备上进行极速转录,以及谁在说话、何时说话与说了什么同样重要的录音。
| 模型 | 状态 | 新增内容 | 最适合用于 |
|---|---|---|---|
granite-speech-5.0-2b |
新 | 更准确、对噪声和混响更稳健的自动语音识别(ASR)、语言 ID 提示、2,000 词关键词偏置、更好的长音频翻译 | 高精度多语言转录和翻译 |
granite-speech-5.0-470m-turboctc |
更新 | 多语言、原生标点和大小写,对噪声和混响更稳健 | 高吞吐量和设备端转录 |
granite-speech-4.1-2b-plus |
更新 | 改进的说话人归属、时间戳、关键词偏置和长语音性能 | 会议、通话和其他多说话人录音 |
Granite Speech 5.0 2B:更准确、更稳健、更可控
granite-speech-5.0-2b 是 granite-speech-4.1-2b 在相同参数量下的继任者。它可以转录英语、法语、德语、西班牙语、葡萄牙语和日语,并在这些语言与英语之间互译,另外还支持英语到意大利语和普通话的翻译。它在 390,000 小时的公开音频以及为日语 ASR、关键词偏置和翻译构建的合成数据上进行了训练。
与 4.1 2B Speech 相比的新增内容:
- 更准确、更稳健的英语 ASR: 在英语短音频基准上准确率更高,并且更好地处理噪声、混响和远场麦克风语音。
- 语言 ID 提示: 在提示中指定输入语言以引导多语言转录。
- 更好的长音频和对话翻译: 翻译在更长、更自然的语音上也能保持稳定,而不仅仅是简短的朗读句子。
- 最多 2,000 词的关键词列表: 在所有支持的语言中,将转录和翻译偏向产品名称、人名和缩略词。
- 按需标点和大小写: 在提示中要求格式化输出;在我们的测试集上,大小写 F1 范围为 89.7 到 99.5。
该模型以 Apache 2.0 许可发布,并支持 Transformers、vLLM、llama.cpp 以及适用于 Apple Silicon 的 mlx-audio。
图表 1:granite-speech-5.0-2b 在平均英语 WER(5.06%)上位列顶级开放权重 ASR 模型第 2 名。越低越好。结果为非官方结果,截至 2026 年 10 月 15 日,并在 Open ASR Leaderboard 的公开英语短音频测试集上取平均值。
Granite Speech 5.0 Turbo CTC:现已支持多语言、更稳健、速度更快
当我们在 8 月推出 Turbo CTC 时,它是一个仅支持英语、为速度而构建的 470M 参数编码器。本次修订保留了这一规模,并增加了用户最希望得到的三项功能:
- 多语言转录: 英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
- 原生标点和大小写: 转录结果可直接阅读,无需单独的标点或大小写规范化步骤。
- 在困难声学环境中更稳健: 明确针对混响音频的训练使 Turbo CTC 在有回声的房间和远场录音中更加稳健。
它也更快。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们缩短了预热时间,并将 Turbo CTC 在 Open ASR Leaderboard 上的成绩提升至 19,870 RTFx,高于发布时的大约 12,600 RTFx:在相同准确率水平下约快 1.6 倍。
图表 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短格式,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。
Granite Speech 4.1 2B Plus:更擅长判断谁说了什么,以及何时说的
更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行了调优:会议、支持通话以及多位说话者长时间发言的访谈。它保留 4.1 名称是因为架构、提示格式和 API 均未改变,因此它是当前模型的直接替代品,并具有改进的权重。本次修订改进了四个方面:
- 说话人归属:更准确地标记谁在说话。词级说话人分离错误率(WDER)下降 7%,说话人归属 WER(cpWER)总体下降 7%。
- 时间戳:平均时间戳偏移(AAS)减少一半以上,使字幕、搜索和审阅中的时间更精确。
- 长语音性能:长格式测试集上的 WER 下降 24%。
- 关键词偏置:使用 20 词关键词列表时,偏置关键词上的错误下降 45%。
| 能力 | 指标 | 上一版本 | 更新后的模型 |
|---|---|---|---|
| 时间戳,所有语音 | AAS(平均时间戳偏移) | 210.86 | 98.54 |
| 时间戳,短语音 | AAS(平均时间戳偏移) | 29.27 | 26.20 |
| 关键词偏置 | 偏置词 WER,20 词列表 | 11.79 | 6.48 |
| 长格式语音 | WER,长格式测试集 | 13.53 | 10.22 |
| 说话人归属 | WDER | 4.40 | 4.10 |
| 说话人归属转录 | cpWER | 30.50 | 28.48 |
表 1:所有指标均为错误率,因此越低越好。更详细的结果请参见模型卡。
开始使用
不确定该选择哪个模型?从这里开始:
- 需要高转录准确率、翻译或关键词偏置?使用 granite-speech-5.0-2b。
- 需要原始速度或设备端转录?使用 granite-speech-5.0-470m-turboctc,并通过我们的 WebGPU 流式演示在浏览器中试用。
- 处理会议或多说话人通话?使用 granite-speech-4.1-2b-plus。
这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中提供原生支持。完整的评估结果、架构细节、训练数据和使用示例都在各模型卡上。对于需要额外风险检测的生产部署,我们建议将它们与 Granite Guardian 搭配使用。
试用一下,并告诉我们你的想法!
来源:Hugging Face:Blog · huggingface.co
