IBM 发布 Granite Speech 5.0 2B 并更新 Turbo CTC 与 4.1 2B Plus
Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster
IBM 发布 granite-speech-5.0-2b,并更新 granite-speech-5.0-470m-turboctc 与 granite-speech-4.1-2b-plus,分别面向高精度转写翻译、端侧高速转写和多人录音说话人归属。
我们很高兴分享 IBM Granite Speech 系列的三项更新:一款新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两款模型的修订版本 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖企业语音工作的完整范围:高精度转写与翻译、边缘端极速转写,以及说话人是谁、何时发言与所说内容同等重要的录音。
| 模型 | 状态 | 更新内容 | 最适合 |
|---|---|---|---|
granite-speech-5.0-2b |
全新 | 更准确、抗噪声与抗混响的自动语音识别(ASR)、语言 ID 提示、2,000 词关键词偏置、更好的长篇翻译 | 高精度多语言转写与翻译 |
granite-speech-5.0-470m-turboctc |
已更新 | 多语言、原生标点与大小写,并对噪声和混响更稳健 | 高吞吐与端侧转写 |
granite-speech-4.1-2b-plus |
已更新 | 改进的说话人归属、时间戳、关键词偏置和长语音表现 | 会议、通话及其他多说话人录音 |
Granite Speech 5.0 2B:更准确、更稳健、更可控
granite-speech-5.0-2b 是 granite-speech-4.1-2b 的后继模型,参数量相同。它可转写英语、法语、德语、西班牙语、葡萄牙语和日语,并支持这些语言与英语之间的互译,以及英语到意大利语和普通话的翻译。它在 390,000 小时公开音频上训练,并辅以面向日语 ASR、关键词偏置和翻译构建的合成数据。
与 4.1 2B Speech 相比的更新内容:
- 更准确、更稳健的英语 ASR:在英语短音频基准测试上准确率更高,并能更好地处理噪声、混响和远距离麦克风语音。
- 语言 ID 提示:在提示中指定输入语言,以引导多语言转写。
- 更好的长篇与对话翻译:面对更长、更自然的语音时翻译依然可靠,而不只是短朗读句。
- 关键词列表最多 2,000 个词条:在所有支持的语言中,使转写和翻译偏向产品名、人名和缩写。
- 按需标点与大小写:在提示中要求格式化输出;在我们的测试集上,大小写 F1 介于 89.7 到 99.5。
该模型以 Apache 2.0 许可发布,并支持 Transformers、vLLM、llama.cpp,以及面向 Apple Silicon 的 mlx-audio。
图 1:granite-speech-5.0-2b 在顶级开放权重 ASR 模型中按平均英语 WER(5.06%)排名第 2。越低越好。结果为非官方数据,截至 2026 年 10 月 15 日,并对 Open ASR Leaderboard 的公开英语短音频测试集取平均。
Granite Speech 5.0 Turbo CTC:现已支持多语言、更稳健,甚至更快
当我们在八月推出 Turbo CTC时,它是一个仅支持英语、为速度而构建的 470M 参数编码器。本次修订保持这一规模,并加入用户最需要的三项能力:
- 多语言转写:英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
- 原生标点与大小写:转写结果可直接阅读,无需单独的标点或大小写还原步骤。
- 在困难声学条件下更稳健:专门针对混响音频的训练使 Turbo CTC 在有回声的房间和远场录音中更加稳健。
它的速度也更快。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们缩短了预热时间,并将 Turbo CTC 在 Open ASR Leaderboard 上的速度提升至 19,870 RTFx,高于发布时约 12,600 RTFx:在相同准确率水平下大约快 1.6 倍。
图 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短音频,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。
Granite Speech 4.1 2B Plus:更擅长识别谁在何时说了什么
更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行了调优:会议、客服通话,以及多名说话人长时间进行的访谈。它保留 4.1 这一名称,是因为架构、提示格式和 API 均未改变,因此可作为当前模型的直接替代,并带有改进后的权重。本次修订在四个方面有所提升:
- 说话人归属:更准确地标注谁在说话。词级说话人分离错误率(WDER)下降 7%,说话人归属 WER(cpWER)整体下降 7%。
- 时间戳:平均时间戳偏移(AAS)降低一半以上,使字幕、搜索和审阅中的时间定位更加精确。
- 长语音性能:长语音测试集上的 WER 下降 24%。
- 关键词偏置:在包含 20 个词的关键词列表下,偏置关键词上的错误下降 45%。
| 能力 | 指标 | 上一版本 | 更新后的模型 |
|---|---|---|---|
| 时间戳,全部语音 | AAS(平均时间戳偏移) | 210.86 | 98.54 |
| 时间戳,短语音 | AAS(平均时间戳偏移) | 29.27 | 26.20 |
| 关键词偏置 | 偏置词 WER,20 词列表 | 11.79 | 6.48 |
| 长语音 | WER,长语音测试集 | 13.53 | 10.22 |
| 说话人归属 | WDER | 4.40 | 4.10 |
| 带说话人归属的转写 | cpWER | 30.50 | 28.48 |
表 1:所有指标均为错误率,因此越低越好。更多详细结果请参阅模型卡。
开始使用
不确定该选哪个模型?从这里开始:
- 需要高转写准确率、翻译或关键词偏置?请使用 granite-speech-5.0-2b。
- 需要极致速度或端侧转写?请使用 granite-speech-5.0-470m-turboctc,并通过我们的 WebGPU 流式演示在浏览器中试用。
- 处理会议或多说话人通话?请使用 granite-speech-4.1-2b-plus。
这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中提供原生支持。完整的评估结果、架构细节、训练数据和使用示例见各模型卡。对于需要额外风险检测的生产部署,我们建议将其与 Granite Guardian 搭配使用。
欢迎试用,并告诉我们你的看法!
来源:Hugging Face Blog · huggingface.co
