Baseten 客户案例：Parallel、Speechify 等如何用其推理基础设施跑高吞吐 AI 产品

Baseten 公布了一批客户案例，展示其推理基础设施在高吞吐 AI 产品中的表现。Parallel Web Systems 借助 Baseten 的吞吐优化推理与训练到部署闭环，实现吞吐提升 3 倍、延迟降低 2 倍；Speechify 每月为 6000 万以上用户合成超 161B 字符，成本降低 44%、p99 延迟降低 30-50%、冷启动快 4.5 倍。