跳到正文
原文
Baseten 工程博客(网页)·· 15 小时前AI 评分23

Baseten 推出 Dedicated Inference 专用推理部署服务

Dedicated Inference

AI 导读

Baseten 推出 Dedicated Inference 专用推理部署,基于 Baseten Inference Stack 支持跨云自动扩缩容,官方称可实现 6 倍 GPU 利用率提升和 5-10 倍成本降低。

来源:Baseten 工程博客(网页) · baseten.co