跳到正文
原文
Baseten 工程博客(网页)·· 14 小时前AI 评分21

Baseten 推出 Embeddings 推理服务:支持任意嵌入模型与弹性扩缩容

Embeddings

AI 导读

Baseten 上线 Embeddings 服务,可用任意嵌入模型快速处理数百万数据点,支持自定义 Docker 镜像、Truss 库和 Baseten Chains。该服务覆盖 BGE、Stella、SFR-Embedding、Nomic、NV-Embed、Voyage 等模型系列,面向语义搜索与推荐系统,提供五个 9 可用性、优化冷启动和弹性自动扩缩容,可缩容至零以节省成本。

来源:Baseten 工程博客(网页) · baseten.co