Baseten推出Embeddings推理服务
热点事件历史事件
Baseten推出Embeddings推理服务
2 篇报道2 个报道来源2026-09-30更新
先了解这件事
报道摘要
BAAI/bge-en-icl 是一个文本嵌入模型，输入文本后输出一维嵌入向量，常用于聚类等下游任务并配合向量数据库使用。该模型量化至 FP8 部署，由 Nvidia 最新 GPU（如 H100、H100_40GB 或 L4）支持，量化可选但能带来更高效率。
摘自 Baseten Base Labs：模型研究
最新进展9月30日 23:27
Baseten 推出 Embeddings 推理服务：支持任意嵌入模型与弹性扩缩容事件进展
2 个进展
- 9月30日 23:27 · 1 篇报道Baseten推出Embeddings解决方案Baseten 工程博客：Baseten 推出 Embeddings 推理服务：支持任意嵌入模型与弹性扩缩容
- 9月30日 22:27 · 1 篇报道Baseten提供FP8量化的BGE Embedding ICL模型Baseten Base Labs：模型研究：BGE Embedding ICL：BAAI/bge-en-icl 文本嵌入模型
报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- Baseten 工程博客Baseten 推出 Embeddings 推理服务：支持任意嵌入模型与弹性扩缩容
Baseten 上线 Embeddings 服务，可用任意嵌入模型快速处理数百万数据点，支持自定义 Docker 镜像、Truss 库和 Baseten Chains。该服务覆盖 BGE、Stella、SFR-Embedding、Nomic、NV-Embed、Voyage 等模型系列，面向语义搜索与推荐系统，提供五个 9 可用性、优化冷启动和弹性自动扩缩容，可缩容至零以节省成本。
- Baseten Base Labs：模型研究BGE Embedding ICL：BAAI/bge-en-icl 文本嵌入模型
BAAI/bge-en-icl 是一个文本嵌入模型，输入文本后输出一维嵌入向量，常用于聚类等下游任务并配合向量数据库使用。该模型量化至 FP8 部署，由 Nvidia 最新 GPU（如 H100、H100_40GB 或 L4）支持，量化可选但能带来更高效率。