MyMagic AI 批量推理接入 LlamaIndex
热点事件历史事件
MyMagic AI 批量推理接入 LlamaIndex
2 篇报道1 个报道来源2024-05-22更新
先了解这件事
AI 综述
MyMagic AI 的批量推理 API 已集成进 LlamaIndex，开发者可通过 llama-index-llms-mymagic 调用，并使用同步 complete 与异步 acomplete 接口。该集成支持 Llama 70B、Mistral 7B、Mixtral 8x7B、CodeLlama70b 等开源 LLM 及 Embedding 模型。 据 LlamaIndex 产品、工程与评测栏目报道，该集成面向 S3 存储桶中的大规模文件批量处理场景，让用户调用上述开源大模型完成批量推理。
AI 根据报道生成 · 20 天前更新
最新进展2024年5月22日 00:00
MyMagic AI 与 LlamaIndex 集成实现批量推理报道时间线
沿着报道，了解事件的不同侧面。
2024年5月22日
- LlamaIndex：产品、工程与评测MyMagic AI 与 LlamaIndex 集成实现批量推理
MyMagic AI 的批量推理 API 已集成进 LlamaIndex，支持 Llama 70B、Mistral 7B、Mixtral 8x7B、CodeLlama70b 等开源 LLM 及 Embedding 模型，通过 `llama-index-llms-mymagic` 调用，提供同步 complete 与异步 acomplete 接口。
2024年3月5日
- LlamaIndex：产品、工程与评测MyMagic AI 与 LlamaIndex 集成实现 LLM 批量处理
MyMagic AI 推出 LlamaIndex 集成，通过批量推理 API 让用户调用 LLaMA 70B、Mistral 7B、Mixtral 8x7B、CodeLlama70b 等开源大模型处理 S3 存储桶中的大规模文件。