跳到正文
原文
蚂蚁 inclusionAI:GitHub 新仓库· inclusionAI·· 2026-07-10AI 评分22

蚂蚁 inclusionAI 的 vLLM:面向 LLM 的高吞吐、低内存推理与服务引擎

inclusionAI/vllm

AI 导读

蚂蚁 inclusionAI 在 GitHub 新建仓库 inclusionAI/vllm,定位为面向 LLM 的高吞吐、内存高效推理与服务引擎。该仓库目前仅给出这一句项目描述,未披露具体模型支持、性能数据或版本信息。

来源:蚂蚁 inclusionAI:GitHub 新仓库 ·