蚂蚁 inclusionAI:GitHub 新仓库· inclusionAI·· 2026-07-10AI 评分22
蚂蚁 inclusionAI 的 vLLM:面向 LLM 的高吞吐、低内存推理与服务引擎
inclusionAI/vllm
AI 导读
蚂蚁 inclusionAI 在 GitHub 新建仓库 inclusionAI/vllm,定位为面向 LLM 的高吞吐、内存高效推理与服务引擎。该仓库目前仅给出这一句项目描述,未披露具体模型支持、性能数据或版本信息。
inclusionAI/vllm
蚂蚁 inclusionAI 在 GitHub 新建仓库 inclusionAI/vllm,定位为面向 LLM 的高吞吐、内存高效推理与服务引擎。该仓库目前仅给出这一句项目描述,未披露具体模型支持、性能数据或版本信息。