vLLM 官方博客（RSS）· vLLM Semantic Router Team·2026-06-29 08:00· 2026-06-29AI 评分58

vLLM Semantic Router 推出 Micro-Agent 服务层协作，多基准超过前沿单模型基线

Micro-Agent: Beat Frontier Models with Collaboration inside Model API

AI 导读

vLLM Semantic Router 团队推出 Micro-Agent 能力，把单次模型 API 调用变成服务层内有界的多模型协作，用户仍只调用一个模型名 vllm-sr/auto。