vLLM 官方博客（RSS）· vLLM Semantic Router Team·2026-06-05 08:00· 2026-06-05精选AI 评分69

vLLM Semantic Router v0.3 Themis 发布：从信号到有状态的生产级路由

vLLM Semantic Router v0.3 Themis: From Signals to Stateful Production Routing

AI 导读

vLLM Semantic Router 发布 v0.3 版本 Themis，推出规范化 v0.3 配置契约、投影机制和首个生产可用的会话感知智能体路由（SAAR），并强化协议兼容、仪表盘运维控制台与 CLI。

推荐理由

版本把信号、投影、决策到模型选择收敛为统一契约，并引入会话感知路由，适合关注生产级流量治理的团队参考。