跳到正文
原文
Together AI 研究与产品博客(RSS)·· 2026-05-19AI 评分41

Together AI 发布编码智能体推理基准:Kimi K2.5 上吞吐超 TensorRT-LLM 31%

Benchmarking inference at scale: coding agents

AI 导读

Together AI 发布面向编码智能体的高并发推理基准,用 4×NVIDIA B200 在 Kimi K2.5 上对比 Together Inference Engine、TensorRT-LLM 与 SGLang。

来源:Together AI 研究与产品博客(RSS) · together.ai