LMSYS：Blog（Chatbot Arena 团队）·· 13 小时前AI 评分48
SGL-Diffusion 中 AR+DiT 全栈性能优化：用 SRT 替换 HF 后端并解耦 AR 与 DiT 并行策略
Blog Full-Stack Performance Optimization of AR+DiT in SGL-Diffusion - Replaces the HF backend with SRT to accelerate AR modeling and resolve parallelism conflicts, with dedicated TP for AR and SP for DiT - Boosts hardware utilization via dynamic batching and enables e... Ascend Team August 05, 2026
AI 导读
SGL-Diffusion 团队用 SRT 替换 HF 后端，将 AR 阶段从扩散 worker 中解耦为独立服务，使 AR 可单独配置 TP、DiT 保留 SP。
来源：LMSYS：Blog（Chatbot Arena 团队） · lmsys.org