Mistral AI:News(网页)·· 2026-01-22精选AI 评分62
Mistral AI 复盘 vLLM 内存泄漏排查:从 Python 层一路追到 UCX 的 mmap 钩子
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 团队排查 vLLM 在 P/D 分离部署(NIXL/UCX、Mistral Medium 3.1、开启图编译)下每分钟约 400 MB 的内存泄漏。
推荐理由
原文完整复盘从 Heaptrack、pmap、BPFtrace 到 GDB 的内存泄漏排查路径,方法可迁移到类似的深层依赖问题。
来源:Mistral AI:News(网页) · mistral.ai