跳到正文
原文
Mistral AI:News(网页)·· 2026-01-22精选AI 评分62

Mistral AI 复盘 vLLM 内存泄漏排查:从 Python 层一路追到 UCX 的 mmap 钩子

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 团队排查 vLLM 在 P/D 分离部署(NIXL/UCX、Mistral Medium 3.1、开启图编译)下每分钟约 400 MB 的内存泄漏。

推荐理由

原文完整复盘从 Heaptrack、pmap、BPFtrace 到 GDB 的内存泄漏排查路径,方法可迁移到类似的深层依赖问题。

来源:Mistral AI:News(网页) · mistral.ai