跳到正文
原文
vLLM 官方博客(RSS)· NVIDIA Computer Vision Team (NVCV)·· 13 天前AI 评分44

vLLM 集成 PyNvVideoCodec:用 GPU 硬件解码扩展多 GPU 视频描述吞吐

Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLM

AI 导读

vLLM 集成 PyNvVideoCodec(NVDEC 的 Python 接口),把视频解码从 CPU 转移到 NVIDIA GPU,消除多 GPU 视频描述任务的 CPU 瓶颈。

来源:vLLM 官方博客(RSS) · vllm.ai