vLLM 官方博客(RSS)· NVIDIA Computer Vision Team (NVCV)·· 13 天前AI 评分44
vLLM 集成 PyNvVideoCodec:用 GPU 硬件解码扩展多 GPU 视频描述吞吐
Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLM
AI 导读
vLLM 集成 PyNvVideoCodec(NVDEC 的 Python 接口),把视频解码从 CPU 转移到 NVIDIA GPU,消除多 GPU 视频描述任务的 CPU 瓶颈。
来源:vLLM 官方博客(RSS) · vllm.ai