NVIDIA 推出 Green Contexts 控制 GPU 资源共享

NVIDIA 在其开发者技术博客介绍 Green Contexts 机制，用于控制单个进程内多个独立组件之间的 GPU 资源分配，解决同一 GPU 上共享资源难以控制的问题。 该机制面向需要共享同一 GPU 的场景，包括延迟敏感算子与后台吞吐内核、数据预处理与模型推理、多阶段工作流等。NVIDIA 称其目标是让这些相互独立的工作负载在同一进程内更可控地共享 GPU 资源。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。