上海人工智能实验室 InternLM:原创项目· InternLM·· 2025-09-08AI 评分27
InternLM 发布 GroupedGEMM:CUTLASS 与 CUBLAS 分组 GEMM 的 PyTorch 绑定
InternLM/GroupedGEMM
AI 导读
上海人工智能实验室 InternLM 项目发布 GroupedGEMM,为 CUTLASS 和 CUBLAS 的分组 GEMM、Permute 与 Unpermute 提供 PyTorch 绑定。该库面向 MoE 等场景中的分组矩阵计算,可直接在 PyTorch 中调用上述算子。