跳到正文
原文
上海人工智能实验室 InternLM:原创项目· InternLM·· 2025-09-08AI 评分27

InternLM 发布 GroupedGEMM:CUTLASS 与 CUBLAS 分组 GEMM 的 PyTorch 绑定

InternLM/GroupedGEMM

AI 导读

上海人工智能实验室 InternLM 项目发布 GroupedGEMM,为 CUTLASS 和 CUBLAS 的分组 GEMM、Permute 与 Unpermute 提供 PyTorch 绑定。该库面向 MoE 等场景中的分组矩阵计算,可直接在 PyTorch 中调用上述算子。

来源:上海人工智能实验室 InternLM:原创项目 ·