AMD与Meta在PyTorch中集成FlyDSL后端

PyTorch 用户现在可在 AMD MI350 系列 GPU 上通过现有算子 API 调用 FlyDSL 后端，无需自行编写自定义 kernel。据 PyTorch 博客介绍，该后端以可选方式提供，覆盖稠密与分组 GEMM、融合多头注意力（FMHA/Attention）、MXFP8/MXFP4 缩放 GEMM、RMSNorm 和 TopK。 GEMM 需通过 torch.compile 启用；RMSNorm 和 TopK 在启用该后端时于 eager 模式下自动分派。当前支持仅针对 gfx950 架构的 MI350 系列 GPU。注意力 SDPA 无需安装或配置 FlyDSL 包，但暂不支持 FP32。 PyTorch 博客称，FlyDSL 注意力 kernel 具备与 F.scaled_dot_product_attention 的 flash 和 memory-efficient 注意力相当的能力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。