跳到正文
热点事件观察中

IBM 为 Spyre 加速器改用 Inductor 编译器后端

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

IBM 将其 Spyre 加速器的 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor,编译器体积约为原来的 1/7。torch-spyre 是面向该硬件的 PyTorch 集成,IBM 称这次改造让编译器能更好地理解硬件。 IBM 介绍,Spyre 上数据不会自行移动:从设备内存进入 scratchpad、再从 scratchpad 进入核心计算引擎,每次搬运都依赖编译器发出显式指令。当前该实现通过 monkey-patch Inductor 的 GraphLowering.codegen() 接入,而非一等扩展钩子;IBM 称因此限制了其执行时间,并继续探索在不损害质量的前提下加速搜索的剪枝启发式方法。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. PyTorch:Blog
    IBM 如何为 Spyre 加速器扩展 PyTorch Inductor

    IBM 将其 Spyre 加速器的 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor,编译器体积约为原来的 1/7。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。