IBM 为 Spyre 加速器改用 Inductor 编译器后端
热点事件观察中
IBM 为 Spyre 加速器改用 Inductor 编译器后端
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
IBM 将其 Spyre 加速器的 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor,编译器体积约为原来的 1/7。torch-spyre 是面向该硬件的 PyTorch 集成,IBM 称这次改造让编译器能更好地理解硬件。 IBM 介绍,Spyre 上数据不会自行移动:从设备内存进入 scratchpad、再从 scratchpad 进入核心计算引擎,每次搬运都依赖编译器发出显式指令。当前该实现通过 monkey-patch Inductor 的 GraphLowering.codegen() 接入,而非一等扩展钩子;IBM 称因此限制了其执行时间,并继续探索在不损害质量的前提下加速搜索的剪枝启发式方法。
AI 根据报道生成 · 4 小时前更新
最新进展10月13日 20:45
IBM 如何为 Spyre 加速器扩展 PyTorch Inductor报道时间线
沿着报道,了解事件的不同侧面。
10月13日
- PyTorch:BlogIBM 如何为 Spyre 加速器扩展 PyTorch Inductor
IBM 将其 Spyre 加速器的 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor,编译器体积约为原来的 1/7。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。