跳到正文
原文
SemiAnalysis 长文 RSS(RSS)· Alec Ibarra·· 23 天前AI 评分65

SemiAnalysis 发布 InferenceX 预览:TPUv7 Ironwood 对比 Blackwell 每美元性能最高领先 50%

TPU Inference Externalization Full Steam Ahead - InferenceX

AI 导读

SemiAnalysis 在 InferenceX 官方预览中发布首个 TPUv7 Ironwood 第三方推理结果,FP8 聚合服务下每美元性能最高比 B200/B300 好 50%,20 tok/s/user 时每百万 token 成本 0.181 美元,低于 B200 的 0.222 美元和 B300 的 0.276 美元。

来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com