热点事件持续更新
LMSYS 开源 Petit：AMD GPU 上的 FP4 混合精度推理优化
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月2日，LMSYS 的 Chatbot Arena 团队发布博客，介绍如何在 AMD GPU 上优化 FP4 混合精度推理。针对 MI250/MI300 系列缺乏原生 FP4 支持的问题，团队推出 Petit，用 FP16/BF16 × FP4 混合精度内核让这些 GPU 也能运行 FP4 模型。在 SGLang 上跑 Llama 3.3 70B 端到端推理提速 1.74x，等效矩阵乘法比 hipBLASLt 快至多 3.7x。Petit 以 BSD 许可开源，自 SGLang 0.4.10 起集成。目前进展为工具已开源并进入 SGLang 版本集成。
AI 根据报道生成 · 1 小时前更新
最新进展10月2日 22:51
Petit 以 BSD 许可开源，自 SGLang 0.4.10 起集成。报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- LMSYS：Blog（Chatbot Arena 团队）如何在 AMD GPU 上优化 FP4 混合精度推理
针对 MI250/MI300 系列缺乏原生 FP4 支持的问题，Petit 用 FP16/BF16 × FP4 混合精度内核让这些 GPU 也能跑 FP4 模型。在 SGLang 上跑 Llama 3.3 70B 端到端推理提速 1.74x，等效矩阵乘法比 hipBLASLt 快至多 3.7x。Petit 以 BSD 许可开源，自 SGLang 0.4.10 起集成。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。