Hugging Face：Blog（RSS）·2026-07-23 08:00· 2026-07-23精选AI 评分69

Diffusers 原生集成 Nunchaku Lite 4-bit 扩散模型推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Hugging Face 宣布 Diffusers 原生支持 Nunchaku Lite，可像普通模型一样用 from_pretrained() 加载 SVDQuant 4-bit (W4A4) 检查点，无需单独推理引擎或本地 CUDA 编译，内核经 kernels 包从 Hub 下载。

推荐理由

Diffusers 原生支持 Nunchaku 4-bit 推理，附带基准数据和自己量化模型的完整流程，适合关注消费级显卡跑扩散模型的读者。