ModelScope 开源 EntroPack 张量压缩库
热点事件持续更新
ModelScope 开源 EntroPack 张量压缩库
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
ModelScope 发布并开源 PyTorch 张量压缩库 EntroPack,可按任意小数比特每参数(bpp)压缩模型权重以适配 GPU 显存预算,不受 4-bit 或 8-bit 固定精度限制。ModelScope 称,其采用免校准的熵编码量化,无需激活校准或微调,解码在单个 kernel 内融合完成,适合 Diffusion 去噪和 Transformer Prefill 等计算密集型负载。库代码以 Apache 2.0 许可开源。 ModelScope 称,已提供 Z-Image-Turbo、Qwen-Image-2.1、MiniMax-H3 的预量化权重(4 到 8 bpp),适配 DiffSynth-Studio 和 ComfyUI;其中极限版 Z-Image 达到 2.3 bpp,DiT 权重压缩至 1.6 GB,约为 BF16 的七分之一。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 18:50
ModelScope 开源 EntroPack:按任意 bpp 量化模型以适配 GPU 显存预算报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- ModelScope 魔搭ModelScope 开源 EntroPack:按任意 bpp 量化模型以适配 GPU 显存预算
ModelScope 开源 EntroPack,一个 PyTorch 张量压缩库,可按任意 bpp(比特每参数)量化模型以精确适配 GPU 显存预算,不受 4-bit 或 8-bit 固定精度限制,采用免校准的熵编码量化,解码在单个 kernel 内融合完成,适合 Diffusion 去噪和 Transformer Prefill 等计算密集型负载。
- ModelScope 魔搭ModelScope 发布 PyTorch 张量压缩库 EntroPack,可按显存预算调节权重存储
ModelScope 发布 PyTorch 张量压缩库 EntroPack,支持以任意小数比特每参数压缩权重,无需激活校准或微调,代码以 Apache 2.0 开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。