跳到正文
原文
arXiv:cs.AI(全量分类)· Thai Nguyen, Khang Tran, NhatHai Phan·· 1 天前AI 评分33

HyperZip:用超网络与个性化扩散 LLM 实现高效数据压缩

HyperZip: Efficient Data Compression through Personalized Diffusion LLMs with Hypernetworks

AI 导读

HyperZip 是一个基于扩散 LLM(dLLM)与 Multi-Token Prediction 的 LLM 数据压缩框架,通过超网络从上下文表示生成数据专属更新,无需微调即可适配目标数据。它针对扩散压缩中解码吞吐量提升会降低压缩率的权衡,实现了低压缩率与高吞吐的兼顾,在压缩率与速度的权衡上优于现有 SOTA 基线。

来源:arXiv:cs.AI(全量分类) · arxiv.org