arXiv:cs.CL(计算语言学,全量分类)· Longxuan Yu, Bingsen Chen, Peng Shi, Dongkyu Lee, Yi Xiang, Hideo Kobayashi, Sheng Zhang, Shuaichen Chang, Xing Niu, Zhuoyan Xu, Greg Ver Steeg, Jiarong Jiang·· 3 小时前AI 评分36
DEdit:面向推测解码的迭代草稿编辑方法
DEdit: Iterative Draft Editing for Speculative Decoding
AI 导读
DEdit 是一种基于扩散模型的推测解码草稿器,除并行解掩码外还能通过 token-to-token 预测迭代编辑草稿,让后续预测作为双向上下文修复早期错误、延长被接受的前缀。
来源:arXiv:cs.CL(计算语言学,全量分类) · arxiv.org