论文提出LEAP加速扩散语言模型并行解码

论文（v2）提出LEAP，一种无需训练、可即插即用的扩散语言模型并行解码加速方法，利用未来上下文过滤和多序列叠加检测提前收敛的词元，从而放宽对高置信度阈值的依赖。 论文摘要称，在多领域基准测试中平均去噪步数较置信度解码减少约30%；在GSM8K上与dParallel结合时达到每步7.2个词元，同时保持模型精度。以上数字为作者声称，基于论文摘要。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。