跳到正文
arXiv · cs.AI· Mohsen Fayyaz, Ali Modarressi, Daniel Israel, Lucas Bandarkar, Nanyun Peng·· 2 天前

扩散语言模型在不同任务和语言中的解码速度差异

Diffusion Language Models Change Speed Across Tasks and Languages

arXiv:2610.25835v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Mohsen Fayyaz, Ali Modarressi, Daniel Israel, Lucas Bandarkar, Nanyun Peng

研究任务与主要进展

作者分析两种扩散语言模型在10项任务中的解码成本,发现复制或轻改输入较便宜,开放式生成成本更高,DiffusionGemma的故事生成每token所需前向次数超过语法纠错的三倍。结果还显示,高分词语言和错误答案消耗更多前向次数;按解码速度对候选答案加权,在不增加成本的情况下较多数投票最高提升4.2个百分点。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org