提出TLAR轨迹检索推测解码方法

Yuyang Dai、Yushun Dong 等提出 Trajectory-Local Adaptive Retrieval（TLAR）推测解码方法，从当前生成轨迹中检索近似匹配的历史续写作为草稿，并用近期验证结果自适应调整检索激活与候选宽度，通过精确验证保持目标模型的输出分布。 受控对比显示轨迹内存在可复用的来源（trajectory-specific reuse），这一发现直接推动了该方法的设计。TLAR 将检索到的续写与模型自身生成的草稿放入共享候选树。在代码调试、数学和开放式写作三类任务上，评估连接了来源复用、增量接受率与执行成本；在匹配的验证预算下，TLAR 与较强检索基线结合可提高 token 接受率，并比草稿模型基线提升端到端吞吐。结果基于论文自述评估，未标注独立复现。

AI 根据报道生成 · 23 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。