跳到正文
热点事件持续更新

论文对比语义ID生成:自回归束搜索训练成本低于MTP

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

一项行业规模研究在大规模流媒体目录上,对LLM推荐中生成语义ID的两种解码范式做了同口径对比:单头自回归束搜索与多Token预测(MTP)。论文报告,单头束搜索在排序、内容问答等多数产品质量指标上占优,并在Qwen3-8B规模上以约2.6倍更低的美元成本完成训练;MTP仅在原始推理吞吐上胜出。 该对比在联合执行个性化检索、内容问答和指令跟随的多任务LLM内进行。研究还提出联合SID排序损失,报告相较配备辅助排序头的非SID基线:物品冷启动排序提升77%、内容问答准确率提升22%、训练速度提升2.8倍。上述数字均来自论文作者报告的实验结果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    语义ID个性化LLM推荐:自回归束搜索与多Token预测对比

    该研究在大规模流媒体目录上比较了单头自回归束搜索与多Token预测生成语义ID的效果,单头束搜索在多数产品质量指标上占优,并使Qwen3-8B规模的训练成本降低约2.6倍。多Token预测仅在原始推理吞吐上胜出;研究还提出联合SID排序损失,并报告相较非SID辅助排序基线,冷启动排序提升77%、内容问答准确率提升22%、训练速度提升2.8倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。