Dynamic K-Head：按问题难度动态选择潜在推理预算

Ying Li、Yuqi Chen、Sixuan Li、Yunfeng Cai 等在 arXiv 发布论文，提出 Dynamic K-Head：一个仅依据问题本身打分的难度监督预算选择器，在推理开始前为连续潜在 CoT 动态决定更新次数，并与推理器联合训练。 基于论文摘要，在 Llama 3.2 1B 上以 CoDI 实例化、于 GSM8K 测试时，Dynamic K-Head 达到 54.44% 精确匹配准确率、平均 12.03 个推理/输出 token，对比固定 K=6 的 CoDI 的 52.31%、15.21 token，即准确率提升 2.12 个百分点、token 成本降低 20.9%。在三个分布外算术数据集上，成本降低 19.3–25.7%，准确率提升 0.30–2.22 个百分点。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。