Draft-Thinking:用紧凑草稿思维链降低长CoT推理成本
热点事件持续更新
Draft-Thinking:用紧凑草稿思维链降低长CoT推理成本
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Jie Cao 等在 arXiv 论文(v2)中提出 Draft-Thinking,一个轻量适配框架,让大推理模型学习与自身能力匹配的紧凑草稿思维链,以降低长思维链推理成本。作者称,框架先通过SFT迁移简洁推理形式,再用两阶段RL逐步增加难度并放宽响应预算来校准推理粒度,无需后处理轨迹压缩或显式长度惩罚。 基于论文摘要,作者报告仅用847道训练题和120个RL优化步骤,就在六个数学与科学推理基准上显著降低推理成本。以MATH500为例,其草稿模式将平均响应长度从5,668个token降至986个,减少82.6%,准确率为90.6%,原长思维链模型为93.0%。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
Draft-Thinking:学习长思维链大语言模型中的高效推理报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv · cs.AIDraft-Thinking:学习长思维链大语言模型中的高效推理
Jie Cao等提出Draft-Thinking轻量适配框架,让大推理模型学习与自身能力匹配的紧凑草稿思维链,以降低长思维链推理成本。框架先通过SFT迁移简洁推理形式,再用逐步增加难度并放宽响应预算的两阶段RL校准推理粒度,无需后处理轨迹压缩或显式长度惩罚;摘要报告仅使用847道训练题和120个RL优化步骤,就在六个数学与科学推理基准上降低成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。