跳到正文
热点事件持续更新

Draft-Thinking:用紧凑草稿思维链降低长CoT推理成本

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Jie Cao 等在 arXiv 论文(v2)中提出 Draft-Thinking,一个轻量适配框架,让大推理模型学习与自身能力匹配的紧凑草稿思维链,以降低长思维链推理成本。作者称,框架先通过SFT迁移简洁推理形式,再用两阶段RL逐步增加难度并放宽响应预算来校准推理粒度,无需后处理轨迹压缩或显式长度惩罚。 基于论文摘要,作者报告仅用847道训练题和120个RL优化步骤,就在六个数学与科学推理基准上显著降低推理成本。以MATH500为例,其草稿模式将平均响应长度从5,668个token降至986个,减少82.6%,准确率为90.6%,原长思维链模型为93.0%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · cs.AI
    Draft-Thinking:学习长思维链大语言模型中的高效推理

    Jie Cao等提出Draft-Thinking轻量适配框架,让大推理模型学习与自身能力匹配的紧凑草稿思维链,以降低长思维链推理成本。框架先通过SFT迁移简洁推理形式,再用逐步增加难度并放宽响应预算的两阶段RL校准推理粒度,无需后处理轨迹压缩或显式长度惩罚;摘要报告仅使用847道训练题和120个RL优化步骤,就在六个数学与科学推理基准上降低成本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。