跳到正文
热点事件持续更新

提出LoCD:局部上下文蒸馏改进大模型蒸馏

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

论文作者(Zhezheng Hao等)发布arXiv论文提出Localized Context Distillation(LoCD):先定位学生模型交互轨迹中需要修订的关键片段,再由教师模型基于学生自身前缀重新生成这些片段,学生模型在再生成的片段上训练。 论文称,在数学推理、代码生成和智能体任务上的大量实验显示,LoCD持续优于强基线。该结果为论文作者的实验声称,尚待独立验证。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · cs.AI
    LoCD通过局部上下文蒸馏利用大语言模型交互经验

    研究提出Localized Context Distillation(LoCD),定位学生交互轨迹中需要修订的关键片段,再由教师基于学生自身前缀重新生成这些片段并用于训练。

本事件热度走势

可比范围当前
9
可比范围峰值
910月16日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。