跳到正文
热点事件持续更新

NVIDIA发布面向Agent后训练的开放中间训练配方

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

NVIDIA Nemotron 团队发布论文,提出一个位于预训练与后训练之间的开放 midtraining 配方,用 256K 上下文、数千亿级 token 的真实软件工程数据加少量 Agent traces 为 Agent 后训练预热基座模型,并在两个不同规模的 Nemotron 模型上验证了其效果。 在 Nemotron 3.5 Lightning 上,加入 500B midtraining token 并在完全相同的 full SFT 之后,SWE-bench Verified 从 60.7 提升到 64.5,SWE-bench Multilingual 从 55.8 提升到 62.8,SWE-bench Pro 从 32.0 提升到 35.5。论文同时公开了配方背后的消融实验,并基于短程固定 SFT 运行建立评估协议,原因是基座模型的代理指标与后训练结果的相关性不可靠。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · cs.AI
    开源面向 Agent 后训练的基座模型 Midtraining Recipe

    作者提出一种位于预训练与后训练之间的公开 midtraining recipe,用 256K 上下文、数千亿级 token 的真实软件工程数据和少量 Agent traces 为 Agent 后训练预热模型。

本事件热度走势

可比范围当前
9
可比范围峰值
910月16日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。