跳到正文
热点事件持续更新

提出Tiny Recursive Message Passing:16k参数解Sudoku-Extreme

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Tommaso Salvatori 等在 arXiv 发布论文,提出 Tiny Recursive Message Passing 模型:将递归 transformer 的深度监督与截断递归训练,结合测试时离散推理程序,应用于消息传递网络。作者称该模型以约 16k 参数在 Sudoku-Extreme 上达到约 99% 测试准确率,训练约需 10 分钟 H100 或 9 小时 CPU。 作者还发现截断梯度的成本随信息跨图所需轮数增加,因此连线结构需在截断鲁棒性与跨问题规模迁移之间权衡;模型在 N-queens 和布尔可满足性任务上以更少参数零样本迁移到比训练时更大的实例,并超过若干流行神经基线。以上均为论文作者声称的结果,基于摘要,尚无独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    递归消息传递网络提升参数高效算法与约束推理

    研究将深度监督、截断递归和测试时离散推理机制应用于消息传递网络,在 Sudoku-Extreme 上以约 16k 参数达到约 99% 测试准确率,训练约需 10 分钟 H100 或 9 小时 CPU。作者还发现,截断梯度的成本随信息跨图所需轮数增加,因此连线结构需在截断鲁棒性和跨问题规模迁移之间权衡;模型在 N-queens 和布尔可满足性上以更少参数零样本迁移到更大实例,并超过若干神经基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。