CiMEO通过功能子网络定位实现大模型持续学习
热点事件持续更新
CiMEO通过功能子网络定位实现大模型持续学习
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Shuoran Jiang 等在 arXiv 发布论文,提出持续学习框架 CiMEO(Function-isolated Memory-Efficient Optimization):通过梯度归因剖面定位功能专门化子网络,把每条训练样本路由到对应子网络,并将参数更新和优化器状态限制在选定区域。 基于论文摘要,作者称在 140 万条顺序指令训练下,CiMEO 在覆盖编程、考试式任务和数学推理的五个生成式基准上取得所比较方法中的最高平均表现,并减轻灾难性遗忘。
AI 根据报道生成 · 4 小时前更新
最新进展10月16日 12:00
CiMEO通过功能子网络定位实现大语言模型高效持续学习报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- arXiv · cs.AICiMEO通过功能子网络定位实现大语言模型高效持续学习
研究者提出Function-isolated Memory-Efficient Optimization(CiMEO),通过梯度归因剖面定位功能专门化子网络,将每条训练样本路由至对应子网络并限制参数更新范围。基于论文摘要,CiMEO在覆盖编程、考试式任务和数学推理的五个生成式基准上取得了所比较方法中的最高平均表现,并减轻了灾难性遗忘。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。