跳到正文
热点事件持续更新

提出基于本质子空间的数据感知模型合并方法ESM

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Longhua Li 等人在 arXiv 论文(v4)中提出数据感知模型合并框架:先用 ESD 方法基于代理数据测得的激活偏移识别各任务的关键子空间,再通过 ESM 按输出偏移特征值加权并正交化任务更新方向,以减少多任务知识聚合中的干扰;ESM++ 进一步加入动态低秩任务残差专家。代码开源于 https://github.com/kiddo127/ESM。 基于论文摘要,实验覆盖多种任务集和模型规模,结果显示 ESM 与 ESM++ 能缓解任务间干扰并聚合任务知识。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    ESD与ESM方法在关键子空间中实现数据感知的多任务模型合并

    Longhua Li等人提出数据感知模型合并框架,利用代理数据测得的激活偏移识别各任务的关键子空间,并通过ESM按输出偏移特征值加权、正交化任务更新方向,以减少多任务知识聚合中的干扰;ESM++进一步加入动态低秩任务残差专家。基于论文摘要,实验覆盖多种任务集和模型规模,结果显示ESM与ESM++能缓解任务间干扰并聚合任务知识,代码见https://github.com/kiddo127/ESM。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。