跳到正文
热点事件持续更新

DREAM:LLM智能体内置记忆修复防御机制论文

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Lei Liu 等研究者在 arXiv 提交论文,提出面向被投毒 LLM 智能体的免训练记忆修复框架 DREAM,据作者报告,其针对后门投毒攻击可使攻击成功率降低超过 95%,同时保持良性任务效用。 DREAM 通过弱再激活、基于多维激活模式的异常诊断和动态记忆修复,选择性抑制恶意记忆并强化良性记忆。与 A-MemGuard 相比,作者报告其最高实现 2.13 倍加速和 37.7% 的 Token 消耗降低,并在投毒多 Agent 系统中达到 92.96% 的任务成功率。 以上数字均来自论文摘要中作者的报告,材料未说明完整实验细节。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv · cs.AI
    DREAM:用于修复LLM Agent投毒记忆的神经启发机制

    研究提出免训练的DREAM框架,通过弱再激活、基于多维激活模式的异常诊断和动态记忆修复,选择性抑制恶意记忆并强化良性记忆。基于论文摘要,作者报告DREAM使后门投毒攻击成功率降低超过95%,相较A-MemGuard最高实现2.13倍加速和37.7%的Token消耗降低,并在投毒多Agent系统中达到92.96%的任务成功率;材料未说明完整实验细节。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。