AgentSafeEvo：攻击者-防御者共进化提升LLM智能体安全

Chenxu Wang 等作者在 arXiv 论文（2610.19422）中提出 AgentSafeEvo，一种面向 LLM 智能体安全的协同进化强化学习框架：构建攻击者与防御者的博弈，让双方在恶意用户输入、工具描述和环境观察内容等多类任务与攻击类型下共同进化，并引入可学习性引导的任务加权机制。 基于论文摘要，作者称在智能体安全与通用能力基准上的实验表明该方法提升了对抗鲁棒性，同时保持通用智能体能力；具体实验细节与比较基线在摘要中未说明。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。