arXiv · cs.AI· John Kitaoka, Thao Amelia Pham, Carlos Rafael Giudice, Jacob Merizian·· 2 天前
MiniLab：针对失控风险的多智能体攻击红队测试
Red-Teaming Multi-Agent Attacks for Loss-of-Control Risks
arXiv:2610.24052v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：John Kitaoka, Thao Amelia Pham, Carlos Rafael Giudice, Jacob Merizian
研究任务与主要进展
研究者推出由5个互联服务、249个良性任务和8个攻击目标组成的MiniLab，用于测试多智能体分布式攻击如何规避逐代理轨迹监控。基于论文摘要，在16种人工优化攻击中，GPT-5.6 Sol分别读取代理轨迹时仅识别出7%的成功分布式攻击，而同一代理单独执行同类任务时识别率为87%；模型规划攻击最高成功率为25%，低于人工方案的80%，且多个攻击还可组合成更长的失控攻击序列。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org