REPRO：单GPU 7B反思模型驱动的自动红队框架

Abrar Alotaibi 和 Moataz Ahmed 发布论文，提出 REPRO（Reflective Evolutionary Prompt Optimization），一个纯黑盒自动红队框架，用进化优化为大语言模型发现对抗 Prompt。其核心机制包括语义交叉和结合结构化失败分析的 Thompson Sampling 策略选择。 框架完全由一个压缩的开源权重 7B 反思模型驱动，在单块消费级 GPU 上运行。作者称对 36 个目标模型得到攻击成功率目录，并明确该目录是同一协议下的覆盖范围结果，而非与基线的头对头排名：所有基线数字转录自原论文，其评审模型、预算和模型版本各不相同。此外，优化过程中评分的 judge 同时产出报告的 ASR，搜索在 judge 接受时停止，因此 ASR 反映的是搜索在迭代预算内是否成功，而非固定预算下的成功率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。