arXiv · cs.AI· Haoyu Zhang, Hanwen Liu, Yang Chen, Shibo Zheng, Xiangchen Guan, Zhuoxi Wang, Zijian Xiao, Xiao Luo, Yi Feng, Haowen Xu, Mohammad Zandsalimy, Shanu Sushmita·· 11 小时前
Best-of-N越狱攻击研究:深度结构编码超越表面变化
Depth, Not Breadth: Best-of-N Jailbreaking Beyond Surface Noise
arXiv:2607.26639v3阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Haoyu Zhang, Hanwen Liu, Yang Chen, Shibo Zheng, Xiangchen Guan, Zhuoxi Wang, Zijian Xiao, Xiao Luo, Yi Feng, Haowen Xu, Mohammad Zandsalimy, Shanu Sushmita
研究任务与主要进展
研究团队发现,在三个开放权重目标上,针对 SAGE 的 Best-of-N 结构编码越狱分别触发 67、22 和 15% 的行为,而单次编码触发率最高为 4.7%,完整字符搜索预算下最高为 3.0%。基于论文摘要,Llama-3.1-8B 的 2×2 对照显示,SAGE 主要受编码深度影响,分类器门控主要受搜索广度影响;研究据此提出不要将安全筛查与生成融合。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org