提出LEST规范驱动LLM安全测试框架
热点事件观察中
提出LEST规范驱动LLM安全测试框架
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Kausar Moshood、Jace Bolante、Roshan Aditya Murali、Manish Motwani提出LEST框架，将大语言模型系统卡中的安全声明当作规范，用黑盒方式匹配基准提示并通过提示突变寻找反例，再由人工验证从拒答到服从的转变。 作者基于Claude Opus 4.8和GPT-5.5的系统卡及SORRY-Bench的97个种子提示进行评估：56项安全声明中29项可由提示测试，但只有17项被适用基准提示覆盖。1,836个突变提示产生312个自动化分类器标记，人工确认其中19个（6.1%）既保持意图又确实服从，作者称这表明自动评估会大幅高估行为失败。
AI 根据报道生成 · 1 天前更新
最新进展10月14日 12:00
LEST框架用安全规范驱动大语言模型黑盒测试报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv · cs.AILEST框架用安全规范驱动大语言模型黑盒测试
作者提出LEST，将大语言模型安全声明作为规范，匹配基准提示并通过提示突变寻找反例，再人工验证拒答到服从的转变。研究基于Claude Opus 4.8和GPT-5.5的系统卡及SORRY-Bench的97个种子提示：56项安全声明中29项可由提示测试，但只有17项被适用基准提示覆盖；1,836个突变提示产生312个自动化分类器标记，人工确认其中19个符合意图保持且确实服从。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 910月14日 17:00
- 近 24 小时变化
- -51%
02.557.510
18:0010月15日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。