提出统一滥用监测基准

作者提出统一的LLM智能体滥用监测基准，将分解攻击与提示注入纳入轨迹级评估。基准包含约6,200条带有伤害窗口标注的用户、智能体与外部环境对话，并比较17种监测器配置；动作框架监测器在两类威胁上的AUC分别为0.95和0.99，而内容框架监测器在提示注入攻击上的AUC仅为0.52，研究还发现传统位置无关指标会高估伤害定位能力。

摘自 arXiv · cs.AI

还没有足够的连续观测数据，暂不绘制趋势。