SoK 论文系统化 LLM 提示安全并提出 PromptSecurity 平台

Hanbin Hong 等研究者发布系统化研究论文（SoK），梳理 272 项大语言模型提示安全研究，建立越狱攻击、防御和模型漏洞的三套多标签分类体系，并提出配置感知的统一评测协议。 论文同时给出 PromptSecurity-Eval 评测：在统一单轮协议下，用 100 条有害查询和独立的良性效用任务，对 11 个目标模型、20 种攻击、9 种防御和 3 个自动评判器进行匹配评测。作者还发布了开源平台 PromptSecurity 与数据集 JailbreakDB，后者包含 445,752 对越狱系统-用户提示和 1,094,122 条良性提示。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。