论文提出PDRA多步推理越狱攻击方法

论文作者团队在arXiv发布论文，提出针对大语言模型多步推理过程的越狱攻击方法PDRA（Paradox-driven Reasoning-based Attack）。该方法构造一个悖论式叙事核心，把恶意角色（如恐怖分子）与良性任务（如撰写安全公告）配对，通过嵌入结构化分析框架引导模型生成有害内容的推理轨迹，利用局部连贯的步骤导致整体有害结果这一漏洞。 作者声称，PDRA会使模型内部表征远离拒答模式并激活规划相关表达，在多个大语言模型上以较高效率取得领先（state-of-the-art）攻击成功率；论文摘要未说明具体实验范围和指标。上述结果为论文摘要中的作者声称，尚待独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。