arXiv · cs.AI· Haoming Yang, Ke Ma, Yangbangyan Jiang, Ligong Zhang, Xiaojun Jia, Longtao Huang, Yingfei Sun, Qianqian Xu, Qingming Huang·· 11 小时前
LLM 推理中的叙事悖论:PDRA 操纵推理轨迹诱发失对齐
Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment
arXiv:2610.16312v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Haoming Yang, Ke Ma, Yangbangyan Jiang, Ligong Zhang, Xiaojun Jia, Longtao Huang, Yingfei Sun, Qianqian Xu, Qingming Huang
研究任务与主要进展
作者提出 PDRA 攻击方法,通过在恶意角色与良性任务的叙事核心中嵌入结构化分析框架,引导大语言模型生成有害内容。论文摘要称,PDRA 会使模型内部表征远离拒答模式并激活规划相关表达,并在多个大语言模型上以较高效率取得领先攻击成功率;具体实验范围和指标未在摘要中说明。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org