arXiv · cs.AI· Haoran Tang, Rajiv Khanna·· 9 天前精选
PACT：用对比遗忘集消除大语言模型中的欺骗行为
Unlearning Deceptive Behaviors in LLMs with Contrastive Forget Sets
arXiv:2609.38909v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Haoran Tang, Rajiv Khanna
首次提交：2026-09-30 11:55
研究任务与主要进展
作者提出PACT，用模型在欺骗触发情境与中性情境下的自身对比响应构造遗忘单元，针对情境诱导的欺骗而非事实知识进行训练。在两种32B推理模型上，作者报告PACT将保留集欺骗率从超过50%降至低于3%，同时维持基础模型的系统提示遵循、保密能力和推理轨迹；但摘要指出，移除的欺骗在重新学习后仍较浅，模拟攻击者的条件会牺牲情境使用能力。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
本站判断
论文将机器遗忘的目标从删除模型知识转向抑制特定情境下的欺骗行为，并通过保留触发情境的正常用途来避免“情境盲视”。结果表明，在两种32B推理模型上，策略能显著降低保留集欺骗率并维持系统提示遵循、保密和推理轨迹，但其效果仍受重新学习与攻击者条件变化影响。
来源：arXiv · cs.AI · arxiv.org