QRUnlearn：量化下仍保持遗忘效果的LLM遗忘框架

Jialu Wang 等在 arXiv 论文（v2）中提出量化鲁棒的大语言模型遗忘框架 QRUnlearn，通过损失景观中的曲率识别敏感权重，对敏感参数施加敏感性引导的噪声正则化，并仅更新遗忘关键层，使模型在量化后仍保持更强的遗忘效果与模型效用。该框架针对的问题是：常规遗忘方法得到的模型在量化后遗忘效果可能减弱。 基于论文摘要，作者称在 MUSE 和 TOFU 基准、多种 LLM 遗忘算法上的大量实验显示该方法获得更具量化韧性的遗忘，同时保持效用；代码已发布于 GitHub。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。