提出约束知识遗忘安全对齐方法CKU

Zesheng Shi、Yucheng Zhou 和 Jing Li 在 arXiv 论文（2505.18588）中提出约束知识遗忘（CKU）安全对齐方法，用于减少大语言模型的越狱攻击。方法在特定多层感知机（MLP）层中对神经元打分，筛选出与有用知识相关的神经元子集，并通过裁剪这些神经元的梯度，在保留有价值知识的同时削弱有害内容。 基于论文摘要，作者报告实验结果表明 CKU 在不损害整体性能的情况下显著提升模型安全性；具体实验设置、基线和结果细节未说明。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。