研究称输出层评估系统性高估机器遗忘效果

马来西亚大学研究者 Teresa Pui Yee Yong、Win Kent Ong、Chee Seng Chan 在 arXiv 论文《Erased, but Not Gone: Output Forgetting Is Not True Forgetting》（v2）中提出：常用机器遗忘方法的输出层评估会系统性高估遗忘成功，遗忘并不等于真正遗忘。 他们以从头重训练（不含遗忘数据）的模型群体作为理想遗忘的参照分布，提出表示空间中的重训练一致性评估。基于论文摘要的实验显示，多种遗忘方法、数据集和模型下，模型在遗忘样本上部分接近重训练结果，但在保留样本上仍与重训练模型更不一致，残余差异沿重训练相关方向集中分布。 作者称，这些差异在许多情况下超过独立重训练之间的变异，并可能在再学习攻击中增加信息恢复风险。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。