持续训练削弱恶意微调防御

研究人员在四个开放权重模型上测试六种恶意微调防御，发现经过三轮持续有害数据微调后，全部72次防御运行的有害性都高于模型发布时；Llama-3.1在最高学习率下，防御模型最终几乎与未防御模型同样有害。 该研究基于对15种近期防御方法的调查，称这些方法多依赖有限攻击假设，权重发布后没有机制持续强制执行防护。实验结果表明，现有防御可以延缓或扰乱恶意微调，但多数未能形成持久保护；结论限于所测模型、防御和攻击设置。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。