论文提出OMCB后门攻击与SMOKE框架

Yukun Chen 等人在 arXiv 论文摘要中提出一种针对大语言模型合并场景的新威胁：单边合并条件后门（OMCB）。该后门在单独模型中保持休眠且难以检测，模型合并后才激活，触发安全失配。 作者进一步提出基于元学习的攻击框架 SMOKE，通过双层优化策略植入 OMCB，并采用随机低秩初始化和有限步最大化。据摘要称，初步分析显示注入的 OMCB 在未知合并配置下具有有界的泛化损失，跨多种模型架构与合并技术的实验支持了其有效性及对现有后门检测的抵抗能力。 以上结论均为论文摘要中的作者声称，尚未经独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。