AlignMerge：Fisher 几何约束的保对齐大模型合并

Aniruddha Roy 等在 arXiv 论文（基于摘要）中提出 AlignMerge，一个几何感知的大语言模型合并框架，把对齐作为显式不变量：在指令微调基座附近的 Fisher 图中约束融合方向，减少多个微调检查点合并时对对齐几何的破坏。 作者称，在五个模型家族（LLaMA-3 8B、Mistral 7B、Qwen 2、Phi-3.5、Gemma 2）上将安全锚点模型与任务专家合并时，AlignMerge 在 AQI、毒性、LLM-judge 对齐等指标上有所提升，同时指令遵循、推理和有用性上持平或超过最佳专家模型；相比 Fisher soups、TIES、SafeMerge 和 MergeAlign，其 alignment-subspace 漂移更小、预算违规更少。以上为作者声称的摘要结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。