arXiv · cs.AI· Reeyansh Shah, Maram Hasan, Subhasis Chaudhuri, Biplab Banerjee·· 7 小时前
FIRM:面向联邦大模型遗忘的Fisher信息保留合并方法
FIRM: Fisher-Informed Retention Merging for Federated LLM Unlearning
arXiv:2610.21720v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Reeyansh Shah, Maram Hasan, Subhasis Chaudhuri, Biplab Banerjee
研究任务与主要进展
FIRM是一种用于联邦大模型定向遗忘的单轮服务器端聚合框架,通过客户端Fisher统计归一化基础合并并控制保留敏感参数。研究在WMDP、TOFU和MUSE-HP上使用Zephyr-7B与Llama-3-8B进行实验,WMDP和MUSE-HP在相近遗忘水平下获得效用提升,TOFU则呈现依赖指标的权衡;以上结论仅基于论文摘要。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org