跳到正文
arXiv · cs.AI· Min-Seong Kim, Jongbok Won, Jeesup Park, Yonghee Choi, Dong-Jun Han·· 1 天前

WSR-Tune通过权重空间重参数化在下游微调中保持大语言模型安全

Rethinking LLM Fine-Tuning via Weight Space Reparameterization: Preserving Safety during Downstream Adaptation

arXiv:2610.26443v2阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Min-Seong Kim, Jongbok Won, Jeesup Park, Yonghee Choi, Dong-Jun Han

研究任务与主要进展

Min-Seong Kim等人提出WSR-Tune,一种基于权重空间重参数化的大语言模型微调框架,通过将安全相关信息集中到少量方向、冻结安全关键方向并更新其余方向,在下游任务适配时保持安全行为。基于论文摘要,该方法报告了下游性能与安全保持之间更有利的权衡,但材料未提供具体模型、数据集、基线或安全指标。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org