arXiv · cs.AI· Min-Seong Kim, Jongbok Won, Jeesup Park, Yonghee Choi, Dong-Jun Han·· 1 天前
WSR-Tune通过权重空间重参数化在下游微调中保持大语言模型安全
Rethinking LLM Fine-Tuning via Weight Space Reparameterization: Preserving Safety during Downstream Adaptation
arXiv:2610.26443v2阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Min-Seong Kim, Jongbok Won, Jeesup Park, Yonghee Choi, Dong-Jun Han
研究任务与主要进展
Min-Seong Kim等人提出WSR-Tune,一种基于权重空间重参数化的大语言模型微调框架,通过将安全相关信息集中到少量方向、冻结安全关键方向并更新其余方向,在下游任务适配时保持安全行为。基于论文摘要,该方法报告了下游性能与安全保持之间更有利的权衡,但材料未提供具体模型、数据集、基线或安全指标。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org