跳到正文
arXiv · cs.AI· Sicong Li, Qianqian Xu, Zhiyong Yang, Zitai Wang, Longtao Huang, Xiaochun Cao, Qingming Huang·· 6 小时前

ToPA:通过块级 Toeplitz 适配提升大模型微调的表达力与效率

ToPA: Block-wise Toeplitz Adaptation for Expressive and Efficient Fine-Tuning

arXiv:2610.22883v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Sicong Li, Qianqian Xu, Zhiyong Yang, Zitai Wang, Longtao Huang, Xiaochun Cao, Qingming Huang

研究任务与主要进展

ToPA提出一种面向大模型参数高效微调的块级 Toeplitz 适配方法,通过缩短矩阵乘法链来稳定训练并提升表达力。作者在论文摘要中称,该方法能够近似任意矩阵,表达能力强于低秩和稀疏参数化,并在覆盖21个NLP与CV数据集、5种模型架构的实验中验证了有效性;具体实验细节和资源开销尚未说明。论文链接:https://arxiv.org/abs/2610.22883v1

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org