arXiv · cs.AI· Yusong Zhao, Hengyi Wang, Tanuja Ganu, Akshay Nambi, Hao Wang·· 1 天前
SAE++：级联稀疏自编码器学习多模态大语言模型中的多层级视觉概念
SAE++: Cascaded Sparse Autoencoders Learn Multi-Level Visual Concepts in Multimodal LLMs
arXiv:2606.16193v3阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Yusong Zhao, Hengyi Wang, Tanuja Ganu, Akshay Nambi, Hao Wang
研究任务与主要进展
研究提出SAE++级联稀疏自编码器，通过在第一层稀疏自编码器的解码器权重上训练第二层编码器，学习多模态大语言模型中的多层级视觉概念。基于论文摘要，在Qwen3-VL、Gemma-3和LLaVA及多个视觉数据集上，SAE++相较现有稀疏自编码器基线提高了层级概念一致性，并支持对概念组进行有效干预；代码已发布于GitHub。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org