跳到正文
arXiv · cs.AI· Riccardo Renzulli, Gabriele Spadaro, Shruthi Gowda, Alaa Eddine Mazouz, Van-Tam Nguyen·· 5 小时前

TORINO通过可解释概念重叠减少视觉语言模型视觉词元

TORINO: Token Reduction via Interpretable Concept Overlap in Vision-Language Models

arXiv:2607.04593v2阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Riccardo Renzulli, Gabriele Spadaro, Shruthi Gowda, Alaa Eddine Mazouz, Van-Tam Nguyen

研究任务与主要进展

TORINO是一种无需微调底层视觉语言模型的自适应视觉词元压缩框架,利用稀疏自编码器将视觉词元投影到可解释潜在空间,并通过共享概念激活衡量语义重叠。方法按语义内容分组,在组内进行剪枝或合并,并根据图像复杂度动态调整压缩比例;基于论文摘要,多个视觉语言基准上的实验显示其在减少视觉词元的同时保持了较小的性能损失。源代码已发布:https://eidoslab.github.io/TORINO。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org