跳到正文
热点事件持续更新

SSMProbe:学习Sinkhorn patch路由探测冻结视觉Transformer

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Wang和Zhang提出SSMProbe,一种探测冻结视觉Transformer的方法:它学习Sinkhorn patch路由,并用具备因果线性时不变递推的对角S4解码器读取,形成固定的位置权重。据论文摘要,这是作者声称的结果。 基于论文摘要,在CUB和Cars数据集上,MAE、BEiT、DINOv2及监督ViT产生了具有不同读取特征的空间组织路由;在MAE/ImageNet上,Sinkhorn路由准确率达70.33%,比最强固定扫描高5.55个百分点。以上均为论文摘要中的说法,尚无独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · cs.AI
    SSMProbe:学习动态证据路由的视觉Transformer探针方法

    作者提出SSMProbe,用于探测冻结视觉Transformer:它学习Sinkhorn patch路由,并通过具备因果线性时不变递推的对角S4解码器读取,形成固定的位置权重。基于论文摘要,在CUB和Cars上,MAE、BEiT、DINOv2及监督ViT产生了具有不同读取特征的空间组织路由;在MAE/ImageNet上,Sinkhorn路由准确率达到70.33%,比最强固定扫描高5.55个百分点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。