QuAR用单次前向校准量化ViT

Hyeongheon Cha、Young D. Kwon和Sung-Ju Lee提出QuAR，通过重校准冻结量化器输入端的激活统计，使量化视觉Transformer在不反向传播、不更新模型参数的情况下进行单次前向测试时适应。 基于arXiv论文摘要，QuAR在ImageNet-C的ViT-B、3/4/6/8位权重与激活精度实验中取得当前无反向传播TTA方法中最高的平均准确率；其延迟降低46%，额外内存为0.17MB，占峰值推理内存的0.01%。同一固定配置还在持续数据流、非独立同分布标签偏移、七个分布外测试集及另外三种骨干模型上保持领先。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。