提出视觉反事实在线蒸馏方法 VC-OPD

Jiahe Feng 等在 arXiv 发布论文，提出视觉反事实在线策略蒸馏方法 VC-OPD，通过对比原图与反事实图像下教师模型的分布差异，估计每个 token 对图像证据的依赖程度，并据此对蒸馏目标加权，优先蒸馏正确性依赖图像证据的 token。 基于论文摘要：方法先进行教师监督预热，再对每条学生轨迹进行两次教师评估，并用保质量归一化稳定 token 权重。作者称，在多模态推理基准上的实验显示 VC-OPD 能提升视觉推理表现并产生更有效的 token 级蒸馏效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。