跳到正文
arXiv · cs.AI· Nikos Giakoumoglou, Paschalis Giakoumoglou, Andreas Floros, Kleanthis Marios Papadopoulos, Tania Stathaki·· 1 天前

SNAP:视觉-语言预训练中合成困难负样本的有效机制分析

What Makes Synthetic Hard Negatives Work in Vision-Language Pretraining?

arXiv:2610.09700v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Nikos Giakoumoglou, Paschalis Giakoumoglou, Andreas Floros, Kleanthis Marios Papadopoulos, Tania Stathaki

首次提交:2026-10-07 16:58

研究任务与主要进展

基于论文摘要,作者分析六种表示空间合成策略,指出视觉-语言预训练中存在负样本过于容易或接近查询、模态内构造混入正样本两类失败模式,并提出SNAP生成不涉及任一模态正样本的模态内困难负样本。SNAP不依赖外部生成模型、适用于不同模型,训练时间开销低于10%,并在CLIP和FLIP的零样本检索、零样本分类及线性探测评估中实现一致改进;研究还发现固定温度可改善下游表现。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org