论文提出CDAE增强BERT嵌入的扰动鲁棒性
热点事件持续更新
论文提出CDAE增强BERT嵌入的扰动鲁棒性
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Sina Heydari 等在论文新版本中提出轻量级对比去噪自编码器 CDAE,通过联合优化对比与重构目标,对预训练 BERT 嵌入进行精调,以学习对扰动不变的句子表示。 作者称在多种扰动策略与强度下评估,CDAE 的嵌入相似度保持均高于原始 BERT 和 SimCSE,且扰动越强差距越大。源代码已公开。
AI 根据报道生成 · 4 小时前更新
最新进展10月19日 12:00
CDAE:用对比去噪自编码器增强预训练语言模型的扰动鲁棒性报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv · cs.AICDAE:用对比去噪自编码器增强预训练语言模型的扰动鲁棒性
提出轻量级对比去噪自编码器 CDAE,通过联合优化对比与重构目标,对预训练 BERT 嵌入进行精调,以学习对扰动不变的句子表示。在多种扰动策略与强度下,CDAE 的嵌入相似度保持均高于原始 BERT 和 SimCSE,且扰动越强差距越大。源代码已公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。