arXiv · cs.AI· Sina Heydari, Amirreza Abbasi, Mohsen Hooshmand, Majid Ramezani·· 6 小时前
CDAE：用对比去噪自编码器增强预训练语言模型的扰动鲁棒性
CDAE: Enhancing Perturbation Robustness in Pretrained Language Models with Contrastive Denoising
arXiv:2607.28236v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Sina Heydari, Amirreza Abbasi, Mohsen Hooshmand, Majid Ramezani
研究任务与主要进展
提出轻量级对比去噪自编码器 CDAE，通过联合优化对比与重构目标，对预训练 BERT 嵌入进行精调，以学习对扰动不变的句子表示。在多种扰动策略与强度下，CDAE 的嵌入相似度保持均高于原始 BERT 和 SimCSE，且扰动越强差距越大。源代码已公开。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org