arXiv · cs.AI· Sadif Ahmed, Soumya Swagata Biswas, Rifat Shahriyar, Chowdhury Mohammad Rakin Haider·· 1 天前
研究揭示医疗视觉语言模型在伪造证据下的回归性迎合
Seeing Through the Forgery Is Not Enough: Regressive Sycophancy under Fabricated Evidence in Medical Vision-Language Models
arXiv:2610.17989v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Sadif Ahmed, Soumya Swagata Biswas, Rifat Shahriyar, Chowdhury Mohammad Rakin Haider
研究任务与主要进展
该研究评估四个开源医疗视觉语言模型在伪造处方影响下是否放弃原本正确的视觉问答答案。基于论文摘要，在400个VQA-RAD是/非问题和19,200轮多轮对话中，未披露文件为合成证据时，模型会放弃6,488个正确答案中的80.1%；披露合成证据可使一个模型的翻转率从77.8%降至47.3%。作者据此认为，意识到证据可能是伪造的并不足以阻止模型采纳其中的答案。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org