PARITY数据集揭示27个VLM面部精神诊断越界

Amazon等机构研究者发布PARITY（Paired Assessment with Reused Identity）数据集，一个按人口统计平衡的配对评估集，用于测试视觉语言模型是否因面部表情变化而改变对自闭症、ADHD、重度抑郁和广泛性焦虑症的诊断判断。对27个开放权重与闭源模型的评估显示，弃答行为在表情、疾病和任务形式间不一致。 作者称，这种越界行为在开放权重模型中普遍存在，并延伸到安全训练的前沿模型：这些模型对单张人像会弃答，却在比较同一身份的不同表情人像时给出缺乏依据的诊断判断；临床指令和护栏设置也未能稳定阻止该行为。以上为论文作者声称的评估结果。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。