ProbeGuard：基于共识形成过程的医疗大模型认证拒答框架

Xiaoyang Wang、Tianrui Wang、Christopher C. Yang 等提出 ProbeGuard，一种面向医疗大模型的认证拒答框架，其弃答判断基于多轮 agentic RAG 中共识的形成过程：对一致投票，用理由语义熵检验投票理由是否连贯，并通过主动探针检索反例，检验共识能否存活。 该框架在三个医疗 QA 基准和一个 hard-frontier 参考集上评估，与六个弃答基线比较。作者称在 MedQA 上 13.4% 的一致投票是错误的，且没有任何基于一致性的信号能将其标出。 按论文结果，认证规则可回答十分之六的一致层问题，观测选择性风险为 9.0%；当域内校准数据积累后可回答十分之九。以上为作者报告结果，证据来自论文摘要。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。