跳到正文
热点事件持续更新

LLM评判者研究:所见上下文比模型选择更关键

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Nitish Kumar、Prateik Pothuneedi、Greg Bandak 在 arXiv 论文(2610.15938)中系统研究了 LLM 评判者需要看到什么信息:在七项公共基准上仅改变评判者可见的材料,比较三个价格相差 10 至 17 倍的评判模型,发现评判者所见的上下文比选哪个模型更关键。 具体发现包括:当系统被要求依据其未获知的材料修改答案时,指令遵循和问答表现反而下降,且多轮反馈会加剧下降;在新闻摘要任务中加入正确参考摘要会削弱来源文本的作用,但在单答案问题中参考摘要有帮助。 作者在实验前预先承诺了 83 条可检验条款,其中 81 条实际执行,32 条达到预设标准,50 条结果方向与预测一致;论文称理论的大部分定量预测失败。本条目基于论文摘要,未核验全文。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    LLM评审需要看到什么:七项公共基准上的评审上下文研究

    研究团队在七项公共基准上改变LLM评审可见的材料,比较三个价格相差10至17倍的评审模型,发现评审所见的上下文比模型选择更关键。系统在被要求依据其未获知的材料修改答案时,指令遵循和问答表现反而下降,且多轮反馈会加剧下降;在新闻摘要中加入正确参考摘要削弱了来源文本的作用,但单答案问题中参考摘要有所帮助。

本事件热度走势

可比范围当前
7
可比范围峰值
910月14日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。