LLM 语义查询处理存在温度0下方差，投票可减不能除

一项语义查询处理研究通过重复执行 SemBench、LRO-Bench 和 UDA-Bench，共记录 120 万次模型调用，发现即使温度设为 0，五次执行中仍有 0.07% 至 10.2% 的行改变算子输出，单个任务最高达 24.0%。 方差还可能被查询计划放大：在 UDA-Bench 中，少量抽取值变化即可影响约三分之二的答案；SemBench 已发表结果中 21% 的文本结果质量会随执行改变。研究称投票可降低但不能消除方差。当前材料仅基于论文摘要。

AI 根据报道生成 · 47 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。