arXiv · cs.AI· Licheng Pan, Haocheng Yang, Haoxuan Li, Yuzhou Chen, Yichen Sun, Yuan Lu, Xiaoxi Li, Hao Wang, Zhixuan Chu, Kui Ren·· 6 小时前
LLM评估框架URW以保形加权处理评分标准不确定性
Rubric Judgments Lack Uncertainty: Conformal Weighting for LLM Evaluation
arXiv:2610.21214v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Licheng Pan, Haocheng Yang, Haoxuan Li, Yuzhou Chen, Yichen Sun, Yuan Lu, Xiaoxi Li, Hao Wang, Zhixuan Chu, Kui Ren
研究任务与主要进展
作者提出无需训练的Uncertainty-aware Rubric Weighting（URW），通过保形校准量化每个评分标准的判断不确定性，并据此生成加权结果。论文摘要称，该方法将固定改写判断模板产生的软不确定性信号转换为基于split-conformal p值的标准权重，并报告可证明的覆盖率保证；在具体基准与实验细节尚未说明的情况下，作者称其提升了成对偏好准确率和下游强化学习对齐效果。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org