RLMF 论文提出用元认知反馈强化学习提升 LLM 不确定性表达

Gabrielle Kaili-May Liu 等在 arXiv 发布论文，提出带元认知反馈的强化学习方法（RLMF）和元认知数据选择方法，用于提升大语言模型表达内在不确定性的可信度。论文称，RLMF 在多类任务上实现可泛化的可信校准并保持准确率，相对标准强化学习最高提升 63%。 基于论文摘要，其方法先将模型自报置信度校准，再通过定向输出编辑生成适应上下文的不确定性表达。以上结果来自作者实验声称，尚属论文摘要阶段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。