跳到正文
热点事件持续更新

RuleTrek基准发布:复杂场景下LLM智能体规则推理仍偏弱

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Chenhao Yuan 等作者发布多领域基准 RuleTrek,用于评测 LLM 智能体在复杂、多文件场景中的规则推理能力,覆盖规则识别(RI)、规则推演(RD)和端到端规则推理(E2E)三项任务,并开源了代码与数据集。 对 11 个前沿 LLM 的实验显示:RI 最高分仅 62.47%,RD 最高分 60.43%,E2E 得分在 26.97%–55.29% 之间,表明当前模型在端到端规则推理上仍有明显差距。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · cs.AI
    RuleTrek:复杂场景中的智能体规则推理基准评测

    作者提出多领域基准RuleTrek,用于评测LLM智能体在复杂、多文件场景中的规则推理能力,覆盖Rule Identification、Rule Deduction和End-to-End Rule Reasoning。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。