arXiv · cs.AI· Mingyu Chen, Zhiqing Zhong, Manyi Wang, Linxi Liang, Rouyu Chen, Pinjia He·· 5 小时前
ReqClarifyBench:评测仓库级软件开发的交互式需求澄清
Don't Guess, Just Ask: Evaluating Interactive Requirement Clarification for Repository-Level Software Development
arXiv:2610.13022v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Mingyu Chen, Zhiqing Zhong, Manyi Wang, Linxi Liang, Rouyu Chen, Pinjia He
研究任务与主要进展
Mingyu Chen等人提出ReqClarifyBench,用于评测大语言模型通过交互将模糊用户意图转化为清晰需求的能力。基准包含341个覆盖游戏、小程序和Web开发的任务,并使用基于真实对话构建的不同用户角色模拟器评估6个模型;结果显示,需求澄清效果更强不一定带来更高质量的需求文档,coding-agent harness相较基础模型也未进一步提升文档质量。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org