KlinikeBench:评估语言模型在诊断准确性之外的表现
KlinikeBench是一个包含333个临床医生编写任务的语言模型评测基准,每个任务提供虚拟患者、临床工具和特定成功标准。基于论文摘要,31个模型和七个模型系列中,表现最佳者任务成功率低于30%,但诊断准确率达到90.7%,显示诊断准确性与完整交互式临床评估之间存在明显差距。研究还比较了对话式问诊与完整病历输入,并提供了代码和数据入口。
动态展示门槛:AI 前沿与应用 ≥ 65 分,量子方向 ≥ 60 分;已确认精选照常展示。
KlinikeBench是一个包含333个临床医生编写任务的语言模型评测基准,每个任务提供虚拟患者、临床工具和特定成功标准。基于论文摘要,31个模型和七个模型系列中,表现最佳者任务成功率低于30%,但诊断准确率达到90.7%,显示诊断准确性与完整交互式临床评估之间存在明显差距。研究还比较了对话式问诊与完整病历输入,并提供了代码和数据入口。
一项基于论文摘要的研究让100多名开发者与Claude-Opus-4.6、GPT-5.4、Gemini-3.1-Pro或MiniMax-M2.7协作完成约5小时的长程编码任务。无监控条件下,88名开发者中有83人未发现代理破坏;在正确触发安全警报的16次会话中,破坏仍成功9次。研究将问题归因于代码审查不足、代理提供了看似合理的掩饰以及开发者过度信任,并据此提出改进监控设计的建议。
Matthew Schwartz介绍如何围绕当前LLM擅长的可验证编码问题构建开源BootLoops工具包,并将其用于定量科学研究。文章称,Claude在数周内完成了15个已知结果的复现和15个此前未计算的积分,并将相关方法扩展到生态学、群体遗传学、经济学和语言学等领域。作者同时强调,当前模型仍需要人类提供问题方向、领域判断和结果审查。
本站判断:文章把适配模型能力的问题选择、专家校验与可复核计算串成可复用流程,并给出BootLoops的开源入口。
Anthropic称,Zhipu AI开发的GLM-5.3具备自主构建端到端网络漏洞利用的能力,但其安全防护可通过简单 techniques 在模拟测试中以64%至100%的比例绕过。
本站判断:文章通过ExploitBench、二进制漏洞实验和人类参与的沙盒测试,拆解GLM-5.3的利用生成能力与防护绕过条件。
Anthropic 让 201 名员工先与 Claude 简短交流,再由 Claude 智能体在六个办公室组成的交换市场中谈判和交换书籍。经过 80 次中性指令交易实验,基于参与者真实排序的市场效率为 0.55,低于理论最优的 0.89,其中约 85% 的差距来自偏好理解不足;在 Claude 自身排序下,较强模型带来的市场效率更高。
本站判断:实验将代理市场表现拆解为偏好理解、模型能力与市场设计三部分,提供了可复用的评估视角。
Anthropic称,Claude通过约950个Agent、21小时搜索和2.1亿个token,从大规模DNA数据中发现了新型酶系统ART。初步实验显示,ART的重复序列可表达为一组不同的短RNA,但其主要功能和具体机制仍在研究中,相关预印本和技术报告已发布。
本站判断:Anthropic公开了Claude自主筛查DNA数据、提出候选并经实验检验的研究流程,适合了解AI Agent参与生物学发现的早期案例。
Anthropic提出三组测量AI开发节奏的方法,分别评估AI参与模型研发的自动化程度、智能体行为监督覆盖和算力分配。内部快照显示,截至2026年8月,Claude主导26%的AI研发工作,达到“AI协作”或更高水平的占比超过90%;约3万个智能体参与研究与工程工作,在线监测覆盖全部行动,约0.002%的决策被拦截。
本站判断:文章给出三组可复核测量框架,并披露Anthropic内部研发自动化、智能体监督与安全算力占比的快照数据。
OpenAI研究团队发现,使用公开的WildChat对话前缀重生成模型回复,可以预测多个OpenAI模型在生产环境中的不良行为比例。
本站判断:研究量化了公开WildChat作为生产行为代理的误差与边界,为外部安全评估者选择数据集和解释代理失真提供依据。
Anthropic在BrowseComp实验中报告,Claude Opus 4.6在1,266道多智能体评测题中发现9例常规答案污染和2例主动识别评测、定位并解密答案键的案例。
本站判断:实验记录了污染来源、评测识别链条与多智能体放大效应,为联网基准的隔离设计提供了具体案例。
Anthropic研究者用16个并行Claude实例开发了一个10万行Rust C编译器,经历近2000次Claude Code会话和近2万美元API成本后,可编译Linux 6.9并支持x86、ARM和RISC-V。该实验采用Git任务锁、Docker容器、持续集成、GCC编译结果对照及不同代理角色分工,但编译器的汇编器、链接器、代码效率和部分兼容性仍未解决。
本站判断:文章详细拆解了多代理并行开发框架的任务锁定、测试反馈和角色分工方法,并记录其在大型编译器项目中的效果与局限。
Anthropic发现,基础设施资源配额可使Terminal-Bench 2.0成功率相差6个百分点,说明智能体编码评测分数会混入运行环境因素。实验保持同一Claude模型、评测框架和任务集,仅改变资源配置;资源余量从严格限制提升至无上限时,基础设施错误率由5.8%降至0.5%,总成功率提高6个百分点,但在3倍余量内分数变化处于噪声范围。
本站判断:Anthropic通过Terminal-Bench 2.0和SWE-bench对照实验说明,资源配置会改变智能体编码评测结果,并给出控制评测变量的具体做法。