论文研究多轮LLM路由：初始选择优于后续移交

Daniel Matos、Lu Liu、Yanfeng Zhang 发布论文摘要，研究多轮LLM任务中初始模型选择、后续移交（handoff）和监督目标对成功率与成本的影响。作者的核心发现是：以 Qwen3.5 35B-A3B 为起始模型时，允许后续移交在 BFCL 和 MultiWOZ 上未带来优于初始选择的效用提升，且在 BFCL 上于一系列成本权重下反而增加成本。 研究基于包含三个 Qwen 模型在 BFCL、MultiWOZ 和 τ-retail 上 34,204 次完整执行的数据集，为路由决策提供离线监督。按作者报告，在其数据集上通过监督目标调整，同成本下成功率提高 0.2 至 4.1 个百分点；在 TwinRouterBench 上轨迹通过率和成本节省分别提高 7.8 和 6.3 个百分点。训练后的路由器在实测部署中解决 100 个实例中的 79 个，路由成本为每实例 0.59 美元。 以上结果基于论文摘要，尚未核验全文。

AI 根据报道生成 · 4 小时前更新