跳到正文
arXiv · cs.AI· Keegan Wang·· 11 小时前

用LLM迭代行为、用SLM提供服务

Iterate on an LLM, Serve on an SLM

arXiv:2610.14576v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Keegan Wang

研究任务与主要进展

作者提出一种两阶段方法:先在前沿LLM的Prompt空间中结合实时流量迭代目标行为,再将通过收敛的真实生产行为用监督微调蒸馏到SLM。摘要以家庭护理机构的调度Agent为例,LoRA微调的Qwen3-8B基于11.6k条生产决策达到0.913一致性;其与GPT-5.4-nano的分歧中,盲评专业调度员更支持学生模型48比29,且SLM中位延迟约低2.5倍、成本仅为其一小部分。该结果基于论文摘要。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org