arXiv · cs.AI· Keegan Wang·· 11 小时前
用LLM迭代行为、用SLM提供服务
Iterate on an LLM, Serve on an SLM
arXiv:2610.14576v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Keegan Wang
研究任务与主要进展
作者提出一种两阶段方法:先在前沿LLM的Prompt空间中结合实时流量迭代目标行为,再将通过收敛的真实生产行为用监督微调蒸馏到SLM。摘要以家庭护理机构的调度Agent为例,LoRA微调的Qwen3-8B基于11.6k条生产决策达到0.913一致性;其与GPT-5.4-nano的分歧中,盲评专业调度员更支持学生模型48比29,且SLM中位延迟约低2.5倍、成本仅为其一小部分。该结果基于论文摘要。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org