提出先在LLM上迭代再蒸馏到SLM的两阶段方法

论文作者提出一种开发-蒸馏两阶段方法：先在前沿LLM的提示空间中结合实时流量迭代目标行为，收敛后用监督微调将记录的真实生产行为蒸馏到小模型（SLM）。该方法以家庭护理机构的调度Agent为例，该Agent在GPT-5.4-nano上对每个护理员-班次对做一次是/否安全决策。 论文摘要报告的结果：LoRA微调的Qwen3-8B基于11.6k条记录的生产决策达到0.913一致性，而教师模型GPT-5.4-nano重跑自己记录的提示时自一致率仅72.7%；两者分歧时，盲评的专业调度员48比29更支持学生模型。SLM中位延迟约低2.5倍，成本仅为一小部分。 以上数字均来自论文摘要，尚未核验全文或独立复现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。