arXiv · cs.AI· Han Shen, Qifu Tyler Sun, Fanyang Meng, Ye Wang, Yongsheng Liang·· 6 小时前
PriorityFEC:面向边缘多智能体系统KV缓存交接的截止期感知流式前向纠错方案
PriorityFEC: Deadline-Aware Streaming FEC for KV-Cache Handoff in Edge Multi-Agent Systems
arXiv:2610.21390v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Han Shen, Qifu Tyler Sun, Fanyang Meng, Ye Wang, Yongsheng Liang
研究任务与主要进展
Han Shen等提出PriorityFEC,用于边缘多智能体LLM系统中可复用KV缓存的网络交接,通过优先传输高价值KV块并结合接收反馈的流式前向纠错,满足TTFT截止期。论文摘要称,该方案已在分布式边缘LLM服务原型上使用Qwen2.5-7B-Instruct和Llama-3.1-8B-Instruct进行多数据集评估,相比对比传输方案获得更高任务质量,优势在严格截止期条件下更明显。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org