arXiv · cs.AI· Hans Peter Lyngs{\o}e Raaschou-jensen (University of Copenhagen), M. Onurcan Kaya (Technical University of Denmark), Desmond Elliott (University of Copenhagen)·· 2 天前
BatchParScale：面向序列模型的稀疏批混合机制
BatchParScale: Sparse Batch-Mixing for Sequence Models
arXiv:2610.25254v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Hans Peter Lyngs{\o}e Raaschou-jensen (University of Copenhagen), M. Onurcan Kaya (Technical University of Denmark), Desmond Elliott (University of Copenhagen)
研究任务与主要进展
BatchParScale通过少量通信位置让并行推理流交换信息，并在Parallel Needle-in-a-Haystack检索基准、预训练、微调和合作式多智能体强化学习中评估。基于论文摘要，其语言模型损失优于ParScale，强化学习任务表现具有竞争力，且可通过LoRA微调加入预训练Transformer；预训练和微调模型的事实检索性能仍不明确。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org